2025. 4. 23. 19:50ㆍ브런치북 - 창작자를 위한 AI
1. 거짓말도 돈이 되는 세상이번에는 조금 무거운 주제로 이야기를 해볼까 한다.
원래 예정되어 있던 글은 아니지만, 요즘 들어 사람들이 AI를 다루는 방식에 대해 문제의식을 느끼게 되어
이런 주제에 대해 한 번 다뤄야겠다는 생각이 들었다.
AI 시대가 본격화되면서 다양한 문제가 표면으로 드러나고 있다. 모든 신기술은 발전 과정에서 문제를 수반하기 마련인데, 제도와 규제는 기술 발전 속도를 따라가지 못해 적절한 대응이 나올 때까지 시간이 많이 지연되곤 한다.
예를 들어 인터넷 방송만 해도 천민자본주의를 대표하는 저질 방송들, 민폐 컨텐츠, 조폭이나 포주가 진행하는 성인 방송, 사이버렉카 등등... 여러 문제가 생겼지만, 제대로 된 대응체계가 없어 아무도 제대로 된 처벌을 받지 않았었다. 한참이 지난 지금에서야 때려잡으려고 하는 움직임이 슬슬 수면 위로 떠오르는 정도다.
실제로 최근에 렉카유튜버로 유명한 인물이 고소를 당했고, 법정에서 일부 개인정보가 공개되기까지 했다. 이전에는 이들이 퍼뜨리는 루머와 확대 재생산 등으로 인해 사람이 죽어도 아무런 대응도 못하던 걸 생각하면, 느리지만 꾸역꾸역 법과 제도가 시대의 흐름을 따라가고 있기는 하다.
AI 분야 역시 유사한 현상을 보이고 있다. AI 기술을 활용한 양산형 쇼츠와 블로그 글이 넘쳐나고, '부업', '자동화'라는 미명 하에 무가치한 정보들이 대량 생산되고 있다. 특히 AI가 생성한 할루시네이션(오류 정보)을 기반으로 제작된 다양한 거짓 정보들이 문제다. 윤리 의식 없이 돈만 좇는 이들이 만들어내는 이런 저질 콘텐츠 때문에 AI 기술 자체에 대한 인식이 나빠지고 있는 실정이다.
컨텐츠를 스스로 창작할 능력도 의지도 없는 인간들이 그저 '딸깍'하면 나오는 결과물을 토대로 불로소득을 챙겨보고자 하는 비열한 태도로 AI기술을 사용했을 때, 어떤 추한 결과물들이 나오는지를 너무나 많이 보게 된다.
특히 내가 최근 이 문제를 직접 체감하게 된 계기는 [하이퍼나이프]라는 드라마 때문이었다. 박은빈, 설경구가 주연한 이 메디컬 스릴러 드라마를 재미있게 보고, 관련 정보를 더 찾아보던 중 뭔가 이상한 점을 발견했다.
이 스크린샷을 보고 ‘어? 이상한데, 뭔가 내가 알고 있는 거랑은 다른데’라고 생각하는 사람들이 있을 거다. 그럴 만도 한게 하이퍼나이프라는 드라마는 '원작'이 없다. 오리지널 드라마이기 때문이다.
허나, 블로그로 돈을 벌기 위해 어그로를 끄는 수많은 이들이 AI로 자동생성된 글을 '배설'하면서 웹툰이라는 단어를 굳이 집어넣었다. 이유는 알겠다. 최근에 넷플릭스에서 대박을 쳤던 [중증외상센터]라는 작품이 실제로 웹툰 원작이었고, 의학드라마였기 때문에 마치 하이퍼나이프도 그런 식으로 꾸며놓으면 어그로가 끌리지 않을까 싶었던 거겠지.
아니, 조금 더 디테일하게 말하면 "누군가는 의도를 가지고 '웹툰'을 넣었을 거고 몇몇 게으른 이들은 그냥 그 정보를 생각 없이 퍼 날랐다"에 가까울 거다. 뭐가 됐든 이런 정보오염이 그들의 게으름과 비양심의 결과물이라는 것은 달라지지 않겠지만.
이건 정말 선을 넘었다. 아무리 조회수에 눈이 멀어도 가짜정보를 양산하는 건 정말 아니지. 이것 때문에 사람도 속고, AI도 같이 속는다. 처음에는 GPT에게 하이퍼나이프 정보를 물어봤더니 웹툰원작이라고 소개하더라.
그래서 구글로 직접 검색했는데, 구글 검색의 AI결과에서도 웹툰원작이라며 작가가 무려 '박은빈'이라고 표시되어 있었다. 박은빈은 해당 드라마의 주인공 배우이지, 웹툰 작가가 아닌데 말이다.
내가 직접 검색을 진행하면 할수록 이 정보는 누군가 조회수를 올리기 위해 짜깁기로 만든 거짓정보라는 게 분명해졌다. 내가 직접 사실관계를 찾아보지 않았으면 난 정말 이 드라마가 웹툰원작 드라마인 줄 알았을 거다. 더불어 존재하지도 않는 [닥터]라는 웹툰이 있는 줄 알고 헤맸을지도 모른다.
2. 복사의 복사의 복사의 복사의 복사.
물론 인터넷 이전 시대부터 잘못된 정보는 항상 존재해 왔다.
정직하고 선의를 가진 사람도 의도치 않게 정보를 왜곡할 수 있다. 누군가에게 들은 이야기를 잘못 이해하거나, 기억이 부정확하여 사실과 다르게 전달하는 경우가 그 예다. 이런 '인간적 오류'는 정보 생태계의 일부로 받아들여졌고, 그 규모도 비교적 제한적이었다.
하지만 AI 기술이 정보 생산에 활용되면서 상황은 완전히 달라졌다. 이제는 거짓 정보가 대량 생산되어 인터넷을 가득 채우고 있다. 나는 악의적으로 정보를 왜곡하는 사람들보다 무비판적으로 정보를 수용하고 재생산하는 사람들이 더 무섭다고 생각하는데, 이들은 특별한 의도나 목적 없이, 단지 조회수와 수익을 올리기 위해 AI를 이용해 기존 정보를 재가공한다. 진실 여부는 중요하지 않고, 검증 과정도 없다. '이것이 사실인가?'라는 기본적인 질문조차 하지 않은 채, 오직 클릭을 유도할 수 있는가만 고려한다.
이런 현상이 가장 큰 문제인 이유는 단순히 소비자가 잘못된 정보를 접하는 것에 그치지 않는다. 이런 가짜 정보들이 다시 AI 학습 데이터로 들어가 더 많은 거짓을 양산하는 악순환의 고리를 만들어내기 때문이다.
이 세태를 보고 있자니 마치 옛날에 대학 선배가 했던 졸업작품이 떠오른다. 검정색 종이를 복사기로 반복해서 복사할수록 점점 색이 옅어지는 과정을 통해, 원본 데이터의 점진적 유실을 표현한 작품이었다.
이 작품은 지금 우리가 마주한 디지털 세상과 꽤나 닮아있다. 사람이 만든 데이터를 AI가 복제하고, 그 복제된 내용을 또 다른 AI가 재구성하는 과정에서 원본이 가진 가치는 점점 더 희미해진다. 마치 검정색 종이가 복사를 거듭하며 회색으로, 그리고 마침내 흰색으로 변해가듯, 인터넷은 진실의 색을 잃어가고 있는 것이다.
이런 현상은 창작 분야에서도 나타난다. 미야자키 하야오도 이런 것에 대해 날카로운 발언을 한 적이 있다. "오타쿠들은 실제 사람을 관찰하지 않고, 사람을 보고 만든 캐릭터만 관찰하기에 점점 현실과 동떨어진 인물을 그려낸다." 그 멘트를 처음 접했을 때 뼈를 맞은 듯한 충격이 있었다. ‘사람을 그리기 위해서는 사람을 관찰해야 한다’ 너무나도 당연한 소리다. 그런데 집 밖으로 나가지 않고, 만화만 보는 오타쿠는 현실의 사람이 어떤지 이해할 길이 없다. 만화 속 사람들은 이미 현실의 사람을 한 번 재해석한 가상의 존재이니까.
AI가 학습하는 데이터도 마찬가지다. 실제로 2023-2024년도에 AI 이미지 생성 품질이 급격하게 낮아진 적이 있다. 최근 AI 연구에서는 이를 '모델 콜랩스(Model Collapse)'라고 설명하는데, AI 모델이 자기 자신이 생성한 출력을 다시 학습 데이터로 삼을 때, 초기에는 풍부했던 정보 분포가 점차 한쪽으로 치우치고 편향이 누적되어 결국 품질이 급격히 떨어지는 현상이다.
웹상에 퍼진 AI 콘텐츠가 새로운 모델의 학습 데이터로 다시 되먹임 되며, 차세대 모델들이 '재해석의 재해석'만 되풀이하는 자기 소모적 루프가 형성되고 있는 것이다.
결국 이는 미야자키 하야오의 말처럼, 원본을 보지 않고 재해석물에만 의존하는 결과물들이 서로 얽히고설켜 점점 더 현실과 멀어지는 상황이라 볼 수 있다. 처음엔 사소하게 보였던 왜곡이 재복제되고, 그 복제된 왜곡이 또 다른 복제를 낳으면서 본질은 희미해진다. 특히 AI가 배우고 생산해 낸 2차·3차 정보가 다시 웹에 유포되고, 그걸 또 다른 AI가 학습한다면, 결국 남는 것은 원래의 진실이나 창의성과는 동떨어진 빈껍데기가 될 뿐이다.
이 문제를 어느 정도 막기 위해, AI 개발자들은 '휴먼 인 더 루프' 방식으로 사람이 직접 생성 결과를 검수하거나, 이상치 탐지를 통해 오류 데이터를 걸러내려 애쓴다. 그러나 인터넷에 기하급수로 쏟아지는 정보를 전부 검수하기엔 인력과 자원이 너무나도 한정적이다. 가짜정보 생산기술이 계속 진화하는 이상, 데이터 필터링만으로는 본질을 지키기에 한계가 있을 수밖에 없다.
AI가 멍청해지는 길을 막으려면, 결국은 우리 인간들의 태도가 중요하다. 창작이든 학습이든, 한 번 왜곡된 정보를 무분별하게 재활용하지 않도록 윤리적 기준과 비판적 시각을 가져야만 한다. 그렇지 않으면 AI는 자가복제의 굴레 속에서 점점 더 빈약한 결과물을 내놓게 될 것이고, 미야자키 하야오가 말한 "현실과 동떨어진 캐릭터"처럼, AI도 진짜 세상과는 단절된 공허한 이미지만 낳게 될지 모른다.
3. 도구에 지배당하지 않는 인간이 되길.
나는 AI에 대한 글을 쓰고 있지만, AI를 그저 '도구 혹은 어시스턴트' 정도로 받아들인다고 밝힌 적이 있다. AI가 인간의 영혼을 빼앗는다고는 생각하지 않는다.
사실 역사를 되돌아보면, 새로운 기술이 등장할 때마다 비슷한 공포가 있었다. 19세기 중반 사진술이 발명되었을 때, 많은 화가들은 자신들의 직업이 곧 사라질 것이라 두려워했다. 초상화를 그리던 화가들은 특히 큰 위기감을 느꼈다. 사진이 단 몇 분 만에 완벽한 인물의 모습을 담아내는데, 누가 몇 주에 걸쳐 비싼 돈을 주고 초상화를 그리게 하겠는가?
창작자들이 AI를 두려워하거나 혐오하게 되는 것도 비슷한 맥락에서 이해할 수 있다. 특히 앞서 언급한 '천한 사용법' 탓이 크다. 그딴 똥 같은 어그로형 콘텐츠와 거짓 데이터만 보다 보면, "AI는 영혼 없는 결과물을 낳는 악마의 피조물"이라고 생각하게 되는 것도 무리는 아니라고 본다. 아무 생각 없이 기계처럼 거짓 창작을 찍어내는 이들이, 창작을 싸구려로 만든다는 느낌을 주기 때문이다.
그러나 역설적이게도 사진술의 등장은 회화를 죽이기는커녕 오히려 해방시켰다. 화가들은 더 이상 현실을 그대로 재현해야 한다는 부담에서 벗어나 내면의 감정과 주관적 시선을 표현하는 데 집중할 수 있게 되었다. 이로부터 인상주의, 표현주의, 초현실주의와 같은 혁신적인 예술 운동이 탄생했다. 모네, 고흐, 피카소와 같은 화가들이 현실의 물리적 재현을 넘어선 작품을 창조했고, 회화는 새로운 황금기를 맞이했다.
더 나아가 사진 자체도 단순한 현실 기록을 넘어 하나의 예술 형식으로 발전했다. 안셀 애덤스, 만 레이, 신디 셔먼과 같은 사진작가들은 기술적 도구를 창의적으로 활용해 독창적인 시각 언어를 개발했다. 결국 두 매체는 서로를 대체하지 않고 보완하며 공존하게 되었다.
이러한 역사적 교훈은 AI 시대에도 유효하다. 인간이 할 수 있는 고유한 판단과 가치관, 그리고 창의성은 앞으로도 계속 남아있을 것이다. 기술은 결코 인간의 영혼과 창의적 직관을 대체할 수 없으며, 오히려 우리가 더 본질적인 창작의 영역에 집중할 수 있게 해주는 도구가 될 것이다.
그렇기 때문에 나는 사람들이 신기술을 '올바르게' 사용하며, 자신이 지닌 잠재력을 200% 이상 발휘하길 바란다. 기술에게 지배당하는 게 아니라, 기술을 활용하길 바란다. 자기 자신에 대해 잘 알고, 세상을 예리하게 바라보지만 표현할 방법을 몰라서 잠재력을 펼치지 못했던 이들이, AI라는 도구의 도움을 받아 더 많은 창작을 하길 기대한다.
나 역시 가끔은 내가 너무 순진하고 이상주의적인 것은 아닌가 스스로를 의심할 때가 있다. 그럼에도 불구하고 결국 인간은 더 나은 가치를 만들기 위해 노력하는 존재라고 믿는다. 인간이 스스로 창작을 하는 능력을 잃어버린 채, AI가 만들어낸 결과물에 지배당하는 디스토피아를 생각하고 싶지 않다. 인간이 지닌 잠재력을 끌어내고, 결과를 만들어내는 ‘과정’을 돕는 도구로써 AI가 활용되길 바란다. 그 도움으로 인해 인간이 가진 한계를 돌파하길 바란다.
4. 날카로운 칼은 사람을 살리는 매스가 될 수도, 사람을 죽이는 단검이 될 수도 있다.
날카로운 칼은 사람을 살리는 메스가 될 수도, 사람을 죽이는 단검이 될 수도 있다.
이 글의 시작에서 언급했던 '하이퍼나이프'라는 드라마에서도 매스라는 수술도구가 기본적으로는 생명을 구하는 도구가 되지만, 사용하는 이의 의도에 따라서는 위험한 무기가 되기도 한다는 사실을 극의 긴장감을 끌어올리는 요소로 적극 활용한다.
AI라는 도구 역시 마찬가지다. 사용하는 사람의 의도와 방식에 따라 그 결과는 천차만별로 달라진다.
혹시 당신은 노벨상을 수상하는 연령대가 점점 높아지고 있다는 사실을 알고 있는가? 이는 무구한 역사가 빚어낸 지식의 벽이 인간의 수명이라는 한계 때문에 점점 더 넘어서기 힘들어지고 있음을 보여주는 사례다.
세월이 흐를수록 인류의 지식은 폭발적으로 늘어나고, 후대는 선조들의 업적과 정보를 모두 배워야만 더 나은 것을 만들어낼 수 있다.
하지만 한 사람의 일생은 유한하고, 지식을 습득하는 데 걸리는 시간은 드라마틱하게 줄어들지 않는다. 무언가 새롭게 개발하고 싶어도, 이미 존재하는 지식이 너무 방대해 학습만으로도 많은 시간을 소비하게 된다.
이런 상황에서 AI는 단순 지식의 습득·정리를 도와줌으로써, 우리의 창의적 에너지를 진정한 창조에 더 집중하도록 해줄 수 있다. 인간이 가진 독창성과 통찰력에, AI가 제공하는 효율성이 더해진다면, 우리는 더 높은 지식의 벽을 오를 수 있을 것이다.
어떤 도구든 간에 천하게 쓰면 천한 결과물을 내고, 선하게 쓰면 선한 결과물을 낸다. 그래서 지금 사람들이 행하고 있는 무책임한 사용방식들을 보면 속이 뒤집어질 것 같다.
우리는 진정한 창작과 원본 데이터의 가치를 다시 한번 생각해 볼 필요가 있다. 생각하는 것조차 귀찮아서 머리 쓰는 것마저 외주 맡긴 사람이 아니라, 스스로의 철학이 있고 가치관이 있는 진짜 사람다운 행동을 하는 인간으로서 AI를 활용할 수 있기를 바란다.
새로운 기술이 막 등장했을 때는 늘 혼란기가 있었고, 사람들은 언제나 그것을 극복해 왔다. 부디 제 글을 읽는 창작자들은, 이런 기본을 잃지 않기를 바란다. 인간이 가진 창작의 숭고함을 잃지 않기를 바란다.
결국 AI라는 칼은 그것을 쥔 우리의 손에 달려있다. 당신은 AI를 생명을 구하는 메스처럼 쓸 것인가, 해를 끼치는 단검으로 쓸 것인가?
'브런치북 - 창작자를 위한 AI' 카테고리의 다른 글
| 10화. 너 자신을 알라 2부 (5) | 2025.05.13 |
|---|---|
| 9화. 너 자신을 알라 1부 (2) | 2025.04.27 |
| 7화. 내 말투를 따라하는 AI 미믹 만들기 (5) | 2025.04.20 |
| 6화. 본질에 집중하게 해주는 AI편집자 (0) | 2025.04.15 |
| 5화. AI를 활용한 비유법과 프로그래밍 (2) | 2025.04.11 |