AI가 차린 싸구려 뷔페, 설거지는 누구 몫인가

며칠 전, 주말에 쓸 만한 캠핑 의자를 직접 만들어보려고 인터넷을 뒤졌습니다. 검색 결과 상단에 그럴듯한 제목의 블로그 글이 몇 개 뜨더군요. 나무 종류별 특징부터 도면까지 상세히 설명하는 듯했습니다. 그런데 읽을수록 이상했습니다. 분명 한국어로 쓰였는데, 어딘가 모르게 문맥이 어색했습니다. '나무의 결을 따라 톱질하면 영혼이 해방됩니다' 같은 선문답 같은 소리를 하질 않나, 첨부된 의자 사진은 자세히 보니 다리 하나가 공중에 떠 있었습니다. 전형적인 'AI 슬롭(AI Slop)'이었습니다.

슬롭은 '돼지에게 주는 음식물 찌꺼기'를 뜻하는 영어 단어입니다. 최근 인터넷에 쏟아지는 인공지능이 만든 저품질 콘텐츠를 일컫는 신조어로 자리 잡았죠. 광고 수익이나 여론 조작을 노리고 AI로 마구 찍어낸, 영양가 없는 정보 찌꺼기들입니다. 오늘은 이 AI 슬롭이 왜 문제인지, 그리고 이 현상이 우리에게 무엇을 요구하는지 좀 더 깊게 들여다보려 합니다. 저도 엔지니어로서 이런저런 AI 도구를 매일같이 붙들고 씨름하는 입장에서, 과장을 걷어내고 실체를 해부해 보겠습니다.

1. '그럴싸함'을 공짜로 파는 공장, AI의 작동 방식

AI 슬롭이 왜 이렇게 갑자기 쏟아져 나올까요? 이유는 간단합니다. 콘텐츠를 만드는 비용이 거의 '0'에 가까워졌기 때문입니다. 이 현상의 중심에는 챗GPT 같은 '대규모 언어 모델(LLM)'이 있습니다.

LLM을 아주 쉽게 비유하자면, 세상의 모든 책과 인터넷 글을 몽땅 읽고 '어떤 단어 뒤에 어떤 단어가 나올 확률이 가장 높은지'를 통계적으로 학습한 '문장 따라하기 챔피언' 같은 겁니다. '대한민국 수도는'이라는 말을 들으면 '서울'이라는 단어가 나올 확률이 압도적으로 높다는 걸 아는 식이죠. 그래서 질문에 맞는 답을 '창작'하는 게 아니라, 가장 그럴듯한 단어 조합을 확률에 따라 '조립'해 내놓습니다.

여기서 AI의 유명한 문제점, '환각(Hallucination)'이 발생합니다. AI는 사실을 모르기 때문에, 그럴듯해 보이기만 한다면 없는 사실도 술술 지어냅니다. 마치 아는 게 없어도 뭐든 자신 있게 대답부터 하는 신입사원과 비슷합니다. 말은 청산유수인데, 나중에 확인해보면 전부 엉터리인 거죠. AI에게 환각은 버그나 실수가 아니라, 작동 방식에 내재된 본질적 특징입니다.

이미지 생성 AI도 마찬가지입니다. '수백만 장의 개 사진을 학습한 AI에게 '개'를 그리라고 하면, 특정 개를 기억해서 그리는 게 아닙니다. '개처럼 보이는' 픽셀의 조합을 통계적으로 만들어낼 뿐입니다. 그래서 가끔 발가락이 여섯 개인 사람이나 손잡이가 두 개인 컵처럼, 현실에선 불가능한 이미지가 나오는 겁니다.

이런 AI의 '추론(inference, AI가 새로운 콘텐츠를 만들어내는 작업)' 비용은 지난 몇 년간 극적으로 떨어졌습니다. 전문가 한 명을 고용해 한 달 동안 글을 쓰게 하는 비용으로, 이제는 AI를 이용해 수백만 개의 글을 단 몇 시간 만에 뽑아낼 수 있습니다. 낮은 비용으로 그럴싸한 콘텐츠를 무한정 생산할 수 있게 되니, 너도나도 광고 수익을 노리고 인터넷에 정보 찌꺼기를 쏟아붓는 것입니다. 정보의 양적 팽창이 질적 하락으로 직결되는 순간입니다.

2. 낯설지 않은 풍경: 4세대 언어와 CASE 도구의 추억

사실 기술이 '누구나 전문가처럼' 만들 수 있다는 약속을 내걸었다가 세상을 혼란에 빠뜨린 건 이번이 처음이 아닙니다. 1980년대와 90년대, 저 같은 개발자들 사이에서는 '4세대 언어(4GL)'와 'CASE(Computer-Aided Software Engineering) 도구'가 큰 화두였습니다.

당시 이 도구들은 '더 이상 복잡한 코딩은 필요 없다. 그림을 그리거나 간단한 명령어를 쓰면 컴퓨터가 알아서 프로그램을 만들어준다'고 광고했습니다. 경영진은 열광했고, 이제 개발자 없이도 소프트웨어를 만들 수 있으리라 기대했습니다. 저도 당시 몇 가지 CASE 도구를 써봤습니다. 간단한 고객 관리 프로그램 정도는 마우스 클릭 몇 번으로 금방 만들 수 있었죠.

하지만 결과는 어땠을까요? 재앙에 가까웠습니다. 이런 도구로 만든 프로그램들은 조금만 복잡해져도 내부 구조가 스파게티 면처럼 얽혀버렸습니다. 유지보수는 불가능했고, 성능은 끔찍했습니다. 결국 더 유능한 개발자들이 나서서 이 '자동 생성된' 코드를 전부 걷어내고 처음부터 다시 짜야 했습니다. 자동화 도구가 일자리를 없애기는커녕, 더 비싼 '뒷수습' 일자리를 만들어낸 셈입니다.

AI 슬롭 현상은 이 역사의 정확한 반복입니다. AI라는 도구는 누구나 그럴싸한 글과 이미지를 만들 수 있게 해줬습니다. 하지만 그 결과물 중 상당수는 전문가의 검증을 거치지 않은 '정보 스파게티'입니다. 과거 CASE 도구가 엉망인 코드를 양산했듯, 지금의 생성 AI는 엉망인 정보를 양산하고 있습니다. 이 역시 누군가는 치워야 할 디지털 폐기물입니다.

3. 정보의 바다가 썩어간다: 구체적 피해 사례들

AI 슬롭은 단순히 인터넷 서핑을 귀찮게 만드는 수준을 넘어, 현실 세계에 직접적인 피해를 주기 시작했습니다.

가장 심각한 분야는 단연 의학 및 건강 정보입니다. 예를 들어 소셜 미디어에서는 '암을 예방하는 기적의 음식'이라며 AI가 생성한 가짜 레시피와 효능 설명이 진짜 정보인 양 퍼져나갑니다. AI가 만든 이미지는 너무나 사실적이어서, 사람들은 '사진까지 있으니 진짜겠지'라며 쉽게 믿어버립니다. 독버섯을 식용버섯으로 잘못 알려주는 AI 생성 하이킹 가이드가 퍼져 인명 사고로 이어질 뻔한 아찔한 사례도 해외에서 보고된 바 있습니다.

검색 엔진의 신뢰도 역시 뿌리부터 흔들리고 있습니다. 구글 같은 검색 엔진은 오랫동안 'SEO(검색엔진 최적화)'라는 이름으로 순위를 조작하려는 스팸성 웹사이트와 전쟁을 벌여왔습니다. 그런데 AI의 등장으로 스패머들은 너무나 강력한 무기를 손에 넣었습니다. 예전에는 사람이 직접 글을 써야 해서 비용과 시간의 한계가 있었지만, 이제는 AI로 하루에 수천 개의 그럴듯한 스팸 페이지를 만들어낼 수 있습니다. 검색 결과는 점점 더 AI가 만든 저질 정보로 오염되고, 사용자는 원하는 정보를 찾기 위해 더 많은 시간을 허비해야 합니다.

이러한 현상은 크게 두 가지 흐름으로 나타납니다.

1. 기존 콘텐츠 '오염시키기': 해커들이 유명 웹사이트를 해킹해 AI가 생성한 스팸 페이지를 몰래 숨겨 넣습니다. 사용자들은 신뢰하는 사이트의 정보라고 믿지만, 실제로는 광고나 악성코드로 유도하는 낚시성 콘텐츠를 보게 됩니다.
2. 새로운 콘텐츠 '범람시키기': 아예 처음부터 AI로만 채운 웹사이트를 수백, 수천 개씩 만들어냅니다. 특정 키워드에 대한 검색 결과를 모두 장악해 버리는 '물량 공세' 전략입니다. 'OO 맛집 추천' 같은 검색어 결과가 광고로 도배된 AI 블로그 글로 뒤덮이는 것이 대표적입니다.

이는 정보 생태계의 근간을 뒤흔드는 문제입니다. 좋은 정보가 나쁜 정보에 밀려나고, 결국 누구도 인터넷 정보를 믿지 못하게 되는 '정보의 레몬 시장(쓸모없는 재화만 남는 시장)'이 열리는 셈입니다.

4. 흔한 오해와 반론: '탐지기'와 '워터마크'는 만능일까?

이런 문제를 이야기하면 꼭 나오는 반론들이 있습니다. 하지만 현실은 그리 간단하지 않습니다.

흔한 오해 1: "AI가 만든 콘텐츠는 AI 탐지기로 걸러내면 되는 것 아닌가?"

일리가 있는 말이지만, 창과 방패의 싸움에서 방패가 이기기 어려운 구조입니다. AI 콘텐츠 탐지기 역시 또 다른 AI입니다. 그런데 콘텐츠를 생성하는 AI 모델의 발전 속도가 탐지 모델의 발전 속도를 항상 앞지릅니다. 더 정교한 AI가 만든 결과물은 이전 세대의 탐지기로는 구분하기 어렵습니다. 심지어 생성 AI를 이용해 '탐지기를 속이는' 글을 쓰도록 훈련시킬 수도 있습니다. 오픈AI조차 자체적으로 개발했던 AI 텍스트 탐지기의 정확도가 낮아 서비스를 중단했을 정도입니다. 탐지기는 없는 것보다 낫지만, 결코 완벽한 해결책이 될 수 없습니다.

흔한 오해 2: "AI가 만든 결과물에 '워터마크'를 의무적으로 삽입하면 해결되지 않나?"

워터마크는 이미지나 텍스트에 보이지 않는 표식을 심어 AI 생성물임을 알리는 기술입니다. 좋은 아이디어이고 일부 기업은 도입을 추진하고 있습니다. 하지만 여기에도 몇 가지 큰 허점이 있습니다.

• 강제성의 부재: 오픈AI나 구글 같은 대기업은 동참할 수 있겠지만, 세상에는 수많은 오픈소스 AI 모델이 있습니다. 누구나 내려받아 마음대로 수정할 수 있는 모델에까지 워터마크를 강제할 방법은 없습니다. 악의적인 사용자는 당연히 워터마크가 없는 모델을 쓸 겁니다.
• 기술적 한계: 워터마크는 약간의 변형만 가해도 쉽게 손상되거나 제거될 수 있습니다. 스크린샷을 찍거나, 문장의 일부만 복사해 붙여넣는 것만으로도 워터마크는 사라집니다. 결국 작정하고 속이려는 사람을 막기는 어렵습니다.

물론 AI를 글쓰기 보조 도구나 아이디어 발상 도구로 쓰는 것은 매우 유용합니다. 저 역시 이 글의 개요를 잡거나 자료를 요약하는 데 AI의 도움을 받습니다. 하지만 이는 목수가 좋은 전동 드릴을 쓰는 것과 같습니다. 문제는 드릴로 대충 구멍만 뚫어놓은 합판을 '완성된 가구'라고 속여 파는 행위입니다. 도구의 활용과 결과물의 무책임한 유포는 명백히 다른 문제입니다.

5. 가장 비싼 능력의 귀환: '판단의 값'이 치솟는다

그렇다면 우리는 속수무책으로 당해야만 할까요? 저는 오히려 이 혼란 속에서 새로운 기회와 가치가 부상하고 있다고 봅니다. 바로 '판단'의 가치입니다.

콘텐츠를 '생산'하는 비용이 0에 가까워지면서, 이제 희소한 자원은 생산 능력이 아니라 '진위를 가려내는 판단력'이 되었습니다. 동대문 시장에 가짜 명품이 아무리 많이 깔려도, 진짜를 알아보는 감정사의 눈이 쓸모없어지지 않는 것과 같습니다. 오히려 가짜가 많아질수록 진짜를 감별하는 능력의 가치는 기하급수적으로 올라갑니다.

AI 슬롭의 시대는 우리 모두에게 '편집자'이자 '감정사'가 될 것을 요구합니다. 과거에는 특정 언론사나 출판사의 이름이 '신뢰의 증표' 역할을 했습니다. 하지만 이제는 그 증표마저 AI가 흉내 내는 시대입니다. 우리는 이제 개별 정보 하나하나를 마주할 때마다 스스로 질문을 던져야 합니다.

• 이 정보를 만든 주체는 누구인가? 명확한 출처와 저자가 있는가?
• 이 정보는 어떤 의도를 가지고 있는가? 나에게 무언가를 믿게 하려는가, 아니면 무언가를 사게 하려는가?
• 내용에 구체적인 근거와 데이터가 있는가? 아니면 '좋다', '놀랍다' 같은 모호한 수사만 반복되는가?
• 특히 이미지는 조작의 가능성을 항상 열어두고 있는가?

AI는 값싼 답변을 무한정 쏟아내지만, 좋은 질문을 던지는 능력은 여전히 인간의 영역입니다. 그리고 그 질문에 대한 답을 찾아가는 비판적 사고 과정이야말로 AI가 대체할 수 없는 인간 고유의 지성입니다. 결국 AI가 자동화하는 것은 '생각 없는 글쓰기'이지, '생각' 그 자체가 아닙니다. 오히려 생각의 가치, 판단의 값을 그 어느 때보다도 높여주고 있습니다.

6. 독자가 던질 법한 질문들

Q. AI가 만든 콘텐츠를 무조건 나쁘다고 봐야 하나요? 예술 창작이나 아이디어 발상에는 긍정적으로 쓸 수 있지 않나요? A. 물론입니다. AI는 훌륭한 창작 도구가 될 수 있습니다. 중요한 것은 '맥락'과 '책임'입니다. AI를 활용해 만든 예술 작품이나 소설은 그 자체로 가치를 가집니다. 문제가 되는 '슬롭'은 사실을 전달하는 것처럼 위장한 '가짜 정보'입니다. 의학 정보, 뉴스 기사, 제품 리뷰처럼 독자가 사실이라고 믿을 것을 전제로 하는 영역에서 검증 없이 AI 생성물을 유포하는 것이 문제입니다. 도구는 죄가 없지만, 도구를 사용하는 사람의 윤리와 책임이 그 어느 때보다 중요해졌습니다.

Q. 일반 사용자가 AI가 만든 가짜 정보를 현실적으로 어떻게 구별할 수 있을까요? 너무 어려워 보입니다. A. 완벽하게 구별하는 것은 불가능에 가깝지만, 위험을 줄일 몇 가지 습관이 있습니다. 첫째, 지나치게 감정적인 제목이나 내용(놀라운, 충격적인, 기적의 등)은 일단 의심해야 합니다. 둘째, 글쓴이의 정보나 웹사이트의 '소개' 페이지를 확인해보세요. 유령 회사나 정체불명의 인물이라면 신뢰하기 어렵습니다. 셋째, 특히 중요한 정보(건강, 금융 등)라면 반드시 공신력 있는 기관이나 언론사 등 여러 출처를 교차 확인하는 습관을 들여야 합니다. '진짜인가?'라는 질문을 기본값으로 설정하는 것이 AI 시대의 새로운 미디어 리터러시입니다.

Q. 이런 현상이 계속되면 결국 인터넷이 완전히 망가지는 것 아닐까요? A. 비관적으로 볼 수도 있지만, 저는 일종의 '항체'가 형성되는 과정이라고 생각합니다. 스팸 메일이 처음 등장했을 때 모두가 혼란에 빠졌지만, 결국 스팸 필터 기술이 발전하고 사용자들의 경계심도 높아졌습니다. AI 슬롭 역시 마찬가지일 겁니다. 플랫폼은 필터링 기술을 고도화할 것이고, 사용자들은 점차 저질 정보를 가려내는 눈을 갖게 될 것입니다. 물론 그 과정에서 상당한 사회적 비용과 혼란이 발생하겠지만, 인터넷이 완전히 죽지는 않을 겁니다. 다만 예전처럼 순진하게 모든 정보를 믿을 수 있는 시대는 확실히 끝났다고 봐야 합니다.