AI 검색, 쓰레기 정보를 비싼 돈 주고 되사는 꼴

1. AI에게 ‘최고의 협업툴’을 물어보았다

며칠 전, 팀에서 쓸 새로운 협업 도구를 찾아봐야 했습니다. 늘 하던 대로 구글에 ‘최고의 업무용 메신저’, ‘슬랙 대체재’ 같은 것들을 검색했습니다. 결과는 예상대로였습니다. 첫 페이지는 온통 광고와 제휴마케팅 링크로 도배된 ‘가짜 리뷰’ 블로그들이 차지하고 있었습니다. 제목은 거창하지만 내용은 껍데기뿐인 글들입니다. 실제 써보지도 않고 제조사 보도자료를 긁어모아 순위만 매겨놓은, 영양가 없는 정보의 홍수. 30분쯤 헤매다 지쳐서 요즘 화제인 AI 검색 서비스를 켜봤습니다. 퍼플렉시티(Perplexity)였습니다. 똑같은 질문을 던졌습니다.

결과는 놀라웠습니다. 몇 초 만에 깔끔하게 정리된 답변이 나타났습니다. 각 도구의 장단점을 요약하고, 어떤 팀에 어떤 도구가 적합한지 추천까지 해줬습니다. 감탄하며 스크롤을 내리다 문득 인용된 출처(Source) 목록이 눈에 들어왔습니다. 낯익은 주소들이었습니다. 바로 30분 전, 제가 시간 낭비라며 닫아버렸던 바로 그 쓰레기 정보 사이트들이었습니다.

AI는 제가 직접 걸러냈던 정보의 찌꺼기들을 주워 모아, 아주 그럴듯한 요리처럼 만들어 제 앞에 다시 내놓은 셈입니다. 최근 한 보고서에서 단 3개의 웹사이트가 21만 건이 넘는 ‘최고의 소프트웨어’ 추천 페이지를 만들어냈고, 퍼플렉시티 같은 AI가 이 페이지들을 주요 정보원으로 인용하고 있다는 사실이 밝혀졌습니다. 제가 겪은 일이 저만의 해프닝이 아니었던 겁니다. 이것은 현재 AI 기술이 마주한, 가장 불편하고도 중요한 민낯입니다.

2. AI는 어떻게 웹의 쓰레기를 먹고 자라나

이런 일이 왜 벌어지는지 이해하려면, 요즘 AI 검색 서비스가 작동하는 방식을 알아야 합니다. 핵심은 ‘검색 증강 생성(Retrieval Augmented Generation, RAG)’이라는 기술입니다. 이름은 어렵지만, 원리는 간단합니다. ‘시키는 건 뭐든 열심히 하지만, 아직 세상 물정 모르는 신입 인턴’을 떠올리면 쉽습니다.

당신이 팀장이고, 신입 인턴에게 ‘시장 경쟁사 분석 보고서’를 써오라고 지시했다고 칩시다.

1. 인턴은 먼저 자기가 원래 알고 있던 단편적인 지식(AI 모델이 학습 데이터로 쌓아둔 내부 지식)을 동원합니다.
2. 하지만 그것만으로는 부족하니, 웹 검색을 시작합니다(이게 바로 ‘검색 증강’ 부분입니다). ‘경쟁사 분석’, ‘시장 점유율’ 같은 키워드로 검색해서 나오는 상위 페이지들을 닥치는 대로 긁어모읍니다.
3. 인턴은 아직 경험이 없어서 어떤 정보가 진짜배기고 어떤 게 광고성 뻥튀기인지 구분할 능력이 없습니다. 그저 보고서 주제와 관련 있는 단어가 많이 나오고, 그럴듯한 표나 그래프가 있으면 ‘신뢰할 만한 자료’라고 판단합니다.
4. 마지막으로, 긁어모은 자료들을 바탕으로 유려한 문장과 논리적인 구조를 갖춘 보고서를 작성해 제출합니다(이게 ‘생성’ 부분입니다). 보고서는 겉보기에 훌륭합니다. 하지만 그 속은 광고와 가짜 정보로 채워져 있을 수 있습니다.

지금의 AI 검색이 딱 이 신입 인턴과 같습니다. 퍼플렉시티나 구글의 ‘AI 오버뷰(AI Overviews)’ 같은 서비스는 질문을 받으면, 웹에서 관련 정보를 실시간으로 찾아옵니다. 문제는 AI가 정보의 ‘관련성’은 기가 막히게 찾아내지만, ‘신뢰성’이나 ‘품질’을 판단하는 데는 아직 서툴다는 점입니다. 검색 엔진 최적화(Search Engine Optimization, SEO) 기술로 무장한 스팸 사이트들은 AI가 좋아하는 키워드와 구조를 완벽하게 갖추고 있습니다. AI 입장에선 이보다 더 좋은 ‘참고 자료’가 없는 셈입니다. 결국 AI는 쓰레기 정보를 먹고 자라, 더 예쁘게 포장된 쓰레기를 배설하는 악순환의 증폭기가 되고 맙니다.

3. 2024년의 AI, 1990년대의 ‘CASE 도구’를 닮았다

이런 현상을 보고 있자니, 저는 30년 전의 실패 사례가 떠오릅니다. 1990년대, 엔지니어들 사이에서 ‘CASE(Computer-Aided Software Engineering) 도구’라는 것이 대유행이었습니다. 복잡한 코딩을 몰라도, 파워포인트처럼 그림(다이어그램)을 그리면 알아서 프로그램이 뚝딱 만들어진다는 꿈의 도구였죠.

당시의 약속은 지금 AI의 약속과 놀랍도록 닮았습니다. “어렵고 지루한 실무는 도구에 맡기고, 인간은 더 창의적이고 본질적인 문제에 집중하라”는 것이었습니다. 많은 기업들이 비싼 돈을 주고 CASE 도구를 도입했습니다. 결과는 어땠을까요? 처참한 실패였습니다.

CASE 도구는 아주 단순한 프로그램을 만드는 데는 도움이 됐습니다. 하지만 조금만 복잡한 로직이 들어가도, 사람이 직접 짠 코드보다 훨씬 비효율적이고 유지보수하기 어려운 결과물을 뱉어냈습니다. 진짜 문제는 따로 있었습니다. 소프트웨어 설계의 기본 원리를 모르는 사람이 이 도구를 쓰면, ‘엉망인 설계’를 ‘자동화된 엉망인 코드’로 바꿔줄 뿐이었습니다. 도구가 사용자의 무지를 없애준 게 아니라, 오히려 증폭시킨 겁니다. 결국 실력 있는 개발자들은 CASE 도구를 외면했고, 얼마 못 가 유행은 사그라들었습니다.

AI 검색의 현재 모습이 딱 1990년대의 CASE 도구 같습니다. 정보의 출처를 비판적으로 평가할 능력이 없는 사용자가 AI 검색을 쓰면, 웹에 떠도는 오염된 정보를 ‘그럴싸하게 정리된 거짓말’로 돌려받게 됩니다. AI가 내 무지를 없애준 게 아니라, 세상의 거짓말을 더 믿기 좋게 포장해준 셈입니다. 도구는 바뀌었지만, 사용자의 ‘판단력’이 최종 결과물의 질을 결정한다는 본질은 변하지 않았습니다.

4. ‘정보 오염’은 어떻게 돈이 되는가

우리는 한 가지 근본적인 질문을 던져야 합니다. 대체 누가, 왜 이런 쓰레기 정보를 끊임없이 만들어내는 걸까요? 답은 간단합니다. 돈이 되기 때문입니다. 이건 자선사업이 아니라, 체계적인 비즈니스입니다.

이 ‘정보 오염 산업’의 수익 모델은 대략 이렇습니다.

1. ‘돈 되는 키워드’ 발굴: 사람들이 많이 검색하면서도, 구매로 이어질 확률이 높은 검색어를 찾아냅니다. 예를 들어 ‘최고의 VPN’, ‘저렴한 웹호스팅’, ‘탈모 방지 샴푸 추천’ 같은 것들입니다.
2. 콘텐츠 대량 생산: 실제 제품을 써보지 않고, 기존 리뷰나 제조사 설명을 짜깁기해 그럴듯한 ‘리뷰 기사’를 대량으로 찍어냅니다. 최근에는 이 과정조차 다른 AI를 이용해 자동화합니다.
3. 제휴 링크 삽입: 기사 본문에 특정 제품을 구매할 수 있는 링크(제휴 링크)를 심어둡니다. 독자가 이 링크를 통해 제품을 구매하면, 기사 발행인은 판매액의 일정 비율을 수수료로 받습니다.
4. 검색 순위 조작: 온갖 종류의 SEO 편법을 동원해 자신들의 가짜 리뷰 기사가 구글 검색 결과 첫 페이지에 뜨도록 만듭니다.

과거 이들의 목표는 구글 검색 상위 노출이었습니다. 하지만 이제 더 큰 ‘대어’가 나타났습니다. 바로 AI 검색 엔진입니다. 만약 구글의 AI 오버뷰나 퍼플렉시티가 내 스팸 사이트를 ‘신뢰할 만한 출처’로 인용해 준다면? 이건 단순히 검색 결과 1위에 오르는 것과는 차원이 다른 홍보 효과를 낳습니다. AI가 보증하는 ‘공신력 있는 정보’로 둔갑하기 때문입니다. 정보 오염을 통해 돈을 벌려는 유인은 과거 어느 때보다도 강력해졌고, 이들은 AI의 허점을 파고들기 위해 더 교묘하고 정교한 쓰레기를 생산할 것입니다. 이것은 기술이 아닌, 경제적 인센티브가 추동하는 거대한 전쟁입니다.

5. 흔한 오해: ‘결국 AI가 똑똑해지면 해결될 문제 아닌가?’

이런 문제를 지적하면 꼭 나오는 반론들이 있습니다. 하지만 조금만 더 깊이 들여다보면 설득력이 떨어지는 주장들입니다.

흔한 오해 1: “AI 기술이 발전하면 스팸이나 가짜 정보는 알아서 걸러낼 수 있을 것이다.”

물론 AI 개발사들은 정보의 신뢰도를 판별하는 기술을 개발하고 있습니다. 하지만 이건 ‘창과 방패의 싸움’과 같습니다. AI가 스팸을 걸러내는 방패를 만들면, 스패머들은 그 방패를 뚫기 위해 더 정교한 AI를 이용해 창을 만듭니다. 이미 AI로 생성한 글은 사람이 쓴 글과 구별하기 어려운 수준에 이르렀습니다. 정보 오염 세력은 언제나 방어 기술보다 한발 앞서 나가는 공격 기술을 개발할 동기를 갖고 있습니다. 이 문제는 ‘AI가 더 똑똑해지면’ 하고 막연히 기다려서 해결될 종류의 문제가 아닙니다. 끝나지 않는 군비 경쟁에 가깝습니다.

흔한 오해 2: “AI는 그냥 웹에 있는 정보를 반영하는 거울일 뿐이다. AI 회사를 탓할 게 아니다.”

식당 주방장이 ‘시장에 썩은 재료밖에 없어서 음식이 맛없는 걸 어떡하냐’고 말하는 것과 같습니다. 훌륭한 요리사는 좋은 재료를 ‘선별’하는 것부터 시작합니다. 마찬가지로 훌륭한 정보 서비스라면, 웹에 있는 정보를 그대로 비추는 거울이 아니라, 좋은 정보를 가려내는 ‘체’ 역할을 해야 합니다. 수십, 수백조 원의 기업 가치를 인정받는 AI 기업들이 그 책임을 웹의 오염 탓으로 돌리는 것은 무책임합니다. 정보의 단순 전달을 넘어 ‘신뢰할 수 있는 요약과 답변’을 제공하겠다고 약속했다면, 그 신뢰성에 대한 책임도 져야 마땅합니다. 최근 구글 AI가 ‘피자에 접착제를 뿌려라’, ‘하루에 돌멩이 하나는 먹는 게 좋다’ 같은 황당한 답변을 내놓아 망신을 당한 것이 그 책임을 방기했을 때 어떤 결과가 오는지 보여주는 생생한 사례입니다.

6. 결국 ‘판단의 값’이 비싸진다

그래서 우리는 무엇을 해야 할까요? AI 검색을 영원히 쓰지 말아야 할까요? 저는 그렇게 생각하지 않습니다. 대신 이 현상이 우리에게 주는 더 큰 교훈에 주목해야 합니다.

AI는 정보 ‘수집’이라는 저부가가치 노동을 자동화하고 있습니다. 과거에는 신입사원이 며칠 밤을 새워 자료를 찾아야 했다면, 이제는 AI가 단 몇 초 만에 해냅니다. 이 말은, 정보 ‘판단’이라는 고부가가치 노동의 가치가 이전보다 훨씬 더 비싸졌다는 뜻입니다.

과거의 유능한 인재는 ‘정보를 빨리 찾는 사람’이었습니다. 남들이 못 찾는 자료를 구석구석에서 찾아내는 능력이 중요했습니다. 하지만 이제 그 능력은 AI 덕분에 상향 평준화되었습니다. 이제 진짜 유능한 인재는 ‘정보의 옥석을 가리는 사람’, ‘AI가 내놓은 그럴듯한 거짓말을 간파하는 사람’입니다.

앞으로 중요해지는 능력은 이런 것들입니다.

• 정확한 질문을 던지는 능력: AI는 질문의 수준을 넘어서는 답변을 내놓지 못합니다. 쓰레기 질문은 쓰레기 답변을 낳을 뿐입니다.
• 출처를 비판적으로 검토하는 능력: AI가 제시한 답변의 근거가 무엇인지, 그 근거는 신뢰할 만한지 집요하게 파고드는 능력입니다.
• 상충하는 정보를 종합하는 능력: 여러 정보원에서 각기 다른 주장이 나올 때, 이를 종합해 최선의 결론을 도출하는 통찰력입니다.
• 최종 결정에 책임을 지는 능력: AI는 ‘참고 의견’을 낼 뿐, 결정에 따르는 책임은 결국 사람의 몫입니다.

결국 AI는 우리를 대체하는 것이 아니라, 우리에게 더 높은 수준의 판단력을 요구하는 까다로운 도구입니다. 정보를 찾는 수고는 덜어줬지만, 그 정보가 진짜인지 판단해야 하는 책임은 온전히 우리에게 남겨두었습니다. 어쩌면 더 무겁게 지웠는지도 모릅니다. 판돈이 커진 도박판에서, 허풍(블러핑)을 간파하는 능력의 가치가 천정부지로 솟는 것과 같은 이치입니다.

7. Q&A: 독자들이 던질 법한 질문들

Q. 이런 스팸 사이트들을 그냥 차단 목록(블랙리스트)에 추가하면 간단히 해결되지 않나요?

A. 단기적인 처방은 될 수 있지만, 근본적인 해결책은 아닙니다. 두더지 잡기 게임과 같습니다. 알려진 스팸 사이트 3개를 막으면, 다른 주소로 30개의 새로운 사이트가 생겨납니다. 이들은 계속해서 AI의 허점을 파고들며 진화할 겁니다. 결국 AI 스스로가 개별 사이트의 평판, 저자의 권위, 정보의 일관성 등을 종합적으로 평가해 ‘신뢰도 점수’를 매기는 정교한 시스템을 갖추는 방향으로 가야 합니다.

Q. 그럼 AI 검색은 아예 쓰지 말아야 하나요?

A. 아닙니다. 목적을 분명히 알고 쓴다면 여전히 강력한 도구입니다. 특정 주제에 대한 아이디어를 넓히거나, 잘 모르는 분야의 전체적인 그림을 빠르게 파악하는 ‘초벌 스케치’ 용도로는 아주 유용합니다. 다만, AI가 내놓은 답변을 ‘최종 결론’이나 ‘검증된 사실’로 받아들여서는 절대 안 됩니다. AI의 답변은 언제나 ‘검증이 필요한 초안’이라고 생각하고, 중요한 내용일수록 반드시 인용된 출처를 직접 확인하는 습관을 들여야 합니다. 내비게이션을 믿고 운전하되, 가끔은 도로 표지판과 내 감을 믿어야 하는 것과 같습니다.

Q. 결국 구글 같은 기존 검색 엔진이 더 낫다는 뜻인가요?

A. 꼭 그렇지는 않습니다. 기존 검색 엔진 역시 똑같은 ‘SEO 스팸’ 문제로 수년째 골머리를 앓고 있습니다. 많은 사용자들이 ‘요즘 구글 검색 결과가 예전 같지 않다’고 불평하는 이유가 바로 이것입니다. AI 검색은 이 문제를 해결해주지 못했고, 어떤 면에서는 오히려 그럴듯한 포장으로 문제를 악화시킨 셈입니다. 중요한 것은 도구의 종류가 아니라 사용하는 사람의 태도입니다. 어떤 검색 도구를 쓰든, 정보의 출처와 맥락을 비판적으로 따져 묻는 능력, 즉 ‘디지털 리터러시(Digital Literacy)’가 그 어느 때보다 중요해졌다는 신호로 읽어야 합니다.