‘2027년에도 논문 탈락이요?’ AI발 쓰레기 정보에 학계가 빡친 진짜 이유

최근 IT 연구자들 커뮤니티 레딧(Reddit)에서 웃픈 게시물 하나가 화제였어요. ‘ICLR 2027은 여전히 데스크 리젝트를 남발하고 있다’. 여기서 ICLR은 인공지능 분야에서 가장 권위 있는 국제 학회 중 하나고요, ‘데스크 리젝트(desk reject)’는 논문이 정식 심사 단계에 가보지도 못하고 편집장 책상에서 바로 탈락하는 걸 말해요. 풋볼로 치면 경기장엔 들어가 보지도 못하고 라커룸에서 바로 퇴장당하는 셈이죠.

물론 ‘2027년’은 농담입니다. 아직 오지도 않은 미래 학회에 벌써부터 탈락을 걱정한다는 과장이죠. 근데 이게 왜 그렇게 큰 공감을 얻었을까요? 이건 단순한 불평이 아니에요. AI 기술의 최전선에 있는 연구자들이 지금 어떤 지옥을 경험하고 있는지 보여주는 처절한 비명에 가깝습니다. 댓글 중 하나가 핵심을 짚더군요. ‘AI 슬롭(AI slop)으로부터 우리 커뮤니티를 지켜줘서 고맙다.’

‘AI 슬롭’. 좀 생소하죠? 쉽게 말해 ‘AI가 만들어낸 저품질 정보 쓰레기’를 뜻하는 신조어예요. 예전 인터넷 초창기에 의미 없는 글로 도배하던 ‘어뷰징’이나 ‘스팸’과 비슷해 보이지만, 질적으로 완전히 다릅니다. AI 슬롭은 겉보기에 너무 그럴듯해서 문제예요. 문법도 완벽하고, 전문 용어도 술술 섞어 쓰죠. 하지만 속을 들여다보면 아무런 독창성이나 깊이가 없는, 그냥 여기저기서 긁어모아 보기 좋게 비벼놓은 비빔밥 같은 겁니다. 영혼이 없어요.

이 ‘ICLR 2027’ 밈은 바로 이 AI 슬롭 문제가 학계라는 지식의 최전선을 어떻게 잠식하고 있는지를 보여주는 상징적인 사건이에요. 이건 더 이상 남의 일이 아닙니다. 학계에서 시작된 이 ‘쓰레기 대홍수’는 곧 우리 모두의 일상, 관계, 그리고 내가 누구인지 아는 방식까지 바꿔놓을 거예요. 꽤 심각한 얘기죠?

‘책상컷’의 귀환: 이게 왜 AI 시대의 문지기가 됐을까

‘데스크 리젝트’라는 걸 좀 더 쉽게 풀어볼까요? 요즘 제일 잘나가는 클럽 앞에 줄이 1km쯤 서 있다고 상상해보세요. 클럽 안은 이미 만원이고, 수용 인원은 한정돼 있죠. 이때 입구를 지키는 ‘기도’가 줄을 훑어보면서 딱 봐도 복장이 불량하거나, 너무 취했거나, 신분증이 없는 사람들을 콕 집어서 “당신은 못 들어갑니다” 하고 돌려보내는 거예요. 이게 바로 데스크 리젝트, 우리말로 ‘책상컷’입니다.

학회도 마찬가지예요. ICLR이나 NeurIPS 같은 최고 수준의 AI 학회에는 매년 수만 편의 논문이 쏟아져 들어옵니다. 2024년 ICLR에는 무려 1만 편이 넘는 논문이 제출됐다고 해요. 이 논문들을 심사하는 사람들은 전 세계에서 자원한 동료 연구자들, 즉 교수나 박사들입니다. 다들 자기 연구 하기도 바쁜데, 한 사람당 몇 편씩, 많게는 수십 편의 논문을 꼼꼼히 읽고 평가해야 해요. 완전 중노동이죠.

이런 상황에서 모든 논문에 똑같은 시간과 노력을 들여 심사하는 건 불가능해요. 그래서 학회 운영진(프로그램 위원장이나 에어리어 체어 같은 사람들)이 일종의 ‘사전 검열’을 하는 겁니다. 제출된 논문들을 훑어보고, 아래 같은 명백한 문제가 있는 논문들을 정식 심사 전에 미리 쳐내는 거죠.

• 학회 주제와 전혀 관련 없는 연구일 때
• 제출 양식을 아예 지키지 않았을 때
• 기존 연구를 명백히 베꼈거나, 새로운 내용이 거의 없을 때
• 연구 방법론에 치명적인 결함이 보일 때

이 ‘책상컷’은 제한된 심사 자원을 효율적으로 쓰기 위한 어쩔 수 없는 조치예요. 진짜 보석 같은 논문을 심사하는 데 집중하기 위해, 딱 봐도 아닌 것들을 걸러내는 거죠. 그런데 왜 이게 지금 와서 논란이 될까요? 바로 생성형 AI, 우리에게 익숙한 챗GPT 같은 도구들 때문입니다.

AI가 등장하면서 논문의 ‘양’이 폭발적으로 늘었어요. 예전에는 아이디어를 짜내고, 실험을 설계하고, 밤새워 글을 쓰는 고통스러운 과정을 거쳐야 논문 한 편이 나왔죠. 하지만 이제는 프롬프트 몇 줄만 입력하면 AI가 그럴듯한 서론, 연구 배경, 심지어 결론까지 순식간에 써줍니다. 물론 아직 완벽하진 않지만, ‘논문 흉내’를 내는 건 식은 죽 먹기가 된 거예요. 결과적으로 심사위원들은 진짜 연구와 AI가 대충 버무려놓은 ‘슬롭’을 구분하느라 에너지를 다 뺏기게 됐어요. 데스크 리젝트는 이제 단순한 효율성 도구가 아니라, 학문적 진실성을 지키기 위한 처절한 방어선이 된 셈입니다. 웃프죠.

‘논문 공장’의 자동화: 우리는 어디서 이걸 본 적 있죠?

사실 ‘지식 공장’이 돌아가는 건 어제오늘 일이 아니에요. 역사는 반복되거든요. 2000년대 초반, 구글 검색이 세상을 지배하기 시작했을 때를 떠올려보세요. ‘검색엔진최적화(SEO)’라는 기술이 등장하면서, 사람들에게 유용한 정보를 주기보다는 어떻게든 검색 결과 상위에 노출될까만 고민하는 ‘콘텐츠 팜(Content Farm)’이 우후죽순 생겨났어요. 별 내용도 없는 글에 인기 키워드만 잔뜩 쑤셔 넣어서 클릭을 유도했죠. 우리도 낚여서 들어가 본 경험 한두 번씩은 있잖아요?

학계에도 비슷한 게 있었어요. 돈만 내면 수준 미달의 논문도 실어주는 ‘약탈적 저널(predatory journal)’이나, 서로의 논문을 인용해주며 실적을 부풀리는 ‘인용 카르텔’ 같은 것들이요. 특히 연구 실적이 곧 연봉과 승진으로 이어지는 ‘출판 아니면 죽음(publish or perish)’ 문화는 이런 현상을 부추겼죠. 마치 영업사원이 실적 압박에 못 이겨 ‘가라 계약서’를 쓰는 것처럼, 연구자들도 어떻게든 논문 편수를 늘리려다 보니 품질보다는 양에 치중하게 된 겁니다.

그런데 생성형 AI의 등장은 이 ‘공장’을 완전 자동화시켜버렸어요. 예전 콘텐츠 팜이 아르바이트생들을 고용해 수작업으로 쓰레기 글을 만들었다면, 이제는 AI가 24시간 내내, 인간보다 훨씬 빠른 속도로, 심지어 더 그럴듯하게 ‘지식 슬롭’을 찍어냅니다. 이건 그냥 공장이 아니라 ‘자동화된 쓰레기 산 생성기’에 가까워요.

이게 왜 심각하냐면, AI는 ‘평균’을 학습하기 때문이에요. 인터넷에 널려 있는 수많은 텍스트를 학습해서 가장 그럴듯한, 가장 평균적인 문장을 만들어내죠. 독창적이거나 급진적인 아이디어, 기존의 통념을 깨는 도발적인 주장은 AI가 만들어내기 어려워요. 오히려 그런 ‘튀는’ 데이터는 학습 과정에서 노이즈로 취급받아 희석되기 쉽죠.

결국 AI에 의존해 논문을 ‘생산’하는 문화가 퍼지면, 학문 전체가 하향 평준화될 위험이 있어요. 모두가 비슷비슷하고, 안전하고, 예측 가능한 ‘평균적인’ 연구만 하게 되는 거죠. 새로운 발견이나 혁신은 점점 더 어려워질 거고요. 이건 마치 모든 식당이 똑같은 중앙 공급식 반조리 식품(밀키트)을 받아서 데워주기만 하는 세상과 같아요. 겉보기엔 멀쩡한 식사 같지만, 어느 식당을 가도 맛은 똑같고, 진짜 셰프의 손맛과 철학은 사라져버리는 거죠.

슬롭 현상, 학계를 넘어 일상으로: 당신의 밥그릇은 안녕하신가요?

“그래서요? 저는 논문 쓸 일 없는데, 그게 나랑 무슨 상관이죠?”라고 생각하실 수도 있어요. 천만에요. 학계의 이 ‘슬롭 사태’는 곧 우리 모두의 현실이 될 겁니다. 아니, 이미 우리 일상 깊숙이 들어와 있어요.

당장 온라인 쇼핑몰에 들어가 보세요. “이 제품은 뛰어난 성능과 합리적인 가격을 자랑하며, 사용자에게 최고의 만족감을 선사합니다…”처럼 영혼 없이 AI가 쓴 것 같은 상품평이 넘쳐나죠. 맛집을 찾으려고 블로그를 검색하면, 직접 가보지도 않고 다른 글들을 짜깁기해서 만든 정보들이 상위권을 차지하고 있고요. 유튜브에는 AI 목소리로 책이나 뉴스를 요약해주는 채널이 범람하는데, 그중 상당수는 원작자의 허락도 받지 않은 불법 콘텐츠거나, 맥락을 무시한 왜곡된 정보일 때가 많아요.

최근 니콘 사진 공모전에서 한 작가가 AI로 생성한 흑백 사진을 출품했다가 논란 끝에 수상을 포기한 사건이 있었죠. 심사위원들조차 감쪽같이 속을 만큼 AI 이미지의 퀄리티가 높아졌다는 뜻이에요. 이제 우리는 눈으로 보는 것조차 믿을 수 없는 시대를 살고 있는 겁니다.

이 모든 게 ‘슬롭 현상’의 일부예요. 진짜 인간의 경험, 노력, 창의성이 담긴 콘텐츠가 AI가 대량 생산한 그럴듯한 가짜 정보의 홍수 속에 파묻히고 있는 거죠. 문제는 이 슬롭이 돈이 된다는 겁니다. 트래픽을 유발하고, 광고 수익을 낳고, ‘일한 척’ 하기에 딱 좋거든요. 아래 표를 보면 그 차이가 더 명확하게 보일 거예요.

이런 환경이 계속되면 어떻게 될까요? 결국 ‘진짜’를 만드는 사람들은 지쳐서 떠나게 됩니다. 내 시간과 노력을 갈아 넣어 만든 결과물이, AI가 몇 분 만에 찍어낸 쓰레기 더미와 똑같이 취급받거나 오히려 뒤로 밀린다면 누가 창작을 하고 싶겠어요? 학계에서는 진짜 연구자들이, 예술계에서는 진짜 예술가들이, 저널리즘에서는 진짜 기자들이 설 자리를 잃게 되는 거죠. 이건 그냥 정보의 질이 나빠지는 수준의 문제가 아니에요. 우리 사회가 지식과 진실을 판별하고 축적해 온 시스템 자체가 붕괴될 수 있다는 얘기입니다.

흔한 오해와 반론들: “필터링 잘하면 되는 거 아님?”

이런 얘기를 하면 꼭 나오는 반론들이 있어요. 한번 따져보죠.

• 오해 1: “AI가 쓴 건 티 나잖아요. 심사위원들이나 전문가들이 바보도 아니고, 다 걸러낼 수 있는 거 아닌가요?”

물론입니다. 아직은 많은 경우 티가 나죠. 하지만 그 ‘티’라는 게 점점 희미해지고 있어요. 초기의 AI는 어색한 번역투 문장이나 사실 관계가 틀린 ‘환각(Hallucination)’ 현상을 자주 보였지만, 기술이 발전하면서 이제는 아주 교묘하게, 맥락에 맞는 그럴듯한 거짓말을 만들어냅니다. 심지어 가짜 실험 데이터나 존재하지 않는 참고문헌까지 생성해내기도 해요. 이걸 하나하나 검증하는 건 엄청난 비용과 시간을 요구합니다. 도둑 한 명을 잡기 위해 수백 명의 경찰이 동원되는 꼴이죠. 이제 문제는 ‘가짜를 어떻게 찾아내느냐’가 아니라, ‘이게 진짜 인간의 고유한 생각이라는 걸 어떻게 증명하느냐’로 바뀌고 있어요. ‘진짜’임을 증명하는 비용이 ‘가짜’를 만드는 비용보다 훨씬 비싸진, 기괴한 세상이 온 겁니다.

• 오해 2: “데스크 리젝트는 원래 있던 거 아닌가요? 좋은 연구가 억울하게 탈락할 수도 있다는 우려는 과장된 거죠.”

맞아요. 데스크 리젝트 자체는 새로운 게 아니고, 억울한 탈락 사례도 과거부터 있었죠. 하지만 지금은 그 규모와 성격이 근본적으로 달라졌어요. 과거의 데스크 리젝트가 ‘명백한 자격 미달’을 걸러내는 수문 역할을 했다면, 지금은 밀려드는 쓰레기 더미에 질식할 것 같은 심사위원들이 ‘일단 의심하고 보는’ 방어적 필터링에 가까워졌어요. 약간이라도 허술해 보이거나, 너무 전형적인 주장처럼 보이면 ‘이것도 AI 슬롭 아냐?’ 하는 의심부터 하게 되는 거죠. 이런 환경에서는 정말 획기적이지만 아직 다듬어지지 않은 ‘날것의 아이디어’가 충분한 검토 기회조차 얻지 못하고 버려질 가능성이 훨씬 커집니다. 학문 생태계의 다양성과 잠재력을 해칠 수 있는 심각한 부작용이죠.

그래서, 이 ‘쓰레기 대홍수’ 시대에 우린 뭘 봐야 할까요?

자, 그럼 이 거대한 쓰레기 더미 앞에서 우리는 그냥 망연자실하고 있어야 할까요? 아니요, 이 현상은 우리에게 앞으로 어떤 가치가 중요해질 것인지를 알려주는 중요한 신호입니다. 몇 가지 추적해 볼 만한 흐름이 있어요.

1. '진품 인증'의 부상: 앞으로는 AI 생성물과 인간의 창작물을 구분하려는 기술과 제도가 훨씬 중요해질 거예요. 이미지에 보이지 않는 워터마크를 심는 기술, 블록체인을 이용해 창작물의 원본과 수정 이력을 증명하는 기술, 심지어는 특정 작업이 인간에 의해 수행됐음을 증명하는 ‘인간 작업 증명(Proof-of-Human-Work)’ 같은 개념까지 더 활발히 논의될 겁니다. 마치 농산물에 ‘유기농 인증’ 마크가 붙듯이, 지식과 정보에도 ‘인간 창작 인증’ 마크가 붙는 시대가 올 수 있다는 거죠.

1. '평판'과 '커뮤니티'의 가치 상승: 정보의 출처가 그 어느 때보다 중요해집니다. 누가, 어떤 기관이, 어떤 맥락에서 한 말인가를 따지는 ‘비판적 사고’가 교양이 아니라 생존 기술이 될 거예요. 모두에게 열린 거대 플랫폼보다는, 소수의 신뢰할 수 있는 전문가들이 모인 폐쇄적인 커뮤니티나, 오랜 시간 쌓아온 ‘평판’을 가진 개인의 목소리가 더 큰 힘을 얻게 될 겁니다. 옥석을 가리는 비용이 너무 높아지면, 사람들은 믿을 만한 ‘큐레이터’를 찾게 되니까요.

1. 심사/평가 시스템의 근본적 변화: 현재의 ‘출판 전 동료 심사(pre-publication peer review)’ 모델은 명백히 한계에 부딪혔어요. 이걸 해결하기 위한 다양한 실험이 시작될 겁니다. 예를 들어, AI를 심사 보조 도구로 활용해 표절이나 데이터 오류를 자동으로 검출하게 할 수도 있고요. 심사 활동 자체에 정당한 보상(돈, 명예, 경력 인정 등)을 줘서 심사위원들의 동기를 높이는 방법도 논의될 거예요. 더 나아가, 일단 모든 연구를 공개한 뒤에 대중과 동료들의 평가를 받는 ‘출판 후 심사(post-publication review)’ 모델이 대안으로 떠오를 수도 있습니다.

결국 이 문제는 기술로 풀 수 있는 게 아니에요. 우리가 무엇을 가치 있게 여길 것인가에 대한 사회적 합의, 즉 문화와 제도의 문제입니다. AI는 그저 우리가 가진 문제를 극대화해서 보여주는 거울일 뿐이죠.

'ICLR 2027'은 웃기지만, 진짜 비극은 따로 있죠

‘ICLR 2027’ 밈은 분명 재치 있고 웃긴 현상이에요. 하지만 그 속을 들여다보면 진짜 비극은 다른 데 있습니다.

진짜 비극은 AI가 쓰레기 같은 글을 만들어낸다는 사실이 아니에요. 진짜 비극은 우리 인간이 그런 쓰레기에 보상을 주는 시스템을 오랫동안 공들여 만들어왔다는 점입니다. 학계에서는 ‘양’으로 모든 걸 평가하는 ‘출판 아니면 죽음’ 문화가, 언론계에서는 ‘질’보다는 ‘트래픽’이 왕인 문화가, 예술계에서는 ‘진정성’보다 ‘어그로’가 돈이 되는 문화가 바로 그 시스템이죠. AI는 그저 이 망가진 시스템을 가장 효율적으로 공략하는 도구를 우리 손에 쥐여줬을 뿐입니다.

‘ICLR 2027’ 밈은 그래서 더 슬프게 들려요. 그건 AI 기술의 최전선에 있는 이들이 보내는 구조 신호(SOS)와 같습니다. 제발 이제 그만 ‘양’에 대한 집착을 버리고, ‘생각의 질’에 집중해달라는 절박한 외침인 거죠. 우리는 지금 정보의 홍수 속에서 익사하고 있으면서, 동시에 지혜의 가뭄에 목말라하고 있으니까요. 이 아이러니, 정말 지독하지 않나요?

독자가 던질 법한 질문들

Q. AI로 논문 쓰는 게 무조건 나쁜 건가요? 초안 작성이나 문법 교정은 도움될 것 같은데요. A. 맞아요. 도구 자체는 죄가 없죠. 식칼로 요리를 할 수도, 사람을 해칠 수도 있는 것처럼요. 문제는 ‘어떻게 쓰느냐’입니다. AI를 내 생각을 더 잘 정리하고, 표현을 다듬고, 오탈자를 잡는 ‘똑똑한 워드프로세서’처럼 쓰는 건 괜찮아요. 연구 효율을 높여주니까요. 하지만 AI에게 ‘아이디어’나 ‘주장’ 같은 생각의 핵심을 맡겨버리는 순간, 그건 더 이상 당신의 연구가 아니에요. 톨스토이가 비서에게 대필을 시켰다고 해서 우리가 그 비서를 ‘안나 카레니나’의 저자라고 부르지 않는 것과 같습니다. 앞으로 ‘창작 보조’와 ‘대필·표절’ 사이의 윤리적 경계선을 명확히 하려는 사회적 논의가 아주 중요해질 겁니다.

Q. 저는 평범한 직장인이라 논문 쓸 일이 없는데, 이게 정말 저랑 상관있는 이야기인가요? A. 네, 이것보다 더 당신과 상관있는 이야기는 없을걸요. 당신이 오늘 아침 네이버에서 검색한 ‘강남역 맛집’, 유튜브에서 본 ‘부동산 전망’ 영상, 인스타그램에서 ‘좋아요’ 누른 멋진 여행 사진까지, 그 모든 것이 ‘AI 슬롭’일 수 있는 시대가 됐습니다. 진짜 인간의 경험에서 나온 정보와, 그저 그럴듯하게 짜깁기된 가짜 정보 사이에서 길을 잃지 않는 능력이 앞으로는 생존 기술이 될 거예요. 학계의 고민은 곧 우리 모두가 마주할 ‘정보 환경 오염’ 문제의 예고편입니다.

Q. 이런 문제를 해결할 뾰족한 방법이 있나요? 듣다 보니 너무 암울하게만 느껴지는데요. A. 단번에 모든 걸 해결하는 ‘마법 총알’은 없어요. 이건 기술이 아니라 시스템과 문화의 문제니까요. 하지만 희망은 결국 ‘사람’에게 있다고 봐요. AI가 절대 못하는 것, 예를 들어 세상을 совершенно 다른 관점으로 보는 독창적인 질문을 던지고, 아무도 연결하지 못했던 분야들을 연결해 새로운 통찰을 만들고, 기술의 윤리적 의미를 깊이 고뇌하고, 수많은 실패를 통해 진짜 배움을 얻는 그런 ‘인간적인 과정’의 가치를 우리가 더 높게 쳐주기 시작하면 됩니다. 결국 어떤 콘텐츠를 소비하고, 어떤 창작물에 돈을 지불하고, 어떤 결과물을 ‘가치 있다’고 인정해줄지는 우리 손에 달렸어요. 양이 아니라 질을, 겉모습이 아니라 그 안의 진정성을 알아보는 안목이 그 어느 때보다 중요해지는 시대입니다.