논문 브리핑
AI도 '인기' 논문에 더 끌린다: 인공지능 학술 연구, '사회적 영향'에 흔들리나
글 · 한경모
인공지능이 인간 연구자의 조력자를 넘어 스스로 학술 정보를 평가하고 선별하는 시대가 다가오고 있습니다. 그런데 인공지능 역시 인간처럼 '인기'에 영향을 받아 논문을 선택할 수 있다는 흥미로운 연구 결과가 발표되어 학계의 이목을 집중시키고 있습니다. 최근 arXiv에 게재된 논문 "Social Influence and the Allocation of Scientific Attention in AI Populations"은 이러한 인공지능의 학술적 의사결정 과정을 심층적으로 탐구합니다.
이 연구는 인공지능 시스템이 논문 인용 횟수나 다운로드 수와 같은 '사회적 신호'에 어떻게 반응하는지를 실험했습니다. 이는 마치 사람들이 어떤 음악을 들을지 선택할 때 대중적 인기에 영향을 받는 '뮤직 랩(Music Lab)' 실험 설계를 학술 연구 분야에 적용한 것입니다. 기존에는 인간 독자를 중심으로 형성된 이러한 인기 지표들이 인공지능에게 어떤 집단적 결과를 초래할지는 미지수였습니다.
연구진은 1,000개의 인공지능 에이전트를 동원해 가상 실험을 진행했습니다. 이 에이전트들은 2025년에 American Economic Review에 발표된 114편의 정규 연구 논문 중에서 제목과 초록만을 보고 논문을 선택하도록 설계되었습니다. 여기에 각 논문의 가상 인용 횟수, 다운로드 통계 등 '인기' 지표를 주입하여 인공지능이 이 정보에 따라 어떤 선택 패턴을 보이는지 관찰했습니다. 놀랍게도 인공지능 에이전트들은 인간과 유사한 방식으로 '사회적 영향'을 받았습니다. 특정 논문이 인기가 많다는 신호가 주어지면, 해당 논문을 선택하는 경향이 강하게 나타난 것입니다. 이는 인공지능이 단순히 내용의 질만을 평가하는 것이 아니라, 외부에서 주어지는 '집단적 평가' 혹은 '인기 정보'에 의해서도 판단이 왜곡될 수 있음을 시사합니다.
이러한 결과는 인공지능을 활용한 연구 평가 시스템이나 정보 큐레이션 도구 개발에 중요한 함의를 던집니다. 만약 인공지능이 인기 논문에만 집중한다면, 다음과 같은 문제들이 발생할 수 있습니다.
- 새롭거나 비주류적이지만 중요한 연구가 주목받지 못할 수 있습니다.
- 기존의 지배적인 패러다임이나 아이디어가 더욱 강화되어 학문적 다양성이 저해될 수 있습니다.
- 일시적인 유행에 따라 연구 자원과 관심이 낭비될 위험이 있습니다.
인사이트
인공지능이 학술 연구 분야에서 '사회적 영향'에 취약할 수 있음을 보여준 이 연구는, AI 기반의 연구 시스템 설계 시 객관성과 다양성 확보를 위한 심도 깊은 고려가 필요함을 시사합니다.
자주 묻는 질문
- AI가 진짜 '사회적 영향'을 받는다는 건가요?
- 이 연구는 AI가 인간의 '군중 심리'와 유사하게 인용 수나 다운로드 수 같은 외부의 인기 지표에 따라 특정 논문을 더 선호하는 경향을 보였음을 시사합니다. 이는 AI가 겉으로 보이는 '인기'라는 사회적 신호를 학습된 패턴으로 인식하고 의사결정에 반영했기 때문입니다.
- 이러한 AI의 논문 선택 방식이 과학 연구에 어떤 문제를 일으킬 수 있나요?
- 만약 AI가 인기 논문에만 집중한다면, 혁신적이지만 아직 주목받지 못한 비주류 연구들이 간과될 위험이 있습니다. 이는 학문적 다양성을 저해하고, 기존의 지배적인 관점만 강화하여 과학 발전의 폭을 좁힐 수 있습니다.
- 그럼 AI가 편향되지 않고 객관적으로 연구를 평가하려면 어떻게 해야 하나요?
- 연구진은 AI 시스템 설계 시 '사회적 신호'의 영향을 최소화하는 방법을 모색하고, 다양한 정보와 관점을 AI가 균형 있게 고려하도록 훈련해야 한다고 제안합니다. 또한 AI의 의사결정 과정을 투명하게 공개하고, 인위적으로 다양한 논문을 추천하는 등의 알고리즘적 보완책도 고려할 수 있습니다.
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.