논문 브리핑
책을 펼칠 이유까지 가르쳤다…AI 수학 증명 정확도 51.5%→79.5%
글 · 한경모
AI에게 책을 쥐여주면 알아서 공부할까, 아니면 책을 펼칠 이유부터 가르쳐야 할까.
상하이 AI 연구소와 상하이교통대 등의 Lingkai Kong 연구진이 10월 29일 공개한 연구는 후자에 무게를 싣는다.
Intern-S2-Preview-35B에 교재 탐색을 보상하는 강화학습을 적용하자, 수학 증명 정확도가 51.5%에서 79.5%로 올랐다.
연구진은 수학 교재 158권에서 증명 문제 5,183개를 구성하고, 모델이 읽는 자료에서는 연습문제 해답을 제외했다.
BookNavigator는 목차 확인, 키워드 검색, 절 읽기를 지원하며, 모델은 풀이 도중 필요한 정의와 정리를 찾아 적용한다.
여기서 자가학습은 문제를 풀 때마다 모델 가중치를 고치는 방식이 아니라, 문맥 안에서 새 지식을 활용하는 전략이다.
검색과 추론을 결합하는 Search-R1 같은 선행연구의 흐름을 이어가되, 긴 교재를 오가며 원리를 익히는 과정에 초점을 맞췄다.
핵심은 정답 보상에 더해, 정답을 낸 과정에서 교재 도구를 사용하면 추가 보상을 주고 불필요한 호출에는 학습 기여도를 낮추는 설계다.
정답만 보상한 실험에서는 도구 사용 비율이 36.9%에서 6.7%로 줄어, 점수 상승이 탐구 습관까지 보장하지는 않았다.
에이전트 연구에서 중간 행동에도 피드백이 필요하다고 보는 시각을 뒷받침하는 대목이다.
- 학습 전에는 자율 탐색 정확도 51.5%가 책 없이 푸는 55.7%보다 낮았다.
- 학습 후에는 자율 탐색 79.5%가 관련 절을 미리 제공하는 비교군의 73.1%를 앞섰다.
- 외부 과제인 BrowseComp-Plus와 CL-bench의 개선 폭은 각각 1.7%포인트와 2.3%포인트에 그쳤다.
인사이트
정답률만 최적화하면 AI가 자료를 찾아보는 행동은 오히려 줄어들 수 있다. 기업용 에이전트의 경쟁력은 검색 기능의 유무를 넘어, 필요한 순간에 근거를 찾아 적용하도록 보상을 설계하는 능력에 달려 있다.
자주 묻는 질문
- 이거 그냥 RAG랑 뭐가 달라?
- 이 연구의 모델은 풀이 중 필요한 내용을 판단해 교재 탐색과 추론을 반복하도록 학습한다. 비교 대상은 관련 내용을 미리 제공하는 고정 검색 방식이므로, 모든 RAG 시스템보다 우월하다는 결과는 아니다. [연구 방법](https://arxiv.org/html/2610.39671v1#S2)
- 책을 읽으면 배운 내용이 영구적으로 저장돼?
- 문제를 푸는 도중에는 모델 가중치를 업데이트하지 않는다. 읽은 자료를 현재 문맥에서 활용하는 방식이므로, 내용을 다음 대화에서도 기억한다고 해석하면 안 된다. [관련 연구와의 차이](https://arxiv.org/html/2610.39671v1#S4)
- 우리 회사 매뉴얼에도 바로 쓰면 되는 거야?
- 이 논문의 수학 실험만으로 회사 업무에서의 효과를 보장할 수는 없다. 도입 전에는 실제 매뉴얼로 판단 정확도와 검색 비용, 응답 시간을 함께 비교하는 것이 적절하다.
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.