논문 브리핑
AI가 덜 읽어야 더 잘 푼다? SparseRead, 토큰 최대 92.9% 절감
글 · 한경모
AI 에이전트의 비용을 줄이는 다음 경쟁은 모델 크기뿐 아니라 ‘무엇을 읽힐 것인가’에서 벌어질 수 있다. Zedong Liu 등 연구진이 8월 23일 공개하고 11월 7일 개정한 SparseRead 논문은 외부 자료를 모델에 전달하는 단계에 주목한다. 문서와 웹페이지를 통째로 넣는 대신, 현재 작업에 필요한 근거부터 전달하고 부족할 때 읽는 범위를 넓히는 방식이다.
문제는 한 번 읽은 불필요한 내용이 이후 추론에도 계속 따라붙는다는 데 있다. 연구진이 분석한 LooGLE 질문별 정답 근거는 원문 토큰의 중앙값 3.17%였지만, 이는 근거를 찾고 검증하는 데 필요한 전체 독서량을 뜻하지는 않는다. 관련 연구들이 긴 문맥 처리, 검색, 관찰 내용 압축을 각각 발전시켜 온 가운데, 이번 논문은 그 앞단의 입력 통제를 공통 과제로 제시한다.
작동 원리는 ‘잘 요약해 달라’는 주문보다 구체적이며, 다음 세 요소가 함께 움직인다.
- Read Intent Protocol은 매번 필요한 정보와 이미 확인한 범위를 기록해 같은 자료를 불필요하게 다시 읽는 일을 줄인다.
- Adaptive Reader Backends는 문서·표·JSON 등 자료 형식에 맞춰 근거를 찾고, 출처 위치와 함께 전달한다.
- Budgeted Read Gate는 누적 전달량을 관리하다 선택적 읽기가 비경제적이면 전체 내용을 보여주는 방식으로 전환한다.
인사이트
SparseRead의 핵심은 요약 능력이 아니라 근거의 전달량과 추가 확인 과정을 통제하는 설계다. 에이전트의 경쟁력은 모델 성능에 더해, 필요한 근거를 빠짐없이 확보하면서 반복 입력을 줄이는 능력으로 확장될 수 있다.
자주 묻는 질문
- 토큰이 92.9% 줄면 요금도 그만큼 내려가?
- 92.9%는 논문 평가에서 나온 최대 토큰 감소율이며, 요금 절감률이 아니다. 실제 청구액은 모델별 단가, 입력·출력 비중, 캐시 적용과 추가 도구 비용에 따라 달라진다.
- 그냥 RAG로 필요한 부분만 찾으면 되는 거 아냐?
- RAG도 필요한 구절을 검색할 수 있다. SparseRead는 검색에 더해 확인한 범위와 남은 정보 요구를 기록하고, 누적 전달량에 따라 전체 읽기로 전환하는 과정을 통합한다.
- 덜 읽다가 핵심 내용을 놓치면 어떡해?
- SparseRead는 출처가 연결된 근거와 미해결 요구를 제공하고, 에이전트가 추가 확인이나 전체 읽기를 선택하도록 설계됐다. 다만 이런 장치가 모든 누락을 방지하거나 정답을 보장하지는 않는다.
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.