논문 브리핑
AI 몇 개를 불러야 돈값 할까…PISA-E의 질문별 모델 선택법
글 · 한경모
AI를 여러 개 부르면 답은 좋아질 수 있지만, 청구서도 함께 커진다. 11월 6일 공개된 이탈리아 CNR·피사대 Saul Urso 등의 연구는 질문마다 호출할 모델의 종류와 수를 함께 고르는 PISA-E를 제안했다. 핵심은 AI를 더 많이 동원하는 능력보다, 추가 호출이 돈값을 할지 미리 판단하는 능력이다.
배경에는 모든 질문에 비싼 모델을 쓰기 어렵다는 서비스 운영의 고민이 있다. 라우팅 연구계는 정답률과 호출 비용을 함께 평가해 왔으며, 이번 논문도 그 흐름을 잇는다. 예컨대 고객센터의 배송 안내와 복잡한 기술 문의에 같은 연산 예산을 배정할 필요가 있느냐는 문제다.
기반 기술 PISA는 질문이 여러 의미 집단에 얼마나 가까운지 계산하고, 모델별 예측기로 성공 가능성을 추정한다. PISA-E는 이 예측을 활용해 모델 조합을 고르며, 비용과 품질의 우선순위를 서비스 실행 중 재학습 없이 바꿀 수 있다. 차이는 세 갈래로 정리된다.
- 단일 모델 라우팅은 질문 하나를 처리할 모델 하나를 고른다.
- 고정 앙상블은 여러 모델을 묶어 쓰지만 질문마다 투입 규모를 바꾸기 어렵다.
- PISA-E는 상위 후보를 1개·3개·5개처럼 늘려 비교하고, 선택한 모델을 병렬 호출한다.
인사이트
LLM 서비스의 경쟁력에는 질문마다 연산 예산을 배분하는 능력도 포함된다. 업무별 모델 평가 데이터를 확보한 기업은 모델 선택과 호출 규모를 함께 최적화할 기반을 갖게 된다.
자주 묻는 질문
- 여러 AI를 쓰는데 어떻게 더 싸지는 거야?
- PISA-E는 질문마다 호출할 모델의 종류와 수를 조절한다. 약 36%와 25%의 비용 절감은 특정 저비용 설정에서 경쟁 앙상블과 비교한 결과이며, 단일 모델보다 항상 저렴하다는 뜻은 아니다. [출처](https://huggingface.co/papers/2611.10193)
- 예산을 바꿀 때마다 다시 학습해야 해?
- PISA-E는 추론 시 비용과 품질의 우선순위를 재학습 없이 조절할 수 있다. 다만 모델별 역량을 추정하는 기반 예측기는 사전에 학습해야 한다. [출처](https://arxiv.org/html/2611.10193v1)
- AI끼리 토론해서 정답을 만드는 방식이야?
- PISA-E는 선택한 모델을 병렬 호출하고, 예상 역량과 응답 간 의미 유사도를 반영해 최종 응답을 고른다. 모델들이 서로의 답을 읽고 여러 차례 토론하는 구조는 아니다. [출처](https://arxiv.org/html/2611.10193v1)
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.