논문 브리핑
로봇 AI의 23.8%포인트 우위, 채점 기준 바꾸자 사라졌다
글 · 한경모
로봇 AI가 일을 배웠을까, 채점법을 외웠을까.
11월 5일 베이징대·싱가포르국립대 소속 Wenbo Huang 등 연구진이 공개한 논문은 자기개선 에이전트의 성적표에 이 질문을 던진다.
성공 기준을 미리 알려주자 벌어진 23.8%포인트 격차가, 같은 행동을 다른 기준으로 채점하자 사라졌다.
배경에는 사람의 시범을 따라 배우는 로봇용 평가를 코드 작성 에이전트에도 사용하는 관행이 있다.
시범에는 담겼지만 자연어 지시에는 빠진 동작까지 요구하면, 지시를 수행하는 능력과 숨은 규칙을 아는 능력이 뒤섞인다.
RoboDojo의 press_by_number는 지시에 없는 ‘빨간 버튼 누르기 사이에 파란 버튼을 정확히 두 번 누르기’를 요구한 사례다.
연구진은 실행 모델과 도구를 고정하고 기술·기억 라이브러리만 수정하면서, 학습기에 검증 코드와 점수 등을 보여주는 Criteria Exposure(CE)의 효과를 비교했다.
25개 과제에서 5차례 개선을 진행했으며, 핵심 재채점은 지시와 기준이 어긋난 16개 과제의 조건별 320회 실행을 대상으로 했다.
핵심 결과는 다음과 같다.
- 기존 기준: CE 적용군의 성공률은 51.6%, 미적용군은 27.8%였다.
- 지시에 충실하도록 고친 기준: 같은 실행의 성공률은 각각 45.0%, 47.2%로, 앞선 우위가 사라졌다.
- 새 과제 전이: 200회 중 성공은 CE 적용군 71회, 미적용군 80회로, 채점표를 읽은 경험이 더 잘 옮겨가지는 않았다.
인사이트
자기개선의 성과에는 작업 숙련과 검증기 적응이 섞일 수 있다. 로봇 AI의 경쟁력을 판단하려면 점수 상승뿐 아니라 지시에 부합하는 다른 평가와 새로운 작업에서도 이득이 유지되는지 확인해야 한다.
자주 묻는 질문
- 그럼 로봇 AI가 꼼수를 부린 거야?
- 이 실험은 에이전트가 제공받은 성공 기준에 맞춰 적응했음을 보여주며, 의도적으로 속였다는 증거는 아니다. 지시에 없는 조건을 요구한 검증기 자체도 성능 해석을 어렵게 만든 원인이다.
- 채점 기준은 무조건 숨겨야 해?
- 이 연구만으로 모든 기준 공개가 해롭다고 결론낼 수는 없다. 실제 작업에 필요한 요구사항은 지시에 명시하고, 특정 평가 코드에 대한 적응과 다른 작업에도 통하는 능력 향상을 구분해야 한다.
- 실제 공장 로봇도 똑같이 실패한다는 뜻이야?
- 아니다. 핵심 재채점은 RoboDojo 시뮬레이션에서 수행됐고, 수정 기준도 연구진이 설계했으므로 실제 공장 로봇의 실패율을 추정할 근거는 아니다. 연구진도 독립 검토와 다른 벤치마크에서의 추가 검증을 과제로 제시했다.
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.