논문 브리핑
로봇의 ‘확신’을 의심했더니…블록 작업 성공률 16.7%→32.6%
글 · 한경모
로봇이 냉장고 선반을 보고 ‘비어 있다’고 답해도, 그 판단을 그대로 행동으로 옮겨도 될까.
이스라엘 테크니온의 Guy Azran과 Sarah Keren은 11월 10일 공개한 논문에서 인식의 불확실성을 행동 계획까지 전달하는 PRaVaSS를 제안했다.
핵심은 AI의 눈을 더 좋게 만드는 것보다, 눈이 틀릴 가능성을 계획기가 버리지 않도록 연결하는 데 있다.
기존 방식은 시각언어모델(VLM)의 추정을 하나의 상태로 확정하기 쉬운데, 모든 가능한 상태를 끝까지 계산하면 경우의 수가 폭증한다.
논문이 소개한 주방 예시에서는 위쪽 선반이 비었다는 확신이 60%, 아래쪽은 95%여서, 둘 다 ‘비었다’로 처리하면 중요한 차이가 사라진다.
불확실성을 다루는 계획 연구에서는 여러 가능한 상황을 함께 고려하지만, 계산 부담을 어떻게 줄이느냐가 오래된 쟁점이다.
- 단일 추정은 가장 그럴듯한 상황 하나에 행동을 맡기므로 인식 오류가 계획 전체로 번질 수 있다.
- 전체 분포를 다루면 가능성을 폭넓게 반영하지만, 판단할 항목이 늘수록 계산이 무거워진다.
- 새 방법의 MBSθ는 설정한 누적 확률에 도달하는 최소한의 유효 상태 집합을 선택한다.
인사이트
인식의 불확실성을 지우고 행동을 결정하면, 더 똑똑한 모델을 붙여도 실패 경로가 남는다. 로봇의 경쟁력은 무엇을 알아보는지뿐 아니라 확신이 부족할 때 어떻게 행동하는지로도 평가해야 한다.
자주 묻는 질문
- 이거 로봇용 새 AI 모델이야?
- PRaVaSS는 새 인식 모델이 아니라, 기존 모델의 확률 출력을 작업에 맞는 상태 후보 집합으로 바꾸는 알고리즘이다. 계획기는 이 후보들을 함께 고려해 행동을 정할 수 있다.
- 확률을 99%로 설정하면 사고가 거의 안 난다는 뜻이야?
- 아니다. 임계값 0.99는 추정한 분포에서 선택된 상태들의 누적 확률을 뜻하며, 실제 안전이나 성공률 99%를 보장하지 않는다. 모델의 확률이 부정확하거나 여러 인식 오류가 함께 발생하면 현실과 차이가 생길 수 있다.
- 성공률이 두 배면 바로 물류 로봇에 써도 돼?
- 블록 환경의 성공률은 16.7%에서 32.6%로 높아졌지만, 이 결과만으로 현장 배치 준비가 끝났다고 볼 수는 없다. 실제 도입에는 해당 작업의 지연시간, 인식 오류, 행동 실패 비용을 포함한 추가 검증이 필요하다.
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.