논문 브리핑
AI, '정답' 대신 '논쟁'을 제시한다: 설명 가능성을 넘어선 평가형 인공지능의 부상
글 · 한경모
인공지능(AI)이 우리 삶의 거의 모든 영역에 침투하면서, AI가 내놓는 결정이나 추천의 '투명성'과 '설명 가능성'에 대한 요구는 갈수록 커지고 있습니다. 특히 의료 진단, 법률 자문, 금융 투자와 같이 중요한 결정을 내릴 때, AI가 왜 그런 결론에 도달했는지 납득하기 어렵다면 그 신뢰도는 크게 떨어질 수밖에 없습니다. 이러한 배경 속에서 최근 '평가형 인공지능(Evaluative AI, EAI)'이라는 새로운 개념이 주목받고 있습니다. 이 접근 방식은 단 하나의 '정답'을 제시하는 대신, 다양한 가설과 각 가설을 뒷받침하거나 반박하는 증거들을 함께 제시함으로써 인간의 의사결정을 돕는 것을 목표로 합니다.
arXiv에 게재된 포지션 페이퍼 'Towards an Argumentative Foundation for Evaluative AI'는 이러한 평가형 인공지능의 핵심 기반으로 '계산 논증(computational argumentation)'을 제안합니다. 계산 논증은 복잡한 논증 구조를 형식적으로 표현하고 처리하는 방법론으로, 논쟁의 쟁점, 주장의 근거, 반론 등을 체계적으로 분석할 수 있게 합니다. 이 연구는 AI가 단순히 결과만 내놓는 것을 넘어, 마치 전문가처럼 자신의 판단 과정을 논리적으로 '설명'하고 사용자가 '반박'할 수 있는 여지를 제공해야 한다고 강조합니다. 이는 기존의 블랙박스형 AI 모델이 직면했던 신뢰 문제를 근본적으로 해결할 잠재력을 가졌다는 점에서 산업적, 기술적 파급 효과가 큽니다.
평가형 인공지능이 계산 논증을 기반으로 할 때 얻을 수 있는 이점은 명확합니다.
- 설명 가능성(Explainability, XAI) 강화: AI가 특정 결론에 도달한 이유뿐 아니라, 고려했던 다른 대안들과 왜 그 대안들이 배제되었는지까지 논증적으로 제시하여 사용자가 판단 과정을 깊이 이해할 수 있습니다.
- 반박 가능성(Contestability) 보장: AI의 논증 구조를 파악한 사용자는 특정 증거가 부적절하거나, 더 중요한 다른 증거가 간과되었다고 판단할 경우, 이에 대해 이의를 제기하고 자신의 주장을 펼칠 수 있습니다.
- 인간 중심 AI 시스템 구현: AI가 맹목적인 명령 수행자가 아닌, 인간과 함께 문제를 해결하고 의사결정을 논의하는 동등한 파트너로서 기능하게 합니다. 이는 AI에 대한 사용자의 신뢰와 수용도를 높이는 데 결정적인 역할을 합니다.
인사이트
평가형 인공지능은 계산 논증을 통해 AI의 의사결정 과정을 투명하게 공개하고 사용자의 반박을 허용함으로써, AI에 대한 신뢰를 획기적으로 높이고 인간 중심의 협력적인 AI 시대를 열 핵심 기술입니다.
자주 묻는 질문
- 평가형 인공지능(EAI)이 정확히 무엇인가요?
- 평가형 인공지능은 기존 AI처럼 하나의 정답을 내놓는 대신, 여러 가능한 가설들을 제시하고 각 가설에 대한 찬반 증거를 함께 제공하여 인간의 의사결정을 돕는 인공지능입니다. 사용자가 복수의 관점에서 정보를 얻고 판단할 수 있게 합니다.
- 기존의 AI 모델들과 어떤 점이 다른가요?
- 기존 AI, 특히 LLM은 특정 질문에 대해 단일 답변을 생성하거나 그 답변을 도출한 과정을 추론하는 데 중점을 둡니다. 반면 평가형 인공지능은 여러 대안적 관점과 그에 대한 논증적 근거를 명시적으로 비교, 대조하며, 사용자가 AI의 논리에 이의를 제기하고 직접 참여할 수 있는 여지를 제공합니다.
- 평가형 인공지능은 실제 어디에 활용될 수 있나요?
- 의료 분야에서 환자의 진단 및 치료법 결정 시 다양한 옵션과 각 옵션의 위험 및 이점을 제시하거나, 법률 분야에서 특정 사건에 대한 여러 법적 해석과 근거를 분석하는 데 활용될 수 있습니다. 복잡하고 중요한 의사결정이 필요한 모든 분야에서 인간 전문가의 의사결정 과정을 보조하는 데 기여할 수 있습니다.
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.