기술 트렌드
호주 공정근로위원회, AI 법률 자문 '오류' 판정... 전문직 AI 활용에 경종
글 · 정우석
최근 호주에서 인공지능(AI)이 생성한 법률 자문이 공공 기관으로부터 '명백히 틀렸다'는 강력한 비판을 받으며, AI 기술의 신뢰성 문제가 다시금 도마 위에 올랐습니다. 호주 공정근로위원회(Fair Work Commission, FWC)는 한 사건에서 신청인이 AI의 도움을 받아 작성한 법률 주장이 사실과 다를 뿐 아니라 핵심적인 법적 오류를 포함하고 있다고 지적했습니다. 이는 단순히 AI의 오작동을 넘어, 법률과 같은 고도의 전문성을 요구하는 분야에서 AI 활용의 한계와 위험성을 적나라하게 드러낸 사례로 평가됩니다.
해당 사건은 직장 내 분쟁 해결 과정에서 발생했습니다. 한 개인이 FWC에 제출한 서류에 인공지능이 제시한 법률적 주장과 참고 자료를 활용했는데, 위원회는 이 주장이 사건의 쟁점과 무관한 내용을 포함하고 있거나, 전혀 사실이 아닌 정보를 근거로 삼았음을 발견했습니다. FWC는 이러한 AI의 답변을 ‘명백히 틀렸다’고 단정하며, AI가 제공하는 정보에 대해 맹목적으로 의존해서는 안 된다는 경고를 분명히 했습니다. 특히 위원회는 AI가 생성한 내용에 포함된 오류가 해당 개인에게 불필요한 비용과 시간을 초래할 수 있었음을 우려했습니다.
이 사건은 법률 분야에 AI를 도입하려는 전 세계적인 움직임 속에서 중요한 교훈을 던집니다. 많은 법률 기술(Legal Tech) 스타트업과 기업들이 AI를 활용해 소송 전략 분석, 계약서 검토, 법률 연구 등을 자동화하며 효율성을 높이고자 노력하고 있습니다. 하지만 이번 FWC의 판정은 현재의 대규모 언어 모델(LLM)이 가진 근본적인 한계, 즉 ‘환각 현상(Hallucination)’과 정확한 사실 관계 판단 능력 부족이 전문 분야에서 얼마나 치명적인 결과를 초래할 수 있는지 여실히 보여줍니다. AI는 방대한 데이터를 학습하지만, 인간의 상식적인 추론 능력이나 맥락을 이해하는 능력, 그리고 미묘한 법적 뉘앙스를 파악하는 데는 아직 역부족입니다.
일각에서는 AI가 법률 연구나 초안 작성 등 단순 보조 업무에는 여전히 유용하다고 주장합니다. 실제로 많은 로펌과 기업들이 AI를 활용해 초기 리서치 시간을 단축하고 있으며, 이는 분명 긍정적인 효과를 가져올 수 있습니다. 그러나 이번 사례는 AI의 결과물을 맹신하고 최종 판단에 그대로 적용할 경우 발생할 수 있는 심각한 문제점을 경고합니다. 전문가들은 AI가 제공하는 정보는 반드시 인간 전문가의 비판적인 검토와 검증을 거쳐야 한다는 점을 강조합니다. 특히 법적 책임이 따르는 결정에서는 AI의 한계를 명확히 인지하고 신중하게 접근해야 합니다.
이번 사건이 제시하는 주요 쟁점은 다음과 같습니다:
- AI의 현재 한계: 대규모 언어 모델의 환각 현상과 사실 관계 오류는 여전히 해결해야 할 과제입니다.
- 전문 분야 적용의 위험성: 법률, 의료 등 고도의 정확성과 책임이 요구되는 분야에서는 AI 활용에 더욱 엄격한 검증이 필요합니다.
- AI 활용 책임 소재: AI 개발사는 물론, AI를 활용하는 최종 사용자 역시 제공된 정보에 대한 검증 책임을 갖습니다.
- 규제 및 가이드라인의 필요성: AI 기술의 발전 속도에 맞춰 각 전문 분야별 AI 활용에 대한 명확한 윤리적, 법적 가이드라인 마련이 시급합니다.
인사이트
이번 호주 공정근로위원회의 AI 법률 자문 비판은 AI의 현재 한계와 전문 분야 적용 시 발생할 수 있는 심각한 위험을 명확히 보여주며, AI 활용에 대한 신중한 접근과 인간 전문가의 비판적 검토가 필수적임을 시사합니다.
자주 묻는 질문
- AI가 법률 자문도 한다고 해서 기대했는데, 그럼 결국 못 쓰는 건가요?
- 아닙니다. AI는 방대한 법률 데이터를 빠르게 탐색하고 요약하는 등 보조적인 역할에는 매우 유용합니다. 하지만 핵심적인 법률 자문이나 복잡한 판례 해석 등에는 현재 AI 모델의 환각 현상과 사실 오류 가능성 때문에 인간 전문가의 검토가 필수적입니다.
- 이런 일이 벌어진 건 특정 AI 모델 때문인가요? 모든 AI가 이런 문제가 있나요?
- 이번 사건은 특정 AI 모델의 문제라기보다는, 현재 대규모 언어 모델(LLM)이 공통적으로 가진 한계, 즉 '환각 현상'과 정확한 사실 관계 파악 능력 부족에서 비롯된 것으로 보입니다. 아직까지 어떤 AI 모델도 법률적 맥락을 완벽히 이해하고 추론하는 수준에 도달했다고 보기는 어렵습니다.
- 그럼 법률 전문가들은 이제 AI 때문에 일자리를 잃을 걱정은 안 해도 되는 건가요?
- AI는 법률 전문가의 역할을 대체하기보다, 효율성을 높이는 도구로서 활용될 가능성이 큽니다. 단순 반복 업무를 AI가 처리하고, 법률 전문가는 AI가 제공하는 정보를 비판적으로 검토하고 최종 판단을 내리는 데 집중하는 방향으로 업무 형태가 변화할 것입니다. 인간의 고유한 판단력과 윤리적 책임은 AI가 대체하기 어려운 영역으로 남을 것입니다.
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.