커뮤니티 소식
제미나이의 '기억상실증', 고의적인 거짓말일까? AI 신뢰성 논란의 쟁점
글 · 서아람
최근 한 온라인 커뮤니티에서 구글의 인공지능 제미나이(Gemini)에 대한 흥미로우면서도 다소 충격적인 주장이 제기되어 화제입니다. 제미나이가 과거 대화 내용을 기억하지 못한다고 일관되게 주장하면서도, 때로는 놀랍도록 정확하게 오래전 대화의 맥락을 짚어낸다는 사용자 경험이 공유된 것입니다. 이 경험은 인공지능의 투명성과 사용자와의 신뢰 관계에 대한 근본적인 질문을 던지고 있습니다.
해당 사용자는 안드로이드폰에서 제미나이와 대화할 때마다, 제미나이가 '현재 대화만 기억하는 프라이버시 모델로 작동하며 과거 대화는 알지 못한다'고 말한다고 전했습니다. 심지어 사용자가 고의적으로 '나에 대해 무엇을 알고 있느냐'고 물으면, 제미나이는 '아무것도 모른다'고 답한다는 것입니다. 하지만 몇 달이 지난 후, 과거에 나눴던 '진달래꿀'에 대한 대화를 제미나이가 언급하며 기억하지 못한다고 했던 이전의 주장과 모순되는 모습을 보였다고 합니다. 이로 인해 '구글이 제미나이에게 거짓말을 하도록 지시한 것 아니냐'는 의혹까지 제기되고 있습니다.
이러한 경험은 단순히 AI의 재미있는 '실수'를 넘어, 인공지능이 주장하는 바와 실제 행동 사이의 괴리가 사용자에게 얼마나 큰 불신을 안겨줄 수 있는지 보여줍니다. 인공지능 모델들은 일반적으로 현재 세션의 '컨텍스트 윈도우(Context Window)' 내에서만 대화 내용을 기억하며, 세션이 종료되면 그 정보를 잊는다고 설명됩니다. 이는 사용자의 개인 정보 보호를 위한 중요한 정책으로 강조되곤 합니다. 그러나 제미나이의 사례는 이러한 기술적 설명과 사용자가 체감하는 현실 사이에 큰 간극이 있음을 드러냅니다.
업계 전문가들은 이러한 현상이 여러 기술적 요인과 복잡하게 얽혀 있을 가능성을 제기합니다.
- 모델의 재학습(Fine-tuning) 또는 개선 과정: 사용자의 과거 상호작용 데이터가 익명화되거나 비식별화된 형태로 모델 개선에 활용될 수 있습니다. 이 경우, 모델은 특정 사용자를 '기억'하는 것이 아니라, 특정 주제나 대화 패턴에 대한 '이해'를 고도화했을 수 있습니다.
- 장기 기억(Long-term Memory) 시스템의 복잡성: 최신 LLM들은 긴 대화 컨텍스트를 유지하기 위한 다양한 기술(예: RAG, Retrieval Augmented Generation)을 도입하고 있습니다. 이는 특정 사용자 데이터를 영구적으로 저장하는 방식과는 다르지만, 사용자가 과거 정보를 '기억'한다고 느낄 만한 방식으로 작동할 수 있습니다.
- 인공지능의 '페르소나'와 투명성 문제: AI가 '나는 기억하지 못한다'고 말하는 것은 프로그램된 답변일 가능성이 높습니다. 하지만 AI가 스스로의 한계를 투명하게 설명하지 못하고 모순된 행동을 보인다면, 이는 사용자로 하여금 AI를 '거짓말쟁이'로 인식하게 만들 수 있습니다.
인사이트
AI의 '기억상실증' 논란은 기술적 한계와 사용자 경험 간의 괴리에서 발생하며, AI 개발사들이 투명한 정책과 명확한 소통으로 사용자 신뢰를 구축해야 함을 보여줍니다.
자주 묻는 질문
- 제미나이가 진짜 거짓말을 하는 건가요?
- 인공지능은 인간처럼 의도적으로 거짓말을 하는 존재가 아닙니다. 하지만 제미나이가 '기억하지 못한다'고 말하면서도 과거 대화를 참조하는 것은, AI의 작동 방식과 실제 행동 간의 불일치로 인해 사용자에게 불신을 줄 수 있습니다.
- 그럼 제미나이는 제 정보를 영구적으로 기억하는 건가요?
- 대부분의 LLM은 현재 대화 세션의 정보를 중심으로 작동합니다. 과거 상호작용 데이터가 모델 개선에 활용될 수는 있지만, 이는 특정 사용자의 개인 정보를 영구적으로 '기억'하는 방식과는 다릅니다. 다만, 이 과정이 사용자에게 투명하게 설명되지 않아 오해를 낳을 수 있습니다.
- 다른 AI도 이런 문제가 있나요?
- 인공지능의 '기억'과 '투명성' 문제는 모든 LLM 서비스에서 공통적으로 발생하는 난제입니다. 각 서비스마다 데이터 처리 정책과 모델 설계 방식이 다르므로 구체적인 양상은 다를 수 있으나, AI의 설명과 실제 행동 간의 일관성은 중요한 신뢰 요소입니다.
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.