기술 트렌드
오픈AI, 챗GPT 텍스트에 '보이지 않는 워터마크' 심는다… EU 사용자부터
글 · 정우석
오픈AI가 자사 챗GPT와 코덱스(Codex) 모델이 생성하는 텍스트 출력물에 보이지 않는 기계 판독 가능한 워터마크를 도입합니다. 이 새로운 기능은 'textGrain'이라는 이름으로 유럽연합(EU) 사용자들에게 먼저 적용될 예정입니다. 인공지능 생성 콘텐츠의 투명성과 출처 표명에 대한 요구가 전 세계적으로 높아지는 가운데, 이는 오픈AI가 AI 책임성 강화를 위해 내놓은 또 하나의 중요한 움직임으로 평가됩니다.
이번 워터마킹 기술 도입은 갈수록 심화되는 AI 생성 콘텐츠의 오남용 문제에 대응하기 위한 것입니다. AI 챗봇이 작성한 글이 뉴스 기사, 학교 과제, 소셜 미디어 게시물 등 다양한 분야에서 인간이 작성한 콘텐츠와 구분하기 어려워지면서, 미정보 확산, 학업 부정행위, 저작권 침해 등 여러 사회적 문제가 대두되어 왔습니다. 특히 EU AI Act와 같은 규제 프레임워크가 AI 시스템의 투명성을 의무화하는 방향으로 발전하면서, 이러한 기술적 대응은 필수가 되었습니다.
오픈AI가 도입하는 textGrain 워터마크는 텍스트 내에 사람이 인지할 수 없는 통계적 패턴이나 언어적 특징을 심는 방식으로 작동합니다. 이는 텍스트 내용의 의미를 바꾸지 않으면서도, 특정 탐지 모델이 해당 텍스트가 AI에 의해 생성되었음을 식별할 수 있도록 합니다. 오픈AI는 이 textGrain 워터마크가 구글 딥마인드가 이미지용으로 개발한 SynthID를 텍스트에 적용한 것과 같은 다른 접근 방식과 비교했을 때 성능면에서 '동등하거나 능가한다'고 주장했습니다. 앤트로픽 또한 지난해 8월 유사한 워터마킹 도입을 발표하며 업계의 책임감 있는 AI 개발 경쟁을 예고한 바 있습니다.
그러나 이러한 워터마크 기술이 완벽한 해결책은 아니라는 점도 명확히 인지해야 합니다. 오픈AI 스스로도 워터마크가 '만능 해결책(silver bullet)'이 아니라고 밝히며 한계를 인정했습니다. 주요 한계점은 다음과 같습니다.
- 수정 가능성: AI 생성 텍스트가 사람에 의해 편집되거나, paraphrasing(재구성), 번역 등의 과정을 거치면 워터마크가 손상되거나 제거될 수 있습니다.
- 탐지 정확도: 모든 AI 생성 텍스트를 100% 정확하게 탐지하기 어려울 수 있으며, 오탐(false positive)이나 미탐(false negative)의 가능성도 존재합니다.
- 제한된 적용 범위: 이 워터마크는 오픈AI의 모델에서만 작동합니다. 다른 오픈소스 또는 상용 AI 모델에서 생성된 콘텐츠에는 적용되지 않아 전체 AI 생태계의 투명성을 보장하기는 어렵습니다.
인사이트
오픈AI의 텍스트 워터마크 도입은 AI 생성 콘텐츠의 투명성과 책임성 강화를 위한 중요한 기술적 진보이며, 규제 준수와 사용자 신뢰 확보를 위한 업계의 노력을 대변합니다. 그러나 워터마크의 한계를 인정하고 보완하는 다각적인 접근이 필요합니다.
자주 묻는 질문
- 워터마크가 정말 사람 눈에 보이지 않나요? 그리고 AI가 생성한 모든 텍스트를 정확히 찾아낼 수 있을까요?
- 네, 오픈AI의 textGrain 워터마크는 사람이 인지할 수 없는 미세한 패턴을 텍스트에 삽입합니다. 하지만 이 기술이 AI 생성 텍스트를 100% 정확하게 찾아내는 것은 아닙니다. 텍스트가 편집되거나 재구성되면 워터마크가 손상될 수 있어, 오탐이나 미탐의 가능성이 존재합니다.
- 그렇다면 앞으로 AI가 쓴 글은 모두 워터마크로 식별할 수 있게 되는 건가요?
- 아쉽지만 현재로서는 아닙니다. 이번 워터마크는 오픈AI의 챗GPT와 코덱스 모델에서 생성된 텍스트에만 적용됩니다. 다른 AI 모델이나 오픈소스 AI 도구로 만든 텍스트에는 적용되지 않으므로, 모든 AI 생성 텍스트를 식별할 수 있게 되는 것은 아닙니다.
- 왜 유럽연합(EU) 사용자들에게 먼저 적용되는 건가요?
- 유럽연합은 AI 기술 규제에 가장 적극적인 지역 중 하나로, EU AI Act와 같은 법안을 통해 AI 시스템의 투명성과 책임성을 강조하고 있습니다. 오픈AI는 이러한 규제 환경에 선제적으로 대응하고, EU 사용자들의 요구에 부응하기 위해 이 지역에 먼저 워터마크 기능을 도입하는 것입니다.
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.