논문 브리핑
앤트로픽, 클로드에 ‘숨겨진 워터마크’ 도입… AI 콘텐츠 홍수 막을까, 회의론 여전
글 · 한경모
최근 생성형 인공지능(AI)의 확산과 함께 위조 콘텐츠 문제에 대한 우려가 커지는 가운데, 챗봇 클로드(Claude)로 유명한 앤트로픽(Anthropic)이 새로운 시도를 발표했습니다. 앤트로픽은 클로드 모델이 생성하는 텍스트에 눈에 보이지 않는 워터마크를 삽입하고, 이미지에는 AI 생성 태그를 추가할 것이라고 밝혔습니다. 이는 유럽연합(EU)의 AI 규제 움직임에 선제적으로 대응하고, 소위 'AI 슬롭(AI slop, 저품질 AI 생성 콘텐츠)'으로부터 정보의 신뢰성을 지키려는 노력의 일환입니다.
앤트로픽의 계획은 AI가 만든 결과물을 구별하기 위한 중요한 한 걸음으로 보입니다. 텍스트 워터마크는 특정 단어나 구문 배열에 미묘한 패턴을 심어 AI 생성 여부를 감지하게 하는 기술로 알려져 있습니다. 이는 마치 지폐 위조를 막기 위해 숨겨진 문양을 넣는 것과 비슷합니다. 이미지는 생성 과정에서 특정 메타데이터를 추가하여 AI로 만들어졌음을 식별할 수 있도록 합니다. 궁극적으로는 AI 콘텐츠의 출처를 명확히 하여 오정보 확산 방지, 저작권 보호, 그리고 창작자의 책임 소재를 명확히 하려는 목적입니다.
하지만 학계와 전문가들 사이에서는 이러한 '숨겨진 워터마크'의 실효성에 대해 회의적인 시각이 지배적입니다. 과학 저널 네이처(Nature)의 보도에 따르면, 많은 연구자들이 앤트로픽의 시도에 대해 그 취지는 좋지만, 기술적 한계로 인해 완전한 해결책이 되기는 어렵다고 지적합니다. 주요 쟁점은 다음과 같습니다.
- 취약한 내구성: AI 생성 텍스트는 복사-붙여넣기, 일부 내용 편집, 혹은 다른 LLM을 통한 재작성만으로도 워터마크가 쉽게 손실될 수 있습니다.
- 이미지 변형의 용이성: AI 생성 이미지는 압축, 필터 적용, 크기 조절 등 간단한 후처리만으로도 AI 태그가 제거될 가능성이 높습니다.
- 부분적 적용의 한계: 앤트로픽 클로드에서만 워터마크가 적용된다면, 워터마크가 없는 다른 수많은 AI 모델들이 만들어내는 콘텐츠를 막을 수 없어 효과가 제한적입니다.
- 탐지 정확성 문제: AI 생성 여부를 판별하는 과정에서 '거짓 양성(false positive)' 판정, 즉 사람이 작성한 글을 AI가 썼다고 오인하는 문제가 발생할 수 있습니다.
인사이트
앤트로픽의 워터마크 도입은 AI 콘텐츠의 투명성을 높이려는 중요한 시도지만, 기술적 한계와 회의적인 시각 속에서 AI 시대 정보 신뢰성 확보를 위한 지속적인 기술 진화와 사회적 합의의 필요성을 강조합니다.
자주 묻는 질문
- 워터마크를 넣으면 정말 AI가 만든 콘텐츠를 다 걸러낼 수 있을까요?
- 아쉽지만 현재 기술로는 모든 AI 생성 콘텐츠를 완벽하게 걸러내기는 어렵습니다. 앤트로픽의 워터마크도 콘텐츠가 복사되거나 조금만 수정되어도 손상될 가능성이 높다는 한계가 있습니다.
- 워터마크 기술이 왜 중요한가요? 어차피 우회될 텐데요.
- 워터마크는 완벽한 방어책이 아니더라도 AI 콘텐츠의 출처를 밝히고 책임감을 부여하려는 중요한 첫걸음입니다. 이는 AI 사용에 대한 경각심을 높이고, 향후 더 정교한 탐지 기술 개발을 위한 기반을 마련하는 데 기여할 수 있습니다.
- 다른 AI 회사들도 이런 워터마크 기술을 도입하고 있나요?
- 네, 앤트로픽 외에도 구글은 SynthID 같은 자체 워터마크 기술을 개발했고, 오픈AI 등 주요 AI 기업들도 AI 생성 콘텐츠를 식별하기 위한 다양한 연구와 노력을 기울이고 있습니다. 이는 AI 규제 강화 추세와 맞물려 전반적인 산업의 방향성으로 자리 잡고 있습니다.
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.