기술 트렌드
메타, 인스타그램 AI 이미지 생성 기능 잠정 중단... '딥페이크 논란'에 한발 물러서다
글 · 정우석
메타가 인스타그램에 도입했던 인공지능 기반 이미지 생성 기능을 사용자 반발에 밀려 전격 중단했습니다. 이 기능은 공개 계정을 태그하는 것만으로 해당 콘텐츠를 참조해 인공지능 이미지를 만들 수 있도록 설계되어, 출시 직후부터 '딥페이크' 악용 가능성과 초상권, 저작권 침해 논란에 휩싸였습니다. 인공지능 기술 혁신을 서두르던 메타가 대중의 윤리적 우려 앞에서 잠시 숨을 고르는 모습입니다.
지난주 메타는 인스타그램 사용자들이 인공지능 이미지 생성 도구를 활용하도록 새로운 기능을 공개했습니다. 그러나 이는 특정 공개 계정을 태그하면 그 게시물 관련 인공지능 이미지를 손쉽게 만들 수 있어 우려를 낳았습니다. 동의 없이 타인의 공개 이미지를 활용해 변형된 콘텐츠를 생성할 수 있었고, 원본이 공개된 정보라 할지라도 인공지능이 재해석 및 조작하는 과정에서 '딥페이크' 오남용 가능성이 제기된 것입니다. 특히 유명인이나 인플루언서 이미지의 악의적 조작 우려는 메타 AI 기술 활용 신뢰도 하락 지적으로 이어졌습니다.
메타는 기능 도입이 사용자 창의성 증대와 플랫폼 참여 유도를 위한 것이었다고 설명했지만, 막대한 비판에 직면했습니다. 이 사건은 소셜 미디어 플랫폼들이 생성형 인공지능 기술 도입 시 직면하는 본질적인 딜레마를 보여줍니다. 기술 혁신, 사용자 권리 보호, 사회적 책임 사이의 균형점 찾기가 얼마나 어려운지 명확히 드러난 사례입니다. 앞서 다른 플랫폼에도 유사 기능을 도입한 메타였지만, 인스타그램의 공개 계정 콘텐츠 활용은 민감한 지점에서 선을 넘었다는 평가가 지배적입니다.
많은 인공지능 전문가와 시민 단체들은 공개 데이터라도 인공지능 모델 학습 및 콘텐츠 생성에 명시적 동의가 필요하다고 강조해왔습니다. 인스타그램의 이번 기능은 이러한 원칙을 간과했으며, 단순히 "공개된 정보이니 괜찮다"는 식의 접근은 개인 프라이버시와 지적 재산권 보호를 심각하게 위협할 수 있음을 보여주었습니다. 기술 기업들의 사용자 데이터 접근 및 활용 방식에 대한 사회적 감시와 윤리적 기준 정립이 중요해진 시점입니다.
주요 쟁점은 다음과 같습니다.
- 윤리적 문제: 공개 계정의 콘텐츠를 소유자 동의 없이 인공지능 학습 및 이미지 생성에 활용하는 것은 초상권, 저작권, 사생활 침해 논란을 야기합니다.
- 기술적 오용 가능성: 생성된 인공지능 이미지가 '딥페이크' 형태로 악용될 소지가 있어, 명예훼손이나 사기 등 사회적 파장을 일으킬 위험이 큽니다.
- 신뢰도 하락: 사용자들이 플랫폼에 업로드한 콘텐츠가 통제 없이 인공지능에 의해 변형될 수 있다는 우려는 플랫폼에 대한 신뢰를 떨어뜨리고, 장기적인 사용자 이탈을 초래할 수 있습니다.
- 규제 리스크: 인공지능 생성 콘텐츠에 대한 각국 정부의 규제 움직임이 강화되는 상황에서, 이와 같은 기능은 불필요한 법적 리스크를 초래하고 기업 이미지에도 악영향을 미칠 수 있습니다.
인사이트
인공지능 기술의 급격한 발전이 사용자에게 새로운 경험을 제공하는 동시에, 초상권 및 저작권 침해, 딥페이크 오남용 등 윤리적 문제를 야기하며 기술 혁신과 사회적 책임 간의 균형점 찾기가 중요함을 보여준 사례입니다.
자주 묻는 질문
- 메타는 왜 이런 기능을 성급하게 출시했을까요?
- 소셜 미디어 플랫폼들은 인공지능 기술을 통해 사용자 참여를 유도하고 경쟁 우위를 확보하려는 압박을 받습니다. 메타 역시 생성형 인공지능 분야의 선두 주자가 되기 위해 다양한 실험적 기능을 빠르게 선보이는 과정에서 윤리적 검토가 미흡했던 것으로 보입니다.
- 그럼 이제 인스타그램에서 AI 이미지를 아예 만들 수 없나요?
- 아닙니다. 이번에 중단된 기능은 특정 공개 계정의 콘텐츠를 기반으로 AI 이미지를 생성하는 기능입니다. 일반적인 AI 이미지 생성 기능이나 텍스트를 이용한 이미지 생성 기능은 여전히 제공될 수 있으며, 메타는 향후 사용자 동의나 통제권이 강화된 형태로 기능을 재도입할 가능성도 있습니다.
- 공개 계정 콘텐츠인데 왜 동의가 필요한가요?
- 계정이 공개되어 있더라도, 해당 콘텐츠가 인공지능 기술을 통해 완전히 새로운 형태로 변형되거나 다른 사람의 이미지와 결합될 경우 저작권, 초상권 등 법적 권리 침해 소지가 발생합니다. 특히 '딥페이크'처럼 부정적으로 악용될 가능성이 있어 더 엄격한 동의 절차가 요구됩니다.
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.