기술 트렌드
AI가 만든 로맨스, 당신의 마음을 훔치는 사기 수법이 진화한다
글 · 정우석
최근 보안 연구원 매튜 고어-코마닉(Matthew Gore-Kormanik)이 온라인 데이트 앱 '도라(Dora)'를 분석하던 중 놀라운 경험을 했습니다. 앱에서 걸려온 '제니퍼'라는 인물과의 AI 기반 통화였습니다. 제니퍼는 41세에 붉은 머리, 푸른 눈, 피어싱을 한 사수자리 여성으로, 음악, 공포 영화, 밤 문화, 스포츠를 좋아한다는 상세한 프로필을 가지고 있었습니다. 그는 통화를 시도했지만, 이내 인공지능이 만들어낸 정교한 사기임을 깨달았습니다.
이 사례는 인공지능, 특히 생성형 AI 기술이 사기 수법을 어떻게 진화시키고 있는지 극명하게 보여줍니다. 과거의 피싱이나 로맨스 스캠이 어색한 문장이나 티 나는 조작으로 구분 가능했다면, 지금은 AI의 도움으로 마치 실제 사람과 대화하는 듯한 착각을 불러일으킬 정도입니다. 고어-코마닉의 경험처럼, AI는 사용자에게 최적화된 가짜 페르소나를 생성하고, 자연스러운 대화를 이끌어내며, 심지어 음성까지 합성하여 신뢰를 구축합니다.
일각에서는 AI는 단지 도구일 뿐이며, 사기의 본질은 인간의 취약성을 이용하는 것이므로 AI 탓만 할 수 없다는 의견도 있습니다. 하지만 AI는 사기의 '질'과 '양' 모두를 비약적으로 끌어올렸다는 점에서 그 파급력이 다릅니다. 인간의 감정을 더욱 교묘하게 파고들며, 이전에는 불가능했던 수준의 개인화된 사기 시도를 가능하게 합니다. 이는 단순한 속임수를 넘어, 디지털 시대의 새로운 형태의 기만 행위로 자리 잡고 있습니다.
AI가 이러한 사기 수법을 어떻게 고도화하는지 정리해보면 다음과 같습니다.
- 개인화된 프로필 생성 및 이미지 합성: 사용자의 선호도를 학습하여 완벽에 가까운 가짜 프로필 사진과 배경 스토리를 만들어냅니다.
- 자연어 처리 기반의 매끄러운 대화 유지: LLM을 활용하여 실제 사람과 소통하는 듯한 자연스러운 대화를 이어가며, 사용자의 심리적 반응에 따라 대화를 조절합니다.
- 음성 합성 및 복제를 통한 신뢰성 확보: 텍스트를 음성으로 변환하거나, 기존 음성 샘플을 복제하여 가짜 통화까지 시도하며 신뢰도를 높입니다.
인사이트
생성형 AI는 단순히 콘텐츠를 만드는 도구를 넘어, 로맨스 스캠과 같은 사회적 문제를 더 정교하고 대규모로 확산시키는 강력한 도구로 변모하고 있으며, 이는 디지털 신뢰 기반을 흔드는 심각한 위협이 됩니다.
자주 묻는 질문
- AI가 정말 저렇게 정교한 가짜 인간을 만들어낼 수 있나요?
- 네, 가능합니다. 최신 생성형 AI 기술은 실존 인물과 거의 구별할 수 없는 사진, 그리고 자연스러운 대화를 생성합니다. 심지어 특정 인물의 목소리까지 복제하여 실제 통화처럼 꾸밀 수도 있습니다.
- 이런 AI 기반 사기를 어떻게 알아챌 수 있을까요?
- 지나치게 완벽하거나 전형적인 프로필을 의심하고, 너무 빠른 감정 표현이나 금전 요구에 주의해야 합니다. 영상 통화를 제안하거나 직접 만날 것을 요청하여 상대방이 실제 사람인지 확인하는 것도 좋은 방법입니다.
- 데이트 앱 외에 다른 분야에서도 이런 AI 사기가 발생할 수 있나요?
- 네, 그렇습니다. 피싱, 보이스피싱, 투자 사기 등 다양한 형태의 온라인 사기에서 AI가 활용될 수 있습니다. AI는 사기 메시지를 개인화하고, 가짜 웹사이트나 음성 메시지를 더욱 정교하게 만들어 사기 성공률을 높입니다.
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.