AI 광고에 '만든 이: 인공지능' 딱지 붙이기, '가짜'는 정말 사라질까?

최근 소셜미디어에서 본 캠핑용품 광고가 하나 있습니다. 해질녘 숲속, 모닥불 앞에 놓인 티타늄 컵과 기가 막힌 디자인의 휴대용 의자. 너무 완벽해서 비현실적인 풍경에 홀린 듯 광고를 눌렀습니다. 그런데 연결된 쇼핑몰의 제품 사진은 조악하기 짝이 없었습니다. 제가 본 그 황홀한 이미지는 어디에도 없었죠. 나중에 알고 보니 광고 이미지는 전부 생성형 AI가 만들어낸, 세상에 존재하지 않는 ‘상상도’였습니다. 씁쓸했지만, 놀랍지는 않았습니다. 이미 우리 주변에 이런 광고는 차고 넘칩니다.

이런 ‘진짜 같은 가짜’에 드디어 누군가 칼을 빼 들었습니다. 미국 펜실베이니아주가 미국 주 정부 최초로 ‘인공지능 기만적 광고법’이라는 걸 통과시켰습니다. 골자는 간단합니다. 인공지능으로 만들거나 크게 뜯어고친 광고물(이미지, 영상, 음성, 텍스트 모두)에는 “이것은 AI로 만들었습니다”라고 명확히 밝히라는 겁니다. 어기면 벌금을 물립니다. 마치 식품 뒷면에 붙은 성분표시처럼, 이제 광고에도 ‘AI 성분’을 표시하라는 신호탄입니다.

저 같은 엔지니어 출신에게는 이런 규제가 새삼스럽지 않습니다. 하지만 많은 분들이 ‘혁신의 발목을 잡는 것 아니냐’거나 ‘과연 효과가 있겠냐’고 묻습니다. 저도 며칠 이 법안을 뜯어보고, 비슷한 기술의 역사를 되짚어 봤습니다. 결론부터 말하면, 이 법은 딥페이크 범죄자를 잡는 만능열쇠가 아닙니다. 오히려 AI 시대를 살아가는 평범한 기업과 소비자에게 더 큰 질문을 던집니다. 바로 ‘판단의 가치’에 대한 질문입니다.

펜실베이니아의 실험: 광고에 'AI 성분 표시' 의무화

이번 법안의 핵심은 ‘투명성’입니다. 법안에서 규제 대상으로 삼는 것은 ‘생성형 인공지능(Generative AI)’으로 만든 결과물입니다. 생성형 AI란, 쉽게 말해 사람의 말을 알아듣고 글, 그림, 음악, 영상을 스스로 만들어내는 인공지능을 말합니다. 우리가 흔히 쓰는 챗GPT나 그림 그려주는 미드저니 같은 서비스가 대표적이죠. 간단한 명령어 몇 줄만 입력하면 전문가 수준의 결과물을 몇 초 만에 쏟아냅니다.

문제는 이 결과물이 너무 진짜 같아서, 때로는 진짜보다 더 진짜 같다는 점입니다. 앞서 말한 제 캠핑용품 경험처럼, 있지도 않은 제품을 그럴싸하게 광고하거나, 평범한 제품을 명품처럼 보이게 만드는 일이 얼마든지 가능합니다. 정치 영역으로 가면 문제는 더 심각해집니다. 특정 후보가 하지도 않은 말을 한 것처럼 꾸민 가짜 영상(이런 걸 ‘딥페이크’라고 부릅니다)이 선거판을 흔들 수도 있습니다.

펜실베이니아주는 바로 이 지점을 겨냥했습니다. 소비자나 유권자가 광고나 홍보물을 볼 때, 이것이 실제 촬영된 것인지 아니면 AI가 꾸며낸 허상인지 최소한의 정보를 갖고 판단할 수 있게 하자는 취지입니다. 법의 적용 범위도 넓습니다.

• 정지 이미지: AI로 생성한 제품 사진, 모델 이미지 등
• 동영상: 딥페이크 영상, AI로 배경이나 인물을 합성한 광고 영상
• 오디오: 특정인의 목소리를 흉내 낸 AI 음성 광고
• 텍스트: AI가 작성한 광고 문구나 기사형 광고

이 모든 것에 ‘AI로 생성됨’ 또는 ‘AI로 현저히 수정됨’ 같은 문구를 소비자가 쉽게 알아볼 수 있도록 표시해야 합니다. ‘현저히 수정됨’이라는 기준이 모호하다는 비판도 있지만, 이는 앞으로 나올 구체적인 시행령이나 판례를 통해 자리를 잡아갈 겁니다. 중요한 것은, AI가 만든 콘텐츠에 일종의 ‘원산지 표시’를 하자는 사회적 합의가 시작됐다는 사실 그 자체입니다.

데자뷔: 20년 전 '유기농' 딱지, 40년 전 'CASE 도구'의 추억

이런 풍경, 어딘가 익숙하지 않습니까? 저는 2000년대 초반 ‘유기농 식품 표시제’가 처음 도입됐을 때가 떠오릅니다. 당시에도 말이 많았습니다. ‘어디까지를 유기농으로 볼 거냐’는 기준 논쟁부터, ‘인증받으려면 절차가 복잡하고 돈이 든다’는 생산자들의 불만, ‘그 딱지 붙었다고 정말 믿을 수 있냐’는 소비자들의 의심까지. 시장은 한동안 혼란스러웠습니다.

하지만 결과는 어땠습니까? 제도는 점차 안정됐고, ‘유기농’은 하나의 프리미엄 시장을 형성했습니다. 소비자들은 일반 제품과 유기농 제품 사이에서 자신의 가치관과 지갑 사정에 따라 선택할 수 있게 됐습니다. 생산자들은 새로운 시장 기회를 얻었고요. AI 광고 표시제 역시 비슷한 길을 갈 가능성이 높습니다. 처음에는 혼란과 저항이 있겠지만, 결국 시장의 투명성을 높이고 새로운 기준을 만드는 방향으로 자리 잡을 겁니다.

기술의 역사로 눈을 돌리면 더 흥미로운 평행선을 찾을 수 있습니다. 1980년대, 소프트웨어 업계에는 ‘CASE(Computer-Aided Software Engineering) 도구’와 ‘4세대 언어(4GL)’라는 열풍이 불었습니다. 복잡한 코딩 언어를 몰라도, 설계도처럼 그림을 그리거나 쉬운 명령어를 쓰면 프로그램이 ‘뚝딱’ 하고 만들어진다는 꿈의 기술이었습니다. 당시 사람들은 이제 프로그래머라는 직업이 사라질 것이라고 호들갑을 떨었습니다.

결과는 어땠을까요? CASE 도구는 프로그래머를 대체하지 못했습니다. 단지 반복적이고 지루한 코딩 작업을 자동화해 주었을 뿐, ‘어떤 기능이 필요한가’, ‘어떻게 설계해야 효율적인가’ 같은 핵심적인 ‘판단’은 여전히 숙련된 엔지니어의 몫이었습니다. 4세대 언어 역시 일부 단순한 업무용 프로그램을 만드는 데 쓰였을 뿐, 복잡한 시스템을 구축하는 데는 한계가 명확했습니다. 결국 이 도구들은 프로그래머를 없앤 게 아니라, 프로그래머가 더 중요한 문제에 집중할 수 있도록 돕는 ‘보조 도구’로 자리 잡았습니다.

생성형 AI와 광고 표시제도 마찬가지입니다. AI는 디자이너와 카피라이터의 단순 반복 작업을 압도적인 속도로 처리해 줄 겁니다. 하지만 ‘어떤 이미지가 우리 브랜드 철학에 맞는가’, ‘어떤 문구가 소비자의 마음을 움직이는가’를 판단하고 결정하는 일은 여전히, 아니 오히려 더 중요해질 겁니다. 기술은 늘 그런 식으로 발전해 왔습니다.

'AI 표시제'는 만병통치약이 아니다: 흔한 오해와 실제 작동 방식

새로운 규제가 나오면 으레 기대와 우려가 교차합니다. 특히 이번 법안을 두고 흔히 하는 오해가 두 가지 있습니다.

첫 번째 오해는 ‘이 법으로 가짜뉴스와 딥페이크 사기를 막을 수 있을 것’이라는 기대입니다. 안타깝지만 현실은 다릅니다. 애초에 법을 어겨 사기를 치려는 사람이 “이 영상은 사기를 위해 AI로 만들었습니다”라는 정직한 꼬리표를 붙일 리가 없습니다. 이 법은 범죄자를 잡는 족쇄가 아니라, 합법적인 테두리 안에서 활동하는 기업들에게 최소한의 윤리적 가이드라인을 제시하는 것에 가깝습니다. 즉, 선량한 다수를 위한 법이지 악의를 가진 소수를 막는 데는 한계가 뚜렷합니다.

두 번째 오해는 ‘이런 규제가 AI 기술의 혁신과 창의성을 억누를 것’이라는 우려입니다. 광고 업계에서는 포토샵으로 모델의 잡티를 지우고 다리 길이를 살짝 늘리는 일이 공공연한 비밀인데, 이런 것까지 전부 ‘AI 수정’이라고 밝혀야 하냐는 볼멘소리가 나옵니다. 일리가 있는 지적입니다. 하지만 법의 진짜 목적은 창의적 표현을 막는 게 아니라, ‘없는 사실’을 ‘있는 사실’처럼 속이는 행위를 막자는 것입니다. 하늘을 나는 자동차 광고에 ‘연출된 장면’이라고 작게 쓰는 것과 비슷합니다. 오히려 이런 투명성이 장기적으로는 광고 시장 전체의 신뢰를 높일 수 있습니다.

결국 세상은 ‘AI 표시제’가 있는 세상과 없는 세상으로 나뉘어 각자의 방식으로 작동할 겁니다. 표로 비교해 보면 차이가 더 명확해집니다.

이런 규제가 실효성을 가지려면 기술적 뒷받침이 필수적입니다. 그래서 최근 ‘콘텐츠 출처(Content Provenance)’나 ‘디지털 워터마킹’ 기술이 주목받고 있습니다. 사진이나 영상 파일이 처음 생성될 때부터 눈에 보이지 않는 암호화된 꼬리표를 붙여, 이 파일이 언제 어디서 만들어졌고 누가 어떻게 수정했는지 그 이력을 블록체인 등에 기록하고 추적하는 기술입니다. 콘텐츠의 ‘주민등록등본’이나 ‘이력서’를 떼어볼 수 있게 되는 셈입니다. 펜실베이니아의 법은 이런 기술 개발을 더욱 부추길 겁니다.

결국 '판단의 값'이 올라간다

자, 그럼 이 모든 변화의 끝에 무엇이 있을까요? 저는 ‘판단의 값’이 올라간다고 봅니다. AI가 아무리 발전해도 대체하지 못하는 영역, 바로 인간의 고유한 ‘판단’의 가치가 더욱 중요해진다는 뜻입니다.

생각해 보십시오. AI는 하루에 수천 개의 광고 시안을 만들어낼 수 있습니다. 하지만 그 수천 개 중에서 우리 회사와 제품에 딱 맞는 단 하나의 이미지를 고르는 것은 누구의 몫일까요? AI는 수십 가지 버전의 광고 문구를 순식간에 써낼 수 있습니다. 하지만 어떤 문구가 타겟 고객의 마음을 가장 깊이 파고들지 결정하는 것은 결국 사람의 통찰력에 달려 있습니다.

AI는 훌륭한 ‘연장’이지, ‘목수’가 아닙니다. 펜실베이니아의 법은 우리에게 이 강력한 연장을 사용할 때 설명서를 잘 읽고, 안전장치를 하라는 최소한의 요구에 가깝습니다. 연장이 좋아졌다고 해서 목수의 실력까지 저절로 좋아지는 것은 아닙니다. 오히려 좋은 연장을 가질수록 어떤 집을 지을 것인지에 대한 목수의 ‘설계’와 ‘판단’이 더욱 중요해집니다.

이는 광고주와 마케터에게만 해당되는 이야기가 아닙니다. 우리 같은 소비자에게도 마찬가지입니다.

1. 제작자의 판단: 이제 마케터의 역할은 ‘생산(Production)’에서 ‘선별(Curation)’과 ‘전략(Strategy)’으로 이동합니다. AI가 쏟아내는 무한한 결과물 속에서 옥석을 가리고, 그것을 어떤 맥락에서 어떻게 보여줄지 결정하는 능력이 핵심 경쟁력이 됩니다.

1. 소비자의 판단: ‘AI 생성’이라는 딱지를 본 소비자는 이제 이미지의 ‘진짜 여부’를 넘어 그 광고가 전달하려는 ‘메시지의 가치’를 판단하게 됩니다. ‘아, 이건 AI로 만든 이미지구나’라고 인지하는 순간, 우리는 그 이미지의 매혹에서 한 발짝 벗어나 ‘그래서 이 제품이 나에게 정말 필요한가?’라는 본질적인 질문을 던지게 될 겁니다.

결국 ‘AI 표시제’는 AI가 만든 결과물을 폄하하려는 시도가 아닙니다. 오히려 그 결과물을 만든 ‘의도’와 그것을 선택한 ‘판단’에 더 주목하게 만드는 장치입니다. 기술이 고도화될수록, 기술 너머에 있는 인간의 결정이 모든 것의 가치를 좌우하게 되는 것입니다.

독자가 던질 법한 질문들

Q. 포토샵으로 사진 색감만 보정해도 ‘AI 제작’이라고 표시해야 하나요? 기준이 너무 애매합니다.

A. 좋은 지적입니다. 법 시행 초기에는 분명 혼란이 있을 겁니다. ‘현저한 수정’의 기준은 앞으로 나올 주 정부의 가이드라인이나 관련 소송의 판례를 통해 구체화될 것입니다. 부동산 계약할 때 모호한 부분은 특약으로 정하듯, 사회적 합의를 통해 기준을 만들어가는 과정이 필요합니다. 다만 법의 취지를 볼 때, 인물의 잡티를 지우거나 사진의 색감을 바꾸는 수준의 일반적인 보정까지 규제 대상에 포함될 가능성은 낮아 보입니다. 없는 제품을 있는 것처럼 만들거나, 특정인의 얼굴을 다른 사람으로 바꾸는 등 사실관계를 왜곡하는 경우가 주된 타겟이 될 겁니다.

Q. 이런 규제가 한국에도 도입될까요?

A. 가능성이 매우 높다고 봅니다. 이미 유럽연합(EU)은 세계 최초로 포괄적인 AI 법안(AI Act)을 통과시켜 딥페이크 콘텐츠에 대한 표시를 의무화했습니다. 한국에서도 22대 국회 개원과 함께 AI 기본법 논의가 다시 불붙고 있고, 특히 선거를 앞두고 딥페이크를 이용한 여론 조작 우려가 커지면서 관련 규제 도입 목소리가 높습니다. 펜실베이니아의 사례는 한국의 입법 과정에 중요한 참고자료가 될 것입니다. 아마 정치 광고나 소비자 기만 우려가 큰 상업 광고 영역부터 비슷한 규제가 시작될 수 있습니다.

Q. 결국 AI가 만든 광고는 ‘나쁜 것’ 또는 ‘가짜’라는 부정적인 인식을 심어주는 것 아닌가요?

A. 단기적으로는 그런 인식이 생길 수 있습니다. 하지만 ‘유기농’이 아닌 식품이 나쁜 게 아니듯, AI 광고도 마찬가지입니다. 중요한 것은 소비자의 ‘알 권리’와 ‘선택권’을 보장하는 것입니다. 오히려 장기적으로는 AI를 창의적이고 정직하게 사용하는 기업들이 더 높은 신뢰를 얻을 수 있습니다. 예를 들어, ‘이 환상적인 이미지는 AI의 상상력과 저희 디자이너의 안목으로 탄생했습니다’라고 당당하게 밝히는 캠페인이 등장할 수도 있겠죠. 기술 자체에는 선악이 없습니다. 결국 그것을 어떻게 사용하고, 그 사용에 대해 얼마나 솔직하게 소통하는가의 문제입니다.