‘듣는 AI’ 돈잔치, 청구서는 누가 받게 될까

도입: 손목 위의 AI 비서, 정말 ‘비서’일까요?

실리콘밸리의 새로운 장난감들이 연일 화제입니다. 셔츠 깃에 다는 인공지능(AI) 핀, 내 눈앞의 세상을 분석해주는 안경까지. 애플, 아마존, 메타 같은 거인들은 물론이고 이름도 생소한 스타트업까지 ‘항상 켜져 있고, 항상 듣는’ AI 기기 시장에 뛰어들고 있습니다. 사용자가 부르면 언제든 답하고, 일상의 대화를 기억했다가 필요한 정보를 챙겨주는 똑똑한 비서를 약속합니다.

겉보기엔 화려합니다. 하지만 저는 이 유행을 기술의 진보가 아닌 금융의 관점에서 봅니다. 이 기기들이 얼마나 똑똑한지, 디자인이 얼마나 멋진지는 부차적인 문제입니다. 핵심 질문은 이것입니다. ‘이 사업 모델은 지속 가능한가? 아니면 거대한 법률 비용과 과징금으로 무너져 내릴 소송 자석인가?’

많은 이들이 기술의 편의성에 감탄할 때, 저는 그 화려한 기능 뒤에 숨은 자본의 구조를 봅니다. 이 ‘듣는 AI’라는 아이디어는 사실 새로운 것이 아닙니다. 아마존의 알렉사나 구글 어시스턴트 같은 스마트 스피커가 이미 우리 거실에 자리 잡은 지 오래입니다. 하지만 몸에 착용하는 웨어러블 기기는 차원이 다릅니다. 집이라는 사적 공간을 넘어, 우리가 가는 모든 곳, 만나는 모든 사람과의 상호작용을 데이터로 빨아들이는 ‘움직이는 정보 수집 장치’가 되기 때문입니다. 오늘은 이 돈잔치의 청구서가 결국 누구에게 날아올지 따져보려 합니다.

핵심 메커니즘: ‘항상 듣는 AI’는 어떻게 우리 지갑을 노리는가

‘항상 듣는 AI’가 정확히 어떻게 작동하는지부터 짚어야 합니다. 많은 기업이 ‘우리는 당신이 부를 때만 듣는다’고 항변합니다. 하지만 이는 절반의 진실입니다.

이 기기들은 특정 단어, 예를 들어 “하이, 시리”나 “오케이, 구글” 같은 ‘깨움말(Wake Word)’을 알아듣기 위해 실제로는 24시간 내내 소리를 듣고 있습니다. 마치 내 방에 룸메이트가 하나 있는데, 평소에는 조용히 자기 할 일을 하다가 내가 이름을 부를 때만 대답하는 것과 비슷합니다. 문제는 이 룸메이트가 내가 부르지 않는 동안 오간 다른 모든 대화는 정말 ‘한 귀로 듣고 한 귀로 흘리는지’ 우리가 확인할 방법이 없다는 점입니다.

기술적으로는 이렇습니다. 1. 기기의 마이크는 항상 켜져 주변 소리를 짧은 단위로 계속 녹음하고 분석합니다(이 과정을 ‘버퍼링’이라고 합니다). 2. 깨움말이 감지되면, 그 이전 몇 초와 이후의 음성 명령을 하나의 데이터 덩어리로 묶습니다. 3. 이 데이터 덩어리를 인터넷을 통해 회사 서버로 보냅니다. 서버에 있는 거대한 AI가 음성을 분석해 명령을 처리하고, 그 결과를 다시 기기로 보내줍니다.

여기서 사업의 본질이 드러납니다. 사용자의 질문에 답해주는 것은 표면적인 서비스일 뿐, 진짜 목적은 ‘데이터 수집’에 있습니다. 당신이 언제, 어디서, 누구와, 무슨 이야기를 나누는지, 무엇에 관심 있고 어떤 물건을 사려 하는지에 대한 정보는 그 자체로 거대한 가치를 지닙니다. 이 데이터를 분석하면 세상에서 가장 정확한 개인 맞춤형 광고판을 만들 수 있기 때문입니다. 결국 AI 비서의 편리함은 사용자의 사생활이라는 입장료를 내고 즐기는 서비스인 셈입니다.

흔한 오해 1: “기기 안에서만 처리(온디바이스 AI)하면 안전하지 않나요?” 최근 기업들은 민감한 정보는 서버로 보내지 않고 기기 자체 AI가 처리하는 ‘온디바이스 AI’를 해결책처럼 내세웁니다. 하지만 이는 만병통치약이 아닙니다. 현재 기술 수준에서 스마트폰이나 안경 같은 작은 기기가 단독으로 처리할 수 있는 AI 연산은 매우 제한적입니다. 날씨를 묻는 정도는 가능하겠지만, “내 일정과 과거 여행 기록을 고려해서 다음 달 제주도 가는 가장 싼 비행기 표 찾아줘” 같은 복잡한 요청은 결국 강력한 연산 능력을 갖춘 회사 서버의 도움이 필수적입니다. 온디바이스 AI는 ‘모든 정보를 기기 안에만 두겠다’는 약속이 아니라, ‘일부 간단한 정보만 기기 안에 두겠다’는 기술적 현실에 가깝습니다.

역사적 평행선: ‘다크 파이버’의 망령을 기억하십니까

현재의 ‘듣는 AI’ 열풍은 1990년대 말 닷컴 버블 시대를 풍미했던 ‘다크 파이버(Dark Fiber)’ 사태를 떠올리게 합니다.

당시 인터넷 시대가 열리자, 수많은 통신사가 앞으로 데이터 사용량이 폭발적으로 증가할 것이라는 장밋빛 전망에 사로잡혔습니다. 이들은 천문학적인 돈을 빌려 미국 전역의 땅 밑에 필요 이상으로 많은 광케이블을 매설하는 경쟁에 뛰어들었습니다. 이 케이블 중 당장 사용되는 ‘활성 회선(Lit Fiber)’을 제외한, 예비용으로 깔아둔 미사용 회선을 ‘다크 파이버’라고 불렀습니다.

결과는 어땠습니까? 인터넷 트래픽이 늘긴 했지만, 기업들이 예측했던 만큼 폭발적으로 증가하지는 않았습니다. 공급이 수요를 압도한 것입니다. 막대한 빚을 내 케이블을 묻었던 월드컴, 글로벌 크로싱 같은 회사들은 결국 줄줄이 파산했습니다. 땅속의 광케이블이라는 자산은 실재했지만, 그 가치를 부풀렸던 ‘미래 수요 예측’이 허상이었기 때문입니다. 투자자들은 휴지 조각이 된 주식을 들고 망연자실해야 했습니다.

‘항상 듣는 AI’ 웨어러블은 오늘날의 다크 파이버입니다. 빅테크와 스타트업들은 ‘모든 사람이 AI 비서와 24시간 소통하는 미래’라는 장밋빛 전망에 베팅하고 있습니다. 이를 위해 사용자의 모든 순간을 데이터로 수집하는 ‘정보의 광케이블’, 즉 웨어러블 기기를 최대한 많이 보급하려 합니다. 기술과 하드웨어라는 자산은 분명 존재합니다.

하지만 닷컴 버블 때의 ‘수요 예측’처럼, 이 사업 모델의 가장 중요한 전제인 ‘사회적·법적 용인’은 아직 검증되지 않은 허상에 가깝습니다. 사람들이 편리함을 위해 자신의 모든 대화가 녹음될 수 있는 위험을 감수할지, 각국 정부와 사법부가 이런 형태의 정보 수집을 합법으로 인정할지는 누구도 모릅니다. 만약 법적 철퇴가 내려지거나 소비자들이 등을 돌린다면, 이 화려한 기술은 아무도 사용하지 않는 땅속의 다크 파이버처럼 무용지물이 될 수 있습니다. 그리고 그 위에 쌓아 올린 기업가치는 하루아침에 증발할 것입니다.

돈잔치의 청구서: 누가, 얼마를 물어내게 될까

이 파티가 끝나면 누군가는 계산을 해야 합니다. 청구서는 크게 세 그룹에 전달될 것입니다.

첫째, ‘기업’입니다. 가장 직접적인 청구서는 천문학적인 규모의 소송과 과징금입니다. 특히 미국은 주마다 법이 달라 ‘양 당사자 동의(Two-party consent)’를 요구하는 주(캘리포니아, 플로리다 등 10여 개 주)가 많습니다. 이런 곳에서 대화 상대방의 동의 없이 대화를 녹음하거나 전송하는 것은 불법이며, 이는 곧바로 집단 소송으로 이어질 수 있습니다. 과거 구글과 아마존이 스마트 스피커의 음성 정보 수집 문제로 수많은 소송에 휘말렸던 것을 생각하면, 몸에 지니고 다니는 웨어러블의 법적 리스크는 비교할 수 없이 큽니다. 유럽의 개인정보보호법(GDPR)은 위반 시 전 세계 연 매출의 4%까지 과징금을 부과할 수 있습니다. 이는 수십조 원에 달하는 금액이 될 수 있습니다.

둘째, ‘투자자’입니다. 현재 이런 스타트업에 투자하는 벤처캐피털과 주식 시장의 투자자들은 기술의 혁신성에만 주목하는 경향이 있습니다. 하지만 법적 리스크가 현실화되는 순간, 주가는 폭락할 수밖에 없습니다. 한 번의 부정적인 판결은 특정 기업 하나의 문제가 아니라, ‘항상 듣는 AI’라는 시장 전체의 존립을 위협하는 시스템 리스크로 작용할 것입니다. 닷컴 버블 당시 다크 파이버 기업들의 주가가 순식간에 사라졌던 역사를 기억해야 합니다. 지금의 높은 평가액(밸류에이션)은 미래의 수익이 아니라 미래의 소송 비용을 먼저 당겨온 것일 수 있습니다.

셋째, 결국 모든 비용의 근원인 ‘사용자’입니다. 사용자는 편리함을 얻는 대가로 자신의 가장 민감한 데이터를 지불합니다. 이는 단순한 사생활 침해를 넘어, 자신의 정보가 어떻게 활용되고 거래되는지 전혀 통제할 수 없게 되는 ‘데이터 주권’의 상실을 의미합니다. 아래 표는 우리가 얻는 가치와 우리가 내는 비용을 명확히 보여줍니다.

결국 이 사업 모델은 사용자의 사생활 데이터를 원재료로, 투자자의 돈을 연료로 삼아 돌아가는 거대한 기계입니다. 기계가 멈추는 순간, 남는 것은 망가진 하드웨어와 막대한 부채뿐입니다.

반론과 함정: ‘약관 동의’는 면죄부가 아니다

물론 기업들도 바보는 아닙니다. 이들은 몇 가지 방어 논리를 준비해 뒀습니다. 하지만 자세히 들여다보면 허점투성이입니다.

가장 흔한 방패는 ‘사용자 동의’입니다. 우리가 새로운 기기나 앱을 쓸 때 무심코 누르는 ‘약관에 동의합니다’ 버튼이 그것입니다. 기업들은 사용자가 스스로 정보 수집에 동의했으므로 법적인 문제가 없다고 주장합니다. 하지만 이 논리는 제3자가 대화에 포함되는 순간 무너집니다.

흔한 오해 2: “내가 약관에 동의했으니 괜찮다?” 내가 내 목소리를 녹음하는 데 동의했다고 해서, 나와 대화하는 친구나 동료, 혹은 식당 종업원의 목소리까지 녹음할 권리를 얻는 것은 아닙니다. 택시를 탔다고 상상해 봅시다. 내가 AI 안경을 쓰고 기사님과 대화를 나눕니다. 이 대화가 녹음되어 어딘가로 전송된다면, 기사님은 자신도 모르는 사이에 음성 정보를 탈취당한 셈입니다. 나의 동의가 타인의 권리를 침해할 수는 없습니다. 이것이 바로 ‘양 당사자 동의’ 법의 핵심이며, 웨어러블 기기가 가진 가장 치명적인 법적 아킬레스건입니다.

결국 기업이 아무리 촘촘하게 약관을 설계해도, 기기가 사용되는 실제 환경의 모든 변수를 통제할 수는 없습니다. 공공장소에서 이 기기를 사용하는 것 자체가 잠재적인 불법 행위가 될 수 있다는 리스크는 사라지지 않습니다. 이는 기업의 평판뿐 아니라 재무제표에도 직접적인 타격을 줄 시한폭탄과 같습니다.

추적 신호: 무엇을 보면 이 돈놀이의 끝을 알 수 있을까

그렇다면 이 불안한 돈잔치의 미래를 가늠하기 위해 우리는 무엇을 지켜봐야 할까요? 화려한 신제품 발표회나 기술 시연 영상이 아닙니다. 진짜 신호는 훨씬 건조하고 재미없는 곳에서 나옵니다. 제가 주목하는 세 가지 신호는 다음과 같습니다.

1. 첫 번째 집단소송 판결: 수많은 소송이 제기되겠지만, 진짜 중요한 것은 ‘양 당사자 동의’를 요구하는 주(예: 캘리포니아)에서 제기된 집단소송의 첫 번째 의미 있는 판결입니다. 법원이 웨어러블 기기의 상시 청취 기능을 불법 ‘도청’으로 규정하는 순간, 관련 산업 전체가 얼어붙을 것입니다. 판결문에서 ‘데이터 수집’의 정의를 어떻게 내리는지 예의주시해야 합니다.
2. 규제 기관의 용어 정의: 미국 연방거래위원회(FTC)나 유럽 데이터보호이사회(EDPB) 같은 규제 기관이 내놓는 보고서나 가이드라인을 주목해야 합니다. 이들이 깨움말을 감지하기 위한 ‘일시적 버퍼링’을 정보 ‘수집’으로 볼 것인지, 아닌지에 따라 모든 것이 달라집니다. 이 지루해 보이는 법률 용어 하나에 수십억 달러의 운명이 걸려 있습니다.
3. 보험사의 움직임: 가장 정직한 신호는 돈의 흐름, 그중에서도 보험사의 움직임에서 나옵니다. 재보험사나 손해보험사들이 ‘AI 웨어러블 관련 소송’에 대한 기업 책임 보험 상품을 출시하는지, 만약 출시한다면 보험료를 얼마로 책정하는지를 봐야 합니다. 만약 보험사들이 인수를 거부하거나 감당하기 힘든 수준의 보험료를 요구한다면, 이는 시장의 전문가들이 이 사업의 리스크를 얼마나 심각하게 평가하는지를 보여주는 가장 확실한 증거입니다.

이 세 가지 신호는 기술 매체의 헤드라인을 장식하지는 않을 겁니다. 하지만 실리콘밸리의 돈이 어디로 흐르고 어디서 멈출지를 알려주는 가장 정확한 나침반이 될 것입니다.

Q&A: 독자들이 던질 법한 질문들

Q. 그래도 너무 편리한데, 기술 발전을 법이 막는 것 아닌가요?

A. 편리하다는 점은 인정합니다. 하지만 모든 진보에는 책임이 따릅니다. 자동차가 발명되었을 때 우리는 도로교통법과 신호등을 만들었고, 원자력 기술을 개발했을 때 국제원자력기구(IAEA)를 만들어 통제했습니다. 기술이 사회의 법적, 윤리적 기준을 무시하고 폭주하도록 내버려 두는 것은 진보가 아니라 혼란입니다. ‘듣는 AI’ 기업들의 과제는 법을 바꿔달라고 요구하는 것이 아니라, 현행법의 테두리 안에서 사생활을 침해하지 않으면서도 가치를 창출하는 혁신을 이뤄내는 것입니다. 아직 그들은 이 숙제를 풀지 못했습니다.

Q. 스마트폰도 이미 다 듣고 있는데, 새삼스럽게 뭐가 다른가요?

A. 좋은 질문입니다. 스마트폰의 음성 비서도 비슷한 이슈가 있는 것은 사실입니다. 하지만 결정적인 차이가 있습니다. 스마트폰은 대부분 주머니나 가방 안에 있고, 사용자가 의식적으로 손에 들고 입에 가까이 대고 말합니다. 녹음 행위에 대한 사회적 인식이 어느 정도 존재합니다. 반면 셔츠 깃의 핀이나 안경은 사용자와 거의 한 몸처럼 움직이며, 훨씬 더 은밀하고 지속적으로 주변 환경을 기록합니다. 녹음 사실을 인지하기 어렵다는 ‘은밀함’의 차이가 법적으로는 전혀 다른 무게를 갖습니다. 문제가 될 소지가 훨씬 큽니다.

Q. 이 분야에 투자를 고려한다면 무엇을 가장 중요하게 봐야 합니까?

A. 기술 시연 영상이나 디자인에 현혹되지 마십시오. 회사의 재무제표만큼이나 ‘프라이버시 정책 보고서’와 ‘법무팀 구성’을 꼼꼼히 들여다봐야 합니다. 그들이 프라이버시 문제를 귀찮은 장애물로 여기는지, 아니면 제품의 핵심 기능으로 존중하는지를 봐야 합니다. 사용자 신뢰를 단기적인 이익과 맞바꾸려는 기업은 장기적으로 생존할 수 없습니다. 투자 관점에서 본다면, 가장 보수적으로 법적 리스크를 관리하고, 가장 투명하게 데이터 처리 방식을 공개하는 기업이 그나마 폭탄 돌리기 게임에서 살아남을 확률이 높을 것입니다. 가장 중요한 자산은 기술이 아니라 신뢰입니다.