샘 알트만의 청문회 불참: AI 돈잔치의 청구서를 피하려는 영수증 없는 외출

샘 알트만 오픈AI 최고경영자(CEO)가 상원 청문회에 가지 않았습니다. 표면적인 이유는 알려지지 않았지만, 그가 가지 않은 진짜 이유는 그의 빈자리가 더 크게 말해주고 있습니다. 이것은 한 개인의 선택이 아니라, 실리콘밸리에서 가장 뜨거운 기업이 이제 막 시작된 규제와의 힘겨루기에서 보낸 첫 번째 신호탄입니다.

많은 이들이 ‘폭주 AI’ 같은 자극적인 단어에 집중하지만, 이 사건의 본질은 공상과학이 아닙니다. 지극히 현실적이고 자본주의적인 질문, 즉 ‘AI가 사고를 치면 그 뒷감당은 누가 할 것인가’를 둘러싼 입장 표명입니다. 알트만의 불참은 “그 청구서를 우리에게 보내지 말라”는 무언의 선언에 가깝습니다. 저는 오늘 이 돈잔치의 청구서가 어디로 향하고 있는지, 그 흐름을 좇아보려 합니다.

‘AI 안전성’, 그 화려한 포장지 속 계산서

요즘 AI 기업치고 ‘안전’과 ‘책임’을 말하지 않는 곳은 없습니다. 오픈AI 역시 ‘AI 안전 연구’에 막대한 돈을 쏟아붓고 있다고 자랑합니다. 하지만 여기서 우리는 한 가지를 명확히 해야 합니다. 기업이 말하는 ‘안전’과 사회가 요구하는 ‘안전’은 종종 그 의미가 다릅니다.

기업에게 안전은 ‘제품 신뢰도’와 ‘법적 리스크 관리’의 문제입니다. AI가 엉뚱한 답을 내놓아 이용자가 떠나거나, 명백한 불법 행위에 연루되어 소송을 당하는 수준의 문제를 막는 것이 1차 목표입니다. 마치 자동차 회사가 급발진처럼 치명적인 결함은 어떻게든 막으려는 것과 같습니다. 이는 기업의 생존과 직결되기 때문입니다.

하지만 사회가 요구하는 안전은 그보다 훨씬 넓습니다. AI 때문에 내 일자리가 사라지는 문제, AI 면접관이 나도 모르는 편견으로 나를 탈락시키는 문제, AI가 만든 가짜뉴스로 사회가 혼란에 빠지는 문제까지 포함합니다. 이런 ‘외부효과’는 기업의 직접적인 손실로 잡히지 않습니다. 오히려 비용 절감이나 시장 확대로 이익이 되기도 합니다. 자동차 회사가 자사 차들이 일으키는 교통체증이나 대기오염까지 스스로 책임지려 하지 않는 것과 같은 이치입니다.

알트만이 피한 청문회는 바로 이 지점을 파고들려 했습니다. AI가 사회에 끼치는 광범위한 영향에 대한 책임을 묻고, 그 비용을 기업에 어떻게 분담시킬지 논의하는 자리였습니다. 이런 논의는 필연적으로 기업에 새로운 의무와 비용을 지웁니다. 예를 들어, 다음과 같은 규제들이 거론될 수 있습니다.

1. `결과에 대한 입증 책임`: AI의 판단으로 누군가 피해를 봤을 때(대출 거절, 채용 탈락 등), AI가 편향되지 않았음을 기업이 스스로 입증하게 만드는 것입니다. 지금은 피해자가 AI의 편향을 증명해야 하는데, 이는 계란으로 바위 치기입니다.
2. `독립적인 외부 감사 의무화`: 기업 내부의 ‘자체 안전팀’이 아니라, 회계법인의 감사처럼 독립적인 외부 기관이 AI 모델의 위험성을 정기적으로 감사하고 보고서를 공개하게 하는 제도입니다.
3. `필수적인 안전장치 탑재`: AI가 생성한 콘텐츠에는 워터마크를 의무적으로 삽입해 가짜뉴스 추적을 쉽게 하거나, 특정 위험 작업에는 아예 AI 사용을 금지하는 식의 규제입니다.

이 모든 것은 AI 개발과 서비스의 속도를 늦추고 비용을 높입니다. ‘인류의 안전을 위해 상장도 미루겠다’는 알트만의 발언은 숭고하게 들립니다. 그러나 그가 말하는 ‘안전’이 이런 구체적인 법적 책임을 동반한 규제까지 포함하는지는 의문입니다. 이번 청문회 불참은 그 질문에 대한 부정적인 답변으로 읽힐 소지가 다분합니다.

역사는 반복된다: 담배, 소셜미디어, 그리고 AI

새로운 기술이 등장해 사회에 막대한 영향을 끼칠 때, 기업과 규제 당국 사이의 줄다리기는 언제나 비슷한 양상으로 전개됐습니다. 역사의 평행선을 그어보면 오픈AI의 현재 위치가 더 선명하게 보입니다.

첫째, 담배 산업의 전략입니다. 1950년대부터 담배와 폐암의 인과관계가 드러나자, 담배 회사들은 ‘자체 연구소’를 세워 “흡연과 질병의 연관성은 아직 과학적으로 명확히 입증되지 않았다”는 주장을 수십 년간 반복했습니다. 자체 연구를 통해 ‘논란’을 만들고 과학적 불확실성을 증폭시켜 규제를 지연시키는 전략이었습니다. 그 결과, 수십 년간 막대한 사회적 비용(의료비, 인명 손실)은 흡연자 개인과 사회 전체의 몫이 됐습니다.

오늘날 AI 기업들이 ‘자체 AI 안전 연구’를 강조하는 모습은 기시감을 줍니다. 물론 진정성 있는 연구도 많을 겁니다. 하지만 그 연구 결과가 기업의 이익에 반할 때도 투명하게 공개되고, 외부의 강제력 있는 규제로 이어지는 데 동의할지는 전혀 다른 문제입니다. ‘우리가 알아서 잘하고 있다’는 주장은 규제의 칼날을 무디게 만들려는 가장 고전적인 방어막입니다.

둘째, 소셜미디어의 ‘선점 후 책임 회피’ 전략입니다. 페이스북(현 메타)은 ‘빠르게 움직이고 세상을 파괴하라(Move Fast and Break Things)’는 구호 아래 전 세계로 퍼져나갔습니다. 각국 정부가 그 파급력을 깨닫고 규제를 논의하기 시작했을 때는 이미 너무 늦었습니다. 페이스북은 ‘우리는 기술 플랫폼일 뿐, 콘텐츠에 대한 책임은 없다’는 논리로 버텼습니다. 그 결과 가짜뉴스, 증오 발언, 선거 개입 같은 문제들의 뒤처리는 고스란히 사회의 부담으로 남았습니다.

오픈AI는 소셜미디어의 실패를 교훈 삼아 한 단계 진화한 전략을 구사합니다. 무작정 규제를 거부하는 대신, 먼저 의회에 찾아가 “위험하니 규제가 필요하다”고 말하며 논의의 주도권을 쥡니다. 그러면서도 정작 자신들에게 불리한 판이 깔릴 것 같은 청문회에는 불참하며 ‘선별적 협력’의 자세를 보입니다. 이는 게임의 룰을 자신이 직접 디자인하겠다는 영리한 시도입니다.

이 표에서 보듯, AI 산업이 갈 길은 아직 정해지지 않았습니다. 알트만의 불참은 이정표 없는 갈림길에서 어느 방향으로 핸들을 꺾을지를 보여주는 중요한 사건입니다.

AI 돈잔치의 청구서는 누가 받게 될까

결국 모든 것은 돈 문제로 귀결됩니다. 현재 AI 산업은 거대한 ‘돈잔치’ 중입니다. 오픈AI의 기업가치는 860억 달러(약 118조 원)에 달하는 것으로 평가받습니다. 이 어마어마한 평가액은 어디에서 나올까요?

물론 기술의 잠재력 덕분입니다. 하지만 그 이면에는 ‘벤더 파이낸싱(Vendor Financing)’과 유사한 구조가 숨어 있습니다. 닷컴 버블 시절, 시스코 같은 거대 통신장비 업체는 작은 인터넷 기업들에 돈을 빌려주며 자사 장비를 사게 했습니다. 매출은 부풀려지고 주가는 치솟았지만, 실체가 없는 ‘빚으로 쌓은 성장’이었습니다. 결국 거품이 터지자 모두가 무너졌습니다.

현재 AI 생태계를 보십시오. 마이크로소프트는 오픈AI에 130억 달러를 투자했습니다. 오픈AI는 그 돈으로 무엇을 할까요? LLM(사람 말처럼 문장을 만드는 AI)을 훈련하고 운영하는 데 필요한 막대한 컴퓨팅 자원을 구매합니다. 그 자원은 누가 제공할까요? 바로 마이크로소프트의 클라우드 서비스 ‘애저(Azure)’입니다. 돈이 마이크로소프트에서 나와 오픈AI를 거쳐 다시 마이크로소프트로 들어가는 순환 구조입니다.

이 구조 자체가 나쁜 것은 아닙니다. 전략적 파트너십의 일환일 수 있습니다. 하지만 이 과정에서 오픈AI와 마이크로소프트의 기업가치는 동반 상승하고, AI에 대한 시장의 기대감은 하늘을 찌릅니다. 마치 서로의 등을 밀어주며 함께 하늘로 떠오르는 모양새입니다.

이 돈잔치의 청구서는 언젠가 누군가에게 반드시 청구됩니다. 만약 AI 기술이 기대만큼의 ‘진짜 수익’을 내지 못하거나, 혹은 강력한 규제가 도입되어 비용 구조가 급격히 나빠진다면 어떻게 될까요? 부풀려진 평가액은 순식간에 꺼질 수 있습니다. 그때 청구서를 받는 사람은 가장 늦게 파티에 참여한 투자자들, 그리고 가치가 휴지 조각이 된 스톡옵션을 받은 직원들일 겁니다.

더 중요한 것은 사회적 비용의 청구서입니다. 최근 미국에서 ‘플록(Flock)’이라는 회사의 AI 기반 차량번호판 인식 카메라가 엉뚱한 차를 범인으로 지목해, 무고한 임산부가 13일간 구치소에 갇혔던 사건이 있었습니다. 이 여성의 억울한 옥살이라는 비용은 누가 치렀습니까? 일차적으로는 그 여성이었고, 이차적으로는 사법 시스템을 운영하는 납세자들이었습니다. 플록은 책임을 졌을까요? 아직은 아닙니다. 이것이 바로 ‘폭주 AI’보다 훨씬 현실적이고 빈번하게 발생할 ‘사고 치는 AI’의 비용 청구 방식입니다. 알트만의 불참은 바로 이 청구서를 기업이 아닌 사회가 받도록 하려는, 거대한 줄다리기의 시작입니다.

흔한 오해 두 가지

이 문제를 둘러싼 흔한 오해 두 가지를 짚고 넘어가야 합니다. 그래야 본질을 정확히 볼 수 있습니다.

오해 1: “AI 기업들이 안전을 신경 안 쓰는 건 아니다. 자체적으로 연구도 많이 하고 투자도 많이 한다.”

맞는 말입니다. 하지만 핵심을 비껴간 주장입니다. 자동차 회사가 자체적으로 충돌 테스트를 수없이 하는 것과, 정부가 모든 차량에 에어백 장착을 의무화하는 것은 완전히 다른 차원의 이야기입니다. 전자는 기업의 ‘선의’와 ‘판단’에 의존하지만, 후자는 강제력 있는 ‘법적 의무’입니다. 기업의 자체 연구는 언제든 이윤 논리에 따라 축소되거나 무시될 수 있습니다. 작년 말, 샘 알트만이 오픈AI 이사회에 의해 잠시 해고되었던 사건의 핵심에도 ‘AI 안전’을 우선하려던 이사회와 ‘빠른 상용화’를 원했던 알트만 측의 갈등이 있었다는 사실을 기억해야 합니다. 기업 내부의 안전장치가 얼마나 취약할 수 있는지 보여주는 사례입니다. 진짜 안전은 선의가 아닌, 돈과 책임이 걸린 제도에서 나옵니다.

오해 2: “샘 알트만은 원래 AI 규제에 찬성하지 않았나? 직접 의회에 가서 발언도 했다.”

그는 규제 자체를 반대한 적이 없습니다. 오히려 적극적으로 ‘규제가 필요하다’고 말해왔습니다. 하지만 그가 말하는 규제는 ‘자신에게 유리한 규제’일 가능성이 높습니다. 그는 주로 인류를 위협할 수 있는 초고도 AI, 즉 ‘초지능(Superintelligence)’의 위험성을 경고하며, 이를 개발할 수 있는 소수 기업에 ‘면허’를 발급하는 식의 규제를 제안했습니다. 이는 두 가지 효과를 낳습니다. 첫째, 대중과 규제 당국의 시선을 당장 돈이 되는 현실적인 문제(편향, 오류, 저작권 침해 등)에서 먼 미래의 거대 담론으로 돌립니다. 둘째, 강력한 AI 개발에 진입 장벽을 만들어 오픈AI 같은 선두 주자들의 과점 체제를 굳히는 ‘사다리 걷어차기’가 될 수 있습니다. 그는 게임의 규칙을 정하는 심판이 되길 원하지, 규칙을 따라야 하는 선수가 되길 원하지 않습니다. 이번 불참은 그가 원하는 게임이 아닐 경우엔 참여하지 않겠다는 의사 표시입니다.

독자가 추적해야 할 신호등

이 복잡한 싸움의 향방을 예측하기는 어렵습니다. 하지만 앞으로 우리가 무엇을 눈여겨봐야 할지, 몇 가지 신호등을 알려드릴 수는 있습니다. 이 신호들이 켜지는 것을 보면 돈과 권력의 흐름이 어디로 향하는지 알 수 있습니다.

• `신호 1: ‘책임’의 구체성.` 앞으로 AI 기업들이 ‘AI 원칙’이나 ‘안전 보고서’를 발표할 때, 추상적인 구호에 그치는지 아니면 구체적인 책임 조항이 담겨 있는지 확인해야 합니다. ‘오류로 인한 피해 발생 시, 최대 얼마까지 어떻게 배상하겠다’와 같은 법적 구속력이 있는 문구가 포함되는지가 진짜와 가짜를 가르는 기준입니다. 말은 공짜지만, 배상에는 돈이 듭니다.

• `신호 2: 경쟁사들의 행보.` 오픈AI의 경쟁자인 구글, 앤트로픽, 메타 같은 기업들이 이번 사건을 어떻게 활용하는지 주목해야 합니다. ‘우리는 오픈AI와 달리 더 투명하고 책임감 있다’며 의회와의 협력을 강화하는 모습을 보일까요? 아니면 오픈AI의 선례를 따라 규제와 거리를 두는 암묵적인 연대를 형성할까요? 이는 AI 업계의 대정부 전략이 하나로 뭉칠지, 아니면 각자도생으로 갈라설지를 보여주는 중요한 갈림길입니다.

• `신호 3: 자본의 목소리.` 오픈AI의 최대 투자자인 마이크로소프트의 입장을 주시해야 합니다. 만약 규제 리스크가 너무 커져 오픈AI의 기업가치가 흔들린다고 판단하면, 투자자로서 ‘거버넌스 강화’나 ‘외부 감사 수용’ 같은 조건을 걸고 압박을 시작할 수 있습니다. 투자 계약의 세부 내용은 비밀이지만, 투자자들의 공식 발언이나 관련 보도에서 ‘책임’, ‘감독’ 같은 단어의 빈도가 높아진다면, 돈의 흐름이 압력으로 작용하기 시작했다는 신호입니다.

Q&A: 독자의 질문에 답합니다

Q. AI 기술이 너무 복잡해서 정부가 제대로 규제할 수 있기는 한가요? 괜히 혁신만 막는 것 아닐까요?

A. 옳은 지적입니다. 정부 관료가 AI 모델의 파라미터(AI의 행동을 결정하는 수많은 변수) 하나하나를 이해하고 규제하기는 불가능하고, 그래서도 안 됩니다. 하지만 우리는 자동차 엔진의 연소 원리를 몰라도 배기가스 기준치를 정하고, 안전벨트 장착을 의무화할 수 있습니다. 규제의 핵심은 과정이 아니라 ‘결과에 대한 책임’을 묻는 것입니다. AI의 결정으로 피해자가 발생했을 때, 그 책임 소재를 명확히 하고 배상 절차를 만드는 것이 우선입니다. 책임이라는 안전망 위에서 혁신은 더 멀리, 더 안전하게 나아갈 수 있습니다.

Q. 비상장 회사인 오픈AI가 청문회에 불참하는 게 그렇게 큰 문제인가요? 주주 눈치를 볼 필요도 없는데요.

A. 법적 강제성은 없을 수 있습니다. 하지만 오픈AI는 동네 빵집이 아닙니다. 이미 전력, 통신, 금융망처럼 사회 전체에 영향을 미치는 사실상의 ‘기간 기술’ 사업자입니다. 우리가 한국전력이나 KT에 더 높은 수준의 사회적 책임을 요구하듯, 오픈AI도 그 덩치에 걸맞은 책임을 요구받는 단계에 들어섰습니다. 비상장이라는 방패 뒤에 숨기에는 너무 커져 버렸고, 그 영향력은 너무 막대해졌습니다. 그의 불참이 뉴스가 되는 이유입니다.

Q. 칼럼니스트님의 집착처럼, 이 돈잔치의 청구서는 결국 누가 받게 될 거라고 보십니까?

A. 단기적으로는 AI에 의해 대체되는 일자리의 노동자들, AI 시스템의 오류로 부당한 대우를 받는 개인들이 청구서를 가장 먼저 받아들게 될 겁니다. 장기적으로, 이 비용을 기업에 제대로 부과하는 데 실패한다면, 그 모든 사회적 혼란과 갈등 해결 비용은 결국 세금의 형태로 우리 모두의 주머니에서 나갈 것입니다. 샘 알트만의 빈 의자는 ‘기업’이 아닌 ‘사회’의 이름으로 청구서를 발행하려는, 거대한 힘겨루기의 시작을 알리는 신호탄입니다. 이 싸움의 결과를 우리 모두가 지켜봐야 하는 이유입니다. 돈잔치가 끝나고 누가 설거지를 하게 될지는, 지금 결정되고 있기 때문입니다.