AI 모델 폭탄 세일, 청구서는 누가 받나

옆집도 새 차 뽑았으니, 우리도? AI 모델 경쟁의 민낯

최근 실리콘밸리 풍경은 명절을 앞둔 아파트 주차장 같습니다. 옆집이 신형 세단을 뽑으니, 앞집도 질세라 비슷한 급의 SUV를 계약합니다. 불과 한 주 사이에 오픈AI, 구글, 앤트로픽, 메타가 약속이나 한 듯 새 AI 모델을 발표했습니다. 성능이 조금 더 좋아졌고, 몇 가지 새로운 기능이 붙었습니다. 하지만 솔직히 말해 작년에 나온 차나 올해 나온 차나 운전자 입장에서 본질적인 차이를 느끼기 어려운 것과 비슷합니다.

이것이 요즘 업계에서 말하는 '모델 피로(Model Fatigue)'의 정체입니다. 신기술에 대한 설렘보다 신물이 먼저 올라오는 이 현상은 단순한 기술 경쟁이 아닙니다. 오히려 조만간 끝날 파티를 앞두고, 어떻게든 음악을 끄지 않으려는 필사적인 몸부림에 가깝습니다. AI 모델을 개발하는 회사들은 천문학적인 돈을 쏟아붓고 있지만, 아직 뚜렷한 수익 모델을 찾지 못했습니다. 투자자들의 인내심이 바닥나기 전에 계속해서 '우리가 이렇게 혁신하고 있다'는 것을 보여줘야만 합니다. 새 모델 발표는 그들의 생존을 위한 가장 확실한 쇼입니다.

결국 이 경쟁의 동력은 최종 사용자의 필요가 아니라, 투자자들을 향한 구애에 있습니다. 평가액, 즉 기업 가치는 미래에 벌어들일 돈에 대한 기대감을 현재 가치로 환산한 것입니다. 이 기대감이 식는 순간, 수십조 원짜리 기업 가치는 신기루처럼 사라집니다. 모델 피로는 이 신기루를 유지하기 위한 비용인 셈입니다. 이 비용은 누군가 내야만 합니다.

성능 5% 향상, 비용은 2배: '토큰 경제학'의 함정

새 모델이 나올 때마다 기업들은 성능 평가 점수, 즉 벤치마크 결과를 자랑합니다. 인간의 언어 능력 시험과 비슷한 테스트에서 기존 모델보다 5%, 10% 더 높은 점수를 받았다는 식입니다. 하지만 이 숫자의 함정을 알아야 합니다.

기업들이 이런 AI 모델을 쓰는 방식은 대부분 API를 통해 이뤄집니다. API(Application Programming Interface)는 식당 주방에 설치된 음식 주문 키오스크와 같습니다. 손님(개발자)은 키오스크 화면(API)을 통해 원하는 메뉴(명령)를 누르면, 주방(AI 모델)에서 요리(결과물)가 나옵니다. 이때 음식값은 주문량에 따라 달라집니다. AI 세계에서는 이 비용을 '토큰(Token)' 단위로 계산합니다. 토큰은 대략 단어나 글자 쪼가리 정도로 이해하면 쉽습니다. AI에게 질문을 던지고 답변을 받는 모든 과정에 토큰 단위로 요금이 부과되는, 일종의 택시 미터기입니다.

문제는 여기서 발생합니다. 벤치마크 점수가 5% 높은 최신 모델의 '토큰'당 가격은 이전 모델보다 50%, 심지어 100% 비쌀 수 있습니다. 기업 입장에서 생각해 보십시오. 5% 더 똑똑한 직원에게 월급을 두 배로 주는 셈입니다. 그 직원이 창출하는 가치가 정말 두 배가 될까요? 대부분의 경우 그렇지 않습니다. 고객 이메일 초안을 좀 더 세련되게 써주거나, 코드 오류를 몇 개 더 찾아주는 수준의 개선이 회사의 전체 매출을 극적으로 끌어올리지는 못합니다.

결국 '모델 피로' 현상은 AI를 도입하려는 기업들을 값비싼 '토큰의 덫'으로 밀어 넣고 있습니다. 더 좋은 결과물을 얻고 싶다는 막연한 기대감에 너도나도 최신 모델의 API를 호출하지만, 비용 대비 효용은 갈수록 떨어집니다. 이 돈잔치의 첫 번째 청구서는 바로 이렇게 부풀려진 API 사용료를 내는 기업들의 몫입니다.

역사에서 배운다: 2000년의 '다크 파이버'를 기억하는가

이런 광경은 처음이 아닙니다. 역사는 반복됩니다. 지금의 AI 모델 경쟁은 2000년대 초 닷컴 버블 시절의 '다크 파이버(Dark Fiber)' 사태와 놀랍도록 닮았습니다.

당시 월스트리트와 실리콘밸리는 '인터넷 트래픽은 매년 두 배씩 영원히 증가할 것'이라는 믿음에 사로잡혀 있었습니다. 이 믿음 하나로 월드컴, 글로벌크로싱 같은 회사들은 미국 전역에 수십만 킬로미터의 광케이블을 깔았습니다. 수요가 폭발할 테니 일단 깔아놓기만 하면 떼돈을 벌 것이라 확신했습니다. 하지만 깔아놓은 케이블 중 실제 데이터가 흘러 빛을 내는(lit) 비중은 얼마 되지 않았고, 대부분은 불 꺼진 채(dark) 땅속에 묻혔습니다. 이것이 바로 '다크 파이버'입니다.

결과는 처참했습니다. 수요 예측은 빗나갔고, 광케이블은 극심한 공급 과잉 상태에 빠졌습니다. 천문학적인 돈을 쏟아부었던 회사들은 줄줄이 파산했습니다. 투자자들은 수십억 달러를 날렸습니다. 하지만 땅속에 묻힌 광케이블 자체가 사라진 것은 아닙니다. 몇 년 뒤, 헐값에 이 자산을 인수한 후발주자들이 나타났습니다. 이들은 거의 공짜나 다름없는 통신 인프라를 바탕으로 유튜브나 넷플릭스 같은 새로운 서비스를 만들어내며 진짜 승자가 되었습니다.

오늘날 AI 모델이 바로 21세기의 '다크 파이버'입니다. '지능'에 대한 수요가 무한할 것이라는 막연한 기대감 속에 너도나도 거대언어모델(LLM, 쉽게 말해 사람 말을 흉내 내 문장을 만들어 내는 AI)이라는 이름의 정보 고속도로를 깔고 있습니다. 하지만 대부분의 모델은 뚜렷한 쓰임새를 찾지 못한 채 서버 안에서 잠자게 될 가능성이 높습니다. '모델 피로'는 이미 공급 과잉의 경고등이 켜졌다는 신호입니다. 이 버블의 정점에서 모델 개발에 막대한 돈을 쏟아부은 기업들은 과거의 광케이블 회사들처럼 역사의 뒤안길로 사라질 수 있습니다. 진짜 돈은 이들이 깔아놓은 길 위에서 새로운 사업을 벌이는 자들의 차지가 될 것입니다.

엔비디아의 진짜 속셈: '곡괭이' 팔다 '광산'을 삼키다

이 혼란 속에서 가장 영리하게 움직이는 플레이어는 단연 엔비디아입니다. 엔비디아는 AI 골드러시 시대에 금을 캐는 광부들에게 곡괭이와 청바지(GPU, 그래픽 처리 장치)를 팔아 돈을 번 회사로 비유되곤 했습니다. 하지만 최근 허깅페이스(Hugging Face) 인수는 이 비유가 틀렸다는 것을 보여줍니다. 엔비디아는 이제 곡괭이를 파는 데 만족하지 않고, 광부들이 모이는 가장 큰 '광산 마을' 자체를 사들인 셈입니다.

허깅페이스는 AI 개발자들의 놀이터이자 장터입니다. 전 세계 개발자들이 자기가 만든 AI 모델을 올려두고 서로 공유하며 발전시키는, 이른바 'AI계의 깃허브(GitHub)'입니다. 특히 특정 기업에 종속되지 않는 오픈소스, 즉 소스 코드가 공개된 모델들의 성지입니다. 엔비디아가 이곳을 인수했다는 것은 단순히 소프트웨어 기업 하나를 합병한 것 이상의 의미를 가집니다.

엔비디아의 진짜 목표는 '생태계 종속'입니다. 허깅페이스에 올라온 수많은 오픈소스 모델들이 결국 누구의 칩 위에서 가장 잘 돌아가도록 최적화될까요? 당연히 엔비디아의 GPU와, 그 GPU를 움직이는 소프트웨어인 쿠다(CUDA)입니다. 개발자들은 가장 편하고 성능이 잘 나오는 환경을 선호하기 마련입니다. 엔비디아는 허깅페이스를 통해 오픈소스라는 '개방'의 이미지를 적극 활용하면서도, 그 저변 기술은 철저히 자사의 폐쇄적인 생태계 안에 가두는 전략을 구사하고 있습니다. 마치 모두에게 공짜로 깨끗한 물을 나눠주는 것처럼 보이지만, 사실 그 물을 마시려면 특정 회사가 만든 컵을 써야만 하는 것과 같습니다.

이는 과거 마이크로소프트가 윈도우라는 운영체제로 PC 시장을 장악했던 전략의 현대판입니다. 당시 모든 소프트웨어는 윈도우 위에서 돌아가도록 개발되어야 했습니다. 이제 엔비디아는 '쿠다+허깅페이스' 연합을 통해 AI 시대의 새로운 표준을 만들려 합니다.

흔한 오해 두 가지, 그리고 진짜 봐야 할 것

이 복잡한 판을 읽기 위해선 몇 가지 흔한 오해부터 바로잡아야 합니다.

• 오해 1: "오픈소스 모델이 많아지면 특정 기업의 독점을 막을 수 있다."

반은 맞고 반은 틀린 말입니다. 정확히는 '모델' 자체의 독점은 막을 수 있지만, '플랫폼'의 독점은 오히려 강화될 수 있습니다. 엔비디아의 허깅페이스 인수가 바로 그 예입니다. 수만 개의 오픈소스 모델이 나와도, 그 모델들을 돌리는 하드웨어와 소프트웨어 스택을 한 회사가 장악한다면 무슨 소용이 있겠습니까? 오픈소스 생태계 전체가 엔비디아라는 거대한 성을 방어하는 해자(moat) 역할을 하게 되는 역설이 벌어집니다. 이는 '개방'의 탈을 쓴 새로운 형태의 '종속'입니다.

• 오해 2: "가장 좋은 모델 하나만 골라서 쓰면 된다."

이는 마치 모든 이동을 최고급 택시로만 해결하려는 생각과 같습니다. 비효율적일뿐더러 가능하지도 않습니다. 아직 세상의 모든 문제를 완벽하게 푸는 '만능 AI'는 존재하지 않습니다. 이메일 초안 작성에 뛰어난 모델(단거리용 일반 택시), 복잡한 코드를 짜는 데 특화된 모델(장거리용 모범택시), 의료 영상을 분석하는 모델(특수 목적용 앰뷸런스)은 모두 다릅니다. 진짜 경쟁력은 가장 비싸고 좋은 모델 하나를 보유하는 데서 나오는 것이 아닙니다. 여러 가지 목적과 비용에 맞는 모델들을 적재적소에 골라 쓰고, 이들을 유기적으로 엮어 하나의 서비스처럼 작동하게 만드는 능력에서 나옵니다. 업계에서는 이를 'AI 오케스트레이션(AI Orchestration)'이라 부릅니다. 수많은 악기를 지휘해 하나의 교향곡을 만드는 것처럼, 다양한 AI 모델을 지휘하는 역량이 중요해진 것입니다.

돈잔치의 청구서: 추적해야 할 세 가지 신호

그렇다면 이 혼란스러운 시장에서 돈의 흐름을 읽기 위해 우리는 무엇을 봐야 할까요? 화려한 모델 발표회나 벤치마크 점수 뒤에 숨은 진짜 신호는 따로 있습니다. 다음 세 가지를 꾸준히 추적해야 합니다.

1. AI 기업들의 '고객당 평균 매출(ARPU)' 변화: 모델은 계속 쏟아지는데, 과연 고객사들이 AI 서비스에 지갑을 더 열고 있는지 확인해야 합니다. 기업들의 분기별 실적 발표에서 고객당 평균 매출이 정체되거나 하락하기 시작한다면, 이는 '모델 피로'가 한계를 넘어 '지출 피로'로 번지고 있다는 뜻이며 거품 붕괴의 강력한 신호입니다.

1. 'AI 오케스트레이션' 관련 기업의 부상: 혼란은 누군가에게 기회입니다. '여러 AI 모델을 쉽게 섞어 쓰게 해드립니다'라고 말하는 기업들이 속속 등장할 것입니다. 데이터브릭스, 스노우플레이크 같은 기존 강자들은 물론, 이 분야에 특화된 새로운 스타트업들의 몸값이 오르는지 주목해야 합니다. 복잡한 모델들을 정리하고 교통정리해주는 '중간상인'에게 진짜 돈이 흘러 들어갈 가능성이 높습니다.

1. 엔비디아의 다음 행보: '추론(Inference)' 시장 장악 시도: 지금까지 엔비디아는 AI를 만드는 '학습(Training)' 과정에 필요한 GPU를 팔아 막대한 돈을 벌었습니다. 비유하자면, 백과사전을 집필하는 데 필요한 인쇄기를 판 셈입니다. 이제 엔비디아의 시선은 만들어진 AI를 실제 서비스에 활용하는 '추론(Inference)' 시장으로 향할 것입니다. 이는 완성된 백과사전에서 질문에 대한 답을 찾아주는 과정에 해당합니다. 훨씬 더 광범위하고 큰 시장입니다. 엔비디아가 추론에 특화된 저가형 칩이나 클라우드 서비스를 공격적으로 출시한다면, 이는 AI 시장의 무게중심이 개발에서 활용으로 넘어가고 있다는 결정적 증거입니다.

독자가 던질 법한 질문들

Q. 그래서 지금 AI 관련 주식은 전부 팔아야 합니까? A. 그럴 필요는 없습니다. 다만 '묻지마 투자'의 시대가 끝났다는 것을 인정해야 합니다. 옥석 가리기가 본격적으로 시작된 것입니다. 이제는 화려한 기술 발표가 아니라, 그 기술로 어떻게 돈을 버는지 명확한 수익 모델을 가진 기업을 찾아야 합니다. 곡괭이 장수(엔비디아)의 사업은 한동안 굳건하겠지만, 그 곡괭이로 진짜 금맥(지속 가능한 수익 모델)을 찾아낸 광산 회사가 어디인지 냉정하게 살펴야 할 때입니다.

Q. 오픈AI나 구글 같은 거대 기업은 결국 살아남지 않겠습니까? A. 물론 살아남을 것입니다. 하지만 지금처럼 모든 스포트라이트를 받으며 시장을 독식하기는 어려워질 수 있습니다. 2000년대 닷컴 버블이 꺼진 뒤에도 야후나 AOL은 살아남았지만, 시장의 규칙을 새로 쓴 것은 구글과 아마존 같은 새로운 강자였습니다. 지금의 무분별한 모델 경쟁이 소모전으로 이어진다면, 그 혼란 속에서 비용 효율과 실용성을 무기로 한 새로운 플레이어가 판을 뒤흔들 수 있습니다.

Q. 개인 사용자 입장에서는 무엇이 달라지는 겁니까? A. 단기적으로는 이득입니다. 치열한 경쟁 덕분에 더 성능 좋고 저렴한 AI 서비스를 이용할 수 있게 될 겁니다. 하지만 장기적으로는 특정 플랫폼에 나도 모르게 종속될 위험이 있습니다. 과거 우리가 '윈도우'와 '인터넷 익스플로러' 없이는 컴퓨터를 쓰기 어려웠던 것처럼, 미래에는 '엔비디아 생태계' 없이는 AI를 제대로 활용하기 힘든 날이 올 수도 있습니다. 소비자는 언제나 선택지가 많을 때 가장 큰 힘을 갖는다는 평범한 진리를 기억해야 합니다. 새 모델이 쏟아지는 화려한 파티는 끝났습니다. 이제 질문은 '누가 가장 똑똑한 AI를 가졌나'가 아니라, '누가 이 비싼 장난감들의 사용법을 팔아 돈을 버는가'입니다.