AI 골드러시, ‘자본금’ 없는 자는 입장 불가

인공지능(AI)이 세상을 바꾼다는 말은 이제 식상할 정도입니다. 그러나 이 화려한 기술 잔치 뒤에서 조용히 ‘자본금 부족’이라는 경고음이 울리고 있습니다. 최근 인텔과 브로드컴의 최고경영자(CEO)가 동시에 지적한 문제입니다. AI 경쟁의 승패를 가르는 것이 코딩 실력이나 기발한 아이디어가 아니라, 데이터센터를 짓고 전기세를 감당할 수 있는 ‘돈’이 될 것이라는 냉정한 현실 진단입니다.

실리콘밸리의 돈의 흐름을 좇다 보면 늘 마지막에 마주하는 질문이 있습니다. ‘이 파티가 끝나면, 청구서는 누가 받게 되는가?’ AI 혁명이라는 거대한 파도 앞에서, 이 질문은 그 어느 때보다 중요해졌습니다. 이것은 일시적인 성장통이 아니라, AI 산업의 구조 자체를 뒤흔들 수 있는 근본적인 문제입니다.

메커니즘: AI는 돈을 어떻게 태우는가

AI가 왜 그렇게 돈이 많이 드는지, 많은 분들이 막연하게만 알고 있습니다. ‘컴퓨터가 많이 필요하니까’ 정도의 생각입니다. 조금 더 구체적인 그림을 그려보겠습니다. 최신 AI 모델 하나를 개발하고 운영하는 것은, 하룻밤 사이에 전국 단위의 거대 레스토랑 프랜차이즈를 여는 것과 비슷합니다.

- 1단계: 최고급 주방 설비 사들이기 (AI 칩 확보) AI의 두뇌 역할을 하는 것이 GPU(그래픽 처리 장치)라는 반도체입니다. 원래는 게임 그래픽을 처리하던 부품인데, 수많은 계산을 동시에 해치우는 능력이 AI 학습에 제격이라 품귀 현상을 빚고 있습니다. 엔비디아의 H100 같은 최신 AI 칩은 개당 4만 달러(약 5500만 원)를 호가하며, 이마저도 없어서 못 삽니다. LLM(Large Language Model, 사람의 글 수십억 건을 학습해 문장 만드는 AI) 하나를 훈련시키려면 이런 칩이 수천, 수만 개 필요합니다. 최고급 이탈리아제 화덕을 수천 개 사서 프랜차이즈 주방을 채우는 셈입니다.

- 2단계: 전국에 레스토랑 건물 짓기 (데이터센터 건설) 그 비싼 칩들을 꽂아둘 공간이 필요합니다. 바로 데이터센터입니다. 단순한 건물이 아닙니다. 항온·항습·보안·내진 설계가 적용된 특수 시설입니다. 수만 대의 서버가 내뿜는 열을 식히기 위한 냉각 시스템, 안정적인 전력 공급을 위한 이중, 삼중의 전력망까지 갖춰야 합니다. 땅값 비싼 수도권 근교에 수십만 평 규모의 레스토랑 지점을 동시다발적으로 짓는 것과 같습니다. 마이크로소프트와 오픈AI가 추진하는 1000억 달러(약 138조 원) 규모의 ‘스타게이트’ 슈퍼컴퓨터 프로젝트가 대표적입니다.

- 3단계: 24시간 식당 돌리기 (전력 및 운영 비용) 레스토랑을 열었으면 계속 운영해야 합니다. AI 모델이 한번 만들어졌다고 끝이 아닙니다. 사용자들이 질문을 던지고 답을 얻는 ‘추론(Inference)’ 과정은 24시간 내내 계속됩니다. 이는 식당으로 치면 손님 주문을 받고 음식을 내놓는 실제 영업 활동입니다. 이 과정에서 GPU는 엄청난 양의 전기를 소모합니다. 버지니아 북부에는 ‘데이터센터 골목’이라 불리는 지역이 있는데, 이곳의 데이터센터들이 쓰는 전력량이 미국 전체 원자력 발전소 수십 개의 발전량과 맞먹을 정도입니다. 매달 내야 하는 전기요금, 즉 가스비와 전기세가 상상을 초월하는 규모로 불어나는 것입니다.

이 세 가지 비용은 서로 맞물려 기하급수적으로 늘어납니다. 더 좋은 AI를 만들려면 더 많은 칩이 필요하고, 더 많은 칩은 더 큰 데이터센터와 더 많은 전기를 요구합니다. 이것이 AI가 돈을 태우는 방식의 본질입니다.

역사적 평행선: 닷컴 버블의 ‘다크 파이버’를 기억하는가

현재의 AI 인프라 투자 광풍은 25년 전 닷컴 버블 시기의 한 장면을 떠올리게 합니다. 바로 ‘다크 파이버(Dark Fiber)’ 사태입니다.

1990년대 후반, 인터넷이 세상을 집어삼킬 것이라는 믿음 아래 수많은 통신 기업들이 전 세계에 광케이블을 매설하는 경쟁에 뛰어들었습니다. 글로벌 크로싱, 월드콤 같은 회사들은 수십억 달러를 쏟아부어 대서양과 태평양 밑바닥까지 광케이블을 깔았습니다. 인터넷 트래픽이 매년 2배씩 영원히 성장할 것이라는 장밋빛 전망을 믿었기 때문입니다.

결과는 처참했습니다. 수요 예측은 빗나갔고, 깔아놓은 광케이블의 95% 이상이 불도 켜지 않은 채 ‘어두운 섬유(Dark Fiber)’로 남았습니다. 공급이 수요를 압도적으로 초과한 것입니다. 막대한 투자금을 회수하지 못한 기업들은 줄줄이 파산했습니다. 당시 투자자들은 인터넷의 ‘가능성’에만 베팅했을 뿐, 그 인프라를 채울 ‘수익 모델’이 무엇인지 냉정하게 따져보지 않았습니다.

오늘날 AI 데이터센터 경쟁도 비슷합니다. 빅테크들은 너도나도 AI 수요가 폭발할 것이라며 천문학적인 돈을 들여 데이터센터를 짓고 있습니다. 물론 AI가 인터넷보다 더 실질적인 효용을 만들어내는 것은 사실입니다. 하지만 지금의 투자 규모는 ‘모든 기업이, 모든 업무에, 고비용 AI를 쓸 것’이라는 가장 낙관적인 시나리오에 기반합니다. 만약 기업들이 비용 문제로 AI 도입을 주저하거나, 생각보다 수익성이 나오지 않는다면 어떻게 될까요? 지금 불을 밝히고 있는 데이터센터의 일부는 미래의 ‘다크 데이터센터’가 될지 모릅니다.

또 다른 역사적 평행선은 ‘벤더 파이낸싱(Vendor Financing)’입니다. 물건을 파는 회사가 구매자에게 돈까지 빌려주며 자기 물건을 사게 하는 방식입니다. 단기적으로는 매출이 부풀려지지만, 구매자가 돈을 갚지 못하면 파는 회사와 사는 회사가 동시에 무너지는 위험한 구조입니다. 지금 빅테크들이 유망 AI 스타트업에 수천억 원의 ‘클라우드 사용권(Credit)’을 투자 형태로 제공하는 것이 이와 유사합니다. 스타트업은 이 돈으로 투자사의 클라우드 위에서 AI를 개발합니다. 스타트업의 지출은 고스란히 빅테크의 클라우드 매출로 잡힙니다. 겉보기엔 모두가 성장하는 것 같지만, 이 돈잔치의 청구서는 아직 누구에게도 제대로 발송되지 않았습니다.

빅테크의 ‘자본 해자’와 그들만의 리그

AI 인프라의 자본 집약적 특성은 산업의 지형을 근본적으로 바꾸고 있습니다. 바로 ‘자본 해자(Capital Moat)’의 구축입니다. 중세 성 주위에 파놓은 깊은 도랑처럼, 막대한 자본력이 다른 경쟁자들의 진입을 원천적으로 차단하는 역할을 합니다.

현재 이 해자를 팔 수 있는 기업은 마이크로소프트, 구글, 아마존, 메타 등 소수의 빅테크뿐입니다. 이들의 2024년 1분기 자본 지출(CAPEX, 설비 투자 비용) 합계는 400억 달러에 육박하며, 대부분 AI 인프라에 투입됩니다. 이들은 막대한 현금 보유고를 바탕으로 엔비디아 칩을 싹쓸이하고, 자체 AI 칩까지 개발합니다.

• 자체 칩 개발의 진짜 이유: 구글(TPU), 아마존(트레이니엄, 인퍼런시아), 마이크로소프트(마이아)가 자체 칩을 만드는 이유는 단순히 엔비디아 의존도를 낮추기 위함이 아닙니다. 더 중요한 것은 ‘비용 통제’입니다. 자신들의 서비스(검색, 클라우드, 오피스365)에 최적화된 칩을 만들어 전력 효율을 높이고, 장기적으로 천문학적인 운영 비용을 절감하려는 전략입니다. 이는 수조 원의 초기 개발비를 감당할 수 있는 극소수만이 가능한 게임입니다.

• 스타트업의 딜레마: 반면 자본이 부족한 AI 스타트업은 선택지가 없습니다. 비싼 값에 엔비디아 칩을 사거나, 빅테크의 클라우드 서비스를 빌려 써야 합니다. 이는 마치 건물주에게 비싼 월세를 내며 식당을 운영하는 것과 같습니다. 아무리 장사가 잘 되어도 상당 이익이 건물주에게 돌아가는 구조입니다. AI 스타트업이 유치한 투자금의 상당 부분이 결국 아마존(AWS), 마이크로소프트(Azure), 구글(GCP)의 주머니로 들어간다는 것은 공공연한 비밀입니다.

이러한 구조는 AI 혁신의 주도권이 소수의 대기업에 영구히 귀속될 위험을 내포합니다. 다음 표는 빅테크와 스타트업의 현실을 극명하게 보여줍니다.

결국 AI는 ‘가진 자’가 더 많이 갖게 되는 완벽한 무대가 되고 있습니다. 기술의 민주화가 아니라 자본에 의한 과점이 심화되는 역설입니다.

흔한 오해와 반론: ‘돈은 결국 따라온다’는 낙관론의 함정

물론 반론도 있습니다. AI가 가져올 생산성 향상과 새로운 시장의 가치가 워낙 크기 때문에, 자본은 어떻게든 이 기회를 따라 흘러 들어올 것이라는 낙관론입니다. 일리 있는 말이지만, 여기에는 두 가지 함정이 있습니다.

- 오해 1: “혁신에는 언제나 돈이 몰린다.” 2021년이라면 맞는 말이었습니다. 제로금리 시대에는 성장 ‘이야기’만으로도 투자가 몰렸습니다. 하지만 지금은 상황이 다릅니다. 고금리 환경에서 투자자들은 ‘수익성’이라는 구체적인 증거를 요구합니다. ‘언젠가 돈을 벌 것’이라는 기대만으로는 수조 원의 자본을 움직일 수 없습니다. 벤처캐피탈들은 이미 AI 포트폴리오사들에 ‘비용을 줄이고 수익을 내라’고 압박하고 있습니다. ‘묻지마 투자’의 시대는 끝났습니다.

- 오해 2: “클라우드가 AI를 모두에게 공평하게 제공한다.” 클라우드 컴퓨팅 덕분에 스타트업도 비싼 서버를 직접 사지 않고 AI를 개발할 수 있게 된 것은 사실입니다. 그러나 이는 ‘접근성’의 문제일 뿐, ‘지속가능성’의 문제는 해결해주지 못합니다. 클라우드 비용은 AI 모델이 복잡해지고 사용자가 늘수록 눈덩이처럼 불어납니다. 많은 AI 스타트업들이 매출의 30~50%를 클라우드 비용으로 지출하는 ‘클라우드 빈곤(Cloud-Poor)’ 상태에 빠집니다. 이는 결국 빅테크라는 건물주 좋은 일만 시키는 구조로 귀결될 수 있습니다. 남의 땅에서 농사를 짓는 소작농이 부자가 되기 어려운 것과 같은 이치입니다.

낙관론은 AI가 창출할 ‘총 가치’에만 주목하지만, 그 가치가 누구에게, 어떻게 분배되는지를 보지 않습니다. 자본의 흐름을 보면, 그 가치는 인프라를 소유한 소수에게 집중될 가능성이 매우 높습니다.

추적 신호: 돈잔치의 청구서는 어디로 향하는가

그렇다면 이 거대한 자본 게임의 향방을 우리는 어떻게 가늠할 수 있을까요? 복잡한 기술 논쟁 대신, 몇 가지 ‘돈의 신호’를 추적하면 큰 흐름을 읽을 수 있습니다. 제가 늘 강조하는 ‘청구서의 행방’을 찾는 방법입니다.

1. 전력 회사와 데이터센터 리츠(REITs)의 주가: AI의 가장 정직한 기반은 전기와 건물입니다. AI 붐이 진짜라면, 전기를 공급하는 전력 회사와 데이터센터를 소유·운영하는 부동산 투자신탁(리츠)의 실적이 반드시 좋아져야 합니다. 이들 기업이 데이터센터 전용 발전소를 짓거나, 대규모 증설 계획을 발표하는지 주목해야 합니다. 만약 이들의 주가나 실적 성장이 멈춘다면, AI 인프라 확장에 브레이크가 걸리고 있다는 가장 강력한 신호입니다.

1. 빅테크의 분기별 자본 지출(Capex) 보고서: 마이크로소프트, 구글, 아마존, 메타가 매 분기 발표하는 실적 보고서에서 ‘자본 지출(Capital Expenditures)’ 항목을 주시해야 합니다. 이 숫자가 바로 그들이 AI 인프라에 쏟아붓는 현금의 규모입니다. 만약 이 수치가 시장 예상치를 밑돌거나 전 분기 대비 감소하기 시작한다면, 이는 빅테크조차 AI 투자의 속도를 조절하고 있다는 뜻입니다. 이는 엔비디아를 포함한 전체 AI 공급망에 보내는 위험 신호입니다.

1. AI 스타트업의 ‘클라우드 비용’ 비중: 상장된 AI 스타트업이나 재무 정보가 공개되는 기업의 경우, 매출 대비 클라우드 비용이 얼마나 되는지 따져보는 것이 중요합니다. 이 비중이 감당 불가능한 수준으로 높거나 계속 증가하고 있다면, 해당 기업의 비즈니스 모델은 지속 가능하지 않다는 증거입니다. 이것이 바로 스타트업에게 발송된 첫 번째 청구서입니다.

이 세 가지 신호는 AI라는 화려한 무대의 막 뒤에서 실제로 돈이 어떻게 움직이는지를 보여주는 지표입니다. 기술 자체의 발전 속도보다 이 돈의 흐름이 AI 시대의 진짜 속도계를 쥐고 있을 겁니다.

Q&A: 독자가 던질 법한 질문들

Q. 그렇다면 AI 스타트업은 이제 기회가 없는 건가요?

A. 아닙니다. 기회의 종류가 달라졌을 뿐입니다. 돈이 많이 드는 거대 언어 모델(LLM)을 직접 개발하는 ‘파운데이션 모델’ 경쟁은 사실상 빅테크의 독점 무대가 되었습니다. 대신, 빅테크가 만들어 놓은 거대 모델을 특정 산업(의료, 법률, 금융 등)에 맞춰 가볍고 효율적으로 최적화하거나, 이를 활용해 기발한 서비스를 만드는 ‘애플리케이션’ 영역에서는 여전히 무한한 기회가 있습니다. 비싼 주방을 직접 차릴 게 아니라, 남의 주방에서 만든 최고급 재료로 기가 막힌 도시락을 만들어 파는 것과 같습니다. 자본이 아닌 아이디어와 실행력으로 승부하는 시장은 분명히 존재합니다.

Q. 정부가 보조금을 주거나 지원하면 해결되지 않을까요?

A. 일부 도움이 되겠지만 근본적인 해결책은 아닙니다. AI 인프라 구축에 들어가는 비용은 한 국가의 R&D 예산을 가뿐히 넘어섭니다. 한국전력이 데이터센터에 전기를 공급하느라 산업용 전력이 부족해질 수 있다는 우려까지 나옵니다. 세금으로 특정 기업의 AI 인프라 비용을 대주는 것은 결국 국민 모두에게 청구서를 넘기는 셈입니다. 그 편익이 사회 전체의 비용을 넘어설 수 있는지 냉정한 계산이 필요합니다. 섣부른 지원은 특정 기업 배만 불리는 결과로 이어질 수 있습니다.

Q. 결국 엔비디아만 좋은 일 아닌가요?

A. 단기적으로는 그렇습니다. 모두가 금을 캐러 서부로 향할 때, 청바지와 곡괭이를 팔아 가장 큰돈을 번 리바이 스트라우스와 같습니다. 하지만 엔비디아의 운명도 결국 고객의 지갑 사정에 달려 있습니다. 엔비디아의 핵심 고객은 소수의 빅테크에 집중되어 있습니다. 이들이 자체 칩 개발에 성공해 엔비디아 칩 구매를 줄이기 시작하면, 엔비디아의 성장세도 꺾일 수밖에 없습니다. 영원한 승자는 없습니다. 엔비디아의 진짜 리스크는 AMD나 인텔 같은 경쟁사가 아니라, ‘고객의 자본 효율성’이라는 더 큰 파도입니다.