잔치는 끝났습니다. AI 데이터센터에 빌려준 돈, 은행이 벌써 거둬들이는 이유

시작은 ‘코딩 없는 코딩’의 추억으로부터

며칠 전, 잘 아는 후배 개발자가 잔뜩 신이 나서 새로운 AI 서비스를 보여줬습니다. 자연어로 길게 명령을 내리니 제법 그럴듯한 코드를 수십 줄이나 만들어 냈습니다. “선배님, 이제 이런 건 사람이 짤 필요가 없겠는데요?”라며 눈을 빛냈습니다. 저는 고개를 끄덕여주면서도 속으로는 20년 전의 풍경을 떠올리고 있었습니다. 기시감이었습니다.

제가 처음 업계에 발을 들였을 때도 비슷한 약속들이 넘쳐났습니다. ‘케이스(CASE) 도구’라는 게 있었습니다. ‘Computer-Aided Software Engineering’의 약자인데, 이름은 거창하지만 실체는 설계도를 그리면 컴퓨터가 알아서 코드를 만들어준다는 물건이었습니다. 이걸 쓰면 개발자가 없어도 소프트웨어를 만들 수 있다고들 했습니다. 그 이전에는 ‘4세대 언어’라는 것도 있었습니다. 영어나 사람 말과 비슷한 명령어로 데이터를 처리할 수 있게 해, 프로그래밍을 모르는 현업 담당자도 직접 필요한 프로그램을 만들 수 있다는 꿈 같은 이야기였죠.

결과는 어땠을까요. 다들 아시는 대로입니다. 이런 도구들은 간단한 보고서를 뽑거나 정형화된 화면을 만드는 데는 그럭저럭 쓰였지만, 현실 세계의 복잡다단한 예외 처리와 비즈니스 논리를 담아내기엔 역부족이었습니다. 결국 비싸고 다루기 힘든 애물단지로 전락해 역사의 뒤안길로 사라졌습니다. 코딩 없는 코딩의 꿈은 그렇게 몇 번이나 부서졌습니다.

오늘날 AI 데이터센터를 둘러싼 금융가의 미묘한 기류 변화를 보며, 저는 또다시 그때의 기억을 소환합니다. 기술이 세상을 바꿀 것이라는 거대한 기대감, 그 기대에 편승한 막대한 자본의 투입, 그리고 얼마 지나지 않아 슬그머니 고개를 드는 현실적인 계산서. 지금 벌어지는 일은 AI라는 최신 기술에 덧씌워진 오래된 패턴의 재방송일지 모릅니다.

AI 데이터센터, ‘일단 짓고 보자’의 청구서가 날아들다

최근 금융 시장에서 흥미로운 소식이 들려왔습니다. 인공지능(AI)의 심장이자 두뇌 역할을 하는 데이터센터를 짓겠다며 앞다퉈 돈을 빌려 가던 기업들에게, 이제 은행들이 ‘그 돈, 우리가 계속 들고 있기 부담스러우니 다른 투자자에게 넘기겠다’고 나서고 있다는 소식입니다. 쉽게 말해, 데이터센터 건설에 필요한 수십억 달러짜리 대출 채권을 시장에 내다 팔기 시작했다는 겁니다.

비유를 들어보겠습니다. 이제 막 뜨는 상권에 최신 유행의 레스토랑이 들어선다고 합시다. 건물주는 ‘대박’을 예감하며 10년 장기 임대 계약을 흔쾌히 맺어줬습니다. 그런데 몇 달도 채 지나지 않아, 이 건물주가 주변 부동산에 “이 건물 사실 분?” 하고 알아보고 다니는 격입니다. 레스토랑이 앞으로 10년간 꼬박꼬박 월세를 낼 만큼 장사가 잘될지 확신이 서지 않기 시작한 겁니다. 지금 은행들의 심리가 딱 이와 같습니다.

우선 데이터센터가 무엇인지 간단히 짚고 넘어가야 합니다. 거대한 창고나 빌딩 안에 수천, 수만 대의 고성능 컴퓨터(서버)를 빽빽하게 채워 넣고, 1년 365일 내내 안정적으로 전기를 공급하며 열을 식혀주는 시설입니다. AI 시대의 ‘발전소’이자 ‘공장’인 셈입니다. 특히 요즘 AI 모델을 훈련하고 운영하는 데는 ‘GPU(그래픽 처리 장치)’라는 특수한 반도체가 대량으로 필요합니다.

원래 GPU는 게임의 화려한 그래픽을 처리하기 위해 만들어졌습니다. 하나의 똑똑한 일꾼(CPU)이 복잡한 문제를 순서대로 푸는 대신, 수천 개의 단순한 일꾼(GPU 코어)들이 간단한 계산을 동시에 해치우는 방식입니다. 이 ‘동시 다발 단순 계산’ 능력이 AI가 요구하는 행렬 연산에 기가 막히게 들어맞으면서 GPU는 AI 시대의 필수품이 됐습니다. 이 비싼 GPU를 수만 개씩 사들여 데이터센터를 채우려면 천문학적인 돈이 들어갑니다. 은행들은 이 ‘AI 혁명’이라는 구호 아래 기꺼이 지갑을 열었습니다. 하지만 이제 와서 그 대출 계약서 뭉치를 다른 투자자에게 넘기며 발을 빼려는 움직임을 보이고 있습니다. 아직 공사가 한창인 데이터센터도 있는데 말입니다. 왜일까요?

왜 은행은 갑자기 겁을 먹었나: 네 가지 불안 신호

은행들이 갑자기 소심해진 데는 몇 가지 복합적인 이유가 있습니다. 이는 단순히 한두 건의 문제가 아니라, AI 산업의 기저에 흐르는 불확실성을 수면 위로 드러내는 중요한 신호들입니다.

1. 끝나지 않는 고금리 파티와 이자 부담 금리가 높다는 건 돈의 값이 비싸다는 뜻입니다. 우리가 주택담보대출 금리가 오르면 허리띠를 졸라매는 것처럼, 기업도 마찬가지입니다. 특히 수조 원 단위의 돈을 빌려 시작하는 데이터센터 사업에서 고금리는 치명적입니다. 과거 저금리 시대에는 일단 돈을 빌려 인프라를 지어놓고 천천히 수익을 내도 괜찮았습니다. 하지만 지금처럼 금리가 높은 상황이 계속되면 매달 내야 할 이자만 해도 눈덩이처럼 불어납니다. AI 서비스로 벌어들이는 돈이 이 막대한 이자를 감당하고도 남을 만큼 폭발적이어야 하는데, 은행들이 보기에 그 미래가 점점 불투명해 보이는 겁니다.

2. ‘그래서, 돈은 어떻게 버는데요?’라는 근본적 질문 지난 1~2년간 우리는 수많은 생성형 AI 서비스를 목격했습니다. 정말 신기하고 대단합니다. 하지만 그중에서 ‘지속적으로, 안정적으로’ 큰돈을 버는 서비스는 얼마나 될까요? 챗GPT조차 아직 흑자 전환에 성공했다는 소식은 들리지 않습니다. 많은 AI 서비스가 막대한 운영 비용(대부분이 데이터센터 이용료입니다)을 감당하지 못하고 있습니다. 이는 마치 손님은 북적이지만 모두 공짜 시식만 하고 물건은 사지 않는 가게와 같습니다. 은행들은 이제 화려한 기술 시연이 아니라, 구체적인 ‘수익 모델’이 적힌 재무제표를 보고 싶어 합니다.

3. 부동산과 닮은 ‘과잉 공급’ 우려 너도나도 AI를 외치며 데이터센터를 짓고 있습니다. 빅테크 기업은 물론, 이름도 생소한 스타트업, 심지어 사모펀드까지 이 ‘디지털 부동산’ 개발에 뛰어들었습니다. 수요가 공급을 따라가지 못하면 어떻게 될까요? 가격이 떨어집니다. AI 컴퓨팅 자원에 대한 수요가 폭발적으로 늘고 있는 것은 사실이지만, 지금처럼 우후죽순으로 데이터센터가 들어서면 언젠가 초과 공급 상태가 될 수 있습니다. 그렇게 되면 데이터센터 이용료(서버 임대료)는 하락 압력을 받게 되고, 대출금을 갚을 만큼의 수익을 내기가 더 어려워집니다. 은행들은 2000년대 초 닷컴 버블 당시, 너도나도 깔았던 광케이블이 텅 빈 채로 남아돌던 악몽을 떠올리고 있습니다.

4. 계란을 한 바구니에 너무 많이 담았다는 깨달음 금융 기관의 기본은 분산 투자, 즉 리스크 관리입니다. 그런데 최근 몇 년간 AI가 워낙 뜨겁다 보니, 많은 은행의 대출 포트폴리오(자산 구성)에서 AI 인프라 관련 비중이 급격히 높아졌습니다. 특정 산업에 대한 익스포저(노출액)가 과도하게 커진 것입니다. 이는 은행 감독 당국에서도 예의주시하는 부분입니다. 이제 와서 “우리, AI라는 한 바구니에 계란을 너무 많이 담은 것 아닐까?” 하는 뒤늦은 자각과 함께, 포트폴리오 건전성을 위해 일부 자산을 매각해 위험을 줄이려는 움직임이 나타나고 있는 것입니다.

역사는 반복된다: 4세대 언어, CASE 도구, 그리고 노코드

제가 서두에 꺼냈던 ‘코딩 없는 코딩’의 역사를 다시 한번 찬찬히 들여다볼 필요가 있습니다. 이는 기술에 대한 과도한 기대가 어떻게 현실의 벽에 부딪히는지를 보여주는 훌륭한 사례 연구이기 때문입니다.

돌이켜보면 이들 기술의 공통점은 명확했습니다. ‘전문가의 복잡한 판단’이 필요한 영역을 자동화하려 했다는 점입니다. 4세대 언어는 업무 규칙의 미묘한 예외들을 처리하지 못했습니다. CASE 도구는 다이어그램으로 표현할 수 없는 비정형적인 요구사항과 성능 최적화 문제 앞에서 무력했습니다. 최근의 노코드/로우코드 플랫폼 역시 정해진 틀 안에서는 훌륭하지만, 사용자가 몰렸을 때의 확장성이나 복잡한 데이터 연동, 섬세한 사용자 경험(UX) 구현 같은 문제에 부딪히면 결국 ‘코드를 직접 짜야 한다’는 결론에 이릅니다.

생성형 AI는 이들보다 훨씬 강력하고 유연하지만, 본질은 크게 다르지 않습니다. 그럴듯한 초안을 순식간에 만들어내지만, 그 결과물이 정말 ‘쓸 만한지’, ‘정확한지’, ‘안전한지’를 판단하고 수정하는 것은 여전히 사람, 즉 전문가의 몫입니다. AI가 써준 코드에는 미묘한 버그가 숨어있고, AI가 요약한 글에는 사실관계 오류가 섞여 있으며, AI가 그린 그림은 손가락이 여섯 개인 채로 나오기도 합니다.

아래 표는 지난 수십 년간 반복된 ‘자동화의 약속과 현실’을 보여줍니다.

초기 AI 데이터센터 투자는 저 표의 ‘약속’ 단계를 기반으로 이루어졌습니다. AI가 모든 것을 자동화하고 무한한 가치를 창출할 것이라는 장밋빛 전망 말입니다. 하지만 이제 시장은 ‘현실’ 단계로 넘어가고 있습니다. AI를 활용해 실제 돈을 벌려면, AI가 내놓은 결과물을 다듬고 응용하는 전문가의 ‘판단’과 ‘노동’이 여전히, 아니 오히려 더 중요하며, 그 과정이 생각보다 만만치 않다는 것을 깨닫기 시작한 것입니다. 은행의 대출금 회수는 바로 이 깨달음의 금융적 표현에 다름 아닙니다.

흔한 오해 두 가지: ‘AI는 끝났다’ vs ‘그냥 은행의 변덕이다’

이러한 현상을 두고 시장에서는 두 가지 극단적인 해석이 나오곤 합니다. 하지만 둘 다 현실의 절반만 보고 있는 것일 수 있습니다.

오해 1: “그럼 AI 붐은 이제 끝난 건가요? 거품이 꺼지는 신호인가요?”

결코 그렇지 않습니다. 이것은 AI의 종말이 아니라, ‘묻지 마 투자’의 종말입니다. 오히려 AI 산업이 유아기를 지나 청소년기로 접어드는 건전한 성장통에 가깝습니다. 닷컴 버블이 꺼졌다고 해서 인터넷이 사라지지 않았던 것을 기억해야 합니다. 허황된 사업 모델을 내세웠던 펫츠닷컴 같은 기업들은 사라졌지만, 그 잿더미 위에서 아마존과 구글 같은 진짜 강자들이 태어났습니다. 마찬가지입니다. 이제부터는 ‘AI’라는 이름값만으로 주목받는 시대가 끝나고, AI를 이용해 어떤 구체적인 문제를 해결하고 실질적인 가치를 만들어내는지를 증명해야 하는 ‘진검승부’가 시작되는 것입니다.

오해 2: “은행의 일상적인 포트폴리오 조정일 뿐, 호들갑 떨 필요 없습니다.”

물론 은행들은 공식적으로 그렇게 말할 겁니다. 리스크 관리 차원의 통상적인 활동이라고 말이죠. 하지만 타이밍과 규모를 보면 마냥 그렇다고 보기는 어렵습니다. 보통 이런 인프라 대출은 완공 후 장기간 안정적인 현금 흐름을 기대하고 들어가는 장기 투자 상품입니다. 그런데 착공한 지 얼마 되지도 않은 시점에, 그것도 여러 은행이 동시다발적으로 대출 채권을 시장에 내놓는 것은 이례적인 일입니다. 이는 마치 이제 막 씨앗을 심어놓고, 싹이 트기도 전에 밭을 팔려는 농부와 같습니다. 그만큼 미래 작황에 대한 전망이 급격히 어두워졌다는 방증입니다. 단순한 변덕이 아니라, AI 산업의 수익성에 대한 근본적인 재평가가 시작됐다고 보는 것이 합리적입니다.

그래서 우리는 무엇을 봐야 하는가: ‘판단의 값’이 오르는 시대

그렇다면 이 변화의 소용돌이 속에서 우리는 무엇을 보고, 어떻게 대비해야 할까요. 저는 핵심이 ‘판단의 가치’에 있다고 봅니다.

지금까지의 AI 경쟁이 더 좋은 엔진(거대언어모델, LLM)을 만들고, 더 큰 공장(데이터센터)을 짓는 경쟁이었다면, 이제부터는 그 엔진과 공장을 이용해 ‘무엇을 만들어 팔 것인가’의 경쟁으로 전환되고 있습니다. 그리고 이 질문에 답하는 능력이야말로 인간의 고유한 역량인 ‘판단’의 영역입니다.

• 기업과 개발자에게: 단순히 AI API를 가져다 쓰는 것만으로는 더 이상 경쟁력이 없습니다. 우리 사업의 어떤 문제를 AI로 풀 것인가, AI가 내놓은 수많은 결과물 중 어떤 것을 선택하고 어떻게 가공해서 고객에게 전달할 것인가, 그리고 그 가치에 대해 어떻게 돈을 받을 것인가. 이 모든 과정에 깊이 있는 산업 전문성과 비판적 사고, 즉 탁월한 판단력이 요구됩니다. AI가 조수 역할을 해줄 수는 있지만, 총감독은 결국 사람이어야 합니다.

• 투자자에게: 지금까지는 AI 시대의 ‘곡괭이와 삽’을 파는 엔비디아나 데이터센터 관련주에 투자하면 쉽게 돈을 벌 수 있었습니다. 하지만 이제부터는 진짜 ‘금’을 캐는 광부를 찾아야 합니다. 즉, AI 기술을 활용해 실질적인 매출과 이익을 만들어내는 애플리케이션이나 서비스를 가진 기업을 옥석 가려내야 합니다. 이는 훨씬 더 어렵고 정교한 판단을 요구하는 일입니다.

결국 AI는 우리에게 더 많은 선택지와 가능성을 던져줍니다. 하지만 선택지가 많아질수록, 올바른 선택을 내리는 ‘판단’의 가치는 기하급수적으로 올라갑니다. AI가 증폭시킨 잘못된 판단은 과거보다 훨씬 더 큰 비용과 실패를 낳을 수 있기 때문입니다. 기술의 홍수 속에서 길을 잃지 않게 해주는 것은 결국 방향을 정하는 나침반, 즉 우리의 판단력입니다.

독자가 던질 법한 질문 세 가지

Q. 저는 AI 서비스를 만드는 작은 스타트업 대표입니다. 이제 투자받기 글렀나요?

A. 아닙니다. 오히려 기회일 수 있습니다. 'AI'라는 단어만으로 투자받던 시대가 끝났을 뿐입니다. 이제는 “우리 AI는 어떤 문제를, 기존 방식보다 10배 더 잘, 혹은 10배 더 싸게 해결합니다”를 명확히 증명해야 합니다. 막연한 기술 과시가 아닌, 구체적인 고객 가치와 수익 모델을 제시한다면 진짜 투자자들이 당신을 찾을 겁니다. '묻지 마 단체관광'은 끝났지만, 정말 가치 있는 목적지를 찾는 '배낭여행객'은 오히려 더 늘어날 겁니다.

Q. 그렇다면 엔비디아 같은 AI 칩 회사 주식은 이제 팔아야 할까요?

A. 제가 주식 전문가가 아니라 단정할 순 없습니다. 다만, 이 현상을 단기적인 칩 수요 감소로 바로 연결하기는 이릅니다. 아마존, 구글, 마이크로소프트 같은 거대 기업들은 자체 자금으로 계속 데이터센터를 지을 겁니다. 이들은 오히려 자금력이 부족한 경쟁자들이 주춤하는 틈을 타 시장 지배력을 강화하려 들 수 있습니다. 단기적으로는 수요 변동성이 커질 수 있지만, 이들 '큰손'들의 투자가 계속되는 한 칩 시장의 기반이 완전히 무너지지는 않을 겁니다. 관전 포인트는 이 큰손들의 투자 속도 조절 여부와, 그들이 사들인 막대한 칩으로 어떤 ‘돈 되는 서비스’를 만들어내는지 지켜보는 것입니다.

Q. AI가 결국 개발자를 대체할 거라는 말은 이제 헛소리가 되는 건가요?

A. '대체'라는 단어의 의미에 따라 다릅니다. 단순 반복적인 코드를 짜는 '코더(Coder)'의 역할은 AI가 상당 부분 가져갈 겁니다. 하지만 어떤 문제를 풀어야 할지 정의하고, 시스템 전체를 설계하며, AI가 내놓은 엉성한 초안을 쓸만한 제품으로 다듬고, 예상치 못한 문제를 해결하는 '엔지니어(Engineer)'와 '설계자(Architect)'의 가치는 오히려 더 올라갑니다. AI는 강력한 전동 드릴과 같습니다. 목수는 사라지지 않았지만, 손으로 못 박던 시절과는 비교할 수 없는 생산성을 갖게 됐죠. 대신 좋은 가구를 설계하고 마감하는 '판단'의 값은 훨씬 비싸졌습니다.