지금은 인공지능 시대(지인시) 심볼지금은 인공지능 시대
기술 트렌드

엔비디아 ‘스캔들’ 보도가 던진 질문, GPU만 바꾸면 끝날까

정우석글 · 정우석
AI 모델의 학습과 추론을 뒷받침하는 엔비디아 GPU와 데이터센터 서버 인프라
AI 모델의 학습과 추론을 뒷받침하는 엔비디아 GPU와 데이터센터 서버 인프라
더버지가 젠슨 황 엔비디아 CEO를 둘러싼 논란을 다룬 기사에서 짚은 배경은, 한 기업에 집중된 AI 산업의 의존도다. 매체는 엔비디아 칩을 미국 첨단 AI 기술의 토대로 설명하며, 공급을 웃도는 수요가 황 CEO에게 강력한 영향력을 부여했다고 전했다. 다만 제공된 발췌문만으로는 논란의 구체적인 내용과 발생 시점을 확인할 수 없으므로, 제목의 ‘스캔들’을 위법 행위가 입증됐다는 뜻으로 받아들여서는 안 된다. 이 보도에서 기술적으로 중요한 질문은 엔비디아에 문제가 생겼을 때 고객사가 얼마나 쉽게 다른 선택지로 이동할 수 있느냐다. GPU 공급이 부족하면 모델 학습 일정과 서비스 확장 계획이 함께 밀리기 때문에, 칩을 확보하는 일이 곧 제품 출시 경쟁력이 된다. 그런데 엔비디아의 영향력은 GPU라는 부품을 많이 파는 데서 끝나지 않고, 개발자가 코드를 작성하고 여러 서버를 연결하는 방식까지 이어진다. 2007년 선보인 CUDA를 중심으로 축적된 라이브러리와 개발 도구는 고객에게 생산성을 제공하는 동시에 다른 하드웨어로 옮길 때의 전환 비용을 높인다.
  • 소프트웨어: CUDA에 맞춰 최적화한 연산과 사용자 정의 코드는 경쟁 GPU에서 같은 속도를 내려면 수정과 재검증이 필요할 수 있다.
  • 서버 연결: NVLink 같은 GPU 연결 기술과 NCCL 같은 통신 라이브러리는 대규모 학습 성능에 영향을 줘, 칩 한 개의 사양만으로 대체 가능성을 판단하기 어렵게 한다.
  • 운영 경험: 장애 대응, 작업 배치, 성능 측정에 쌓인 노하우까지 옮겨야 하므로 구매 계약을 바꾸는 것과 실제 서비스를 이전하는 것은 별개의 과제다.
제품 세대가 바뀌어도 이런 의존 관계가 저절로 사라지는 것은 아니다. 엔비디아는 2022년 H100을, 2024년 Blackwell 아키텍처를 공개했는데, 고객은 새 하드웨어의 성능뿐 아니라 기존 소프트웨어 자산을 얼마나 활용할 수 있는지도 따진다. AI 인프라 실무에서 일반적으로 중시하는 지표도 칩 가격 하나가 아니라 처리량, 전력, 개발 인력과 운영 부담을 합친 총소유비용이다. 따라서 더 싼 가속기를 찾았더라도 이전에 필요한 시간과 비용이 크다면, 기존 공급업체에 남는 편이 단기적으로 합리적일 수 있다. 물론 AMD GPU나 구글 TPU가 있는데 엔비디아 의존을 과장하는 것 아니냐는 반론은 타당한 출발점이다. 실제 대안은 존재하지만, 특정 모델을 실행할 수 있다는 사실이 기존 시스템 전체를 같은 비용과 안정성으로 즉시 대체할 수 있다는 뜻은 아니다. 특히 모델 학습과 추론은 요구 조건이 다르고, 추론도 모델 크기와 응답 지연 목표에 따라 적합한 하드웨어가 달라진다. 경쟁의 핵심은 엔비디아를 모든 작업에서 한꺼번에 대체하는 것이 아니라, 이전 효과가 큰 작업부터 대안의 경제성을 입증하는 데 있다. 이 지점에서 이번 보도는 클라우드 기업들의 자체 AI 칩 개발과도 연결된다. 자체 칩은 성능 경쟁 수단인 동시에 외부 공급업체에 대한 의존을 낮추고 협상 여지를 넓힐 수 있는 선택지다. 한국의 AI 서비스 기업 역시 특정 GPU의 확보 물량만 볼 것이 아니라, 핵심 모델을 다른 환경에서 실행하는 데 걸리는 시간과 품질 변화를 점검할 필요가 있다. 논란의 사실관계는 추가 확인이 필요하지만, 산업이 얻어야 할 교훈은 분명하다: 공급업체를 바꿀 수 있는 기술적 능력이 있어야 선택권도 실질적인 힘이 된다.
인사이트

엔비디아의 경쟁력은 GPU 성능뿐 아니라 소프트웨어·통신·운영 경험이 결합된 전환 비용에 있다. 경쟁사의 칩이 존재하는 것과 고객이 실제로 공급업체를 바꿀 수 있는 것은 다르다.

자주 묻는 질문

그래서 엔비디아가 무슨 잘못을 했다는 거야?
제공된 더버지 기사 발췌문에는 구체적인 의혹이나 이를 뒷받침하는 증거가 포함돼 있지 않다. 확인할 수 있는 내용은 엔비디아 칩에 대한 높은 수요와 공급 제약이 젠슨 황 CEO의 영향력을 키웠다는 설명이며, 위법 행위 여부는 판단할 수 없다.
AMD GPU나 구글 TPU로 바꾸면 되는 거 아니야?
AMD GPU와 구글 TPU는 AI 연산의 대안이지만, 이전 난도는 모델과 소프트웨어 구성에 따라 달라진다. CUDA 전용 코드, 분산 학습 통신, 운영 도구를 조정해야 할 수 있어 칩 가격뿐 아니라 이전 비용과 실제 처리 성능을 비교해야 한다.
한국 AI 스타트업도 GPU를 여러 종류 써야 해?
모든 스타트업이 여러 종류의 GPU를 동시에 운영할 필요는 없다. 다만 핵심 모델이 다른 하드웨어나 클라우드에서도 요구 품질과 응답 속도를 충족하는지 검증하면 공급 차질과 가격 변화에 대응할 선택지를 확보할 수 있다.
공유XTelegram

이 기사 어땠어요?

피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.

이런 뉴스를 매일 받아보세요

매일 아침 7시, 그날의 정리를 이메일과 Telegram으로 받아보세요.