세계와 경제
팰런티어 CEO, 오픈AI·앤스로픽 토큰 비용 맹비난: '뭔가 단단히 잘못됐다'
글 · 여우진
인공지능(AI) 기술의 핵심 동력인 거대언어모델(LLM)을 둘러싼 비용 논쟁이 뜨겁습니다. 최근 데이터 분석 기업 팰런티어의 알렉스 카프 CEO가 오픈AI와 앤스로픽 등 주요 LLM 제공업체들의 토큰 기반 비용 모델을 강하게 비판하며 “뭔가 단단히 잘못됐다”고 목소리를 높였습니다. 이는 AI 시장의 성장통이자, 기업들이 AI 도입에 있어 직면하는 현실적인 경제성 문제에 대한 날카로운 지적으로 해석됩니다.
카프 CEO의 발언은 현재 LLM 업계의 지배적인 과금 방식인 '토큰 모델'이 기업의 AI 활용에 심각한 부담으로 작용하고 있음을 시사합니다. LLM은 사용자가 입력하는 프롬프트와 모델이 생성하는 답변을 '토큰'이라는 단위로 계산하여 비용을 청구하는데, 복잡하거나 대량의 작업을 처리할 경우 이 비용이 상상을 초월할 정도로 불어나게 됩니다. 특히 기업 환경에서 AI를 광범위하게 적용하려는 움직임 속에서, 이러한 '하늘 높은 줄 모르는' 토큰 비용은 AI 도입의 주요 걸림돌이 되고 있습니다.
팰런티어는 AI 기반의 데이터 분석 플랫폼 '파운드리(Foundry)'를 통해 정부 및 기업 고객에게 서비스를 제공하는 회사로, 자체적으로도 AI 기술을 깊이 있게 활용하고 있습니다. 따라서 카프 CEO의 비판은 단순히 경쟁사를 폄하하려는 의도를 넘어, 팰런티어처럼 AI 솔루션을 제공하고 또 이를 활용하는 기업들이 피부로 느끼는 현실적인 고충을 대변한다고 볼 수 있습니다. 그는 높은 토큰 비용이 기업들을 '오픈 웨이트(Open-weight) 모델'로 눈을 돌리게 하며, 무작정 토큰 사용량을 늘리는 '토큰맥싱(tokenmaxxing)' 대신 효율성을 최우선으로 고려하게 만든다고 강조했습니다.
이러한 주장은 오픈AI의 GPT 시리즈나 앤스로픽의 클로드(Claude) 시리즈와 같이 최첨단 성능을 자랑하는 클로즈드 소스(closed-source) 모델의 강점과 비용 효율성이라는 두 마리 토끼를 모두 잡으려는 기업들의 딜레마를 명확히 보여줍니다. 클로즈드 소스 모델은 뛰어난 성능과 범용성으로 시장을 선도하고 있지만, 사용량에 비례하는 높은 비용은 장기적인 운용 계획에 부담을 줄 수 있습니다. 반면, 메타의 Llama나 미스트랄 AI(Mistral AI) 같은 오픈 웨이트 모델은 자체 서버에 구축하여 사용할 수 있어 초기 인프라 투자가 필요하지만, 장기적으로는 토큰당 비용 부담을 줄이고 모델을 기업 환경에 맞게 미세 조정(fine-tuning)할 수 있다는 장점이 있습니다.
주요 LLM 모델 선택의 핵심 쟁점은 다음과 같이 정리될 수 있습니다:
- 클로즈드 소스 모델: 최고 수준의 성능과 쉬운 접근성을 제공하나, 높은 토큰 비용이 기업 운영에 재정적 부담으로 작용할 수 있습니다.
- 오픈 웨이트 모델: 자체 구축 및 미세 조정을 통해 비용을 통제하고 특정 비즈니스 요구에 최적화할 수 있지만, 초기 인프라 투자와 전문 인력 확보가 필수적입니다.
- 선택 기준: 기업은 당장의 최고 성능 확보와 장기적인 비용 효율성 및 비즈니스 맞춤화 가능성 사이에서 전략적인 선택을 해야 합니다.
인사이트
팰런티어 CEO의 비판은 AI 기술의 발전만큼이나 중요한 '비용 효율성'이라는 화두를 던지며, LLM 시장의 경쟁 구도와 기업의 AI 도입 전략에 중대한 변화를 예고합니다. 이는 단순히 성능 경쟁을 넘어 경제성과 실용성이 AI 대중화의 핵심 동력이 될 것임을 보여줍니다.
자주 묻는 질문
- 팰런티어의 비판이 AI 산업에 미칠 영향은 어느 정도인가요?
- 카프 CEO의 발언은 기업들이 AI 도입 시 직면하는 비용 문제의 심각성을 부각합니다. 이는 AI 모델 선택의 기준을 성능뿐 아니라 경제성으로 확장하며, 향후 LLM 시장의 경쟁 구도와 가격 정책에 중요한 영향을 미칠 수 있습니다.
- 그럼 이제 모든 기업이 오픈 웨이트 모델로 갈아타게 될까요?
- 반드시 그렇지는 않습니다. 오픈 웨이트 모델은 비용 절감과 맞춤화 이점을 제공하지만, 자체 인프라 구축 및 운영, 전문 인력 확보가 필요합니다. 반면, 오픈AI나 앤스로픽 같은 클로즈드 모델은 높은 성능과 편리한 접근성을 제공하여 특정 비즈니스 요구에 따라 여전히 강력한 선택지가 될 것입니다.
- 오픈AI나 앤스로픽 같은 주요 LLM 개발사들은 이런 비판에 어떻게 대응할까요?
- 이들은 비용 효율성을 개선하기 위한 기술 개발(예: 더 작은 모델, 효율적인 아키텍처)에 집중하거나, 기업 고객을 위한 맞춤형 요금제 및 할인 프로그램을 도입할 수 있습니다. 또한, 자사 모델의 독보적인 성능과 안정성을 강조하며 차별화를 꾀할 가능성이 높습니다.
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.