세계와 경제
1350억 원 투자 유치한 엔그램, '토큰 비용 폭탄' 맞은 에이아이 시장의 구원 투수 될까?
글 · 여우진
생성형 인공지능(에이아이) 기술이 전 세계를 휩쓸며 산업 지형을 바꾸고 있지만, 에이아이 기업들은 은밀한 고민에 빠져있습니다. 바로 모델을 운용하는 데 드는 막대한 '토큰 비용' 때문입니다. 인공지능 서비스가 대중화될수록 이 비용은 기하급수적으로 불어나 수익성을 압박하는 고질적인 문제로 떠올랐습니다. 이런 상황에서, 에이아이 메모리 스타트업 엔그램(Engram)이 이 문제 해결을 내세우며 9800만 달러(약 1350억 원) 규모의 시리즈 에이(Series A) 투자를 유치했다는 소식은 업계에 큰 주목을 받고 있습니다.
생성형 에이아이 모델은 방대한 양의 데이터를 학습하고 처리하며 놀라운 능력을 보여줍니다. 하지만 이 능력의 이면에는 엄청난 비용이 숨겨져 있습니다. 특히 대규모 언어 모델(엘엘엠, LLM)이 사용자 질문에 답하거나 새로운 콘텐츠를 생성하는 '추론' 단계에서는 프롬프트(입력)와 응답(출력)을 이루는 '토큰' 하나하나에 비용이 발생합니다. 모델의 크기가 커지고 사용량이 늘어날수록 이 토큰 비용은 기하급수적으로 증가해, 에이아이 서비스를 제공하는 기업들의 수익성을 심각하게 위협하는 주요 과제로 부상했습니다. 엔비디아의 고성능 그래픽처리장치(지피유, GPU)와 에이치비엠(HBM) 메모리 덕분에 에이아이 연산 능력은 비약적으로 발전했지만, 정작 이를 활용하는 기업들은 여전히 '비용 폭탄'에 시달리고 있는 상황입니다.
엔그램은 이러한 비용 문제의 핵심 원인을 기존 컴퓨터 아키텍처의 한계, 특히 에이아이 워크로드에 최적화되지 않은 메모리 시스템에서 찾았습니다. 기존 서버는 범용적인 목적으로 설계되어 에이아이 모델의 특정 데이터 접근 패턴에 비효율적이며, 이로 인해 지연 시간과 전력 소모가 커집니다. 엔그램은 '에이아이 메모리 아키텍처'라는 고유한 접근 방식을 통해 이 병목 현상을 해소하려 합니다. 그들은 에이아이 모델의 데이터 접근 방식에 맞춰 메모리 자체와 데이터 흐름을 재설계하여, 불필요한 데이터 이동을 줄이고 필요한 정보를 더 빠르고 효율적으로 처리하게 만듭니다. 이번에 씨엔비씨(CNBC) 보도를 통해 알려진 9800만 달러 규모의 투자는 바로 이러한 엔그램의 기술이 에이아이 경제성을 근본적으로 개선할 잠재력을 지녔다는 시장의 확신을 보여주는 대목입니다.
물론 일각에서는 엔그램과 같은 스타트업의 기술이 과연 기존 거대 기술 기업들의 압도적인 자본력과 연구개발(R&D) 역량을 넘어설 수 있을지에 대한 의구심을 제기하기도 합니다. 엔비디아와 같은 기업들도 에이치비엠과 같은 고대역폭 메모리 기술을 계속 발전시키며 효율성을 추구하고 있기 때문입니다. 그러나 엔그램의 접근 방식은 단순히 하드웨어 스펙을 높이는 것을 넘어, 소프트웨어와 하드웨어의 접점에서 에이아이 연산 자체를 재정의하려는 시도라는 점에서 차별점을 가집니다. 이는 기존 강자들이 쉽게 복제하기 어려운 영역일 수 있으며, 에이아이 하드웨어 생태계에 새로운 경쟁 구도를 형성할 잠재력이 있습니다. 엔그램의 투자는 이러한 다음 과제에 대한 시장의 기대를 반영합니다.
- 에이아이 추론 비용의 지속적인 증가: 기존 모델 구조로는 한계가 명확함.
- 데이터센터 전력 소비 및 환경 문제: 효율적인 메모리 사용은 전력 소비 절감에도 기여.
- 에이아이 서비스의 대중화: 비용 장벽으로 인해 고품질 에이아이 서비스 접근이 제한될 우려.
- 기술 혁신을 통한 새로운 시장 창출: 반도체 하드웨어 경쟁을 넘어선 소프트웨어 및 아키텍처 최적화의 중요성 증대.
인사이트
생성형 에이아이 모델의 핵심 과제인 '토큰 비용' 증가 문제를 엔그램이 독자적인 에이아이 메모리 기술로 해결하려 하며, 이는 에이아이 산업의 지속 가능한 성장과 수익성 확보에 필수적인 요소로 시장의 높은 기대를 받고 있습니다.
자주 묻는 질문
- 에이아이 모델의 토큰 비용이 정확히 뭐야?
- 에이아이 모델이 정보를 처리하고 생성할 때 사용되는 언어의 최소 단위입니다. 프롬프트 입력과 응답 출력에 각각 토큰이 사용되며, 모델 사용량이 늘고 모델이 복잡해질수록 토큰당 비용과 총 비용이 크게 증가합니다. 이는 에이아이 서비스 제공 기업의 주요 운영 비용 중 하나입니다.
- 엔그램이 뭐 하는 회사인데 이렇게 큰돈을 투자받았어?
- 엔그램은 기존 에이아이 시스템의 비효율적인 메모리 사용을 개선하는 '에이아이 메모리 아키텍처'를 개발하는 스타트업입니다. 그들은 고유 기술로 에이아이 모델의 추론 단계에서 발생하는 막대한 토큰 비용을 획기적으로 줄이는 것을 목표로 하며, 이 점이 투자자들에게 높은 평가를 받았습니다.
- 엔그램 같은 에이아이 메모리 기술이 엔비디아 같은 회사에도 영향을 줄까?
- 직접적인 경쟁 관계보다는 보완적인 영향이 더 클 수 있습니다. 엔그램의 기술이 에이아이 연산 효율을 높이면 에이아이 서비스 수요가 늘어날 수 있고, 이는 엔비디아의 지피유(GPU)와 같은 고성능 하드웨어 수요에도 긍정적으로 작용할 수 있습니다. 하지만 동시에 엔비디아도 소프트웨어와 하드웨어 통합 최적화를 통해 효율성을 추구하고 있어, 장기적으로는 경쟁 구도가 생길 수도 있습니다.
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.