AI판 '리눅스 혁명', 주방 레시피를 공짜로 푼 중국의 속셈

요즘 개발자들은 왜 중국산 AI를 뒤적이나

얼마 전, 개인적으로 쓸 작은 서비스를 하나 만들다 잠시 멈칫한 일이 있습니다. 고객 문의에 자동으로 답해주는 작은 챗봇이었는데, Open AI의 GPT 모델을 붙여 테스트를 돌려봤습니다. 성능은 훌륭했습니다. 문제는 다음 날 날아온 요금 청구서였습니다. 고작 며칠, 소규모 테스트였는데도 몇십만 원이 찍혀 있었습니다. 정식으로 서비스를 열면 월 수백, 수천만 원은 우습겠다는 계산이 섰습니다. ‘이래서 다들 AI가 돈 먹는 하마라고 하는구나.’ 싶어 눈앞이 캄캄해졌습니다.

그러다 개발자 커뮤니티에서 심심찮게 보이던 중국산 ‘오픈웨이트(open-weights)’ 모델들을 다시 들여다보게 됐습니다. 알리바바의 ‘Qwen(치원, 첸)’, 지푸AI의 ‘GLM’ 같은 것들입니다. 반신반의하며 하나를 내려받아 제 컴퓨터에 설치해 돌려봤습니다. 결과는 놀라웠습니다. GPT-4만큼은 아니었지만, 1년 전 GPT-3.5와는 너끈히 겨룰 만한 성능을 보여줬습니다. 무엇보다 ‘공짜’였습니다. 물론 제 컴퓨터를 돌리는 전기세와 시간은 들었지만, API를 쓸 때처럼 글자 수마다 돈이 나가는 불안감은 없었습니다.

이건 저만 겪는 일이 아닙니다. 전 세계 수많은 개발자와 중소기업들이 비슷한 경험을 하고 있습니다. 비싼 API 요금에 허덕이다가, 혹은 특정 기업에 기술적으로 종속되는 게 싫어서 대안을 찾다가, 성능이 부쩍 좋아진 중국산 오픈웨이트 모델들을 발견하고 있습니다. ‘대륙의 실수’라며 가성비 좋던 샤오미 제품을 보던 시선과는 결이 다릅니다. 이건 실수가 아니라, AI 시장의 판 자체를 바꾸려는 치밀한 전략에 가깝습니다.

'비싼 레스토랑'과 '공짜 요리책': 오픈웨이트란 무엇인가

이야기를 풀기 전에, 지금 AI 시장의 두 가지 방식을 아주 쉽게 비유로 설명해 보겠습니다. 하나는 ‘미쉐린 스타 레스토랑’이고, 다른 하나는 ‘모든 비법이 담긴 요리책’입니다.

OpenAI의 GPT나 구글의 제미나이(Gemini) 같은 모델은 미쉐린 스타 레스토랑과 같습니다. 이들은 API(Application Programming Interface)라는 형태로 서비스를 제공합니다. API는 식당의 메뉴판 같은 겁니다. 우리는 메뉴판에 있는 음식(예: ‘이 문장을 요약해줘’, ‘이 코드를 짜줘’)만 주문할 수 있습니다. 음식 맛은 최고지만, 주방에 들어가 레시피를 보거나, 셰프에게 ‘오늘은 매운맛을 좀 더 강하게 해달라’고 특별 주문을 하긴 어렵습니다. 음식값, 즉 API 이용료도 꽤 비쌉니다.

반면 중국이 밀고 있는 ‘오픈웨이트’ 모델은 모든 비법이 담긴 요리책에 가깝습니다. 여기서 ‘웨이트(weights, 가중치)’란 AI의 핵심 지능을 담고 있는 거대한 숫자판이라고 생각하면 쉽습니다. 인간 뇌의 수많은 신경세포(뉴런)들이 서로 다른 강도로 연결돼 있듯, AI의 인공 신경망도 연결 강도를 숫자로 저장하는데 이게 바로 웨이트입니다. 이 숫자판만 있으면 AI의 뇌, 즉 지능을 그대로 복제할 수 있습니다. 오픈웨이트는 이 ‘뇌 설계도’를 그냥 인터넷에 공짜로 풀어버리는 겁니다.

누구나 이 요리책(모델 웨이트)을 가져다가 자기 집 주방(서버나 개인 컴퓨터)에서 직접 요리(AI 실행)를 할 수 있습니다. 레시피를 내 입맛에 맞게 살짝 바꿀 수도(이를 ‘파인튜닝’이라 부릅니다) 있습니다. 초기 주방 설비(고성능 컴퓨터)를 갖추는 데 돈이 들 순 있지만, 한번 만들고 나면 요리를 100번 하든 1000번 하든 추가 비용은 거의 없습니다. 레스토랑에 종속될 필요 없이, 나만의 식당을 차릴 수 있는 셈입니다.

데자뷔: 1990년대 리눅스가 그랬다

이 상황, 어딘가 익숙하지 않습니까? 저는 1990년대 말 벌어졌던 운영체제(OS) 전쟁이 떠오릅니다. 당시 컴퓨터 세상은 마이크로소프트의 윈도우가 압도적 지배자였습니다. 기업 서버 시장은 IBM이나 썬마이크로시스템즈 같은 거인들이 장악하고 있었죠. 이들은 모두 자신들의 기술을 꼭꼭 숨긴 채 비싼 값에 팔았습니다. 딱 지금의 폐쇄형 AI 모델들 같습니다.

그때 ‘리눅스(Linux)’라는 OS가 등장했습니다. 핀란드의 한 대학생이 취미 삼아 만들기 시작한, 소스코드가 전부 공개된 ‘오픈소스’였습니다. 처음엔 다들 비웃었습니다. “아마추어들이 만든 장난감을 누가 쓰겠냐”는 거였죠. 당시 마이크로소프트 CEO였던 스티브 발머는 리눅스를 “암적인 존재”라고까지 불렀습니다.

하지만 결과는 모두의 예상을 뒤엎었습니다. 리눅스는 공짜였고, 누구나 뜯어고칠 수 있었으며, 전 세계 개발자들이 벌떼처럼 달려들어 함께 개선했습니다. 데스크톱에서는 윈도우를 이기지 못했지만, 보이지 않는 곳에서 조용히 세상을 정복했습니다. 오늘날 우리가 쓰는 구글, 페이스북, 아마존 등 거의 모든 인터넷 서비스의 서버는 리눅스로 돌아갑니다. 안드로이드 스마트폰의 기반도 리눅스입니다.

중국 기업들이 주도하는 오픈웨이트 전략은 AI판 ‘리눅스 혁명’의 재현입니다. 당장 GPT-4o 같은 최첨단 모델을 이기겠다는 게 아닙니다. 리눅스가 그랬듯, ‘충분히 좋은(good enough)’ 성능의 모델을 공짜로 풀어 개발자 생태계를 장악하려는 겁니다. 세상의 모든 서비스에 AI가 붙는다면, 그중 95%는 굳이 F1 경주용 차 같은 최고 성능 모델이 필요 없습니다. 출퇴근용 아반떼 정도면 충분하죠. 오픈웨이트 모델들이 바로 그 ‘AI 아반떼’ 시장을 노리고 있습니다.

그래서, 중국산 AI 쓸 만한가: 직접 써보니

“그래도 중국산인데, 성능이 조악하거나 엉뚱한 소리 하는 거 아니야?” 당연히 드는 의문입니다. 저도 처음엔 그랬습니다. 결론부터 말하면, ‘상황에 따라 다르지만, 놀라울 정도로 쓸 만하다’ 입니다.

최근 공개된 알리바바의 ‘Qwen2-72B’ 모델은 AI 성능 평가의 표준처럼 여겨지는 ‘허깅페이스 오픈 LLM 리더보드’에서 메타가 공개한 라마3(Llama 3) 모델과 최상위권을 다투고 있습니다. 불과 1년 전만 해도 상상하기 힘든 광경입니다. 코딩 능력이나 수학 문제 풀이 같은 특정 분야에서는 이미 폐쇄형 모델들을 능가하는 결과도 심심찮게 나옵니다.

물론 여기엔 흔한 오해 두 가지가 있습니다. 바로 ‘짝퉁’ 논란과 ‘보안’ 문제입니다.

첫째, ‘어차피 서구 기술 베낀 짝퉁 아니냐’는 시선입니다. 반은 맞고 반은 틀립니다. 현재 대부분의 AI 모델이 쓰는 ‘트랜스포머’라는 기본 설계도는 2017년 구글이 발표한 논문에서 시작된, 사실상 공개 기술입니다. 이건 마치 현대 자동차 대부분이 ‘내연기관’이라는 기본 원리를 공유하는 것과 같습니다. 중국 기업들은 이 공개된 설계도 위에 자국의 방대한 데이터와 막대한 컴퓨팅 자원을 쏟아부어 자신들만의 엔진을 만들어내는 것입니다. 같은 레시피라도 셰프에 따라 맛이 다르듯, 훈련 데이터와 노하우에 따라 모델의 성격과 성능은 천차만별이 됩니다.

둘째, ‘소스가 공개되면 더 위험한 것 아니냐’는 우려입니다. 오히려 그 반대일 수 있습니다. 오픈소스 세계에는 “보는 눈이 많을수록 버그는 빨리 잡힌다(Given enough eyeballs, all bugs are shallow)”는 유명한 격언이 있습니다. 이는 보안 취약점이나 AI의 편향성 문제에도 똑같이 적용됩니다. 소수가 독점한 폐쇄형 모델의 숨겨진 위험을 아무도 검증할 수 없는 것보다, 전 세계 수만 명의 개발자가 매일 뜯어보며 문제를 찾아내고 개선하는 쪽이 장기적으로 더 안전할 수 있다는 논리입니다. 물론 악의적인 사용자가 나쁜 목적으로 모델을 변형할 위험은 존재하지만, 이는 모든 강력한 기술이 가진 양날의 검과 같습니다.

기술이 공짜가 될 때, 비싸지는 것들

자, 이제 가장 중요한 지점입니다. AI 모델이라는 핵심 기술이 리눅스처럼 공짜가 되어가고 있다면, 앞으로 무엇이 비싸지고 중요해질까요? 가치는 어디로 이동할까요?

자동차 엔진이 대중화되자 자동차 디자인, 마케팅, 운전 실력, 교통 시스템의 가치가 올라간 것과 같은 이치입니다. AI 모델 자체가 흔해지면, 그것을 ‘어떻게 활용할 것인가’를 둘러싼 주변 역량의 가치가 폭등합니다. 앞으로 기업과 개인의 경쟁력을 결정할 능력은 다음 세 가지가 될 겁니다.

• 1. 문제 정의 능력: AI로 도대체 ‘무엇을’ 해결할 것인가? 엉뚱한 문제에 최고의 AI를 투입하는 것은 최고급 회칼로 장작을 패는 격입니다. 우리 회사, 우리 팀이 겪는 가장 고질적이고 반복적인 문제가 무엇인지 정확히 찾아내고, 그것을 AI로 풀 수 있는 형태로 잘게 쪼개는 기획력이 그 어느 때보다 중요해집니다.
• 2. 데이터 기획 및 가공 능력: AI는 결국 데이터를 먹고 자랍니다. 아무리 좋은 오픈웨이트 모델을 가져와도, 우리 회사만의 데이터, 우리 서비스만의 고객 행동 데이터를 어떻게 먹여서 ‘나만의 똑똑한 AI’로 길러낼지 결정하는 능력이 핵심이 됩니다. 쓰레기를 넣으면 쓰레기가 나온다는 AI 업계의 격언처럼, 양질의 데이터를 기획하고 가공하는 역량이 곧 AI의 품질을 좌우합니다.
• 3. 시스템 통합 능력: AI 모델 하나만 뚝 떼어놓고 쓸 수는 없습니다. 기존의 업무 시스템, 데이터베이스, 고객 관리 툴과 어떻게 자연스럽게 연결하고 버무릴 것인가 하는 엔지니어링 역량이 필수적입니다. 아무리 똑똑한 신입사원(AI)을 뽑아도 기존 팀원들과 어울리지 못하면 제 몫을 못 하는 것과 같습니다.

과거 ‘4세대 언어’나 ‘케이스(CASE) 도구’가 그랬습니다. 코딩 없이 프로그램을 만들게 해주겠다며 등장했지만, 결국 사라졌습니다. 왜일까요? 개발의 ‘어려움’을 해결해줬지만, ‘무엇을 개발할 것인가’라는 더 근본적인 문제에는 답을 주지 못했기 때문입니다. 오픈웨이트 AI의 등장은 개발의 문턱을 낮추지만, 동시에 ‘무엇을, 왜 만들어야 하는가’라는 질문의 무게를 훨씬 더 무겁게 만듭니다.

판돈은 AI가 아니라 ‘판단’에 걸린다

중국이 오픈웨이트 전략을 밀어붙이는 진짜 속내는 단순히 미국을 기술로 이기겠다는 차원을 넘어서는 것으로 보입니다. 이는 AI 시대의 ‘표준’을 장악하려는 거대한 밑그림입니다. 특정 기술이 업계 표준이 되면, 관련된 모든 도구와 서비스, 인력이 그 기술을 중심으로 모여드는 ‘생태계’가 만들어집니다. 한번 생태계가 구축되면 그 중심에 있는 국가는 막대한 영향력을 갖게 됩니다. 안드로이드(구글)와 iOS(애플)가 스마트폰 생태계를 양분하며 얻는 이익을 생각해보면 쉽습니다.

우리 같은 엔지니어, 기획자, 비즈니스 리더에게 이 거대한 흐름은 위기이자 기회입니다. 더 이상 비싼 API 요금에 발목 잡히거나, 거대 기술 기업의 눈치를 보지 않고도 내 아이디어를 AI로 구현해볼 수 있는 시대가 열리고 있습니다. 이제 공은 우리에게 넘어왔습니다.

어떤 모델이 벤치마크 점수 1점 더 높은지 비교하는 데 시간을 쏟기보다, 그 기술로 어떤 고객의 문제를 해결하고 어떤 가치를 만들 수 있을지 고민하는 데 시간을 써야 합니다. AI 모델이라는 식칼이 점점 더 날카로워지고 심지어 공짜가 될수록, 어느 재료를 가져와 어떻게 썰고 볶을지 결정하는 요리사의 ‘판단’은 훨씬 더 비싸집니다. 결국, 판돈은 AI에 걸리는 게 아니라, 그것을 쓰는 우리의 판단에 걸리게 될 겁니다.

## 독자 질문과 답변 (Q&A) Q. 당장 우리 회사도 비싼 GPT API 버리고 오픈 모델로 갈아타야 할까요? A. 성급한 결정은 금물입니다. 오픈웨이트 모델은 ‘공짜’인 대신, 모델을 직접 운영하고 관리할 수 있는 기술 인력과 서버 인프라라는 ‘숨은 비용’이 발생합니다. 만약 회사 내에 이런 역량이 부족하다면, 문제 발생 시 대처하기 어려워 배보다 배꼽이 더 커질 수 있습니다. 처음에는 핵심 서비스가 아닌 내부용 도구나 간단한 프로토타입에 먼저 적용해보면서 경험을 쌓는 ‘투 트랙’ 전략을 추천합니다. API의 편리함과 오픈 모델의 경제성 사이에서 우리 회사에 맞는 균형점을 찾는 과정이 필요합니다. Q. 중국이 서구 기술을 베껴서 공짜로 푸는 ‘기술 도둑질’ 아닌가요? A. 복잡한 문제입니다만, ‘도둑질’이라는 표현은 정확하지 않을 수 있습니다. 앞서 설명했듯, AI의 기본 아키텍처인 ‘트랜스포머’는 구글이 2017년 논문으로 공개한 기술에 뿌리를 두고 있습니다. 이후 수많은 연구자들이 이를 발전시키며 학계 전체의 자산이 되었습니다. 중국은 이 공개된 기술 기반 위에 자국의 막대한 데이터와 컴퓨팅 자원을 투입해 독자적인 모델을 만드는 것입니다. 이를 ‘베꼈다’고 한다면, 공개된 레시피를 활용해 새로운 요리를 만드는 모든 셰프를 모방꾼이라 부르는 것과 같습니다. 물론 기술 경쟁의 이면에는 보이지 않는 신경전과 데이터 확보 경쟁이 치열하게 벌어지고 있는 것은 사실입니다. Q. 모델을 공짜로 풀면 알리바바나 텐센트 같은 회사들은 뭘로 돈을 버나요? A. 아주 좋은 질문입니다. 핵심은 ‘생태계 장악을 통한 간접 수익’입니다. 첫째, 이들은 자사의 클라우드 플랫폼에서 이 오픈웨이트 모델들을 가장 쉽고 효율적으로 돌릴 수 있는 서비스를 만들어 팝니다. 모델은 미끼 상품이고, 진짜 상품은 ‘클라우드 이용권’인 셈입니다. 리눅스는 공짜지만, 리눅스 기술 지원과 솔루션으로 돈을 버는 레드햇(Red Hat) 같은 회사를 떠올리면 됩니다. 둘째, 자사의 AI 모델이 산업 표준이 되면, 그 위에서 파생되는 수많은 비즈니스 기회를 선점할 수 있습니다. 장기적으로는 더 큰 이익을 보기 위해 당장의 모델 판매 수익을 포기하는, 고도의 전략입니다.