이름은 '오픈', 문은 잠겼다: 오픈AI와 연구자들의 10년 간극

저도 한 번 속았습니다

2023년 3월, GPT-4 기술 보고서가 공개됐을 때 저는 기대를 품고 PDF를 열었습니다. 오픈AI는 그해 초부터 '역사적 성과'를 예고했고, AI 연구자들 사이에서는 전례 없는 수준의 기술 내용이 담길 거라는 기대가 있었습니다. 이런 수준의 발표라면 모델 구조(어떤 방식으로 AI를 설계했는지), 학습 데이터(AI가 무엇으로 공부했는지), 컴퓨팅 규모(얼마나 많은 컴퓨터 자원을 썼는지) 정도는 당연히 담겨 있을 것이라고 생각했습니다.

보고서는 98페이지였습니다. 끝까지 읽었습니다. 변호사 시험 상위 10% 성적, 미국의학면허시험 통과, 각종 학술 벤치마크에서 이전 모델 GPT-3.5를 압도. 숫자는 인상적이었습니다. 그런데 정작 '이걸 어떻게 만들었냐'는 내용은 한 줄도 없었습니다. 모델 크기도, 학습 방식도, 데이터 출처도 없었습니다. 홍보 자료와 기술 보고서의 경계가 사라진 순간이었습니다.

놀라운 점은 오픈AI가 이 사실을 숨기지 않았다는 것입니다. 샘 올트먼(Sam Altman) 최고경영자는 이 보고서에 대해 직접 '생략에 의한 거짓말(a lie by omission)'이라는 표현을 썼습니다. 모델이 너무 강력해서 세부 정보를 숨겼다고 했습니다. 회사 대표가 자사 보고서를 거짓말이라고 인정했는데도 정책을 바꾸지 않겠다는 뜻이 담긴 발언이었습니다.

연구자들이 지쳐가고 있다는 미국 IT 매체 더버지(The Verge)의 최근 보도는 이 흐름의 결과물입니다. 결론부터 말씀드리겠습니다. 이것은 감정적 불만이 아닙니다. 과학이 작동하는 방식이 무너지고 있다는 경보입니다.

'오픈'이라는 이름의 시작과 끝

오픈AI가 2015년 12월에 설립됐을 때, 설립 취지문에는 분명한 약속이 적혀 있었습니다. 'AI의 이점이 모두에게, 가능한 한 광범위하게 퍼질 수 있도록 연구를 자유롭게 공개한다.' 이 약속을 기반으로 일론 머스크, 피터 틸, 리드 호프먼 같은 실리콘밸리 투자자들이 초기에 수억 달러를 기부했습니다. 당시 오픈AI의 설립 명분 중 하나는 구글 딥마인드였습니다. 딥마인드라는 강력한 AI 연구소가 구글이라는 거대 기업 품 안에서 기술을 독점하면 위험하다는 논리였습니다. 비영리로 설립하고 기술을 공개해서 권력이 분산되도록 하자는 것이었습니다.

아이러니는, 오픈AI가 10년도 안 되어 정확히 자신들이 경계하던 모습이 됐다는 것입니다.

전환은 단계적이었습니다.

1단계는 2019년 2월입니다. GPT-2(AI가 문장을 자연스럽게 만들어내는 초기 언어 모델) 발표 당시 오픈AI는 '이 모델이 너무 강력해서 악용될 수 있다'는 이유로 전체 공개를 거부했습니다. 당시 AI 커뮤니티에서 조롱을 받았습니다. 모델 성능이 그리 대단하지 않았기 때문입니다. 그럼에도 '안전'이라는 명분을 세웠습니다. 몇 달 후 조용히 전체를 공개했습니다.

2단계는 2019년 7월입니다. 마이크로소프트에서 10억 달러 투자를 받으면서 비영리 법인이 영리 자회사를 소유하는 복잡한 구조로 바꿨습니다. 이때부터 오픈AI의 성격이 근본적으로 달라졌다고 보는 시각이 많습니다.

3단계는 2023년 GPT-4 보고서였습니다. 기술 내용 없는 성과 발표서였고, 2024년 o1 모델(답을 내놓기 전에 긴 추론 과정을 거치는 AI)에서는 그 추론 과정 자체까지 숨겼습니다. 공개 수준이 해마다 줄어드는 방향으로 움직이고 있습니다. '오픈'이라는 이름이 회사 이름에서 남아 있다는 것이 이제 일종의 농담처럼 들립니다.

연구자들이 실제로 막히는 것: 재현 불가능한 과학

과학이 과학인 이유는 '검증'이 가능하기 때문입니다. 뉴턴이 사과가 떨어지는 것을 보고 중력을 발견했다는 이야기는 유명합니다. 그것이 과학이 된 것은 다른 사람들이 같은 실험을 해서 같은 결과를 얻었기 때문입니다. 이것을 재현 가능성(reproducibility, 재현성이라고도 합니다 — 같은 조건에서 실험을 반복하면 같은 결과가 나와야 한다는 과학의 기본 원칙)이라고 합니다.

오픈AI의 비공개 정책은 이 원칙을 사실상 없앱니다.

비유를 하나 들겠습니다. 한 제약회사가 '우리 신약이 특정 암을 고칠 수 있다'고 발표했습니다. 그런데 임상시험 데이터, 실험 조건, 약물 성분 비율을 모두 비공개로 했습니다. 다른 의사나 연구자들이 그 주장을 검증할 방법이 없습니다. 약을 파는 회사의 말을 그냥 믿어야 합니다. 이런 약을 우리는 식약처에서 허가해 주지 않습니다. 그런데 AI 분야에서는 이와 비슷한 일이 일상적으로 일어납니다.

구체적인 장면을 그려 보겠습니다. 오픈AI가 '우리 o1 모델이 국제수학올림피아드(IMO) 문제를 높은 비율로 해결했다'고 발표합니다. 연구자들은 이 주장을 검증하고 싶습니다. 그런데 모델 내부에 접근할 수 없습니다. API(외부에서 프로그램으로 접근하는 창구)를 통해서만 결과를 받아볼 수 있고, 그것도 추론 과정은 숨겨진 채입니다. 이 성과가 진짜인지, 어떤 문제에서 맞고 어떤 문제에서 틀렸는지, 특정 유형 문제에 편향된 건 아닌지 알 방법이 없습니다. 오픈AI의 말을 믿는 수밖에 없습니다.

이것이 연구 생태계 전반에 미치는 실질적 피해를 정리하면 이렇습니다.

1. 연구 방향의 왜곡: 연구자들이 오픈AI가 이미 해결한 문제를 모르고 같은 연구에 자원을 쏟습니다. 더 심각한 것은 오픈AI가 어떤 방식으로 문제를 풀었는지 모르니 그 위에 쌓아 올리는 연구를 할 수 없다는 것입니다.
2. 학문적 신뢰 구조 붕괴: 과학 논문은 서로를 인용하며 지식이 쌓이는 구조입니다. 오픈AI의 발표는 인용은 되지만 검증이 불가능합니다. 인용 횟수는 오르지만 학문적 신뢰는 떨어지는 이상한 상태가 됩니다.
3. 홍보와 사실의 경계 소멸: 검증 기능이 없으니 오픈AI의 발표가 그대로 언론에 사실로 실립니다. AI를 잘 모르는 독자들에게 오픈AI의 주장이 검증된 과학으로 전달됩니다.
4. 신진 연구자 진입 장벽: 최신 AI를 배우려는 대학원생이나 스타트업 개발자가 오픈AI의 모델을 제대로 공부할 방법이 없습니다. 논문이 있어도 핵심이 비어 있습니다. 독학으로 배울 교재가 점점 줄어드는 것과 같습니다.

더버지 보도에 따르면 이런 상황에 지친 연구자들이 메타의 Llama(라마) 생태계, 앤스로픽(Anthropic, 오픈AI 출신들이 설립한 AI 안전 전문 연구소), 미스트랄(Mistral, 프랑스 AI 스타트업) 같은 대안을 적극적으로 찾기 시작했습니다. 말로 항의하는 것보다 더 확실한 방식입니다. 발로 투표하는 것입니다.

역사의 같은 장면: 4세대 언어부터 노코드까지

기술 역사를 조금 거슬러 올라가면 이 패턴이 낯설지 않습니다.

1980년대 중반, 기업용 소프트웨어 시장에 '4세대 언어(4GL, Fourth Generation Language)'라는 개념이 유행했습니다. C언어나 포트란 같은 '3세대 언어'는 전문 프로그래머가 필요했지만, 4세대 언어는 일반 직원도 쉽게 업무용 소프트웨어를 만들 수 있다는 약속을 했습니다. FOCUS, PowerBuilder, Progress 같은 제품들이 시장을 장악했습니다. 문제는 이 도구들이 자사 내부 방식을 공개하지 않았다는 것입니다. 기업들은 특정 4GL 도구에 맞춰 소프트웨어를 만들었고, 그 도구 회사가 없어지거나 지원을 끊으면 수십 년 된 시스템이 통째로 흔들렸습니다. 실제로 1990년대 후반부터 2000년대에 걸쳐 많은 기업들이 이 종속의 함정에서 빠져나오느라 막대한 비용을 치렀습니다.

1990년대에는 CASE 도구(Computer-Aided Software Engineering, 소프트웨어 설계와 개발 전 과정을 자동화 도구로 지원하는 방식)가 등장했습니다. IBM, 컴퓨터어소시에이츠 같은 회사들이 이 시장을 키웠습니다. 내부 방식은 당연히 비공개였습니다. 결과는 비슷했습니다. 표준화가 안 된 채 각 공급사 도구에 종속된 기업들이 늘었고, 도구의 한계가 드러나면서 결국 개발자들이 다시 손으로 코드를 짜는 시대로 돌아갔습니다.

2010년대의 노코드·로우코드(no-code·low-code, '코딩 없이 앱을 만드는' 플랫폼) 사례는 더 친숙합니다. Bubble, Webflow, Airtable 같은 서비스를 쓰는 기업들의 가장 큰 고민이 무엇인지 아십니까? '이 서비스가 문을 닫으면 내 데이터와 시스템은 어떻게 되나'입니다. 내부 구조가 공개되지 않았으니 탈출구가 없습니다. 플랫폼 회사가 요금을 올려도 울며 겨자 먹기로 쓸 수밖에 없습니다.

오픈AI의 현재 모습은 이 계보 안에 있습니다. 새로운 것처럼 보이지만 기술 역사가 반복해서 보여준 패턴입니다. 강력한 도구를 만든 소수가 내부 방식을 닫고 시장을 지배하려 한다. 단기적으로는 작동하지만 장기적으로 생태계 전체의 발전을 늦춥니다. 다른 점이 있다면 규모가 훨씬 크고, '인류를 위한다'는 명분이 훨씬 강하다는 것입니다. 그 명분 때문에 오히려 더 강한 비판을 받습니다. 4세대 언어 회사들은 처음부터 영리 기업이었습니다. 오픈AI는 처음에 인류를 위한다고 했습니다.

메타의 도박, 구글의 중간, 오픈AI의 선택

현재 AI 생태계에서 가장 흥미로운 비교 실험이 진행 중입니다.

메타는 2023년 2월 Llama 1을 오픈소스(소스코드와 모델 자체를 누구나 받아서 쓸 수 있도록 공개하는 방식)로 풀었습니다. 당시 AI 업계에서는 '왜 메타가 이걸 공짜로 주나'라는 의문이 많았습니다. 메타의 계산은 이랬습니다. '오픈소스로 생태계를 키우면 커뮤니티가 우리 기술을 더 빠르게 발전시켜 줄 것이다.' 실제로 그렇게 됐습니다. Llama 2가 2023년 7월 공개됐을 때 수개월 만에 수천 개의 파생 모델이 나왔습니다. 소규모 스타트업들이 자기 컴퓨터에서 GPT급 AI를 돌릴 수 있게 됐습니다. 의료, 법률, 교육 분야의 특화 AI가 Llama 기반으로 빠르게 만들어졌습니다. Llama 3가 2024년 4월 공개됐을 때는 성능이 GPT-4에 상당히 근접했다는 평가를 받았습니다. 공개 모델이 비공개 모델을 따라잡는 속도가 예상보다 빨랐습니다.

구글은 중간 어딘가에 있습니다. 학술 논문은 꾸준히 발표합니다. 트랜스포머(2017년 구글이 논문으로 발표한 AI의 핵심 기술 구조로, 현재 AI 붐의 기반이 됐습니다)처럼 핵심 기술을 논문으로 공개한 덕분에 지금의 AI 발전이 가능했다고 해도 과언이 아닙니다. 그러나 상업 모델인 제미나이(Gemini)는 공개하지 않습니다. Gemma(상대적으로 작은 오픈소스 모델)를 따로 공개하는 이원화 전략을 씁니다.

메타도 이상적인 오픈소스 주체는 아닙니다. 학습 데이터는 공개하지 않았습니다. 상업적 목적이 분명합니다. 순수한 공유 정신이 아니라 전략적 공개입니다. 그럼에도 결과적으로 연구 커뮤니티가 메타의 공개에서 실질적으로 더 많은 것을 가져갈 수 있었습니다. 이것이 두 전략의 진짜 차이입니다.

흔한 오해 두 가지를 짚겠습니다

오해 1: '비공개는 독점이고, 오픈소스는 민주화다.'

이 도식은 너무 단순합니다. 삼성전자나 애플이 스마트폰 설계도를 공개하지 않는다고 해서 나쁜 회사가 되는 것은 아닙니다. 오픈AI가 비공개 자체가 문제가 아닙니다. 문제는 두 가지입니다.

첫째, '안전'이라는 공익 명분으로 비공개를 정당화하면서도 외부 검증은 막는 것입니다. 안전을 진심으로 위한다면 외부 전문가들이 독립적으로 안전을 검증할 수 있어야 합니다. '우리 약이 안전하다, 그런데 성분은 공개 안 한다'와 같습니다. 불안을 줄이는 게 아니라 늘리는 구조입니다.

둘째, 처음에 '공개하겠다'고 약속하고 투자를 받았다는 것입니다. 약속을 어긴 것입니다. 영리 기업이 비공개 전략을 쓰는 것은 비판 대상이 아닙니다. '인류를 위해 공개하겠다'고 해서 기부를 받은 뒤 방향을 바꾸는 것이 문제입니다.

오해 2: '오픈소스로 공개하면 AI가 더 위험해진다.'

직관적으로 그럴듯하지만 현실은 복잡합니다. 오픈AI의 API도 악의적으로 사용된 사례가 수없이 보고됐습니다. 공개 모델이 아니어도 악의적 사용은 일어납니다. 반면 Llama 공개 이후 보안 연구자들이 모델 내부를 열어 취약점을 찾고 수정하는 연구가 폭발적으로 늘었습니다. 외과 수술을 하려면 몸 안을 열어야 하는 것처럼, AI 안전 연구도 모델 내부를 볼 수 있어야 가능한 작업이 많습니다. 문을 잠그면 내부가 안전한 게 아닙니다. 문을 잠가 놓으면 청소하는 사람도 없어집니다.

물론 아무 제한 없는 완전 공개가 최선인지에 대해서는 진지한 논의가 필요합니다. 일정 수준 이상의 모델은 신중한 공개가 필요할 수 있습니다. 이 점은 인정합니다. 다만 그 기준을 오픈AI 혼자 정하고 외부 검증도 받지 않겠다는 것이 문제입니다.

판단의 값: 이 논쟁이 우리에게 의미하는 것

저는 이 논쟁을 오래 지켜보면서 계속 같은 생각이 들었습니다. 기술이 강력해질수록, 그 기술의 실체를 독립적으로 판단할 수 있는 사람의 값이 올라간다는 것입니다.

4세대 언어가 유행하던 시대에 그 도구의 내부 방식을 알고 한계를 짚어 낼 수 있었던 사람들이 있었습니다. 그들은 기업들에 '이 도구에 모든 것을 맡기면 나중에 탈출이 어렵다'고 경고했습니다. 도구가 편리하니 그 경고가 묻혔습니다. 10년 후 경고가 맞았습니다. CASE 도구 시대에도, 노코드 플랫폼 시대에도 같은 경고를 한 소수가 있었습니다.

오픈AI의 비공개가 이어지면 AI 분야에서도 비슷한 일이 벌어질 가능성이 있습니다. 오픈AI의 주장을 그대로 받아들이는 기업, 연구자, 언론이 늘어납니다. 검증 능력이 있는 사람들이 지쳐서 떠나거나 목소리를 잃습니다. 오픈AI가 '이 기술이 이 정도다'라고 하면 그게 사실이 되는 구조가 굳어집니다.

'판단의 값'이라고 표현한 것은 이 때문입니다. AI 도구가 강해질수록 그 도구를 사용하는 능력보다, 그 도구의 실체를 제대로 평가하는 능력이 희귀해집니다. ChatGPT(챗GPT)를 잘 쓰는 사람보다, ChatGPT의 한계를 알고 언제 믿고 언제 의심해야 하는지 판단할 수 있는 사람이 더 귀합니다. 비공개 전략은 바로 그 판단 능력을 키울 기회를 막습니다.

지금 추적해야 할 신호는 이것입니다.

• 오픈AI 출신 연구자들이 어디로 가는가: 오픈AI를 나온 일리야 수츠케버(Ilya Sutskever)는 새 안전 특화 연구소 SSI를 설립했고, 다리오 아모데이(Dario Amodei)와 다른 공동창업자들은 앤스로픽을 만들었습니다. 이들이 투명성에 관해 어떤 선택을 하느냐가 업계 기준을 바꿀 수 있습니다.
• 메타 Llama 기반 모델이 GPT-4를 넘는 시점: 그 시점이 오면 비공개 전략이 실질적 경쟁 우위를 주지 못한다는 것이 드러납니다. 기술 격차가 좁혀질수록 비공개 명분도 약해집니다.
• EU AI법 같은 규제의 방향: 유럽연합은 고위험 AI 시스템에 일정 수준의 투명성을 의무화하는 방향으로 가고 있습니다. 규제가 강화되면 자발적 공개 논의의 성격이 달라집니다.
• 학계의 오픈AI 인용 패턴: 학술지에서 오픈AI 발표를 인용할 때 검증 불가 표시를 달거나 인용을 꺼리는 움직임이 늘면, 그것이 공식적인 신뢰 저하의 신호입니다.

마무리: 이름을 바꾸든지, 약속을 지키든지

오픈AI에게 선택지는 두 가지입니다.

하나는 이름에서 '오픈'을 지우는 것입니다. 처음부터 영리 AI 기업이었다고 솔직하게 정리하고, 비공개 전략을 사업 판단으로 당당히 설명하는 것입니다. 그러면 비판의 성격이 달라집니다. '약속을 어겼다'에서 '전략적 선택이 옳으냐'의 논의로 이동합니다.

또 하나는 실질적으로 공개를 늘리는 것입니다. 모든 것을 열 필요는 없습니다. 그러나 최소한 독립적인 안전 연구자들이 모델 내부에 접근해 검증할 수 있는 구조, 기술 보고서에 구조와 학습 방식의 핵심 정보를 담는 것 정도는 시작할 수 있습니다.

지금처럼 이름은 '오픈'이고 문은 잠긴 상태가 가장 나쁩니다. 약속의 신뢰 비용과 영업 전략의 경쟁 비용을 동시에 치르고 있기 때문입니다.

연구자들의 피로는 단순한 감정이 아닙니다. 과학적 방법론의 기본인 검증 가능성이 무너졌을 때 나오는 반응입니다. 그 피로가 쌓여 결국 '오픈AI를 인용하지 않겠다', 'oAI 모델을 연구 기반으로 쓰지 않겠다'는 조용한 집단 선택으로 이어질 수 있습니다. 그때 가서야 움직인다면, 이미 늦었을 것입니다.

독자 질문 세 가지

Q. 오픈AI 기술이 제일 좋으면 결국 다 쓰게 되는 거 아닌가요?

A. 지금 당장은 맞는 말입니다. 그런데 기술 격차는 예상보다 빠르게 좁혀지고 있습니다. 2024년 기준으로 메타 Llama 3와 미스트랄의 오픈소스 모델들이 많은 실용적 과제에서 GPT-4에 근접한 성능을 냈습니다. AI의 핵심 기술 구조인 트랜스포머는 이미 공개된 논문에서 나온 것이고, 그 위에 쌓이는 오픈소스 연구가 격차를 더 빨리 줄이고 있습니다. 역사적으로 독점 기술이 영원히 앞서 있었던 사례는 드뭅니다. 문제는 그 사이에 얼마나 많은 기업과 연구자가 오픈AI 구조에 종속되느냐입니다.

Q. 안전 문제는 진짜 있지 않나요? 공개하면 나쁜 곳에 쓰이지 않을까요?

A. 위험은 진짜입니다. 공개된 모델이 악용된 사례가 없는 건 아닙니다. 그런데 비공개여도 API 악용 사례는 끊이지 않았습니다. 핵심 질문은 '공개와 비공개 중 어느 쪽이 전체적으로 더 안전한가'입니다. 보안 연구에서는 흔히 '오픈소스가 더 빨리 취약점을 찾는다'는 경험칙이 있습니다. 많은 사람이 들여다볼수록 문제가 빨리 발견됩니다. 오픈AI가 비공개를 정당화하려면, 비공개가 실제로 안전을 높였다는 근거를 보여야 합니다. 그 근거 없이 '안전 때문에 비공개'라는 주장은 설득력이 약합니다.

Q. 나는 AI를 그냥 쓰는 사람인데, 이 논쟁이 나랑 무슨 상관인가요?

A. 직접적인 상관이 있습니다. AI 성능 주장이 외부에서 검증되지 않으면, 과장된 주장이 그대로 소비자에게 전달됩니다. 기능이 과장된 가전제품을 사는 것과 같습니다. 또 기업들이 오픈AI에 종속되면 서비스 요금이 오를 때 대안이 없습니다. 가장 중요한 것은, AI가 점점 더 중요한 결정에 쓰이는데(의료 진단, 금융 판단, 법률 검토) 그 AI의 한계를 외부에서 알 방법이 없어진다는 것입니다. 결국 우리가 AI의 판단을 검증할 능력을 잃는 문제입니다.