수학의 종말이라더니, 번역 실수였대요

레딧이 발칵 뒤집힌 그날

2026년 10월 어느 날, 인터넷이 잠깐 멈춘 것처럼 느껴졌어요. 레딧의 r/artificial, r/aigossips 같은 AI 커뮤니티들이 한꺼번에 폭발했거든요. 제목들이 장관이었죠. '오픈AI가 수학의 난제를 풀었다', '특이점(기술이 인간 지능을 넘어서는 순간)이 드디어 수학을 요리해버렸다', '지난 3년간 발견의 81%가 오늘 나왔다'. 스콧 아론손이라는 유명한 컴퓨터 과학자는 자신의 블로그에 '수학의 묵시록(Mathocalypse)'이라는 글을 올렸고, 그의 아홉 살짜리 아들이 '엄마, 로봇이 엄마 문제 다 풀었대요!'라고 놀렸다는 에피소드도 함께 퍼졌어요.

어떤 사람은 '오픈AI가 722편의 수학 논문을 한꺼번에 공개했고, 수학계 상위 500개 미해결 문제 중 90개를 건드렸다'고 주장했어요. 커뮤니티는 흥분의 도가니였죠. 수학자들이 200년간 못 풀던 문제를 AI가 드디어 해결하기 시작했다는 기대감이 폭발했어요.

그런데 며칠 뒤, 분위기가 확 달라졌어요. arXiv(아카이브 — 물리·수학·AI 분야 논문을 심사 전에 먼저 공개하는 플랫폼)에 논문 하나가 올라왔거든요. 제목이 걸작이에요. '나비에-스토크스가 번역 과정에서 사라졌다: Lean 검증이 자연어 증명을 보장하지 않는 이유.' Scientific American도 '오픈AI의 블록버스터 나비에-스토크스 증명, 우리가 생각했던 것과 다르다'는 기사를 냈어요.

웃프죠. 역사상 가장 짧은 수학 혁명이었어요.

오늘은 이 소동이 왜 일어났고, 실제로 무슨 일이 있었으며, 이게 AI를 바라보는 우리의 시선과 어떻게 연결되는지 제대로 풀어볼게요.

나비에-스토크스, 도대체 왜 100만 달러야

먼저 이 방정식이 뭔지부터 알아야 해요. 어렵게 느껴지실 수 있는데, 비유로 먼저 그림을 그려볼게요.

욕조에 물을 받고 손을 저어보세요. 물이 소용돌이치죠. 소용돌이가 생기고, 물결이 퍼지고, 어딘가에서 합쳐지고, 또 흩어져요. 이 물의 움직임을 수학으로 완벽히 설명하려면 어떻게 해야 할까요? 19세기 프랑스 수학자 클로드 루이 나비에(Claude-Louis Navier)와 영국 수학자 조지 스토크스(George Stokes)가 그 식을 만들었어요. 1820~1840년대에 완성된 이 방정식이 바로 나비에-스토크스 방정식이에요.

이 방정식은 물, 공기, 혈액, 마그마 같은 모든 '유체(흐르는 물질)'의 움직임을 기술해요. 비행기 날개 주변의 공기 흐름, 심장에서 뿜어지는 혈류, 태풍이 형성되는 과정, 엔진 속 연료 분사 — 전부 이 방정식으로 설명할 수 있어요. 현대 항공우주, 기상학, 의학, 심지어 애니메이션의 물 표현까지 이 방정식이 근간에 깔려 있어요.

그런데 문제가 있어요. 우리는 이 방정식을 수백 년간 써왔고 실제로도 잘 들어맞아요. 하지만 수학적으로 '완벽하게 증명'하지는 못했어요. 구체적으로는 두 가지예요. 첫째, 이 방정식의 해(답)가 어떤 조건에서도 항상 존재하는가. 둘째, 그 해가 매끄럽고 연속적인가, 즉 갑자기 무한대로 폭발하는 경우가 없는가. 이 두 가지를 수학적으로 엄밀하게 보여주는 게 아직 안 됐어요.

이게 왜 중요하냐고요? 방정식이 대부분의 경우 잘 들어맞는 것과, 이론적으로 어떤 예외도 없이 완벽하게 성립한다는 것은 달라요. 아파트 전세 계약서가 대부분 잘 작동하지만, 어떤 특수한 상황에서 법적 허점이 생길 수 있는 것처럼요. 수학자들은 '어떤 경우에도, 항상' 성립함을 논리적으로 보여줘야 해요.

2000년, 미국의 클레이 수학연구소(Clay Mathematics Institute)는 이 방정식의 증명을 포함해 수학계의 7대 미해결 문제를 발표하고, 각각 100만 달러의 상금을 걸었어요. 이게 이른바 '밀레니엄 난제'예요. 총 7개 문제에 각각 100만 달러, 합계 700만 달러가 걸린 수학계의 올림픽 같은 거죠. 지금까지 풀린 건 단 하나뿐이에요. 러시아 수학자 그리고리 페렐만이 2003년에 '푸앵카레 추측'이라는 문제의 증명을 발표했는데, 그는 2010년에 수여된 100만 달러 상금을 아무 설명 없이 거부해서 또 화제가 됐죠.

나비에-스토크스는 그 7개 중 하나예요. 클레이 연구소가 문제를 발표한 지 26년이 지났지만 아직 아무도 풀지 못했어요. 그 문제를 AI가 풀었다는 소식이 나왔으니, 인터넷이 뒤집힐 만했죠.

오픈AI가 실제로 한 것: 시뮬레이션과 근사, 증명은 아니에요

자, 그럼 오픈AI는 뭘 한 걸까요?

오픈AI는 수학 관련 논문 여러 편을 공개하면서 나비에-스토크스 방정식 관련 연구도 포함했어요. 핵심은 'Lean'이라는 도구와의 연결이에요. Lean은 수학자가 어떤 증명을 작성하면 컴퓨터가 '이 논리 전개가 정말 맞는가'를 단계별로 자동 확인해 주는 소프트웨어예요. 법원에서 판사가 계약서 조항을 한 줄씩 검토하는 것처럼요. 이걸 '형식 증명(formal proof)' 시스템이라고 해요. 이 분야에서는 이미 2005년에 조지 곤테에르(Georges Gonthier)가 '사색 정리(four color theorem) — 어떤 지도도 네 가지 색으로 인접 구역 구분이 가능하다는 정리'를 Lean으로 검증한 바 있어요.

오픈AI가 한 건, AI가 자연어(사람이 쓰는 한국어·영어 같은 언어)로 쓰인 수학적 주장을 Lean 코드로 자동 변환하는 기술이에요. 이걸 '자동 형식화(autoformalization)'라고 해요. 수학자가 증명을 한국어나 영어로 써두면, AI가 그걸 Lean이 읽을 수 있는 형식의 코드로 바꿔주는 거죠.

그런데 바로 여기서 문제가 터졌어요. 자연어 증명을 Lean 코드로 변환했는데, 그 코드가 증명하는 내용이 원래 자연어로 쓴 주장과 달랐어요. 번역 과정에서 핵심이 빠지거나 바뀐 거예요. 마치 한국어 소설을 영어로 번역했는데, 주인공이 살아 돌아오는 결말이 죽는 결말로 바뀐 것처럼요. Lean 코드 자체는 논리적으로 맞을 수 있어요. 하지만 그 코드가 증명하는 것이 원래 목표했던 수학 명제가 아닌 거죠.

arXiv 논문(번호 2610.08144)이 바로 이 점을 파고들었어요. '오픈AI의 나비에-스토크스 풀이가 Lean 검증과 맞지 않는다'는 거예요.

실제 성과를 정리하면 이래요.

1. 유체 시뮬레이션 성능 향상: 특정 조건에서 유체 흐름을 예측하는 AI 모델이 기존보다 빠르고 효율적으로 작동해요. 날씨 예보나 항공기 설계에 실질적 도움이 돼요.
2. 수치적 근사(numerical approximation): 방정식을 직접 푸는 대신, 주어진 조건에서 해가 어떻게 생겼는지 아주 정밀하게 '추정'하는 방법이에요. 정확한 답 대신 '99.9% 비슷한 답'을 빠르게 내놓는 거죠.
3. 자동 형식화 속도 향상: 수학 논문을 Lean 코드로 변환하는 과정을 AI가 크게 단축했어요. 인간이 수개월 걸리던 작업을 몇 시간으로 줄이는 잠재력이에요.

단, 이것들 중 어느 하나도 밀레니엄 난제의 해결 기준을 충족하지 않아요.

수치적 근사와 수학적 증명은 근본적으로 다른 도구예요. 요리사가 '이 레시피대로 하면 맛있다'고 수천 번 경험으로 알고 있는 것과, 식품 화학자가 '이 분자 구조가 왜 맛있는지'를 원자 단위로 설명하는 것의 차이라고 보면 돼요. 경험적 앎과 이론적 증명은 달라요.

역사가 반복되는 이유: AI 과장의 5단계 사이클

이 소동이 처음 일어난 건 아니에요. AI 역사에는 놀랍도록 비슷한 패턴이 반복돼요.

• 1단계 (실제 발견): 연구자가 진짜로 의미 있는 성과를 낸다.
• 2단계 (과장): 언론과 커뮤니티가 '모든 것을 해결했다'는 식으로 확대 해석한다.
• 3단계 (반박): 전문가들이 '그게 아니다'라고 수정하기 시작한다.
• 4단계 (실망): 대중이 'AI가 또 뻥쳤네'라며 냉소한다.
• 5단계 (조용한 정착): 소란이 가라앉고, 실제 유용한 부분이 현장에서 쓰인다.

나비에-스토크스 사건은 지금 4단계를 지나고 있어요.

비슷한 역사적 사례를 볼게요. 1997년 IBM의 체스 AI '딥블루'가 세계 챔피언 가리 카스파로프를 꺾었을 때예요. 당시에도 'AI가 인간 지능을 완전히 추월했다'는 반응이 쏟아졌어요. 하지만 딥블루는 체스만 했어요. 체스판 위 64칸의 특정 규칙 안에서 최선의 수를 계산할 뿐이었고, 커피 한 잔 주문하는 것도 못 했죠. '체스 잘 두는 AI'를 '인간 지능 초월'로 읽은 과장이었어요.

2016년 DeepMind의 알파고가 바둑 챔피언 이세돌을 이겼을 때도 비슷했어요. 당시 반응은 두 갈래였죠. 한쪽은 '인간이 끝났다', 다른 쪽은 '그냥 바둑 잘 두는 기계잖아'. 사실은 둘 다 틀렸어요. 알파고는 바둑에서 엄청난 진보였고, 동시에 바둑 바깥으론 아무것도 못 했어요.

2023년 DeepMind의 알파폴드(AlphaFold)가 단백질 구조 예측 문제를 대부분 해결했을 때도 그랬어요. 진짜 대단한 성과였는데, 일부 언론은 '모든 질병이 곧 치료된다'는 수준으로 보도했어요. 실제로 신약 개발이 그만큼 빨라지진 않았고, 이후 '알파폴드가 과대평가됐다'는 반동이 나왔어요.

이번 나비에-스토크스 사건도 이 패턴을 정확히 따라요. 진짜 유의미한 기술 진보가 있었어요. 그게 '수학의 종말'로 포장됐고, 반박이 나왔고, 지금 냉소 구간을 지나고 있어요.

한 가지 더. 이 사이클이 반복될수록 기묘한 현상이 생겨요. 실제 혁신이 왔을 때, 사람들이 믿지 않아요. 늑대가 나타났다고 반복적으로 외치다가 진짜 늑대가 왔을 때 아무도 안 달려나오는 것처럼요. AI 연구자들 사이에서 이미 그런 냉소가 늘고 있어요. 이건 장기적으로 봤을 때 진짜 돌파구가 왔을 때 충분한 관심과 투자를 받지 못하는 결과로 이어질 수 있어요.

왜 사람들은 믿고 싶었을까

여기가 제가 진짜 궁금했던 부분이에요. 왜 사람들은, 심지어 꽤 똑똑한 사람들도, 이 과장된 뉴스를 믿고 싶어 했을까요? 단순히 '멍청해서'가 아닌 구조적 이유가 있어요.

첫째는 '특이점 열망'이에요. 오랫동안 SF와 미래학자들은 AI가 인간 지능을 넘어서는 날이 올 거라고 말해왔어요. 그날이 오면 기술 발전이 폭발적으로 가속화되고, 암이 치료되고, 기후 위기가 해결되고, 가난이 사라진다는 희망이요. 나비에-스토크스 증명 소식은 그 특이점의 신호탄처럼 보였어요. 믿고 싶은 기대가 판단을 앞질렀죠.

둘째는 정보 접근의 구조적 문제예요. 정확하게 이해하려면 해당 분야의 배경지식이 필요해요. 나비에-스토크스가 뭔지, Lean이 뭔지, 형식 증명이 수치 근사와 어떻게 다른지 알아야 뉴스를 제대로 읽을 수 있어요. 이걸 알고 있는 사람은 전 세계에서도 소수예요. 대다수는 제목만 읽고 감을 잡아야 해요. 그 감이 '풀었대'로 향하는 건 자연스러워요.

셋째는 AI 기업들의 발표 방식이에요. '획기적', '전례 없는', '혁명적' 같은 수식어가 붙은 발표가 너무 많아요. 누적되면 독자의 감도가 무뎌져요. 실제로 대단한 것과 홍보성 과장을 구별하기가 점점 어려워지죠. 언론도, 커뮤니티 알고리즘도, 클릭을 최대화하는 방향으로 정보를 흐르게 해요. '오픈AI가 유체역학 시뮬레이션 효율 개선'보다 '오픈AI가 100만 달러 수학 난제 해결'이 훨씬 많이 클릭돼요.

넷째로, 스콧 아론손의 글 제목인 '수학의 묵시록' 같은 표현이 맥락 없이 돌아다니면서 오해를 키웠어요. 아론손의 실제 글은 냉정하고 비판적인 내용이에요. 하지만 제목만 스크린샷으로 퍼지면서 '저 유명한 컴퓨터 과학자도 혁명이라고 인정했다'는 식으로 읽혔죠.

이 모든 요소가 합쳐지면, 꽤 판단력 있는 사람도 잠깐 흔들릴 수 있어요. 부끄럽거나 이상한 일이 아니에요. 구조 자체가 그렇게 설계돼 있거든요.

두 가지 흔한 함정: 오해를 바로잡아요

이번 사건에서 사람들이 가장 많이 빠진 함정 두 가지를 짚고 싶어요. 앞으로 비슷한 뉴스를 볼 때 써먹을 수 있어요.

첫 번째 함정: 'Lean에서 검증됐다 = 수학적으로 완전히 증명됐다'

Lean은 강력한 도구예요. 수학자가 쓴 증명을 Lean으로 코딩하면, 컴퓨터가 논리 단계를 하나하나 자동으로 확인해 줘요. 아까 말했듯 2005년에 사색 정리를 Lean으로 검증한 사례처럼, 이미 수학 분야에서 신뢰받는 방법이에요.

그런데 이번엔 달랐어요. AI가 자연어 증명을 Lean 코드로 자동 변환했는데, 변환 과정에서 원래 주장의 핵심이 달라져 버렸어요. Lean 코드 자체는 논리적으로 통과할 수 있어요. 하지만 그게 증명하는 내용이 원래 목표했던 수학 문제가 아니에요. 한국어로 쓴 질문을 영어로 번역하다 보니, 완전히 다른 질문에 대한 답을 증명하게 된 거예요. 형식은 맞지만 내용이 달라진 것이죠.

두 번째 함정: '좋은 시뮬레이션 = 수학적 증명'

AI가 유체역학 시뮬레이션을 훨씬 잘 한다는 건 실제로 대단한 성과예요. 더 정확한 날씨 예보, 더 효율적인 비행기 설계, 더 정밀한 의료 시뮬레이션이 가능해져요. 현실 세계에 엄청난 가치를 가져다줘요.

하지만 '이 방정식의 해가 항상 존재하고 매끄럽다'를 수학적으로 증명하는 건 완전히 다른 일이에요. 아무리 많은 경우를 시뮬레이션해도, '모든 경우'를 전부 확인할 수는 없어요. 반례(예외)가 하나라도 있으면 증명은 무너지거든요. 수학적 증명은 '무한히 많은 모든 경우에서 성립한다'를 논리로 보여야 해요. AI가 100만 번 시뮬레이션해서 다 맞아떨어져도, 100만 1번째에 예외가 나올 수도 있어요. 이 가능성을 논리적으로 배제하는 게 증명이에요.

이 두 가지 함정만 알면, 앞으로 비슷한 뉴스를 볼 때 훨씬 정확하게 읽을 수 있어요.

진짜 의미와 앞으로 봐야 할 신호

과장을 다 걷어내면, 이번 오픈AI의 연구에는 진짜 의미 있는 부분이 있어요. 그걸 축소하고 싶지는 않아요.

자동 형식화 기술의 가속화는 수학 연구의 속도를 바꿀 잠재력이 있어요. 지금까지 수학자들이 논문을 써서 Lean으로 변환하려면 수개월이 걸렸어요. AI가 이 과정을 몇 시간으로 줄일 수 있다면, 수학 연구의 검증 속도 자체가 빨라져요. 오류가 더 빨리 발견되고, 더 많은 증명이 더 엄밀하게 검토될 수 있어요. 이건 수학계에 조용하고 깊은 영향을 줄 거예요.

유체역학 시뮬레이션 분야에서 AI가 보여준 효율 향상도 실질적이에요. 기후 모델링, 항공기 날개 설계, 심장 수술 계획 시뮬레이션 — 여기서 AI의 기여는 이미 현실에서 쓰이고 있어요.

앞으로 진짜 돌파구와 과장을 구별하고 싶다면, 이 네 가지를 확인해 보세요.

1. 클레이 연구소 공식 심사 여부: 밀레니엄 난제는 클레이 연구소가 공식으로 인정해야 해결된 거예요. 커뮤니티 반응이 아니라 클레이 연구소 발표를 보세요.
2. 동료 검토(peer review) 통과 여부: 수학·과학 논문은 전문가들이 검토하는 동료 검토를 통과해야 해요. arXiv에 올라온 논문은 아직 검토 전이에요.
3. 형식 증명과 원래 주장의 일치 여부: Lean 코드가 원래 수학 명제를 정확히 반영하는지, 독립적으로 검증됐나요?
4. 반례 탐색 결과: 전문가들이 반례를 찾으려 시도하고 실패했나요, 아니면 아직 아무도 시도하지 않은 단계인가요?

이 네 가지를 묻는 게 어렵지 않아요. '공식 기관이 인정했는가'를 한 번만 더 물어보면 반은 해결돼요.

마무리: AI에게 넘길 수 없는 것

이번 사건이 저한테 던진 질문은 사실 수학이 아니에요.

우리는 AI에 대해 너무 많이 믿거나, 너무 많이 의심하는 두 극단 사이에서 흔들려요. 오픈AI 발표가 나오면 '인간이 끝났다'가 되고, 반박이 나오면 'AI는 뻥쟁이'가 돼요. 둘 다 틀렸어요.

진짜 어려운 건 과장도 냉소도 아닌, 정확한 이해예요. AI가 어디서 진짜로 강하고, 어디서는 아직 못 미치는지를 구체적으로 아는 것. 그걸 알아야 이 기술을 제대로 쓸 수 있어요. 그리고 그 앎은 누가 대신 해줄 수 없어요. AI가 이 이해 자체를 대신할 수 없다는 게, 어쩌면 이번 사건이 보여준 가장 솔직한 결론이에요.

나비에-스토크스 증명 소동이 보여준 건, AI가 얼마나 빠르게 발전하는가보다, 우리가 그 발전을 얼마나 정확하게 읽어낼 준비가 됐는가예요. 시뮬레이션은 잘 되고 있어요. 증명은 아직이에요. 그 차이를 아는 것, 그게 지금 가장 중요한 리터러시(정보를 정확히 읽고 판단하는 능력)예요.

— 서아람

독자 Q/A

Q. 오픈AI가 진짜로 밀레니엄 난제를 풀면 어떻게 되나요?

A. 클레이 수학연구소가 공식 심사를 거쳐 인정하면 100만 달러 상금이 수여돼요. 더 중요한 건 이론적 기반의 완성이에요. 나비에-스토크스가 증명되면 '이 경우엔 잘 들어맞는데 혹시 예외가 있을 수도 있다'는 불확실성이 수학적으로 해소돼요. 공학 설계와 물리 시뮬레이션의 이론적 토대가 훨씬 단단해지죠. 단, 이건 당장 실용적 변화보다는 장기적인 기초과학의 진전이에요. 일상이 내일 당장 달라지진 않아요.

Q. AI가 수학 증명을 완전히 자동화하는 날이 올까요?

A. 추정입니다만, 아주 오래 걸릴 것 같아요. 패턴을 찾고 시뮬레이션하는 것과, 논리적 반례가 없음을 엄밀하게 증명하는 것은 다른 종류의 능력이에요. AI는 전자에서 월등하고, 후자에서는 아직 초기 단계예요. 자동 형식화처럼 인간 수학자를 보조하는 도구로서는 훨씬 빨리 유용해질 것 같아요. '대체'보다 '가속'에 가까울 거예요.

Q. 그럼 이번 오픈AI의 성과, 어떻게 봐야 하나요?

A. 실용적으로는 진짜로 대단해요. 유체역학 시뮬레이션 향상, 수학 논문 자동 형식화 속도 향상 — 이건 현실에서 쓰이는 가치예요. 학문적으로는 '밀레니엄 난제 해결'은 아직 아니에요. 두 가지를 구분하지 않고 섞어서 발표한 것, 그리고 일부 미디어가 그 간극을 더 벌린 것이 이번 소동의 핵심이에요. 성과는 성과대로 인정하되, 어디까지가 실제인지를 정확히 아는 것이 맞아요.