오픈AI가 푼 나비에-스토크스, 100만 달러 난제는 해결된 건가요

오픈AI가 9월 8일 나비에-스토크스 문제의 답을 내부 AI 모델이 냈다고 발표했습니다. 사흘 뒤 상금을 관리하는 클레이 수학연구소가 성명을 냈고, 같은 날 필즈상 수상자 25명이 선언문을 냈습니다. 세 문서는 같은 사건을 두고 서로 다른 말을 합니다.

나비에-스토크스 문제: 물의 방정식이 깨지는 순간이 있는가

이번에 AI가 보인 건 "물의 방정식이 깨지는 상황이 실제로 있다"는 것입니다¹.

나비에-스토크스 방정식은 물과 공기가 어떻게 흐르는지 계산하는 식입니다. 비행기 날개 설계, 날씨 예보, 혈관 속 피의 흐름 연구에 이 식을 씁니다. 180년 넘게 잘 쓰고 있는 식입니다. 그런데 수학자들이 아직 모르는 게 하나 있었습니다. 이 식을 끝까지 풀어 나가면, 어느 순간 "이 지점의 속도는 무한대"라는 답이 나올 수 있는가. 실제 물이 무한히 빠를 수는 없으니, 그런 답이 나온다면 방정식이 현실을 설명하지 못하는 순간이 있다는 뜻입니다. 수학에서는 이 지점을 특이점이라고 부릅니다. 2000년에 클레이 수학연구소가 이 질문을 포함해 난제 일곱 개를 골라 문제당 100만 달러를 걸었습니다. 이걸 밀레니엄 문제라고 합니다¹.

오픈AI의 답은 "깨지는 순간이 있다"입니다. 잔잔한 물에 밖에서 부드럽게 힘을 계속 주면, 정해진 시간 안에 속도가 무한대로 치솟는 지점이 생긴다는 걸 증명했습니다. 클레이 연구소가 낸 공식 문제에는 답의 형태가 네 가지 적혀 있는데, 이번 결과는 그중 "깨진다" 쪽 두 가지에 해당합니다¹.

AI가 푼 방법: 1만 개를 동시에 돌렸다

"88시간 만에 풀었다"는 맞는 말이지만, 사람이 짠 순서대로 AI 1만 개를 굴린 결과입니다¹.

오픈AI 설명을 쉽게 옮기면 이렇습니다. AI 에이전트는 혼자 자료를 읽고 코드를 돌리면서 문제를 푸는 프로그램입니다. 이걸 약 1만 개 띄워 조를 짰습니다. 조마다 문제의 다른 버전을 줬습니다. "방정식이 안 깨진다"를 증명하는 조, "깨진다"를 증명하는 조. 어려운 본 문제만 준 게 아니라 더 쉬운 연습 문제도 같이 줬습니다. 연습 문제 중 하나가 물의 끈끈함(점성)을 뺀 더 단순한 방정식이었는데, 이걸 약 100개 에이전트가 50시간 만에 풀었습니다. 그걸 보고 자원을 본 문제에 몰았습니다. 조들이 낸 중간 결과는 코덱스(오픈AI의 코딩 AI)로 모아 다른 조에 다시 넣었고, 훈련이 더 된 모델이 나오면 에이전트를 그 모델로 갈아탔습니다¹.

1,300억 토큰이 어느 정도냐면, 한글 한 글자를 토큰 하나로 치면 원고지 400자 기준 3억 2,500만 장입니다. 그걸 나흘 안에 써냈습니다. 공개 요금표가 없는 내부 모델이라 원화 환산은 하지 않습니다.

상금 100만 달러: 논문 게재 후 2년이 지나야 심사가 시작된다

상금은 아직 심사 대상도 아닙니다. 논문이 학술지에 실리고 2년이 지나야 심사가 시작되고, 오픈AI는 받지 않겠다고 했습니다¹³.

클레이 연구소 규정은 세 가지를 요구합니다. 자격 있는 학술지에 논문이 실릴 것, 실린 뒤 최소 2년이 지날 것, 그 사이 세계 수학계가 받아들일 것. 연구소에 직접 제출하는 건 안 됩니다³. 논문을 내고 2년 동안 전 세계 수학자들이 뜯어보게 두는 게 심사의 첫 단계인 셈입니다. 100만 달러는 헤럴드경제 환산으로 약 13억 원입니다¹⁰.

클레이 연구소는 9월 11일 성명에서 "해결된 것으로 보인다는 발표에 세계 수학계와 흥분을 함께한다"고 했습니다. 같은 성명에서 판정과 공로 배분은 "일부러 서두르지 않는다"고 못 박았습니다². 미국수학회는 발표 당일 성명에서 이 성과를 180년 전 나비에와 스토크스부터 여러 수학자를 거쳐 이어진 사람의 작업이라고 적었고, 오픈AI는 그 "마지막 단계"라고 했습니다⁴.

공로 논란: 먼저 풀고 있던 교수와 발표 전날 통화

등장인물은 셋입니다. 뉴욕대 수학 교수 트리스탄 벅매스터. 그와 함께 연구한 알푀게. 알푀게는 앤트로픽 직원이지만 이 연구는 회사 일이 아니라 개인 연구였고, AI 도구 비용도 개인 연구비로 냈습니다⁵. 그리고 오픈AI 쪽 수학자 세바스티앙 뷔벡입니다.

두 수학자는 8월 15일에 본 문제보다 작은 버전(끈끈함을 뺀 방정식)에서 "깨진다"를 증명했고, 8월 22일 컴퓨터 채점도 끝냈습니다⁵. 이때 오픈AI는 모델 훈련도 시작하기 전이었습니다. 훈련은 8월 28일에 시작됐고, 9월 1일 "밀레니엄 문제 두 개가 풀렸다"는 소문을 듣고서 에이전트를 투입했습니다¹. 9월 3일 벅매스터는 오픈AI 수학자에게 이메일을 보냈습니다. 개인 연구이고 곧 공개하겠다는 내용이었습니다⁵. 9월 5일 오픈AI 에이전트가 본 문제의 답에 도달했고, 이튿날 두 쪽이 두 차례 통화했습니다.

벅매스터 교수의 성명은 9월 6일 통화를 이렇게 적었습니다. 오픈AI가 제안한 안은 둘이었습니다. 하나는 두 사람이 자기들 결과를 먼저 올리면 오픈AI가 다음 날 본 문제 결과를 올리는 것, 다른 하나는 벅매스터 혼자 오픈AI 모델의 결과를 정리한 논문을 쓰는 것. 뷔벡이 알푀게를 저자에서 빼자고 두 번 말했고, 그냥 공개하겠다고 하자 "왜 당신 경력을 망치려 하나"라는 답이 돌아왔다는 게 그의 주장입니다. 그는 두 안을 다 거절했고, 9월 7일 밤 11시 58분에 성명과 논문 세 편을 공개했습니다⁵⁸.

같은 성명에서 그는 선을 그었습니다.

나는 오픈AI의 증명을 본 적이 없다. 그들의 모델이 무엇을 했는지, 어떻게 했는지 모른다. 우리 데이터가 쓰였는지도 모른다. 나는 누구도 고발하지 않는다. (Tristan Buckmaster, Statement, 2026-09-07)

"우리 데이터"가 무슨 말이냐면, 벅매스터는 연구 초안을 전부 코덱스에 넣으며 작업했습니다⁵. 그러니 그 내용이 오픈AI 모델로 흘러갔을 가능성을 사람들이 의심한 것입니다. 오픈AI는 발표문에 "연구자와 에이전트 모두 그들의 작업이 공개되기 전까지 어떤 경로로도 보지 않았다"고 썼고, 작은 버전 문제를 먼저 푼 공은 두 사람에게 있다고 인정했습니다. 9월 10일에는 조사 결과를 덧붙였습니다. 벅매스터가 두 달간 코덱스에 넣은 내용은 훈련을 포함해 어떤 방식으로도 자기들 시스템에 영향을 줄 수 없었다는 것입니다¹. 저자 배제 요구는 없었다고 부인했고, 경력 발언은 사과했습니다¹⁰. 다음 날 필즈상 수상자 25명이 선언문을 냈습니다. 특정 회사 이름은 없고, "AI 기업들"이 난제 풀이를 경쟁하듯 하는 것을 우려한다는 내용입니다⁶.

떠도는 말과 공식 문서 대조

실무 판단: 내가 AI에 넣는 자료가 학습에 쓰이는지부터

첫째, 자료입니다. 벅매스터 교수는 연구 초안 전부를 코덱스에 넣으며 작업했습니다⁵. 오픈AI 도움말 센터 기준으로, 개인 요금제는 설정에서 "모두를 위한 모델 개선"을 끄지 않으면 대화와 코덱스 작업이 모델 학습에 쓰일 수 있습니다¹³. 반면 회사 계약(비즈니스·엔터프라이즈)과 API로 넣는 자료는 기본적으로 학습에 쓰지 않습니다¹⁴. 회사 문서를 AI에 넣어 일하고 있다면 이번 주에 확인할 건 하나입니다. 지금 쓰는 요금제가 어느 쪽인가. 벅매스터 교수가 어느 요금제를 썼는지는 확인하지 못했습니다.

둘째, 순서입니다. 오픈AI가 한 건 AI를 많이 띄운 게 아니라 순서를 설계한 것입니다. 문제 버전별로 조를 나누고, 쉬운 문제부터 풀게 하고, 중간 결과를 모아 다시 넣고, 더 나은 모델이 나오면 갈아탔습니다¹. 회사에서 AI 여럿을 돌릴 때도 같은 순서가 먹힙니다. 디스코드에 AI 팀을 만든 글에서 역할을 나눈 이유가 이것과 같습니다.

지금 할 것과 기다릴 것

자주 묻는 것