오픈AI 나비에-스토크스 증명 발표와 상금 판정 기준

오픈AI가 9월 8일 자사 내부 AI 모델이 나비에-스토크스 문제의 답을 냈다고 발표했습니다. 사흘 뒤인 9월 11일 상금을 관리하는 클레이 수학연구소가 성명을 냈고, 같은 날 필즈상 수상자 25명도 선언문을 냈습니다. 세 문서가 같은 사건을 두고 서로 다른 말을 하니, 확정된 것과 아직 다투는 것을 나눠 볼 필요가 있습니다.

나비에-스토크스 문제는 흐름 방정식이 깨지는 순간이 있느냐는 질문이다

이번에 AI가 보인 것은 나비에-스토크스 방정식이 현실과 어긋나는 순간(특이점)이 실제로 생길 수 있다는 점입니다.

나비에-스토크스 방정식은 물과 공기의 흐름을 계산하는 식입니다. 비행기 날개 설계, 일기예보, 혈관 속 피 흐름 연구에 이 식을 씁니다. 180년 넘게 큰 문제 없이 써 왔습니다.

그런데 수학자들이 아직 못 푼 질문이 하나 있었습니다. 이 식을 끝까지 풀어 가면 어느 순간 "이 지점의 속도는 무한대"라는 답이 나올 수 있느냐는 것입니다. 실제 물은 무한히 빨라질 수 없으니, 그런 답이 나온다면 방정식이 현실을 못 따라가는 순간이 있는 셈입니다. 수학에서는 이 지점을 특이점이라고 부릅니다. 클레이 수학연구소는 2000년에 이 질문을 포함한 난제 일곱 개를 골라 문제마다 100만 달러를 걸었고, 이 일곱 문제를 밀레니엄 문제라고 합니다.

오픈AI의 답은 "그런 순간이 있다"입니다. 잔잔한 물에 바깥에서 부드러운 힘을 계속 가하면 정해진 시간 안에 속도가 무한대로 치솟는 지점이 생긴다는 것을 증명했습니다. 클레이 연구소의 공식 문제에는 답의 형태가 네 가지 적혀 있고, 이번 결과는 그중 "깨진다" 쪽 두 가지에 해당합니다.

문제를 푼 건 아직 공개하지 않은 내부 모델로, GPT-6 아스트라보다 성능이 훨씬 높습니다. 오픈AI는 사람이 읽는 증명문과 함께 린(Lean) 검증 결과도 냈습니다. 린은 증명을 한 줄씩 채점하는 컴퓨터 프로그램이고, 이번 증명 채점에는 17시간이 걸렸습니다. 이제 수학자들의 검토와 클레이 연구소의 판정이 남았습니다.

오픈AI는 AI 에이전트 약 1만 개를 동시에 돌려 풀었다

88시간 만에 풀었다는 말은 맞습니다. 다만 그 88시간은 사람이 짜 둔 순서대로 AI 약 1만 개를 굴린 시간입니다.

AI 에이전트는 사람이 하나하나 지시하지 않아도 자료를 읽고 코드를 돌리며 스스로 문제를 푸는 프로그램입니다. 오픈AI는 에이전트 약 1만 개를 띄워 여러 조로 나누고 아래 순서로 일을 시켰습니다.

1. 조마다 다른 문제를 맡겼습니다. 어떤 조는 "방정식이 안 깨진다"를, 어떤 조는 "깨진다"를 증명하게 했습니다. 어려운 본 문제 말고 더 쉬운 연습 문제도 함께 줬습니다.
2. 연습 문제 하나는 물의 끈끈함(점성)을 뺀 더 단순한 방정식이었습니다. 에이전트 약 100개가 이 문제를 50시간 만에 풀자 오픈AI는 자원을 본 문제로 몰았습니다.
3. 조마다 나온 중간 결과는 오픈AI의 코딩 AI인 코덱스로 모아 다른 조에 다시 넣었습니다.
4. 훈련이 더 된 모델이 나오면 에이전트를 그 모델로 바꿨습니다.

1,300억 토큰을 가늠해 보면, 한글 한 글자를 토큰 하나로 칠 때 400자 원고지로 3억 2,500만 장입니다. 이걸 나흘 안에 써냈습니다. 내부 모델이라 공개 요금표가 없어서 원화로 환산하지는 않았습니다.

밀레니엄 상금 100만 달러 심사는 논문이 학술지에 실리고 2년 뒤에 시작된다

상금은 아직 심사 대상에도 오르지 않았고, 오픈AI는 처음부터 받지 않겠다고 했습니다.

클레이 연구소 규정이 요구하는 조건은 세 가지입니다. 자격 있는 학술지에 논문이 실려야 하고, 실린 뒤 최소 2년이 지나야 하고, 그동안 세계 수학계가 결과를 받아들여야 합니다. 연구소에 직접 제출하는 길은 없습니다. 논문을 내고 2년 동안 전 세계 수학자들이 뜯어보게 두는 것이 사실상 심사의 첫 단계입니다. 100만 달러는 헤럴드경제 환산으로 약 13억 원입니다.

클레이 연구소는 9월 11일 성명에서 "해결된 것으로 보인다는 발표에 세계 수학계와 흥분을 함께한다"고 했지만, 판정과 공로 배분은 "일부러 서두르지 않는다"고 분명히 했습니다. 미국수학회는 발표 당일 낸 성명에서 이 성과를 180년 전 나비에와 스토크스부터 여러 수학자가 이어 온 사람의 작업으로 보고, 오픈AI의 몫을 그 "마지막 단계"라고 적었습니다.

공로 논란은 발표 전날 벅매스터 교수와 한 통화에서 시작됐다

등장인물은 셋입니다. 뉴욕대 수학 교수 트리스탄 벅매스터, 그와 함께 연구한 알푀게, 오픈AI 수학자 세바스티앙 뷔벡입니다. 알푀게는 앤트로픽 직원이지만 이 연구는 회사 일이 아니라 개인 연구였고, AI 도구 비용도 개인 연구비로 댔습니다.

두 수학자는 8월 15일, 본 문제보다 작은 버전인 오일러 방정식(점성을 뺀 방정식)에서 "깨진다"를 증명했습니다. 8월 22일에는 컴퓨터 검증까지 끝냈습니다. 이번 증명의 바탕이 된 방법은 그보다 앞선 2021년부터 2023년 사이 스페인 수학자 코르도바와 마르티네스-소로아가 닦아 뒀습니다.

이때 오픈AI는 모델 훈련도 시작하지 않은 상태였습니다. 훈련은 8월 28일 시작됐고, 오픈AI는 9월 1일 "밀레니엄 문제 두 개가 풀렸다"는 소문을 듣고 에이전트를 투입했습니다. 9월 3일 벅매스터는 오픈AI 수학자에게 이메일로 이 연구가 개인 연구이며 곧 공개한다고 알렸습니다. 9월 5일 오픈AI 에이전트가 본 문제의 답에 닿았고, 이튿날 양쪽은 두 차례 통화했습니다.

벅매스터 교수는 성명에 9월 6일 통화 내용을 이렇게 적었습니다. 오픈AI가 낸 안은 두 가지였습니다. 두 사람이 자기 결과를 먼저 올리면 오픈AI가 다음 날 본 문제 결과를 올리는 안, 그리고 벅매스터 혼자 오픈AI 모델의 결과를 정리한 논문을 쓰는 안입니다.

그의 주장에 따르면 그 과정에서 뷔벡이 알푀게를 저자에서 빼자는 말을 두 번 했고, 그냥 공개하겠다고 하자 "왜 당신 경력을 망치려 하나"라는 답이 돌아왔습니다. 그는 두 안을 다 거절하고 9월 7일 밤 11시 58분에 성명과 논문 세 편을 공개했습니다.

그는 같은 성명에서 자기 주장의 범위도 분명히 했습니다.

나는 오픈AI의 증명을 본 적이 없다. 그들의 모델이 무엇을 했는지, 어떻게 했는지 모른다. 우리 데이터가 쓰였는지도 모른다. 나는 누구도 고발하지 않는다. (Tristan Buckmaster, Statement, 2026-09-07)

여기서 말하는 "우리 데이터"는 벅매스터가 연구 초안을 전부 코덱스에 넣으며 작업한 자료입니다. 사람들은 그 내용이 오픈AI 모델로 흘러갔을 가능성을 의심했습니다.

오픈AI는 이렇게 답했습니다. 발표문에 "연구자와 에이전트 모두 그들의 작업이 공개되기 전까지 어떤 경로로도 보지 않았다"고 썼고, 작은 버전 문제를 먼저 푼 공은 두 사람에게 있다고 인정했습니다. 저자 배제 요구는 부인했고 경력 발언은 사과했습니다. 9월 10일에는 발표문에 조사 결과를 덧붙였습니다. 벅매스터가 두 달 동안 코덱스에 넣은 자료는 훈련을 포함해 어떤 방식으로도 자사 시스템에 영향을 줄 수 없었다는 내용입니다. 같은 날 캘텍 연구자들이 비판하자 오픈AI는 캘텍 수학 행사 후원을 철회했습니다.

이튿날인 9월 11일 필즈상 수상자 25명이 선언문을 냈습니다. 특정 회사 이름은 없고, "AI 기업들"이 난제 풀이를 두고 경쟁하는 흐름을 우려한다는 내용입니다.

기사와 커뮤니티에 도는 말, 공식 문서와 맞춰 보기

실무에서는 AI에 넣은 자료가 학습에 쓰이는 설정인지부터 본다

먼저 자료입니다. 벅매스터 교수는 연구 초안을 전부 코덱스에 넣고 작업했습니다. 회사 문서를 그렇게 넣고 있다면 지금 쓰는 요금제부터 확인하면 됩니다. 개인 요금제는 설정에서 "모두를 위한 모델 개선"을 끄지 않으면 대화와 코덱스 작업이 모델 학습에 쓰일 수 있습니다. 회사 계약인 비즈니스·엔터프라이즈 요금제와 API로 넣은 자료는 기본적으로 학습에 쓰이지 않습니다. 벅매스터 교수가 어떤 요금제를 썼는지는 확인하지 못했습니다.

다음은 순서입니다. 오픈AI의 작업에서 눈여겨볼 것은 에이전트 숫자보다 일을 맡긴 순서입니다. 문제 버전별로 조를 나누고, 쉬운 문제부터 풀게 하고, 중간 결과를 모아 다시 넣고, 더 나은 모델이 나오면 그 모델로 바꿨습니다. 회사에서 AI 여럿을 돌릴 때도 참고할 만합니다. 디스코드에 AI 팀을 만든 글에서 AI마다 역할을 나눈 것도 같은 이유입니다.

함께 읽기클로드 채널 기능으로 디스코드에 AI 팀 만들기AI SYSTEMS · 2026.03.24→

앞으로 챙길 일

자주 묻는 질문