나비에-스토크스 난제 증명과 불거진 가로채기 의혹
2026년 9월 8일, 수학계와 인공지능(AI) 업계를 뒤흔든 중대한 사건이 발생했습니다. 클레이 수학연구소(Clay Mathematics Institute)가 2000년에 지정한 7대 밀레니엄 난제 중 하나이자 유체역학의 핵심 이론인 '나비에-스토크스 존재성과 매끄러움(Navier–Stokes existence and smoothness)' 문제가 AI 에이전트를 통해 완전 증명되었다는 소식이 전해졌습니다. 그러나 이 성과 뒤편에는 학술적 연구 데이터 유출과 연구 선점(Scoop)을 둘러싼 심각한 윤리적 갈등이 자리 잡고 있습니다.
뉴욕대학교(NYU)의 수학과 교수인 트리스탄 벅마스터(Tristan Buckmaster)와 앤스로픽(Anthropic) 소속 수학자 레반트 알포게(Levent Alpöge) 연구팀은 약 1년에 걸쳐 해당 난제에 대한 중간 연구 성과를 도출했습니다. 이들은 OpenAI의 Codex(주로 GPT-5.6 Sol)와 Claude 모델을 분석 도구로 활용해 왔으며, 8월 15일 결정적인 연구 돌파구를 마련했습니다.
하지만 연구 결과 공개를 준비하던 중 OpenAI가 동일한 접근 방식을 채택하여 전면적인 증명에 착수했다는 사실이 밝혀졌습니다. 벅마스터 교수는 다음과 같이 심경을 밝혔습니다.
"이 이야기에는 또 다른 이면이 있습니다. 솔직히 제가 전혀 신경 쓰고 싶지 않았던 부분입니다. OpenAI의 병렬 연구는 우리의 연구가 공개되기도 전에 그 성과를 토대로 구축되었습니다."
---
88시간의 전격전: 3,000억 토큰과 2,250만 달러의 연산 투입
OpenAI 측의 공식 발표에 따르면, 이들은 9월 1일 두 건의 밀레니엄 난제가 해결되었다는 소문을 접한 직후 미공개 차세대 내부 모델을 투입하여 문제 해결에 나섰습니다. 첫 번째 에이전트가 실행된 지 약 88시간 만에 나비에-스토크스 문제의 해법에 도달했으며, 이후 GPT-6 Astra를 이용해 17시간 만에 Lean 정형화(Formalization) 및 검증을 완료했습니다.
- 소문 인지(9월 1일)
- 에이전트 군집 탐색(88시간)
- Lean 정형화 검증(17시간)
- 증명 완료(9월 6일)
이 과정에서 투입된 컴퓨팅 자원의 규모는 막대했습니다. OpenAI가 여러 미해결 난제를 동시에 공략하며 소모한 총 토큰 및 메시지 처리량은 다음과 같습니다.
| 연구 프로젝트 구분 | 투입 메시지 수 | 출력 토큰 수 | 비고 |
|---|---|---|---|
| 전체 시도 난제 (총합) | 490만 건 | 약 3,000억 토큰 | 미공개 차세대 내부 모델 |
| 나비에-스토크스 단일 문제 | 270만 건 | 약 1,300억 토큰 | Lean 검증 17시간 포함 |
해당 연산량(3,000억 출력 토큰)은 GPT-6 Astra의 공개 API 요금 기준 약 1,500만 달러(약 200억 원)에서 현재 Astra 요율 적용 시 최대 2,250만 달러에 달하는 컴퓨팅 비용입니다.
---
'매끄러운 힘' 접근법의 유사성과 데이터 학습 논란
수학계에서 나비에-스토크스 문제를 다룰 때 찰스 페퍼먼(Charles Fefferman)이 제시한 문제 진술 중 '매끄러운 힘(smooth force)'을 통한 경로는 극히 소수의 학자들만 시도하던 희귀한 방식이었습니다. 벅마스터 교수는 OpenAI가 완전히 동일한 접근 경로를 단 며칠 만에 독자적으로 선택했다는 점에 강한 의혹을 제기했습니다.
"우리가 조용히 택했던 이 경로는 내가 아는 한 다른 누구도 연구하지 않던 방식이었습니다. 모델에 문제 지문만 던져준다고 며칠 만에 도달할 수 있는 방향이 아닙니다."
가장 핵심적인 쟁점은 상용 프롬프트 데이터의 재학습 여부입니다. 벅마스터 교수는 1년 가까이 모든 연구 초안을 OpenAI의 Codex 세션에 입력해 왔습니다. OpenAI는 기본 약관상 Codex 상호작용 데이터를 모델 학습에 활용할 권리를 보유하고 있습니다(옵트아웃 기능 제공). 만약 벅마스터의 상호작용 데이터가 차세대 모델의 학습에 활용되었다면, AI 모델이 해당 수학적 단서를 기억하고 재생성했을 가능성이 제기됩니다.
OpenAI는 공식 게시글을 통해 연구진과 에이전트가 공개 전까지 상대 연구를 직접 열람하지 않았으며, 특정 사용자 데이터에 접근하지 않았다고 해명했습니다. 다만 "사용자 인터랙션에서 유래한 비식별화 데이터가 모델 성능 향상에 기여했을 가능성을 완전히 배제할 수는 없다"고 덧붙였습니다.
---
학술적 우선권 분쟁과 빅테크의 자본력 우위
결과 발표 과정에서도 양측의 신경전이 드러났습니다. OpenAI 측은 증명 완료 후 공동 발표 및 우선권 인정을 제안했으나, 공동 연구자인 알포게가 경쟁사인 Anthropic 소속이라는 이유로 공저자 등재에서 제외할 것을 요구했습니다. 벅마스터 교수가 이에 반발하며 분쟁을 공론화하려 하자, OpenAI 측 인사가 "왜 당신의 커리어를 망치려 합니까?"라며 압박성 발언을 했다는 주장까지 제기되었습니다.
이번 사태는 컴퓨터 보안 분야에서 취약점 소문만 듣고 자동화 에이전트를 가동해 익스플로잇을 선점하는 현상이 순수 기초과학 분야로 전이되었음을 보여줍니다. 연구의 힌트나 착안점이 유출되는 순간, 막대한 자본과 연산력을 쥔 빅테크 기업이 개별 연구팀을 압도하여 학술적 성과를 독식할 수 있다는 우려가 현실화되고 있습니다.