OpenAI, 90년 난제 풀었다… 그 뒤에 남은 윤리 논쟁

유체역학의 근본 방정식인 Navier-Stokes. 19세기 수학자 Claude-Louis Navier와 George Gabriel Stokes의 이름을 딴 이 방정식은 항공기 설계, 기상 예보, 혈류 분석에 쓰인다. 1934년 Jean Leray가 해의 존재를 일반적 의미에서 증명했지만, 3차원 유체 운동이 항상 매끄럽게 유지되는지는 90년 가까이 미해결로 남아 있었다. 2000년 Clay 수학연구소는 이 문제를 100만 달러 상금이 걸린 7개 밀레니엄 문제 중 하나로 선정했다.

2026년 9월 9일, OpenAI가 그 답을 내놨다고 선언했다.

1만 개 에이전트, 88시간, 수백만 달러

OpenAI가 공개한 방법론은 그 자체로 충격이다. GPT-6 Astra보다 "현저히 뛰어나다"고 표현한 미공개 내부 모델을 기반으로, 약 1만 개의 AI 에이전트가 동시에 작동했다. 에이전트들은 그룹으로 나뉘어 서로 소통하고, 인터넷 캐시를 읽고, 코드를 실행하며 접근법을 탐색했다. 88시간 만에 Navier-Stokes 해를 찾았고, 이후 17시간 동안 수학 증명 언어인 Lean으로 형식 검증을 마쳤다.

연구 책임자 Mark Chen은 컴퓨팅 비용만 "수백만 달러"에 달했다고 밝혔다. TechCrunch의 분석에 따르면 전체 프로젝트에 쓰인 3,000억 개 출력 토큰은 현재 Astra 요금 기준으로 약 2,250만 달러 규모다.

에이전트들이 보낸 메시지는 총 490만 건, 사용한 출력 토큰은 약 3,000억 개다. Navier-Stokes 문제 풀이에만 270만 건의 메시지와 약 1,300억 개의 토큰이 투입됐다.

증명의 핵심은 '소용돌이(vortex)'다. 유체가 안쪽으로 나선형으로 회전하며 점점 늘어나는 구조로, 에너지가 유한한 상태에서도 속도가 유한 시간 안에 무한히 커지는 특이점(singularity)이 발생할 수 있음을 보였다. 점성(viscosity)이 운동을 매끄럽게 유지하려는 힘에도 불구하고 붕괴가 일어난다는 것이다.

OpenAI, 90년 난제 풀었다… 그 뒤에 남은 윤리 논쟁 (summary)

흥미롭게도 에이전트들은 Navier-Stokes의 점성 항을 제거한 극한 방정식인 오일러(Euler) 방정식의 정칙성 문제도 풀었다. 약 100개 에이전트가 50시간 동안 작업해 비강제(unforced) 버전의 오일러 방정식 반례를 찾아낸 것이다.

NYU 교수의 폭로: 경로 도용, 공저자 배제 압박

그런데 OpenAI의 발표 하루 전, NYU 수학과 교수 Tristan Buckmaster가 공개 성명을 냈다. 그 내용은 단순한 학술 경쟁 이야기가 아니었다.

Buckmaster와 공동 연구자 Levent Alpöge(Anthropic 소속 수학자)는 수개월간 AI 모델을 활용해 Navier-Stokes 관련 문제를 연구해왔다. 두 사람은 Claude와 OpenAI의 Codex(GPT-5.6 Sol 기반)를 함께 사용했고, 8월 중순까지 여러 돌파구를 마련했다. 특히 외력이 가해진(forced) Euler 방정식 변형에 대한 결과를 얻었다고 밝혔다.

9월 초, 연구 진행 상황이 OpenAI 측에 전달됐다는 소식이 들려왔다. Buckmaster는 9월 3일 OpenAI 수학자에게 먼저 연락해 상황을 설명했다. OpenAI는 같은 날 응답하며 컴퓨팅 자원 제공을 제안했다. 이후 연락은 점점 빨라졌다. 금요일에 당일 통화를 요청했고, 일요일 낮 12시 45분에는 "오늘 중 언제든 가능하냐"고 물어왔다.

그 일요일, OpenAI의 Sébastien Bubeck이 두 차례 전화 통화에서 내부 모델이 Navier-Stokes 방정식의 약 100페이지 분량 증명을 완성했다고 알렸다. 처음엔 "인간 개입이 거의 없었다"고 했지만, 대화가 이어지면서 전체 팀이 투입됐고 방대한 컴퓨팅이 사용됐다는 사실이 드러났다.

Buckmaster가 주목한 건 접근 방식이었다. OpenAI가 선택한 경로, 즉 외력이 있는(forced) Navier-Stokes 변형(Fefferman 문제 진술의 C·D 옵션)은 Buckmaster와 Alpöge가 조용히 선택한 것과 동일했다. "내가 아는 한 거의 아무도 그 방향으로 연구하지 않았다"고 그는 썼다. "문제 진술만 주고 며칠 만에 도달할 방향이 아니다." 두 사람은 프로젝트 전 기간의 초안을 OpenAI Codex 세션에 저장해왔다.

Buckmaster가 "모델이 우리 세션을 학습하거나 접근했느냐"고 묻자, 특정 사용자 데이터를 조회하지 않았다는 답이 돌아왔다. 학습 여부를 물었을 때는 답변이 없었다.

OpenAI는 두 가지 제안을 내놨다. 두 제안 모두에서 Bubeck은 Alpöge를 공저자에서 빼달라고 두 차례 주장했다. 이유는 Alpöge가 Anthropic에서 일하는 것이 "너무 성가시다(so annoying)"는 것이었다. Buckmaster가 두 제안을 모두 거부하고 공개 입장을 표명하겠다고 하자, 돌아온 말은 "왜 자기 커리어를 망치려 하느냐"였다. Buckmaster가 자신은 학자라고 답하자 Bubeck은 "내가 친절하게 굴지 않아도 된다"고 했다고 한다.

Bubeck은 이후 Alpöge에게 별도로 문자를 보내 "Tristan이 지금 완전히 이성적으로 행동하는 건지 모르겠다"고 전했다. Alpöge는 응하지 않았다.

OpenAI의 반박, 그리고 남은 질문들

OpenAI는 즉각 반박했다. Bubeck은 WIRED와의 브리핑에서 "연구자든 에이전트든 그들의 작업을 공개 전에 전혀 보지 못했다"고 밝혔다. 공식 블로그에서도 "특정 사용자 데이터를 접근하지 않았다"고 명시했다. 다만 "비식별화된 데이터가 모델 개선에 기여했을 가능성을 완전히 배제할 수 없다"고 덧붙였다.

OpenAI는 9월 1일 루머를 듣고 연구를 시작했으며, 9월 6일 Lean 검증을 마친 뒤 Buckmaster와 Alpöge에게 동시 발표와 우선권 인정을 제안했다고 밝혔다. 그때 비로소 두 사람이 Navier-Stokes가 아닌 forced Euler 문제를 풀었다는 사실을 알게 됐다고 했다. Chandrasekaran은 두 팀의 풀이 방식이 근본적으로 다르다고 강조했다.

OpenAI, 90년 난제 풀었다… 그 뒤에 남은 윤리 논쟁 (keyword_summary)

Buckmaster는 Mastodon에 이렇게 썼다. "그들은 우리 결과를 얻은 이후 기간의 학습 데이터를 사용했다고 공개적으로 인정하고 있다. 고객 데이터를 이용해 다른 고객을 앞지르려 하는 게 윤리적인가."

OpenAI의 기본 설정은 Codex 사용 데이터를 모델 학습에 활용할 수 있도록 돼 있다. 사용자가 직접 거부 설정을 해야 한다. Buckmaster가 이를 거부했는지는 알려지지 않았다.

패러다임의 균열

Buckmaster 본인이 가장 하고 싶었던 말은 따로 있었다. 수학자가 언어 모델과 협력하면 과거엔 훨씬 오래 걸렸을 연구를 한 달 만에 해낼 수 있다는 것. 그는 이를 "딥블루-카스파로프의 순간"이라 불렀다. 1997년 IBM의 딥블루가 체스 세계 챔피언 가리 카스파로프를 꺾었을 때처럼, AI와 인간의 관계가 근본적으로 바뀌는 전환점이라는 의미다.

OpenAI 개발자 Noam Brown은 다른 각도에서 같은 흐름을 짚었다. o3 모델이 ARC-AGI 벤치마크에서 87.5%를 달성하는 데 약 50만 달러가 들었다. 지금 Astra는 같은 수준을 약 20달러에 처리한다. 2025년 수학 올림피아드는 OpenAI와 Google DeepMind 모두 막대한 컴퓨팅을 투입해야 했다. 2026년엔 월 20달러짜리 ChatGPT 구독자라면 누구나 그 수준의 문제를 풀 수 있다. Brown은 "1년 후엔 모든 사람이 이 수준의 문제를 풀 수 있는 AI를 손에 쥐게 될 것"이라고 썼다.

문제는 그 속도가 기존 검증 체계를 앞질러 가고 있다는 점이다. 1만 개 에이전트가 88시간 만에 생성한 증명을 수학계가 어떻게, 얼마나 빨리 검증할 수 있을까. Lean 형식 검증이 기계적 정확성을 보장하더라도, 증명의 학술적 의미와 독창성 판단은 여전히 사람의 몫이다.