3줄 요약

  1. OpenAI가 2026년 10월 26일, 내부 AI 모델이 세 분야의 미해결 난제를 증명하거나 반증한 결과를 발표했다. 세 분야는 수학의 조화해석학, 컴퓨터과학의 계산 복잡도 이론, 물리학의 양자장론이다.
  2. 모델은 모든 공간 차원에서 국소 평활화 추측과 카케야 추측을 증명했고, 불리언 만족 가능성 문제에 관한 지수 시간 가설(ETH)을 반증했다. 또 4차원 양자 색역학(QCD)과, 표준 모형을 완성한 대통일 이론이 수학적으로 존재한다는 것도 증명했다.
  3. OpenAI는 AI가 생성한 증명 원고를 완성된 학술 논문으로 보지 않고 원시 연구 데이터로 규정한다. 이 데이터를 학계의 과학적 이해로 전환하기 위해 외부 석학들에게 셰퍼드(shepherd, 학술 간사) 자문을 구했고, 분야마다 다른 공개 방식 세 가지를 실험하고 있다.

원시 연구 데이터에서 과학적 이해로: 세 가지 공개 방식과 협력 원칙

OpenAI는 2026년 7월 수학과 이론전산학 난제 10건의 증명 결과를 공개했다. 이어 10월 6일에는 프린스턴 고등연구소(IAS) 산하 수학과 인공지능 자문 그룹의 권고를 반영해, 공개 GitHub 저장소(openai/math)에 수학 증명 여러 편과 Lean1 형식화 코드를 배포했다. 이번 10월 26일 발표에서는 관련 학술 공동체의 의견을 수용해 결과 공개 방식을 분야별 사정에 맞게 세분화했다.

OpenAI는 내부 모델이 출력한 증명 원고와 형식화 산출물을 완성된 논문으로 간주하지 않고 원시 연구 데이터(raw research data)로 분류한다. 기계가 도출한 증명은 명제의 참거짓을 확정하지만, 그 명제가 왜 성립하는지 핵심 아이디어를 뽑아내고 기존 학술 맥락과 연결하는 해독 과정은 인간 연구자의 몫으로 남는다. 이러한 해독과 설명이 뒤따라야 원시 증명 데이터가 비로소 학계의 과학적 이해로 전환된다. 이를 위해 OpenAI는 외부 전문가들에게 셰퍼드(shepherd, 학술 간사)를 맡아 달라고 요청했다. 셰퍼드는 새 연구 결과를 검토하고 연구 모임을 조직하는 역할이다. 자문에 응한 전문가들은 분야의 사정에 따라 서로 다른 공개 전략 세 가지를 권고했다.

세 갈래 길 앞에서 공개 서가와 공동 검증 원탁과 개인 집필 책상을 비교하는 치비 서소영

분야채택한 공개 전략
수학 (조화해석학)AI 산출물(자연어 원고와 Lean 코드)을 즉시 공개하고 학계의 자율적 해설에 맡김 (별도 전담 그룹 미구성, 외부 전문가 자문 후 10월 6일 발표 때와 같은 방식 채택)
컴퓨터과학 (복잡도 이론)AI 산출물(자연어 원고와 Lean 코드)을 즉시 전면 공개하는 동시에 외부 협력 워킹그룹이 검증과 해설 추진
물리학 (구성적 양자장론)외부 협력 워킹그룹 결성 후 공개 방식을 그룹에 일임 (원시 산출물 즉시 공개를 보류하고 연구진이 직접 해설 논문 집필)

외부 연구진과의 협력은 네 가지 원칙에 따라 운영된다. OpenAI는 세 방식 가운데 어느 방식이 학계에 가장 유용할지 아직 알 수 없다고 밝혔다. 그러면서 무엇이 효과가 있고 무엇을 고쳐야 하는지 학계의 의견을 구하고 있다고 했다.2

협력 원칙세부 운영 기준
투명성 (Transparency)외부 연구자와 협력하고 있음을 공개한다. 참여 연구자들에게 비밀유지계약(NDA) 서명을 요구하는 일은 없으며, 참가자들은 연구 내용을 자유롭게 토론하고 중간 산출물을 공유하며 자신들이 내린 결론을 출판할 수 있다.
학술적 공로 요구 없음 (No Academic Credit)OpenAI는 내부 모델이 이룬 발견에 대해 학술적 저자 자격이나 공로를 요구하지 않는다. 또 외부 연구자를 셰퍼드로 초빙했다고 해서, 그 연구자나 워킹그룹이 이 발견을 처음 해냈다는 뜻도 아니다.
기여 인정 (Recognition)워킹그룹이 AI 산출물을 분석해 새로 얻은 이해, 직접 쓴 해설 논문, 새로 만든 연구 자료는 정당한 학술적 인정을 받아야 한다. 또한 워킹그룹은 이 연구가 활용한 선행 연구의 기법과 아이디어가 제대로 인용되어 그 연구자들이 공로를 인정받도록 돕는다.
독립성 (Independence)워킹그룹 구성원은 보수 없이 자발적으로, 독립적인 자격으로 참여한다. 결론은 각자 스스로 판단해 내리며 OpenAI를 대변하지 않는다. OpenAI 역시 이들의 견해를 대변하지 않는다.

수학: 국소 평활화 추측과 카케야 추측의 전 차원 해결

수학 분야에서 모델은 조화해석학(harmonic analysis)의 핵심 난제인 국소 평활화 추측(local smoothing conjecture)을 증명했다. 1991년 크리스토퍼 소기(Christopher Sogge)가 제안한 국소 평활화 추측은 파동이 초점에 모일 때(focusing) 나타나는 현상을 설명한다. 소기의 추측에 따르면, 파동 에너지가 가장 극단적으로 집중되는 상태는 아주 짧은 시간 동안만 지속될 수 있다. 따라서 무작위로 고른 평범한 시점의 집중도는 최악의 시점에 나타날 수 있는 집중도보다 항상 훨씬 작다. 최악의 사례가 시간 평균을 취한 뒤 관측되는 모습보다 훨씬 극단적이라는 성질은 수학 전반에서 흔히 관찰된다.

국소 평활화 추측은 조화해석학의 근본 현상을 다루기 때문에 해석학 전반의 여러 미해결 문제와 직결된다. 국소 평활화 추측이 참으로 밝혀지면 카케야 추측(Kakeya conjecture)과 스타인의 제한 추측(Stein’s restriction conjecture)도 곧바로 증명된다. 카케야 추측은 모든 방향의 단위 길이 선분을 포함하는 집합의 하우스도르프 차원(Hausdorff dimension)이 공간의 차원과 같아야 한다는 추측이고, 스타인의 제한 추측은 푸리에 변환의 제한 정리에 관한 추측이다.

파동 고리와 원통 다발 모형 옆에서 파동 고점이 완만해지는 정도를 자로 측정하는 치비 서소영

2차원 국소 평활화 추측과 3차원 카케야 추측이 선행 연구로 증명된 데 이어, 이번에 OpenAI의 내부 모델은 새로운 보조 편미분방정식(auxiliary partial differential equation)을 도입해 모든 공간 차원($n \ge 2$)에서 국소 평활화 추측을 증명했다. 이에 따라 카케야 추측과 스타인의 제한 추측 역시 모든 차원에서 풀렸다.3

발표 시점연구 주체해결 차원과 주요 성과
2019년래리 구스(Larry Guth), 홍 왕(Hong Wang), 루이샹 장(Ruixiang Zhang)2차원 공간($n = 2$)에서 유클리드 파동 방정식의 국소 평활화 추측 증명
2025년홍 왕(Hong Wang), 조슈아 잘(Joshua Zahl)3차원 공간($n = 3$)에서 카케야 추측 증명
2026년 10월OpenAI 내부 모델 (자연어 도출 및 Lean 4 형식 검증)새로운 보조 편미분방정식을 도입해 모든 공간 차원($n \ge 2$)에서 국소 평활화 추측, 카케야 추측, 스타인의 제한 추측 해결

OpenAI는 2026년 10월 18일 모델이 출력한 자연어 증명을 받았고, 이튿날인 10월 19일 Lean 형식화를 마쳤다. 그 뒤 외부 전문가에게 연락해 이 결과에 관해 어떻게 협력할지 논의했다. OpenAI는 전문가의 권고에 따라 지난 10월 6일 수학 결과를 발표할 때와 같은 공개 전략을 택했다. 모델이 생성한 자연어 원고와 Lean 증명(lean/docs/079.md)을 공개 GitHub 저장소에 즉시 배포하고, 분석 작업은 연구자들이 자율적으로 조직하도록 맡겼다.

컴퓨터과학: 지수 시간 가설(ETH) 반증과 준지수 시간 알고리즘

컴퓨터과학 분야에서 모델은 지수 시간 가설(Exponential Time Hypothesis, ETH)을 반증했다. ETH는 불리언 논리식 만족 가능성(SAT) 문제의 계산 복잡도에 관한 오래된 추측이고, 이번 반증은 컴퓨터과학 워킹그룹이 검증하고 설명한다. SAT는 주어진 불리언 논리식의 변수들에 참이나 거짓을 대입해 전체 식을 참으로 만들 수 있는지 판별하는 문제로, P 대 NP(P vs. NP) 문제와 밀접하게 연관되어 있다. 지수 시간 가설은 3-SAT 같은 $k$-CNF 논리식, 즉 각 절(clause)이 리터럴을 최대 $k$개 가진 논리식을 대상으로 한다. ETH는 그런 논리식을 풀 때 최악의 경우 변수 개수 $n$에 대해 $2^{cn}$($c > 0$인 상수) 꼴의 지수 시간이 반드시 필요하다고 가정한다.

완만하게 꺾이는 복잡도 곡선 칠판 앞에서 논리 게이트 블록들을 맞추는 치비 서소영

그동안 학계에서는 ETH가 참이라는 견해가 지배적이었다. 그래프 이론, 계산생물학, 데이터베이스, 계산기하학 등 여러 분야의 논문 수백 편이 ETH를 전제로 삼아 조건부 계산 난해성(hardness) 결과를 도출해 왔다. 그런데 OpenAI 시스템은 2026년 10월 16일 ETH가 거짓이라는 자연어 반증을 도출했고, 다음 날인 10월 17일 Lean으로 이 결과를 형식 검증했다.4 ETH가 반증되면서, 지수 시간이 걸린다고 여겨 온 계산 과제를 얼마나 더 빨리 풀 수 있는지에 관한 질문이 다시 제기됐다. 연구자들은 더 효율적인 알고리즘을 찾을 단서도 얻었다.

이번 ETH 반증 결과를 검증하고 학계와 소통하는 일은 알고리즘 설계와 복잡도 이론의 권위자 세 명이 이끄는 그룹이 맡는다.

연구자소속과 지수 시간 가설(ETH) 관련 업적
러셀 임파글리아조 (Russell Impagliazzo), 라마모한 파투리 (Ramamohan Paturi)UC 샌디에이고 소속으로, 프랜시스 제인(Francis Zane)과 함께 지수 시간 가설(ETH)을 처음 제안한 연구자들이다. 지난 30년 동안 이 주제의 근간을 이룬 핵심 논문들을 발표해 왔다.
라이언 윌리엄스 (Ryan Williams)MIT 소속으로, 강한 형태의 ETH 변형들을 반증하고 ETH를 바탕으로 한 계산 난해성 결과를 도출했으며 알고리즘 설계와 복잡도 하한 사이의 이론적 관계를 규명해 왔다.

워킹그룹은 학계가 독립적으로 검증할 수 있도록 원시 결과 데이터를 모두 즉시 공개해 달라고 OpenAI에 요청했다. 이번 결과가 분야 전체에 갖는 함의를 파악할 학술대회에 재정을 지원해 달라는 요청도 했다. OpenAI는 두 요청을 모두 수락했고, 이에 따라 모델이 작성한 자연어 원고(paper.pdf)와 Lean 증명(lean/docs/378.md)이 공개 GitHub 저장소에 즉시 게재됐다. 워킹그룹은 ETH 반증 주장에 관한 공개 검토를 조직한다. 아울러 AI가 이룬 획기적 성과가 검증, 접근성, 학술적 공로, 연구의 미래에 관해 여러 질문을 제기한다며, 이를 함께 논의하자고 학계에 제안했다.

물리학: 양자 색역학(QCD)과 표준 모형 완성의 수학적 존재성

물리학 분야에서 모델은 4차원 시공간의 특정 상호작용 양자장론이 수학적으로 엄밀하게 존재함을 증명했다. 증명된 양자장론 모형들은 게이지장(gauge fields)과 페르미온(fermions)을 포함하고, 결과의 분석과 설명은 물리학 워킹그룹이 맡는다. 증명 대상에는 쿼크와 글루온이 강한 핵력으로 상호작용하는 양자 색역학(Quantum Chromodynamics, QCD)과, 입자물리학의 표준 모형(Standard Model)을 통합해 완성한 이론이 포함된다. 표준 모형은 중력을 제외한 세 가지 기본 힘과 아원자 입자들의 상호작용을 기술한다. 하지만 표준 모형만으로는 임의로 짧은 거리까지 이론을 그대로 외삽할 수 없다. 그래서 이번 존재성 증명은 표준 모형의 게이지장과 페르미온을 포함하는 가장 단순한 대통일 이론(grand unified theory)을 다룬다.

4차원 초입방체 격자와 고리 모형을 살피며 두꺼운 노트에 증명 단계를 기록하는 치비 서소영

이번 존재성 증명은 구성적 양자장론(constructive quantum field theory)에서 타데우시 발라반(Tadeusz Balaban)이 개척한 재규격화군 접근법을 토대로 완성됐다. 전체 연구에는 하위 문제(subproblem)로 순수 양-밀스(pure Yang-Mills) 이론의 존재성 증명도 포함되어 있다. 순수 양-밀스 이론은 쿼크 같은 물질 입자 없이, 힘을 매개하는 입자인 글루온의 자기 상호작용만 기술한다. 순수 양-밀스 존재성이 증명되면서 클레이 수학연구소(Clay Mathematics Institute)가 지정한 7대 밀레니엄 상금 문제 가운데 하나인 ‘양자 양-밀스 이론 존재성 및 질량 간극 문제’의 핵심적인 일부가 풀렸다.

OpenAI 모델은 2026년 9월 9일 순수 양-밀스 이론 존재성에 관한 자연어 증명을 도출했고, 이어 9월 18일 양자 색역학(QCD) 존재성의 자연어 증명을 생성했다. 증명은 분량이 방대하고 구조가 복잡했다. 이 때문에 OpenAI는 Lean 형식화가 끝날 때까지 공개를 미뤘고, 10월 16일 양-밀스 존재성의 Lean 형식화를 마친 뒤 워킹그룹을 출범시켰다. 물리학 워킹그룹은 AI가 생성한 산출물을 곧바로 공개하지 않고, 연구진이 직접 논문을 써서 결과를 설명하기로 했다. 구성원에게 공식적으로 연락할 때는 이메일 계정 하나([email protected])만 쓰도록 했다. 물리학 워킹그룹은 데이비드 그로스가 이끌며 모두 다섯 명의 석학이 셰퍼드로 참여한다.

연구자주요 학술 업적과 양-밀스 난제 관련성
데이비드 그로스 (David Gross)1973년 양-밀스 이론의 점근적 자유성(asymptotic freedom)을 발견해 QCD를 강한 상호작용의 표준 이론으로 확립하고 2004년 노벨 물리학상을 공동 수상했다. 점근적 자유성은 이 이론들이 수학적으로 엄밀한 대상으로 존재할 수 있게 하는 핵심 성질이기도 하다.
아서 재피 (Arthur Jaffe)에드워드 위튼(Edward Witten)과 함께 클레이 수학연구소의 양자 양-밀스 이론 밀레니엄 난제를 정식화했으며, 밀레니엄 난제라는 구상을 처음 제안하고 클레이 수학연구소를 공동 설립했다.
마이클 더글러스 (Michael Douglas)지난 20년간 이 난제의 학술적 점검을 맡아 2004년 클레이 수학연구소 현황 보고서를 작성했고, 2026년 초 Nature Reviews Physics에 연구 진전을 종합한 리뷰 논문을 발표했다.
이고르 클레바노프 (Igor Klebanov)게이지-끈 이중성(gauge-string duality)을 QCD의 핵심 성질인 가둠(confinement) 현상에 적용하는 연구를 개척했으며, 현재 사이먼스 가둠 및 QCD 끈 공동연구단(Simons Collaboration on Confinement and QCD Strings) 단장을 맡고 있다.
니키타 네크라소프 (Nikita Nekrasov)일반화된 양-밀스 이론의 정확 해법(exact methods)에서 선구적인 연구를 수행해 2023년 대니 하이네만 수리물리학상(Dannie Heineman Prize for Mathematical Physics)을 수상했다.

OpenAI는 이번 성과가 현대 이론물리학의 핵심 체계인 양자장론을 수학적으로 엄밀한 학문으로 전환하는 계기가 되기를 기대한다고 밝혔다. 또 OpenAI가 최근 사이먼스 재단(Simons Foundation)에 출연하기로 발표한 500만 달러 기금5에 더해, 연구자들이 AI 도출 결과를 독립적으로 검증하고 해설하며 후속 연구로 확장할 수 있도록 워크숍과 학술대회, 특별 프로그램, 연구 자금을 계속 지원할 계획이다.

가장 흥미로운 지점

OpenAI는 세 분야의 난제에 대해 Lean 형식 증명을 마친 뒤에도 ‘과학적 이해’는 아직 이뤄지지 않았다고 선언한다. 컴퓨터가 공리부터 정리까지 모든 연역 단계를 검사한 Lean 인증서는 명제가 참임을 보증할 뿐, 인간 연구자가 그 증명에서 어떤 아이디어를 얻어 다른 문제에 응용할 수 있는지는 설명해 주지 못한다.

세 분야의 석학들이 권고한 공개 절차도 분야의 연구 관행에 따라 서로 다르다. 조화해석학은 2차원과 3차원 결과가 이미 학계에 축적돼 있던 분야로, 원시 산출물을 곧바로 공개하는 방식을 택했다. 컴퓨터과학은 논문 수백 편이 ETH를 전제로 삼아 온 분야라, 가설을 처음 제안한 연구자들의 공동 검증과 원시 데이터 전면 공개를 함께 진행했다. 반면 구성적 양자장론은 증명이 가장 방대하고 물리적 의미를 해석하기도 까다롭다. 이 분야를 맡은 노벨상 수상자와 밀레니엄 난제를 정식화한 연구자는 원시 산출물 공개를 보류하고 해설 논문을 직접 쓰는 방식을 선택했다. 기계 검증을 마친 방대한 증명 데이터를 학계가 이해할 수 있는 지식으로 번역하고 중재하는 ‘셰퍼드’가 AI 시대 기초과학의 새로운 연구 역할로 자리잡고 있다.

출처

  1. Lean은 함수형 프로그래밍 언어이자 정리 증명 보조기다. 수학 명제와 증명을 코드로 작성하면, 공리부터 정리까지 모든 논리 단계에 오류나 생략된 추론이 없는지 기계가 검사한다. ↩︎

  2. 원문은 이런 협력 방식에 상충 관계(tradeoffs)가 따른다는 점도 함께 언급했다. 전문가 그룹이 결과를 해독해 학계의 맥락에 맞게 풀어내기에는 유리하다. 반면 초기 셰퍼드를 고르는 순간 누가 결과를 먼저 접할지가 정해지므로 정보 비대칭이 생긴다. ↩︎

  3. 함께 공개된 Lean 형식화 명세(lean/docs/079.md, LocalSmoothing.lean)에 따르면, 모든 차원 $n \ge 2$와 모든 $2 \le p < \infty$에서 유클리드 반파(half-wave)의 $L^p(\mathbb{R}^n \times [1, 2])$ 노름은 슈바르츠(Schwartz) 초기 데이터의 소볼레프 노름 $W^{s,p}(\mathbb{R}^n)$의 상수배 이하다(모든 $\varepsilon > 0$에서 차수 $s = \max(0, (n-1)/2 - n/p) + \varepsilon$, $p=2$일 때는 $s=0$ 허용). 3차원에서는 0보다 크고 임의로 작은 소볼레프 손실만으로 임계 $L^3$ 추정이 성립한다. 명세에는 반지름에 대해 균일한 보흐너-리스(Bochner-Riesz) 승수 상한, 구면 확장 추정, 스타인 제곱함수 상한도 포함된다. 카케야 극대 연산자는 튜브 반지름 $0 < \delta \le 1$에서 손실 $\delta^{-\varepsilon}$를 갖는 $L^n$ 상한을 만족하며, 이로부터 모든 방향의 단위 선분을 포함하는 $\mathbb{R}^n$ 부분집합의 하우스도르프 차원이 $n$이라는 결과도 형식 검증됐다. ↩︎

  4. 공개된 Lean 형식화 명세(lean/docs/378.md, SubexponentialSAT.lean)에 따르면, 고정된 $k \ge 2$에서 결정론적 기계가 $n$개 변수의 표준 방식으로 인코딩된 $k$-CNF를 만족하는 할당 개수를 정확히 세는 시간 복잡도는 인코딩 비트 길이를 $L$이라 할 때 ${(L+1)}^{O_k(1)} 2^{O_k(n(\log\log n)^2/\sqrt{\log n})}$이며, 매 단계에서 방문하는 총 테이프 셀 수는 최대 ${(L+1)}^{O_k(1)}$개(다항 공간)다. 10월 25일자 자연어 원고는 $m$개의 절을 가진 논리식에 대해 더 정밀한 시간 상한인 ${(n+m)}^{O_k(1)} 2^{O_k(n\log\log n/\sqrt{\log n})}$을 제시하며, 고정된 $D > 0$에 대해 절의 개수가 $m \le Dn$인 선형 규모일 때는 시간 상한이 ${(n+m)}^{O_{k,D}(1)} 2^{O_{k,D}(n/\sqrt{\log n})}$으로 줄어든다. 지수가 $o(n)$인 준지수 시간(subexponential time) 알고리즘이 존재하므로 $2^{\Omega(n)}$ 하한을 주장하는 ETH가 반증된다. 원문은 이러한 이론적 진전을 현장의 실용적인 알고리즘 개선으로 연결하려면 상당한 후속 연구가 필요하다고 덧붙였다. ↩︎

  5. 이 출연금은 사이먼스 재단이 1,500만 달러 규모로 출범시킨 이니셔티브의 일부다. 이니셔티브는 수학자들이 AI 시대에 맞게 연구 방식을 바꾸도록 돕는 것이 목적이며, 재단이 기금 운영과 심사를 맡아 워크숍과 학술대회, 특별 프로그램을 지원한다. ↩︎