Learning more about Claude's mathematical capabilities

3줄 요약

1. Claude가 리만 가설을 푼 것은 아니다. 미공개 연구용 Claude에게 가설에 도전해 보라고 시켰지만, 가설 자체는 풀리지 않았다.
2. 대신 관련된 하한 하나를 크게 밀어 올렸다. 리만 가설이 예측하는 임계선 $\mathrm{Re}(s)=1/2$ 위에 비자명한 영점이 최소 얼마나 놓이는지, 그 보장 비율을 종전 41.6%에서 67.2%로 높였다. 이 고전적 지표가 수십 년간 겪은 개선폭을 한 번에 넘어서는 25%p 이상의 도약이다.
3. 리만 가설을 증명한 것은 아니지만, 그 자체로 인상적인 성과다. 다만 67.2%는 관측 통계가 아니라, 영점을 높이 $T$까지 세고 $T$를 무한대로 보낼 때 적어도 그만큼은 임계선 위에 있음을 보장하는 점근적 하한이다. 최대 32.8%는 아직 선 밖에 있을 수 있어, 모든 영점이 선 위에 있다는 가설과는 여전히 거리가 있다.

리만 가설과 이번 결과

리만 가설은 제타 함수의 모든 비자명한 영점이 복소평면의 $\mathrm{Re}(s)=1/2$라는 수직선 위에 놓인다고 말한다. 이번 연구는 그 명제를 증명한 것이 아니다. 대신 영점을 아주 많이 셌을 때 적어도 67.2%가 그 선 위에 있다는 새 하한을 얻었다. 종전 기록은 41.6%였으니 25.6%p를 단번에 끌어올린 셈이다(Anthropic이 제시한 기준값이 41.6%다. 학술 문헌의 최고 기록은 약 41.73%로, 반올림과 비교 기준에 따라 조금 다르다). 리만 가설 자체를 증명한 것은 아니지만, 오래 정체됐던 이 지표에서는 매우 인상적인 성과다. 물론 나머지 영점까지 모두 선 위에 있음을 보인 것은 아니라서, 가설 자체는 여전히 미해결이다.

제타 함수 $\zeta(s)$가 왜 이 이야기의 중심인지부터 보자. 이 함수는 오일러 곱을 통해 소수와 직접 이어져 있다. 모든 소수에 대한 곱으로 함수를 쓸 수 있어서, 함수의 성질을 캐면 소수의 성질이 딸려 나온다. 그중에서도 함수가 0이 되는 특정 지점들, 곧 ‘비자명한 영점’의 위치가 소수의 분포를 좌우한다. 소수는 큰 수까지 보면 평균적으로 매끄럽게 늘어서지만 실제로는 그 평균에서 위아래로 흔들리는데, 비자명한 영점의 위치가 바로 이 흔들림의 크기를 정한다.

리만 가설은 이 비자명한 영점이 하나도 빠짐없이 $\mathrm{Re}(s)=1/2$ 위에 있다고 주장한다. 이것이 참이면 소수의 개수를 근사하는 공식의 오차를 훨씬 정밀하게 잡을 수 있고, 이 가설을 전제로 성립하는 조건부 정리도 많다. 그러나 아직 증명도 반증도 없다. 그래서 수학자들은 전부를 한 번에 보이는 대신 일부부터 확보해 왔다. 임계선 위에 있는 영점이 최소한 몇 퍼센트인지를 조금씩 끌어올린 것이고, 이번에 67.2%로 뛴 값이 바로 이 비율이다.

이 도약이 왜 큰지는 그동안 이 비율이 얼마나 더디게 움직였는지를 보면 드러난다. 콘리(J. B. Conrey)가 1989년에 임계선 위 영점이 5분의 2, 곧 40%를 넘는다고 증명한¹ 뒤로, 기록은 30년 넘게 41%대 후반까지 오르는 데 그쳤다. 2010년 펑(Shaoji Feng)이 41.28%,² 2019년 프랫·로블레스·자하레스쿠·자인들러(Pratt, Robles, Zaharescu, Zeindler)가 약 41.73%³까지 올렸지만, 30년간 누적 개선폭은 2%p에도 못 미쳤다. 그 기록을 이번에 한 번에 67.2%까지 끌어올린 것이다. 리만 가설을 증명한 것은 아니지만, 그렇다고 작은 곁가지 개선도 아니다. 수십 년 거의 멈춰 있던 고전적 지표를 단숨에 3분의 2 이상으로 옮긴 큰 진전이다.

한 가지는 짚어 두어야 한다. 67.2%는 영점을 세어 낸 정확한 비율이 아니다. 영점을 높이 $T$까지 센 다음 $T$를 무한대로 보낼 때, 그 극한에서 적어도 그만큼은 임계선 위에 있음을 보장한다는 점근적 하한이다. 뒤집어 말하면 최대 32.8%는 아직 선 밖에 있을 여지가 남는다. “모든 영점이 선 위"라는 리만 가설과의 간격은 그만큼 크다.

Claude는 무엇을 어떻게 논증했나

Anthropic의 설명에 따르면 큰 그림은 이렇다. 임계선 위의 영점과 밖의 영점이 서로 반대 부호로 기여하도록 하나의 계산 틀을 만든다. 그다음 그 틀 안에서 영점들의 평균적인 크기를 나타내는 값을 계산해, 임계선 위 영점이 충분히 많아야만 성립하는 부등식을 세운다. 이 부등식을 풀면 임계선 위 영점의 최소 비율이 나온다.

조금 더 들어가면 이렇다. Claude는 베유(Weil)가 유도한 이차형식을 갖춘 함수 공간을 잡는다. 이 공간에서 임계선 위 영점은 양의 방향, 임계선 밖 영점은 음의 방향으로 나뉜다. 그 이차형식이 독립적으로 잡아낼 수 있는 방향의 수(수학에서 rank라고 부른다)에 대한 부등식을, 영점들의 1차·2차 평균값(모멘트) 정보로 세운 것이 핵심이다. Anthropic은 임계선 위와 밖을 따로 보지 않고 공간 전체를 한 번에 다룬 점, 그리고 이차형식을 대각 형태로 제한하지 않은 점을 결과의 열쇠로 든다.

이 논증은 최근 문헌 위에 서 있다. 1973년 몽고메리(Montgomery)가 영점의 분포를 다루는 기법을 내놓았지만, 그 기법은 리만 가설이 참이라는 가정을 깔고 있었다. 최근 발루요트·골드스톤·수리아자야·터니지버터바(Baluyot, Goldston, Suriajaya, Turnage-Butterbaugh)가 그 가정 없이도 몽고메리의 기법이 작동하도록 길을 열었고, Claude는 여기에 봄비에리(Bombieri)의 2000년 논문을 결합했다. 전체 기술 설명은 Claude의 논문에, 결과에 이른 과정에 대한 Claude 자신의 설명은 별도 부록에 있다.

어떻게 여기까지 왔나

Claude가 이 결과를 낸 것은 Claude Code에서의 두 세션, 출력 토큰으로 치면 3,100만 개를 쓴 작업이었다. 수학자가 아닌 Anthropic 직원 재러드 서머(Jarred Sumner)가 “제대로 한번 덤벼 보라"고만 시키고 수학적 판단은 모델에 맡겼다. 처음 650개의 아이디어는 전부 막혔다. 다시 해보라는 말에 Claude는 약 60개의 서브에이전트를 하루 반 동안 움직이며 훨씬 깊이 들어갔다. 서브에이전트들은 이미 알려진 제타 영점을 상대로 수치 계산을 반복해 결과를 확인하고 서로의 증명을 검토했다. 자기 발견이 이미 나온 것은 아닌지 확인하려고 arXiv에서 논문 54편을 뒤졌고, 결과를 처음부터 독립적으로 다시 증명해 보기도 했다.

재러드가 넣은 말은 대부분 격려였다. “계속 가 봐”, “너 자신을 믿어” 같은 것이었다. Claude는 처음에 스스로 의미 있는 진전을 낼 수 있을지 미심쩍어했는데, Anthropic은 이런 격려가 그 망설임을 넘기는 데 도움이 된 것으로 본다.

검증, 그리고 남은 것

Claude는 결과를 논문으로 정리하겠다고 나섰고, 사람 정수론자의 검증을 권했다. Anthropic 소속 수학자 르벤트 알푀게(Levent Alpöge)와 랄프 퍼먼(Ralph Furman)이 새 결과가 앞선 연구와 어떻게 이어지는지 살폈다. 또 다른 직원 에릭 이즐리(Eric Easley)와 함께 결과를 Lean으로 형식화했고, 이는 표준 검증 도구 comparator를 통과했다. Lean 형식화는 증명의 논리적 단계가 빈틈없이 이어지는지를 기계가 확인해 주는 것이다. 이 분야 전문가인 브라이언 콘리(Brian Conrey)와 댄 골드스톤(Dan Goldston)도 촉박한 일정에 논문을 검토해 주었다.

정리하면 이번 결과는 여러 겹의 검증을 거친 확실한 하한 개선이다. 그리고 리만 가설의 증명은 아니다. Anthropic도 이 기법이 가설 자체의 증명으로 이어지리라 보지는 않는다. 다만 사람 수학자들이 최근 쌓은 결과를 Claude가 이어 붙여 여기까지 왔다는 점은, AI의 수학 능력이 얼마나 빨리 나아가는지 보여주는 인상적인 사례다. 재미있는 것은, 정작 그 발견을 끝까지 믿기 어려워한 쪽이 Claude 자신이었다는 점이다. Anthropic은 글을 이렇게 맺는다.

아마도 Claude는, 우리 중 많은 사람이 그렇듯, AI 발전의 속도를 과소평가하는 모양이다.

출처

Anthropic, “Learning more about Claude’s mathematical capabilities” (Research, 2026-08-10). 원문: https://www.anthropic.com/research/riemann-zeta

더 읽을거리:

• Claude의 논문
• Claude의 형식화 (Lean)
• 증명을 더 간결하게 정리한 Anthropic의 비공식 노트
• 결과에 도달한 과정에 대한 Claude의 설명
• Claude 작업 과정의 상세 트랜스크립트

삽화는 블로그 글 「느낌적인 느낌을 숫자로 옮기는 일」의 치비 서소영 라인아트를 참조하여 gpt-image-2 image-to-image로 생성했다.