Claude의 Lean 형식화로 본 페르마의 마지막 정리 검증, 무엇이 새롭고 무엇이 아닌가 | DAKER 커뮤니티

수학에서 큰 뉴스처럼 보이는 발표일수록, 무엇이 실제로 새로웠는지부터 차분히 가려 읽는 것이 중요합니다. Anthropic이 2026년 9월 4일 공개한 Formalizing Fermat's Last Theorem는 바로 그런 사례입니다. 제목만 보면 새로운 수학적 발견처럼 읽히기 쉽지만, 이 발표의 핵심은 발견이 아니라 검증 가능한 형식화에 있습니다.

이번 소식이 지금 읽을 만한 이유도 여기에 있습니다. 대규모 언어 모델이 기존의 깊은 수학 증명을 어디까지 기계 검증 가능한 형태로 옮길 수 있는지, 그리고 그 과정에서 어떤 도구와 협업 구조가 필요했는지를 비교적 구체적으로 보여 주기 때문입니다.

Anthropic이 2026년 9월 4일 연구 글로, Claude가 Lean으로 페르마의 마지막 정리(FLT)를 처음부터 끝까지 컴퓨터 검증한 증명을 공개했습니다. 원문은 Formalizing Fermat's Last Theorem입니다. 오늘은 검증·형식화 각도만 정리합니다.

이번 발표에서 실제로 나온 것

가장 먼저 짚어야 할 점은, Claude가 약 11일 동안 거의 자율적으로 FLT의 종단간 Lean 증명을 작성했다는 대목입니다. 원문은 In 11 days, working largely autonomously, Claude produced the first end-to-end, computer-checked proof of FLT라고 설명합니다. 이는 사람이 몰랐던 새 정리를 만든 소식이 아니라, 이미 알려진 증명을 컴퓨터가 검사할 수 있는 형태로 옮겼다는 뜻입니다.

이번 발표의 새로움은 새로운 수학의 발견이 아니라, 기존 증명의 검증 가능한 형식화에 있습니다.

과정의 규모도 공개됐습니다. 원문에 따르면 Lean 코드 약 1,300만 줄과 중간 정리 약 29,500개가 작성됐습니다. 다만 이 수치는 최종 경로에 남은 것과 도중에 생성된 산출물을 구분해서 읽는 것이 좋습니다. 숫자만 크게 소비하면 실제 작업 구조를 놓치기 쉽습니다.

Kevin Buzzard의 검토 소감도 함께 소개됐습니다. 자동형식화가 FLT를 수학의 공리만으로 증명하며, 대수·조화해석·기하·정수론에 걸친 재사용 가능한 산출물을 보여 준다는 취지입니다. 그렇다고 해서 인간 검토가 더는 필요 없다는 뜻으로 읽으면 곤란합니다.

전환점이 된 Prove2Me와 초기 실패의 의미

이번 사례에서 특히 중요한 부분은 성공만이 아니라 실패 기록도 함께 공개됐다는 점입니다. 원문에 따르면 초반 시도는 상태 추적과 협업이 무너지면서 실패했고, 그 실패분이 최종 비보일러플레이트 줄의 약 7%를 기여했다고 합니다. 이 대목은 결과를 재현하려는 사람에게 오히려 더 중요합니다.

초기 실패와 그 7% 기여를 함께 봐야, 이번 형식화가 어떤 조건에서 가능했는지 제대로 읽을 수 있습니다.

Anthropic은 Prove2Me 플랫폼이 전환점이었다고 설명합니다. 정리 DAG, 문장 파일과 증명 파일의 분리, 자연어 설명 검색이 병렬 작업을 도왔다는 것입니다. 플랫폼 이름만 떼어 제품처럼 소비하기보다, FLT 형식화 캠페인에서 어떤 역할을 했는지 맥락 속에서 보는 편이 정확합니다. 관련 논문은 Chen et al., Prove2Me: An open collaborative platform for scaling math formalization, arXiv:2608.28433입니다.

사람의 개입도 세부 증명을 손으로 채운 수준이 아니라 고수준 지시 수준이었다고 소개됩니다. 예로 Jacobian as a scheme sounds high priority, push Mazur to be done soon 같은 지시가 인용됩니다. 즉, 전체 경로를 조정하는 역할은 있었지만, 발표의 핵심은 여전히 자동형식화 과정에 있습니다.

무엇으로 검증됐는가

산출물은 Lean 표준 공리 셋으로 검사됐고, 비교기를 통해 정리의 문장이 Mathlib의 FLT 문장과 일치하는지도 확인됐다고 합니다. 원문은 just Lean’s three standard axioms, and a comparator confirmed that the theorem’s statement matches Mathlib’s own statement of FLT라고 적습니다.

증명 완료 여부는 발췌나 스크린샷이 아니라 Lean 검사와 Mathlib 문장 일치로 확인해야 합니다.

이 점 때문에 결과물을 읽는 순서도 중요합니다. 먼저 Mathlib FLT 문장과의 일치 여부를 보고, 다음으로 Lean 검사 로그를 확인한 뒤, GitHub의 해설과 마지막으로 에이전트 사고 발췌를 보는 편이 좋습니다. 발췌만 보고 증명이 끝났다고 판단하면 오해가 생길 수 있습니다.

새로운 발견이 아니라 Wiles 계열 증명의 형식화

이번 작업은 Wiles 1995 증명과 Darmon–Diamond–Taylor 해설을 따른다고 원문은 설명합니다. Claude’s proof follows a simplified version of Wiles’s proof from Darmon, Diamond and Taylor라는 문장이 그 요지입니다. 따라서 이것을 페르마 본인이 여백에 적었다는 놀라운 증명의 복원처럼 읽어서는 안 됩니다. 원문도 초등 증명이 없기 때문에 Fermat의 원래 증명은 틀렸을 가능성이 크다고 적고 있습니다.

또 하나 분명히 해야 할 점은, 최근의 Riemann 가설 관련 AI 작업과 이번 발표의 목적을 섞지 않는 것입니다. 원문은 Unlike recent AI-driven work on the Riemann hypothesis, which produced novel mathematics, what’s novel here is the verification이라고 대조합니다.

Riemann 가설 관련 작업이 새로운 수학을 내놓았다면, 이번 FLT 발표의 핵심은 검증 가능한 형식화입니다.

이 맥락에서 Buzzard의 Imperial College FLT 프로젝트, flt-regular, Mathlib, Lean FRO의 기여도 함께 봐야 합니다. 자동형식화가 커뮤니티 기반 없이 단독으로 이뤄진 성취처럼 서술하면 중요한 배경이 빠집니다.

규모와 비용 감각은 주되, 일반화는 피해야 합니다

원문은 Prove2Me와 Claude Code 기반 멀티에이전트 하네스로 약 2주 안에 작업을 마쳤고, 일반 목적 내부 연구 모델에서 출력 토큰 약 60억 개를 사용했으며 Fable 5.1과 대략 비슷한 급이라고 설명합니다. 또 소비자 Max 요금제 세 개로 Vinogradov Three Primes를 3일 만에 형식화한 소규모 실험도 함께 소개합니다.

다만 이런 수치는 규모 감각을 주는 자료로 읽는 것이 좋습니다. FLT가 그 일정과 비용으로 가능했다고 해서 모든 정리가 같은 조건에서 형식화된다고 일반화할 수는 없습니다. 복잡도와 선행 라이브러리의 커버리지에 따라 기간과 비용은 달라질 수밖에 없습니다.

이번 발표가 뜻하지 않는 것

이번 발표는 새 수학 정리의 최초 발견 발표가 아닙니다. 핵심은 검증과 형식화입니다.

또 Fable 5.1 캐시 인하나 Mythos 접근 재공지 같은 다른 제품·정책 소식도 아닙니다. 이번 글의 초점은 Lean FLT 형식화에 있습니다.

무엇보다 인간 심사와 수학자의 역할이 끝났다는 뜻도 아닙니다. Buzzard가 말하듯, 형식화는 현대 문헌의 자동형식화, 오류 탐지, 심사 부담 완화, 그리고 LLM이 생성한 수학의 엄밀한 검사에 도움을 주는 도구로 읽는 편이 정확합니다.

결과물을 볼 때 체크할 지점

실무적으로는 몇 가지 기준을 분리해서 보는 것이 좋습니다. 첫째, 11일·1,300만 줄·29,500개 정리 같은 핵심 수치를 원문에서 직접 확인합니다. 둘째, GitHub에 공개된 전체 증명과 written walk-through의 위치를 확인합니다. 셋째, 팀 문서나 발표 자료에서는 발견과 검증을 분리해 적는 편이 좋습니다.

또 Prove2Me의 DAG 구조, 문장 파일과 증명 파일의 분리, 자연어 설명 유지 같은 설계를 재현 조건으로 기록해 두면 도움이 됩니다. 초기 상태 추적 실패 사례까지 함께 남겨야 같은 함정을 반복하지 않게 됩니다.

로컬에서 확인할 경우에는 저장소 README의 툴체인과 Mathlib 커밋을 먼저 맞추는 것이 중요합니다. 버전이 섞이면 검사 실패를 모델의 문제로 오해할 수 있습니다. 공개 링크를 남길 때는 가능하면 GitHub 커밋 해시까지 적어 두면 추적이 쉬워집니다.

한 페이지로 정리하면

Anthropic은 Claude가 약 11일 동안 Lean으로 페르마의 마지막 정리를 종단간 컴퓨터 검증했다고 공개했습니다. 약 1,300만 줄의 Lean 코드와 중간 정리 약 29,500개가 언급되며, Prove2Me와 멀티에이전트 하네스가 중요한 역할을 했습니다. 초기 실패와 그 7% 기여도 함께 공개됐습니다. 산출물은 Lean 표준 공리로 검사됐고, Mathlib의 FLT 문장과 일치한다고 합니다. 이 발표의 핵심은 새로운 수학의 발견이 아니라 검증 가능한 형식화이며, GitHub에 전체 증명과 해설이 제공됩니다.

참고 자료

Anthropic Research — Formalizing Fermat's Last Theorem (2026-09-04)

Chen et al., Prove2Me: An open collaborative platform for scaling math formalization, arXiv:2608.28433

이번 사례를 볼 때, 여러분은 발견과 검증 가운데 어느 쪽 변화가 더 크게 다가왔는지 궁금합니다.