AI가 80년간 풀지 못한 수학 난제를 혼자 증명했다

수학자들이 80년 동안 풀지 못한 문제를 AI가 혼자서 해결했다. 특수 훈련도, 수학 전용 시스템도 아닌 범용 추론 모델이 독립적으로 증명을 완성해 낸 것이다. 단순히 "AI가 또 뭔가를 잘했다"는 수준의 이야기가 아니다. 이 사건은 AI가 인간 연구자와 어깨를 나란히 하는 단계를 넘어, 인간이 아직 도달하지 못한 영역에 먼저 발을 들여놓기 시작했다는 신호다.

---

80년의 질문, 그리고 하나의 반례

1946년 수학자 폴 에르되시(Paul Erdős)는 이런 질문을 던졌다. 평면 위에 n개의 점을 놓을 때, 정확히 거리 1만큼 떨어진 점 쌍은 최대 몇 쌍까지 만들 수 있을까. 이른바 '평면 단위거리 문제(Planar Unit Distance Problem)'다. 문제 자체는 누구나 이해할 수 있을 만큼 단순하지만, 그 답은 지금껏 아무도 확정하지 못했다.

기존 수학계의 통설은 '정사각 격자' 구조가 이 문제에서 사실상 최적이라는 것이었다. 즉 아무리 잘 배치해도 일정한 한계를 넘기 어렵다는 추측이 수십 년간 정설로 자리 잡아 왔다.

OpenAI의 내부 모델은 이 추측이 틀렸음을 증명했다. 정사각 격자보다 훨씬 더 많은 단위거리 쌍을 만드는 무한한 배치 방법이 존재한다는 것, 그것도 다항식 수준의 개선(polynomial improvement)을 보이는 사례가 있다는 것을 보여줬다. 외부 수학자 그룹이 이 증명을 검토했고, 결과를 확인했다.

---

이 증명이 특별한 이유: 방법론의 파격

결과 자체도 중요하지만, 어떻게 풀었느냐가 더 충격적이다. AI는 초등 기하학 문제를 풀기 위해 대수적 수론(algebraic number theory)이라는 전혀 다른 수학 분야의 도구를 끌어들였다. 수학자들이 수십 년간 같은 분야 안에서만 해법을 찾던 것과 달리, AI는 분야 간 경계를 넘나드는 접근을 선택했다.

필즈 메달 수상자 팀 가워스(Tim Gowers)는 동반 논문에서 이 결과를 "AI 수학의 이정표"라고 불렀다. 수론학자 아룰 샨카르(Arul Shankar)는 "현재 AI 모델이 단순한 조력자를 넘어 독창적인 아이디어를 내고 이를 완성할 능력을 갖추고 있음을 보여준다"고 평가했다.

이전까지 AI가 수학에서 이룬 성과는 주로 검증이나 보조적 탐색에 머물렀다. AlphaProof나 AlphaGeometry처럼 수학 전용으로 설계된 시스템도 있었지만, 이번은 범용 추론 모델이 어떤 특별한 스캐폴딩 없이 독자적으로 미해결 문제를 해결한 첫 사례다.

---

AI와 수학: 지금까지와 무엇이 달라졌나

AI가 수학 문제를 푸는 것은 이미 익숙한 이야기처럼 들릴 수 있다. 그러나 지금까지의 사례 대부분은 이미 답이 알려진 문제를 더 빠르게 검증하거나, 수학자가 설계한 탐색 경로를 따라가는 것이었다. 핵심 난제를 처음부터 끝까지 AI 스스로 해결한 경우는 이번이 처음이다.

수학은 AI의 추론 능력을 테스트하기에 유독 엄격한 환경이다. 문제는 정밀하게 정의되고, 증명은 전체 논리가 처음부터 끝까지 일관되게 연결돼야만 유효하다. 어느 한 고리가 끊어지면 증명 전체가 무너진다. 이 환경에서 AI가 독립적인 증명을 완성했다는 것은, 단순한 패턴 매칭이나 통계적 추측이 아닌 실질적인 구조적 추론이 작동했음을 시사한다.

비교할 만한 이전 사례로는 DeepMind가 2022년 발표한 AlphaCode의 경쟁 프로그래밍 성과, 또는 2024년 IMO(국제수학올림피아드) 수준 문제 일부를 AI가 풀어낸 사례가 있다. 그러나 이번처럼 전문 수학계가 수십 년간 매달린 미해결 추측을 번복한 경우는 전례가 없다.

---

한국 AI·수학 생태계에 던지는 질문

이 결과가 한국 연구자와 개발자에게 가지는 의미는 두 층위에서 생각해볼 수 있다.

첫째, 연구 방법론의 변화다. 국내 수학·과학 연구 기관에서 AI를 도구로 활용하는 수준이 아니라 공동 연구자로 포지셔닝하는 논의가 불가피해졌다. 한국과학기술원(KAIST), 서울대 등 주요 연구기관들이 AI 기반 수학 연구를 어떤 방식으로 제도화할지 고민해야 할 시점이다.

둘째, AI 추론 모델의 실용성이다. 이번에 사용된 모델은 수학 전용이 아닌 범용 추론 모델이다. 같은 종류의 모델이 법률 해석, 금융 리스크 분석, 신약 설계 같은 분야에도 비슷한 방식으로 적용될 수 있다. 국내 기업들이 OpenAI API를 활용해 구축한 서비스들도 이 수준의 추론 능력 향상으로부터 직접적인 수혜를 받을 수 있다.

---

지금 당장 주목해야 할 신호

이 이슈를 추적할 때 봐야 할 구체적인 지표는 다음과 같다.

첫째, 동반 논문(companion paper)에 참여한 외부 수학자들의 후속 반응이다. arXiv에 올라오는 관련 반박 또는 확장 논문의 수와 속도가 이 결과의 수학계 수용도를 보여준다. 2주 이내 반박 논문이 없으면 결과는 사실상 확정된다.

둘째, OpenAI가 이 모델을 어떤 이름으로, 언제 공개하느냐다. "내부 모델(internal model)"이라고만 밝힌 현재 상태에서 이 모델이 o-시리즈의 다음 버전인지, 별도 연구 전용 모델인지가 관건이다. 공개 API에 포함되는 순간 이 추론 능력은 모든 개발자에게 열린다.

셋째, 에르되시가 제시한 다른 미해결 문제들에 대한 AI의 추가 도전 여부다. OpenAI는 이미 에르되시 문제 컬렉션 전체를 평가 대상으로 삼았다고 밝혔다. 추가 미해결 문제가 AI에 의해 풀린다면 이번 결과는 일회성 사건이 아닌 새로운 패러다임의 시작임이 확인된다.

태그: OpenAI, AI수학증명, 단위거리문제, 이산기하학, 추론모델

※ 본 글은 정보 제공 목적이며 특정 제품·서비스의 추천이 아닙니다.