OpenAI ‘AI가 과학 난제 3개 풀었다’…학계는 검증에 나섰다

Summary

  • OpenAI는 자사 AI가 수학·컴퓨터과학·물리학의 오랜 문제 3건에 해법을 제시했다고 발표했다.
  • 수학과 컴퓨터과학 결과에는 Lean 형식증명이 공개됐지만, 학계의 독립 검토가 끝났다는 뜻은 아니다.
  • 이번 발표는 AI의 답안 생성 능력뿐 아니라, 이를 검증하고 설명할 사람과 제도가 더 중요해지는 변화를 보여준다.

(Advertisement)

Introduction

OpenAI가 인공지능(AI)이 수학과 컴퓨터과학, 물리학의 오랜 난제 3건을 풀었다고 발표했다. 일부 결과는 컴퓨터가 논리 과정을 확인하는 형식증명까지 공개했다. 사실로 확정되면 여러 연구 분야의 교과서를 다시 써야 할 수 있는 내용이다.

다만 아직 ‘해결 완료’라고 단정할 단계는 아니다. 발표 주체가 OpenAI이고, 외부 연구자들의 독립 검토는 이제 시작됐다. OpenAI도 26일 공개한 자료를 완성된 학계 합의가 아니라 연구자들이 확인해야 할 ‘원자료’라고 설명했다. OpenAI 공식 발표

이번 발표의 핵심은 AI가 어려운 답을 내놓았다는 사실에만 있지 않다. AI가 만든 방대한 결과를 누가, 어떤 방식으로 검증할 것인지가 새로운 과제로 떠올랐다는 점이 더 중요하다.

OpenAI가 발표한 과학 발견 3건

파동의 집중 현상 풀었다…카케야 추측에도 연결

첫 번째는 수학의 ‘국소 평활화 추측’이다. 파동이 움직일 때 특정 순간에는 에너지가 한곳에 강하게 모일 수 있다. 이 추측은 그런 극단적인 집중이 오래 이어지지 않으며, 여러 순간을 함께 보면 파동이 더 부드럽게 나타난다고 설명한다.

OpenAI는 자사 AI가 이 문제를 모든 차원에서 증명했다고 주장했다. 이 증명이 맞다면 ‘카케야 추측’과 ‘스타인의 제한 추측’도 함께 해결할 수 있다고 했다.

카케야 추측은 가느다란 바늘을 모든 방향으로 돌릴 수 있는 공간이 얼마나 작아질 수 있는지를 묻는다. 말은 단순하지만 파동과 푸리에 해석, 편미분방정식 등 여러 수학 분야가 얽힌 문제다. 2025년에는 3차원 카케야 추측이 풀렸지만, OpenAI가 이번에 내놓은 주장은 모든 차원을 다룬다.

회사에 따르면 AI는 10월 18일 자연어 증명을 만들었고, 다음 날 Lean 형식증명이 완성됐다. 자연어 원고와 형식증명 자료는 OpenAI의 공개 저장소에 올라와 있다.

“지수시간가설은 틀렸다”…컴퓨터과학의 오랜 전제 흔드나

두 번째는 컴퓨터과학의 ‘지수시간가설(ETH)’이다. ETH는 어떤 계산 문제는 입력이 조금만 커져도 필요한 계산량이 폭발적으로 늘어난다는 가설이다.

예를 들어 여러 조건을 한꺼번에 만족하는 답이 있는지 찾는 SAT 문제는 정답을 확인하기는 비교적 쉽지만, 처음부터 답을 찾기는 매우 어렵다. ETH는 이런 문제를 매우 빠르게 푸는 방법이 없을 것이라는 믿음의 바탕이 됐다.

OpenAI는 AI가 ETH를 반박하는 알고리즘과 증명을 만들었다고 밝혔다. 주장이 확인되면 그래프 이론과 계산생물학, 데이터베이스, 계산기하학 등에서 ETH를 전제로 삼은 수백 편의 연구를 다시 살펴봐야 할 수 있다.

그렇다고 노트북이나 스마트폰이 당장 빨라진다는 뜻은 아니다. 이론적으로 더 빠른 방법이 존재한다는 것과, 그 방법을 현실의 컴퓨터에서 효율적으로 쓰는 것은 별개의 문제다.

ETH 결과도 자연어 원고와 Lean 형식증명이 공개됐다. 공개 문서는 고정된 형태의 논리식에서 답의 수를 세는 계산을 기존 예상보다 빠른 ‘부분지수시간’에 수행할 수 있다고 설명한다. ETH 형식증명 설명

검토 작업에는 ETH를 처음 제안한 UC샌디에이고의 러셀 임팔리아초와 라마모한 파투리, MIT의 라이언 윌리엄스가 참여한다. 이들이 OpenAI의 결론에 동의했다는 의미는 아니다. 공개된 결과를 이해하고 검증하는 작업을 이끈다는 뜻이다.

쿼크와 글루온 이론도 증명 주장…전체 원고는 미공개

세 번째는 물리학의 양자색역학(QCD)이다. QCD는 쿼크와 글루온이 ‘강한 힘’으로 어떻게 상호작용하는지 설명하는 이론이다. 실험에서는 높은 정확도를 보여왔지만, 4차원 시공간에서 이 이론이 수학적으로 완전하게 존재한다는 것을 엄밀히 보이는 일은 매우 어렵다.

OpenAI는 자사 AI가 게이지장과 페르미온을 포함하는 특정 4차원 양자장론의 존재를 증명했다고 주장했다. 여기에는 QCD와 표준모형을 확장한 이론, 순수 양-밀스 이론의 존재 증명이 포함된다고 설명했다.

양-밀스 이론은 미국 클레이수학연구소가 선정한 ‘밀레니엄 문제’와도 연결된다. 그러나 이번 발표가 밀레니엄 문제 전체를 해결했다는 뜻인지는 외부 검증이 필요하다. 클레이수학연구소의 양-밀스 문제 설명

물리학 결과의 전체 원고는 아직 공개되지 않았다. 노벨물리학상 수상자 데이비드 그로스가 이끄는 연구자 그룹이 내용을 먼저 정리하고 설명할 예정이다. 세 결과 가운데 가장 신중하게 판단해야 하는 이유다.

컴퓨터가 확인한 증명, 왜 다시 사람이 봐야 하나

Lean은 수학 문장과 증명 단계를 컴퓨터가 읽을 수 있는 언어로 적는 도구다. 사람이 쓴 긴 증명에서는 작은 논리 점프나 숨은 가정이 지나갈 수 있다. Lean은 각 단계가 정해진 규칙을 따르는지 꼼꼼하게 확인한다.

자연어 증명이 설명서라면, 형식증명은 컴퓨터가 한 줄씩 검사할 수 있는 정밀 설계도에 가깝다. AI가 만든 긴 증명을 점검하는 데 강력한 장치다.

그러나 Lean이 통과했다고 모든 검증이 끝나는 것은 아니다. 컴퓨터에 입력한 문장이 원래 난제를 정확히 옮겼는지, 빠진 조건은 없는지, 증명이 기존 연구와 어떤 관계인지 확인해야 한다. 물리학에서는 수학적 모델이 실제 자연현상을 제대로 나타내는지도 따져야 한다.

세 결과, 공개 방식도 서로 달랐다

OpenAI는 이번 결과를 한꺼번에 같은 방식으로 내놓지 않았다.

  • 수학 결과는 AI 원고와 Lean 증명을 공개해 누구나 살펴볼 수 있게 했다.
  • 컴퓨터과학 결과는 자료를 공개하는 동시에 외부 전문가 그룹이 검증과 설명을 이끌도록 했다.
  • 물리학 결과는 전문가 그룹이 먼저 정리할 때까지 전체 원고 공개를 미뤘다.

빠른 공개와 신중한 검토 사이에는 충돌이 있다. 모든 자료를 바로 공개하면 많은 연구자가 참여할 수 있다. 반면 검토되지 않은 주장이 사실처럼 퍼질 위험도 있다. 특정 전문가에게 먼저 자료를 주면 검토 속도는 높아질 수 있지만, 정보 접근의 공정성 문제가 생긴다.

OpenAI는 어느 방식이 가장 좋은지 아직 알 수 없다고 밝혔다. 회사는 AI가 만든 수학 결과의 검증과 후속 연구를 위해 시몬스재단에 500만달러를 지원했다. 별도의 수학·AI 자문그룹도 결과 공개와 학술 기준을 논의하고 있다. OpenAI 수학·AI 자문그룹

Practical Implications: 앞으로 확인할 네 가지

이번 발표의 무게를 판단하려면 네 가지를 지켜봐야 한다.

첫째, 다른 연구자들이 결과를 재현할 수 있는가. Lean 파일이 실행되는지를 넘어, 정의와 증명의 범위가 원래 문제와 정확히 일치하는지 확인해야 한다.

둘째, 사람이 이해할 수 있는 설명이 나오는가. 증명이 맞더라도 이유를 이해하기 어렵다면 교육과 후속 연구에 쓰기 힘들다. 더 짧고 분명한 설명이 나와야 한다.

셋째, 이론이 실제 기술로 이어지는가. ETH 반박이 현실에서 쓸 수 있는 알고리즘으로 발전하는지, 물리학 결과가 기존 이론의 빈틈을 얼마나 채우는지가 중요하다.

넷째, 검증 인프라가 따라오는가. 앞으로는 더 큰 AI 모델만큼 형식검증 소프트웨어와 수학 데이터베이스, 전문 심사 인력과 공개 검토 제도가 중요해질 수 있다.

산업계에도 새로운 시장이 열릴 가능성이 있다. 지금까지 AI 경쟁은 GPU와 모델 크기에 집중됐다. 앞으로는 AI가 만든 답을 믿을 수 있게 해주는 형식검증 도구, 연구 데이터 관리, 과학용 AI 에이전트와 협업 플랫폼이 주목받을 수 있다.

Conclusion

OpenAI의 과학 발견 발표는 AI가 사람의 질문에 답하는 도구에서 새로운 지식을 제안하는 도구로 옮겨가고 있음을 보여준다. 수학의 파동 문제와 컴퓨터과학의 계산 한계, 물리학의 기본 이론을 한꺼번에 다뤘다는 점에서 주장의 규모도 크다.

하지만 과학에서 발표는 결승선이 아니다. 검증의 출발선이다. 일부 결과에 Lean 형식증명이 있다는 점은 의미가 있지만, 독립 연구자들의 검토와 설명이 뒤따라야 한다. 전체 자료가 공개되지 않은 물리학 결과는 더욱 그렇다.

이번 발표가 진짜 과학적 전환점인지는 AI가 놀라운 답을 냈는지만으로 결정되지 않는다. 그 답이 공개적으로 검증되고, 사람이 이해할 수 있는 지식으로 바뀌며, 새로운 연구와 기술로 이어지는지가 기준이 될 것이다.

  • AI가 만든 수학 증명과 Lean 형식검증
  • 지수시간가설이 알고리즘 연구에 미치는 영향
  • AI 시대의 학술 검증과 연구자 저자권
  • 과학용 AI와 검증 인프라 시장