X

오픈AI, 88시간 만에 수학계 난제 풀었다

이 기사 AI가 핵심만 딱!
애니메이션 이미지
김겨레 기자I 2026.09.09 09:42:38

Google 검색에서 이데일리 기사를 더 자주 볼 수 있습니다.

'7대 밀레니엄 난제' 나비에-스토크스 문제
오픈AI, 1만개 AI 에이전트 투입해 반례 제시
학계 "AI 의존이 인간 수학적 이해 약화" 우려도

[이데일리 김겨레 기자] 오픈AI가 인공지능(AI)을 이용해 세계 수학계의 대표적인 미해결 난제인 ‘나비에-스토크스 존재성과 매끄러움 문제’를 풀었다고 발표했다. 오픈AI의 주장이 검증되면 7개 ‘밀레니엄 문제’ 가운데 두 번째 해결 사례가 된다.

오픈AI. (사진=AFP)
오픈AI. (사진=AFP)
뉴욕타임스(NYT) 등에 따르면 오픈AI는 8일(현지시간) 아직 일반에 공개하지 않은 최신 AI 모델이 나비에-스토크스 문제의 해법을 88시간 만에 찾아냈다고 밝혔다. 오픈AI는 해법을 담은 논문과 수학 증명 검증용 프로그래밍 언어 ‘린’으로 작성된 증명도 공개했다.

나비에-스토크스 방정식은 물과 공기 등 유체의 움직임을 설명한다. 일기예보와 해류·기후 분석 등에 널리 사용되지만, 특정 조건에서도 방정식의 해가 항상 존재하고 매끄럽게 유지되는지는 지금까지 증명되지 않았다.

오픈AI는 특정 상황에서 방정식의 해가 무너질 수 있다는 반례를 제시했다고 주장했다. 이론적으로 유체 입자의 속도 등이 무한대로 치솟는 특이점이 발생할 수 있다는 것이다. 다만 수학자와 물리학자들은 이런 수학적 현상이 현실에서 물이 갑자기 폭발하는 것과 같은 결과로 이어진다고 보지는 않는다.

나비에-스토크스 문제는 미국 클레이수학연구소가 2000년 선정한 7개 밀레니엄 문제 가운데 하나다. 연구소는 각 문제를 처음으로 해결한 사람에게 100만달러의 상금을 내걸었다. 이번 발표 전까지 해결된 문제는 하나뿐이었다.

오픈AI는 문제 해결에 최대 1만개의 AI 에이전트를 동시에 투입했다. 여러 AI가 각각 다른 접근법을 탐색하고, 연구진이 유망한 아이디어를 다른 에이전트 그룹에 전달하는 방식으로 연구를 진행했다. 대규모 AI 시스템을 가동하는 데에는 수백만달러가 들었을 가능성이 있는 것으로 전해졌다. 댄 로버츠 오픈AI 연구원은 “연구진의 역할은 여러 그룹을 오가며 서로 다른 정보를 전달하는 호박벌과 같았다”고 설명했다.

수십 년간 풀리지 않은 난제의 해법을 AI가 단시간에 제시하면서 고등수학 연구 방식이 근본적으로 달라질 수 있다는 전망이 나온다. 수학은 답의 옳고 그름을 비교적 명확하게 판단할 수 있어 시행착오를 통해 성능을 높이는 강화학습이 특히 효과적인 분야로 꼽힌다.

다만 오픈AI의 주장이 공식적으로 인정되려면 외부 수학자들의 면밀한 검증을 거쳐야 한다. 증명 과정에 논리적 오류가 없는지, 기존 연구를 사실상 반복한 것은 아닌지 등을 확인하는 작업이 남아 있다.

세계적인 수학자 테런스 타오 미국 로스앤젤레스 캘리포니아대(UCLA) 교수는 이번 성과의 가치를 인정하면서도 AI 의존이 인간의 수학적 이해를 약화할 수 있다고 경고했다. 타오 교수는 “문제를 해결하기 위해 들이는 노력 자체가 많은 것을 가르쳐준다”며 “AI가 대신 문제를 푸는 것은 헬스장에서 기계가 사람 대신 역기를 들어주는 것과 같다”고 말했다.

이 기사 AI가 핵심만 딱!
애니메이션 이미지

주요 뉴스

ⓒ종합 경제정보 미디어 이데일리 - 상업적 무단전재 & 재배포 금지