[뉴스스페이스=김정영 기자] 오픈AI의 최상위 모델 'GPT-5.6 솔 울트라(Sol Ultra)'가 1970년대부터 약 50년간 미해결로 남아있던 그래프이론의 대표적 난제 '사이클 이중 덮개 추측(Cycle Double Cover Conjecture)'의 증명을 1시간도 안 되는 시간에 만들어냈다고 오픈AI가 발표했다. 다만 이 증명은 아직 학계의 동료평가(peer review)를 거치지 않은 '주장 단계'라는 점에서 신중한 접근이 필요하다는 지적이 나온다.

64개 서브에이전트, 59분의 승부

오픈AI 직원 이선 나이트(Ethan Knight)는 지난 9일(현지시간) 소셜미디어 엑스(X)를 통해 "GPT-5.6 솔 울트라가 64개의 서브에이전트를 동원해 1시간이 채 안 되는 시간에 50년 된 사이클 이중 덮개 추측의 증명을 만들어냈다"고 밝혔다. 오픈AI는 모델에 입력한 전체 프롬프트와 3쪽짜리 증명 결과물을 자사 CDN 서버에 원문 그대로 공개했다.

공개된 프롬프트에는 "모든 유한한 다리 없는(bridgeless) 루프 없는 멀티그래프는 사이클 이중 덮개를 가진다는 것을 완전하게 해결하라"는 지시와 함께, 최대 64개의 병렬 에이전트를 활용하고 정확히 두 번씩만 등장해야 하는 엣지 중복도, 병렬 엣지의 2-사이클, 비연결 그래프, 축소 과정에서 새로 생기는 다리 등 흔한 오류 패턴을 적대적으로 검증하는 별도 에이전트를 계속 가동하라는 세부 지침이 담겼다. 증명은 8-플로우 정리(8-flow theorem)와 3원소 유한체(GF(3)) 위의 선형대수를 결합해, 문제를 3차(cubic) 그래프로 축소한 뒤 무無영점 플로우를 두 원소 집합으로 변환하는 방식을 택했다고 알려졌다.

'증명(proof)'인가 '주장(claim)'인가

이 사건이 파장을 일으킨 건 사이클 이중 덮개 추측이 1970년대 헝가리 수학자 서케레스(Szekeres)와 캐나다 수학자 세이머(Seymour)가 독립적으로 제기한 이래, 위상 그래프이론 분야에서 가장 유명한 미해결 문제 중 하나로 꼽혀왔기 때문이다. 이 소식은 개발자 커뮤니티 해커뉴스(Hacker News) 메인 페이지에 오른 지 1시간 안에 100점 이상, 댓글 100개 이상을 기록하며 화제가 됐고, 위키백과 항목에도 "2026년 7월 10일 오픈AI가 GPT-5.6 대형언어모델로 이 문제를 해결했다고 주장했다"는 내용이 추가됐다.

하지만 전문가들은 신중한 반응을 보이고 있다. AI 전문 매체 'AI/TLDR'은 "이 증명은 아직 린(Lean) 등 형식검증 언어로 전환되지 않았고 동료평가를 기다리는 상태"라고 지적했다. 러시아 매체 커시브(Kursiv)도 "결과는 아직 수학계의 독립적 검증을 거치지 않았으며, 수학자들이 문서를 분석해 정합성 여부를 확인하는 중"이라고 전했다.

미국 매체 런타임와이어(RuntimeWire) 역시 "회사 CDN에 올라온 PDF는 저널 게재나 arXiv 등록, 공개 레퍼리 과정을 거치지 않았다는 점에서 '해결된(settled)' 것이 아니라 '만들어진(produced)' 증명으로 읽어야 한다"고 짚었다.

GPT-5.6, 성능·비용 모두 잡은 '달러당 성능' 모델

이번 성과의 배경이 된 GPT-5.6은 지난 9일(현지시각) 정식 출시된 모델로, 최상위 '솔(Sol)', 차상위 '테라(Terra)', 경제형 '루나(Luna)' 3종으로 구성됐다. 샘 올트먼 오픈AI CEO는 CNBC 인터뷰에서 "GPT-5.6 솔은 에이전틱 코딩 작업의 토큰 효율성을 54% 높였다"고 밝혔다.

AI 수학 정복 시나리오, 벌써 세 번째

이번 사례는 오픈AI 모델이 올해 들어 세 번째로 장기 미해결 수학 문제에 도전한 사건이다. 지난 3월에는 GPT-5.4 Pro가 에포크AI(Epoch AI)의 '프런티어매스(FrontierMath)' 벤치마크에 등재된 20년 된 램지 이론 하이퍼그래프 문제를 클로드 오퍼스, 제미나이 등 경쟁 모델과 동시에 풀어냈다. 5월에는 범용 추론 모델이 1946년 헝가리 수학자 폴 에르되시가 제시한 '평면 단위 거리 문제'를 80년 만에 반증하며, 오픈AI가 이를 "AI가 자율적으로 핵심 미해결 문제를 해결한 첫 사례"라고 자평한 바 있다.

다만 5월 사례와 이번 사례 모두 공통된 한계가 있다. 에르되시 문제 반증 당시에는 외부 수학자들의 검증을 거쳐 정확성이 확인됐다고 오픈AI가 밝혔지만, 이번 사이클 이중 덮개 추측 증명은 아직 그런 공식 검증 절차가 발표되지 않았다.

AI 매체 젤리(Zeli)는 "증명이 모델 단독으로 이뤄졌다는 주장 자체가 오해를 부를 수 있다"며 "실제로는 익명의 인간 연구자들이 GPT-5.6 솔 울트라를 활용해 만든 것일 가능성도 배제할 수 없다"고 지적했다. 수학계와 AI 업계 모두 향후 몇 주간 진행될 검증 결과에 주목하고 있다.