[뉴스스페이스=김정영 기자] 오픈AI의 범용 추론 모델이 수학계 오랜 난제들을 잇달아 격파하고, 코딩 에이전트가 방치된 과학 소프트웨어를 최대 60배까지 빠르게 재건하는 성과를 내면서 'AI 연구 조수 시대'가 본격화하고 있다. 그러나 결과의 과학적 타당성을 최종 판단하는 책임은 여전히 인간에게 남아 있다는 게 관련 보고서들의 공통된 결론이다.

80년 난제, AI가 뒤집었다

OpenAI, The Guardian, Yahoo! JAPAN에 따르면, 오픈AI는 지난 5월 20일(현지시간) 자사의 범용 추론 모델이 헝가리 수학자 폴 에르되시가 1946년 제시한 '평면 단위 거리 문제'(planar unit distance problem)를 약 80년 만에 해결했다고 밝혔다. 이 모델은 수학 전용으로 특화되지 않은 일반 추론 모델이었음에도, 기존 2차원 격자 구조가 아닌 고차원 대칭 격자를 구성한 뒤 이를 평면에 투영하는 새로운 방식으로 기존 정설을 완전히 반증했다. 필즈상 수상자 티모시 가워스를 포함한 외부 수학자들이 이 증명의 정확성을 검증했다.

이어 7월 11일에는 오픈AI 연구원 이선 나이트가 최신 모델 'GPT-5.6 솔 울트라'가 53년간 미해결이었던 '사이클 이중 덮개 추측'(cycle double cover conjecture)을 단 1시간 만에 증명해냈다고 밝혔다. 이 모델은 최대 64개의 AI 에이전트를 동시에 가동하는 병렬 추론 방식으로 문제를 풀어냈다.

오픈AI는 7월 31일에는 한발 더 나아가, 최소 10년 이상 진전이 없던 수학·이론컴퓨터과학 난제 10개를 추가로 해결했다고 공개했다. 여기에는 구 채우기(sphere packing) 상한선 개선, 초입방체 그룹 존재 증명, 코네스 강직성 추측 반증, 다색 램지 수 하한선 증명(에르되시 문제 183번 해결) 등이 포함됐다.

수학계, 기대와 불안 교차

문제는 AI가 정답을 내놓아도 그 도출 과정을 인간이 완전히 이해하지 못할 수 있다는 점이다. 가워스는 AI가 자신이 오랫동안 고민하던 문제 2개를 첫 시도에 풀어냈다고 밝히면서, 생산성 도구로서의 기대와 동시에 "AI가 답을 맞혀도 그 이유를 인간이 이해하지 못하면 수학 문화 자체가 흔들릴 수 있다"는 우려를 표했다.

오픈AI 측도 새 증명이 올바른지 확인하기 위해 소속 수학자와 외부 전문가에게 별도 검증을 맡겼다고 밝혀, AI의 산출물 자체보다 검증 프로세스가 성과의 신뢰성을 좌우하는 구조임을 보여줬다.

연구 소프트웨어 현대화, 최대 60배 가속

수학 증명뿐 아니라 실제 과학 연구 인프라에서도 AI 에이전트의 효과가 확인됐다. 오픈AI가 노스캐롤라이나대(UNC)와 미국 국립에너지연구과학컴퓨팅센터(NERSC)와 공동으로 7월 28일 발표한 필드 리포트는 게놈학 등 생명과학 분야 8개 프로젝트에서 코딩 에이전트 Codex와 Claude Code를 활용한 사례를 다뤘다.

한 프로젝트에서는 원래 18개월이 걸릴 것으로 예상됐던 소프트웨어 현대화 작업이 AI 에이전트 활용으로 약 1주일 만에 끝났다는 보고도 나왔다. 오픈AI는 만약 에이전트가 연구 소프트웨어 설치 오류의 25~50%를 해결할 수 있다면, 패키지 100개 기준으로 절감되는 연구 시간의 경제적 가치가 60만 달러에서 최대 500만 달러(약 8억~69억원)에 이를 것으로 추산했다.

"속도는 해결, 검증은 숙제"

이번 보고서의 핵심은 작업의 병목이 '코드 작성'에서 '결과 검증'으로 이동했다는 점이다. 연구 참여자들은 AI가 "유창하고 설득력 있지만, 쉽게 놓치는 방식으로 자신 있게 틀린다"고 경고했다. 실제로 연구진은 소프트웨어가 무엇을 해야 하는지 결정하고 결과가 옳은지 확인하는 일은 끝까지 인간의 몫으로 남았다고 밝혔다.

동일한 경향은 별도의 학술 연구에서도 확인된다. LLM 기반 코딩 에이전트를 도입한 깃허브 저장소를 준실험(DiD) 방식으로 분석한 논문에 따르면, 에이전트를 처음 도입한 저장소는 코드 커밋 수가 약 36.3%, 코드 추가량이 약 76.6% 늘어나는 등 생산성이 급증했지만, 동시에 정적 분석 경고가 약 18%, 인지적 복잡도가 약 35% 증가해 유지보수 부담(complexity debt)도 함께 쌓인 것으로 나타났다. 결국 속도와 유지보수성은 상충관계에 있으며, 강력한 품질 안전장치 없이는 AI 도입이 장기적 리스크로 전환될 수 있다는 지적이다.

수학 난제 해결과 연구 소프트웨어 현대화라는 두 사례는 방향은 다르지만 메시지는 같다. AI를 쓸 때 막연한 질문 대신 구체적 맥락을 제공하고, 생성된 결과의 핵심 논리를 직접 검증하는 습관이 이제 선택이 아닌 필수가 됐다는 것이다.