[뉴스스페이스=김정영 기자] 미국 백악관에 모인 인공지능(AI) 기업 경영진은 안전을 약속하는 한 장짜리 협약에 함께 서명했다. 그러나 그 직후 열린 비공개 회의에서는 젠슨 황 엔비디아 최고경영자(CEO) 등을 포함한 경영진이 다리오 아모데이 앤트로픽 CEO의 공개적인 AI 위험 경고를 따져 물었다.

월스트리트저널, 로이터 보도에 따르면, 표면의 합의와 내부의 갈등을 가르는 쟁점은 AI 위험의 존재 자체보다, 안전 기준을 누가 만들고 얼마나 강제할 것인가에 있다.

한 장짜리 협약의 무게

도널드 트럼프 대통령은 9월 29일(현지시간) 주요 기술기업 경영진과 서명한 문서를 공개하며 ‘도덕적 구속력’이 있다고 설명했다. 로이터가 확인한 협약의 안전장치는 네 단계다. 기업은 모델의 훈련·배포 과정에서 사이버보안과 생물·화학적 위협 등을 점검할 내부 통제를 마련하고, 그 통제가 작동하는지 확인할 내부 조직을 둔다. 이어 외부 감사인 또는 평가자의 독립적 점검을 받고, 이사회 산하 독립위원회가 관련 보고를 감독한다. 협약에는 참여 기업들이 정기적으로 만나 안전 기준과 모범 관행을 마련한다는 내용도 담겼다.

다만 ‘도덕적 구속력’은 법적 강제력과 다르다. 협약에는 불이행 기업에 대한 제재나 감사 결과의 공개 의무, 정부의 직접적인 집행 권한이 명시되지 않았다. 문서는 향후 이 같은 조치를 법률이나 규정으로 만들 가능성을 열어뒀지만, 현재로서는 감사의 범위와 결과 공개 수준 등을 기업이 어떻게 정하느냐가 실효성을 좌우한다.

비공개 회의에서 드러난 균열

월스트리트저널(WSJ)이 관계자들을 인용해 보도한 내용에 따르면, 약 20여 명의 CEO가 참석한 백악관 오찬 뒤 루스벨트룸에서 열린 소규모 회의에서 황 CEO 등을 포함한 경영진은 아모데이 CEO에게 왜 AI의 능력과 위험을 공개적으로 그토록 강하게 경고하느냐고 물었다. 아모데이는 모델의 능력을 대중에게 정직하게 알리고 위험을 축소하지 않는 것이 중요하다는 취지로 답했다. 

갈등은 협약 이전부터 이어졌다. WSJ에 따르면 앤트로픽·오픈AI·구글은 올여름 업계 자율규제 기구를 만드는 방안을 지지했지만, 황 CEO와 마크 저커버그 메타 CEO, 일론 머스크 등이 선도 기업에 권한이 지나치게 집중될 수 있다고 반대하면서 계획이 폐기됐다. 이번 협약에는 내부 점검과 외부 평가라는 안전조치가 남았으나, 이를 총괄할 상설 업계 기구는 빠진 셈이다. 

숫자로 본 안전 논쟁

안전 논쟁의 배경에는 AI의 빠른 확산이 있다. 스탠퍼드대 인간중심AI연구소(HAI)의 ‘2026 AI 인덱스’에 따르면, 2025년 전 세계 민간 AI 투자액은 3447억 달러였고 이 가운데 생성형 AI 투자액은 1709억 달러였다. 미국의 민간 AI 투자액은 2859억 달러로 집계됐다. 같은 보고서에서 조사 대상 조직의 AI 도입률은 88%였으며, 기록된 AI 관련 사고는 2024년 233건에서 362건으로 늘었다.

고용에 관한 수치도 구분해서 읽어야 한다. 앤트로픽이 2025년 11월 자사 서비스 이용 기록을 분석한 결과, 표본으로 추출한 클로드 웹 대화의 52%는 사용자가 AI와 함께 작업하는 ‘보조’ 유형, 45%는 작업을 맡기는 ‘자동화’ 유형으로 분류됐다. 이는 AI가 업무 수행 방식에 영향을 주고 있음을 보여주는 자료이지, 그 비율만큼 일자리가 사라졌다는 통계는 아니다. 분석 대상 역시 노동시장 전체가 아닌 앤트로픽 서비스 이용 기록이다.

합의의 다음 시험대

결국 이번 합의의 평가는 서명자의 수보다 이행 자료에 달려 있다. 외부 평가자가 무엇을 검사할 수 있는지, 발견된 문제를 누가 시정하는지, 결과가 공중이나 감독 당국에 얼마나 공개되는지가 확인돼야 ‘독립 평가’의 실질을 판단할 수 있다. 협약은 안전 감독의 틀을 적어냈지만, 그 틀이 기업의 자체 약속을 넘어 검증 가능한 기준이 될지는 아직 알 수 없다.