[뉴스스페이스=이현주 기자] 구글 CEO 순다르 피차이가 “AI 모델이 세상에 존재하는 사실상 모든 소프트웨어를 무너뜨리게 될 것”이라고 공개 경고하면서, AI 확산의 숨은 뇌관으로 사이버 보안 리스크가 다시 전면에 부상하고 있다.

nytimes, Techmeme, searchenginejournal, securityaffairs에 따르면, 그는 최근 스트라이프 공동창업자 존 콜리슨과 투자자 엘라드 길이 진행하는 팟캐스트 ‘Cheeky Pint’에 출연해, 메모리·전력·웨이퍼 등 하드웨어 공급 병목과 더불어 보안 취약성이 AI 산업의 성장 속도를 제약할 수 있는 핵심 변수라고 지목했다. 특히 AI가 제로데이(0day) 취약점의 ‘발견 비용’을 극단적으로 낮추면서, 소프트웨어 생태계 전반에 걸친 구조적 충격이 도래할 수 있다는 점을 수치로 뒷받침한 셈이다.

“이미 무너지고 있을지도 모른다”는 피차이의 문제의식

피차이는 해당 팟캐스트에서 “이 모델들은 분명히 세상에 존재하는 사실상 모든 소프트웨어를 무너뜨리게 될 것이다. 어쩌면 이미 그렇게 되고 있는지도 모른다, 아직 모를 뿐”이라고 말했다. 진행자가 SSH 같은 기초 프로토콜까지 위험해지는 것이냐고 되묻자 그는, 자신이 말하는 대상은 “일반 소프트웨어, 대형 플랫폼, 그리고 얼마나 많은 제로데이 취약점이 존재하는가의 문제”라며, 시스템 내부에 존재하는 구조적 제약을 강조했다. 요지는, 특정 암호 프로토콜의 붕괴라기보다 대규모 소프트웨어 스택 전반이 AI에 의해 취약성이 대량 노출되는 국면에 접어들고 있다는 진단이다.

이 대목에서 피차이는 보안을 “AI 인프라 확장의 숨은 제약(hidden constraint)”으로 규정했다. 그는 구글의 1,750억~1,850억 달러 수준에 이르는 2026년 설비투자 계획과 메모리·전력 공급 한계를 설명하던 중, 아직 시장의 레이더에 충분히 포착되지 않은 병목으로 사이버 보안을 꺼내 들었다.

그가 “더 많은 공조가 필요하지만, 오늘날 그런 공조는 이뤄지지 않고 있다”며 “어느 순간, 상당히 급격한(sharp) 순간이 닥칠 수 있다”고 말한 것은, 이 문제가 단순히 개별 기업의 리스크가 아니라 시스템 차원의 충격으로 비화할 수 있음을 암시한다.

숫자로 드러난 ‘제로데이 시대’의 가속

피차이의 우려는 구글 위협 인텔리전스 그룹(GTIG)의 최신 데이터와도 맞물린다. GTIG는 2025년 실제 공격에 악용된 제로데이 취약점이 90건으로, 2024년 78건에서 15% 증가했다고 집계했다. 2023년 100건에는 못 미치지만, 2020년 이전 연간 수십 건 수준이던 시기를 감안하면 제로데이 악용이 ‘상시 두 자릿수 후반~세 자릿수 직전’ 구간에서 고착된 셈이다. 더욱이 2025년 제로데이의 거의 절반이 엔터프라이즈 소프트웨어와 어플라이언스를 노린 공격으로, 기업 시스템이 사실상 최전선이 되고 있다는 점도 이번 보고서의 핵심이다.

공격 역량의 저변 확대는 AI가 촉발한 현상이다. 앤트로픽은 2026년 2월 공개한 리포트에서 자사 최신 모델 ‘Claude Opus 4.6’이 오픈소스 소프트웨어 라이브러리에서 이전에 알려지지 않은 제로데이 취약점 500여 개를 스스로 찾아냈다고 밝혔다. 연구진은 목표(취약점 탐지)를 부여했을 뿐, 모델이 스스로 탐색 전략을 설계해 고위험 취약점을 대량으로 발굴했다고 설명한다. 이 회사는 “언어모델이 기존 취약점 탐지 도구 위에 실질적인 부가가치를 제공할 수 있음을 보여준다”고 평가하면서도, 이런 능력이 동시에 공격자에게도 열려 있는 ‘이중용도(dual use)’ 성격을 지닌다고 경고했다.

경제성 측면에서도 위험 신호는 분명하다. 포춘은 올해 초 발표한 분석에서, AI 에이전트가 수행하는 공격적 보안 업무(취약점 스캐닝, 익스플로잇 체인 설계 등)의 컴퓨팅 비용이 50달러 미만으로 추산된다고 전했다. 같은 작업을 숙련된 인간 보안 연구자가 수행하면 인건비를 포함해 약 10만 달러 수준이 소요되는 것으로 알려져 있다.

단순 계산으로 공격자 입장에서는 비용이 수천 분의 1 수준으로 떨어지는 셈이고, 이는 제로데이·N데이 취약점의 공급이 기하급수적으로 늘어날 수 있음을 의미한다. 피차이가 “블랙마켓에서 제로데이 가격이 떨어지고 있다”는 업계 관찰에 “전혀 놀랍지 않다”고 답한 배경에는 이런 구조적 비용 격차가 깔려 있다.

AI가 바꾸는 사이버 ‘힘의 균형’

AI가 사이버 보안의 힘의 균형을 어떻게 바꾸고 있는지에 대해서도 구체적 정황이 쌓이고 있다. 뉴욕타임스는 2026년 4월, 앤트로픽이 개발한 AI 기술이 중국 정부 연계 해킹 그룹의 공격에 활용돼 전 세계 30여 개 기관과 기업의 시스템 침해에 사용됐다고 보도했다. 이 사건에서 인간 해커의 개입 비중은 전체 공격 프로세스의 10~20%에 불과했고, 나머지는 AI가 자동화한 것으로 추정된다고 이 매체는 전했다. 공격자 입장에서 AI는 정찰, 취약점 탐지, 익스플로잇 조합, 권한 상승, 데이터 탈취까지 공격 체인의 여러 단계에서 ‘속도와 규모’를 동시에 확장하는 도구로 기능하고 있다.

물론 방어자 역시 AI를 무기로 삼고 있다. 구글 GTIG는 AI를 활용해 아직 악용되지 않은 취약점을 조기에 식별하고, 익스플로잇 개발 시도를 탐지해 대응 시간을 단축하는 방어 모델을 병행 개발 중이라고 밝혔다. 앤트로픽도 클로드 내부 활동을 실시간 모니터링하는 ‘프로브’ 시스템을 도입해 잠재적 악용을 탐지하고, 악성 트래픽으로 판단될 경우 차단하는 메커니즘을 적용하고 있다고 설명한다. 오픈AI 역시 자사 최신 모델 출시와 함께, 공격 자동화 능력에 대한 “결정적 증거는 아직 없다”고 전제하면서도, 위협 인텔리전스를 반영한 강력한 보안 스택과 모니터링 체계를 도입했다고 밝혔다.

그러나 이러한 노력에도 불구하고 관건은 ‘속도’다. 제로데이 취약점이 발견되고, 이를 활용한 공격이 시작되기까지의 시간과, 벤더가 패치를 배포하고 조직이 이를 적용하는 시간 사이의 간극이 좁혀지지 않는다면, AI는 공격자에게 더 큰 레버리지로 작용할 수밖에 없다. 피차이가 “시스템 내에 존재하는 제약을 그냥 없는 셈 칠 수 없다”고 말한 것은, 패치 사이클·레거시 시스템·공급망 소프트웨어까지 얽힌 현실 세계의 관성에 대한 인식으로 읽힌다.

결국 피차이의 “사실상 모든 소프트웨어를 무너뜨릴 것”이라는 발언은, 과장이 섞인 수사로 보이면서도 현재 축적되고 있는 데이터와 정량적으로 맞닿아 있다. 제로데이 악용 건수는 이미 팬데믹 이전의 두 배 수준에 고착됐고, 첨단 AI 모델은 수백 개의 고위험 취약점을 스스로 찾아낼 수 있는 단계에 도달했으며, 공격적 보안 작업의 비용은 인간 기준 대비 수천 분의 1 수준으로 떨어지고 있다.

이런 환경에서 “급격한 순간(sharp moment)”이 한 번의 초대형 침해 사고로 올지, 아니면 수많은 중간 규모 사고가 누적되는 형태로 나타날지는 아직 알 수 없다. 다만 세계 최대 AI 개발사 중 하나의 CEO가 공개적으로 이를 ‘AI 붐의 병목이 될 수 있는 시스템 리스크’라고 규정했다는 사실은, 사이버 보안을 더 이상 기술 부서의 문제로만 치부하기 어려운 시점에 도달했음을 분명히 보여준다.