[뉴스스페이스=김정영 기자] 일론 머스크가 이끄는 xAI의 인공지능 생성기 '그록(Grok) AI'가 세계적 유명인에 대한 딥페이크 누드 이미지를 별도의 요청 없이 자동으로 생산해내며 전 세계적인 거센 비판에 직면했다.

특히 테일러 스위프트를 직접 대상으로 한 노골적 합성물이 실시간으로 생성되는 장면이 보도되면서, AI 기술의 규제 공백과 시스템적 한계를 드러냈다고 The Verge, BBC, CommonDreams 등의 매체들이 보도했다.

그록 AI '스파이시 모드', 클릭만으로 노골적 합성…연예인·정치인 망라한 딥페이크 확산

xAI가 2025년 8월 새롭게 론칭한 Grok Imagine의 '스파이시(Spicy) 모드'는 X(옛 트위터) 프리미엄 가입자라면 누구나 네 가지 프리셋 중 하나로 손쉽게 선택 가능하다.

미국 IT 저널 The Verge의 취재 결과, 해당 모드는 사용자가 "테일러 스위프트가 남자들과 코첼라 페스티벌을 축하하는 모습"처럼 지극히 평범한 이미지를 요청하고 단지 '스파이시' 옵션 선택만으로 완전히 노출된 상반신 영상과 노골적인 딥페이크 이미지가 자동 생성됐다.

이는 "AI에게 속옷을 벗기도록 요청하지도 않았다"는 사용자의 진술에서 더욱 충격을 안겼다.

실제로 X(트위터) 상에선 'Taylor Swift Grok Images' 등 검색어 조차 차단된 상태지만, 올해 1월 스위프트의 합성 누드 사진이 단 17시간 만에 약 4700만회를 넘게 조회됐다가 삭제되는 사건도 있었다. 이는 유명인 딥페이크의 압도적 확산속도를 입증하는 수치다.

심지어 2023년 발표된 'State of Deepfakes' 보고서에 따르면, 온라인에서 생성·유포되는 딥페이크 중 99%가 음란물이고, 피해자의 98~99%가 여성으로 집계됐다.

구멍투성이 '안전장치'…연령 인증도 허술, 글로벌 규제 한계 여전

xAI의 그록 AI는 명목상 “인물의 외모를 음란하게 묘사하는 행위”를 금지한다는 허용 사용 정책(acceptable use policy)을 명시하고 있다. 하지만 이번 실증 테스트에선 별다른 추가 검증이나 제재 없이 유명인 누드 딥페이크 생성이 가능했고, 연령 확인 역시 단 한 번, 증명서 업로드조차 요구하지 않는 등 "어린아이도 우회할 수 있다"는 평가가 나왔다.

유럽연합(EU) 및 미국 정부기관도 X플랫폼 및 AI출력물에 대한 콘텐츠 조정 실태에 대해 공식적인 우려와 조사를 진행 중이다.

규제 강화 목소리 고조…미국 'Take It Down Act' 등 입법 움직임

이번 사태에 대해 미국 의회는 초당적 법률 제정에 속도를 내고 있다. 미국 상하원은 2025년 4월, AI가 생성한 비동의 딥페이크 포르노를 연방 범죄로 규정(최대 징역형 포함), 피해 신고 즉시 48시간 내 삭제를 의무화한 'Take It Down Act'를 통과시켰다.

테일러 스위프트 사건 역시 법안 도입의 계기가 됐다. 미국 10여 개 주(州)는 이미 비동의 딥페이크 포르노를 형사처벌 대상으로 명시하고 있으며, 피해자에게 민사소송권을 보장하는 주도 늘고 있다. 영국 등 일부 유럽 국가는 이미 2023년부터 딥페이크 포르노의 생성·유통 자체를 불법화했다.

여론도 압도적으로 '불법화 찬성'…비상식적 확산에 우려 커져

2024년 미국 인공지능 정책연구소의 설문에 따르면, 미국 유권자 84%는 ‘비동의 딥페이크 포르노’가 불법이어야 한다고 답했다. BBC 등 외신 및 학계 조사에서도 2019년 대비 2023년 딥페이크 음란물 생성이 550% 급증했다는 통계가 발표됐다. 여성이 대상인 경우가 99% 이상으로 확인돼 성별 불균형 문제도 심각하다.

"딥페이크는 클릭 세 번이면 현실"…윤리·법적 파장, 실시간 확산

AI기술의 급진적 확산과 규제 미비, 허술한 가드레일이 결합하면서 "진짜와 가짜의 경계가 무너지고 있다"는 우려가 높아지는 상황이다.

미국 NCOSE(National Center on Sexual Exploitation, 국립성착취방지센터) 전문가들은 "딥페이크 영상·이미지의 생성·확산속도가 인간의 상식을 압도한다"고 지적하며, 관련 기술 기업에 보다 강력한 자율규제 및 책임을 요구했다.

"코드 한 줄 잘못, 버튼 한 번의 선택이 수백만 피해자를 낳을 수 있는 시대"라는 비판이 나오는 배경이다.