[뉴스스페이스=이현주 기자] 이탈리아 총리 조르자 멜로니가 속옷 차림의 자신을 묘사한 AI 딥페이크 이미지를 정면으로 공개·비판한 직후, EU가 이른바 ‘누드화(nudification) 앱’을 사실상 시장에서 퇴출시키는 강력 규제에 합의했다.

euronews, fastcompany, forbes, The Guardian, Engadget에 따르면, 여성 정치인을 겨냥한 성적 합성물 남발, 플랫폼 기반 AI의 ‘성적 이미지 공장화’가 맞물리면서, 유럽이 ‘비동의 성적 이미지 생성 AI’에 형사 규제 수준의 금지선을 그었다는 평가다.

멜로니, 딥페이크 사진 ‘역이용’하며 정치공격 규정

멜로니 총리는 최근 며칠 사이 자신을 둘러싼 허위 이미지가 급증했다며, 침대 위에서 속옷 차림으로 앉아 있는 AI 합성 이미지를 직접 페이스북·인스타그램 등에 올렸다. 그는 “최근 며칠 동안 인공지능으로 생성된 수많은 가짜 이미지가 실제 사진인 것처럼 과열된 일부 정치적 적대자들에 의해 유포되고 있다”고 지적하며, 해당 이미지를 공유한 한 남성의 “부끄러운 줄 알아라”라는 댓글까지 함께 보여주며 비판했다.

멜로니는 “딥페이크는 누구든 속이고, 조종하고, 표적으로 삼을 수 있기 때문에 위험한 도구”라며 “나는 스스로를 지킬 수 있지만, 그렇지 못한 사람들이 많다”고 적었다. 이어 “항상 지켜야 할 기본 원칙은 믿기 전에 확인하고, 공유하기 전에 한 번 더 생각하는 것”이라고 강조하며, 일반 이용자들에게도 ‘검증 없는 공유’가 어떻게 2차 가해로 이어질 수 있는지를 환기했다.

멜로니는 이미 2024년에도 자신을 성적으로 묘사한 딥페이크 영상 제작자를 상대로 소송을 제기한 바 있어, 이번 사건은 반복되는 ‘디지털 성폭력’에 대한 정치 지도자의 공개 대응이라는 상징성을 갖는다. 이탈리아 및 해외 언론들은 이번 파문을 “여성 정치인을 겨냥한 AI 성적 이미지 공격의 전형적 사례”로 규정하고, 정치적 명예훼손과 젠더 폭력이 결합된 새로운 위협이라고 분석했다.

EU, ‘누드화 앱’·CSAM 생성 AI 전면 금지 합의

멜로니의 경고가 전 세계로 번진 지 며칠 뒤, 유럽의회와 EU 이사회는 식별 가능한 사람의 비동의 성적 노출 이미지를 생성하거나 아동 성착취물을 만들어내는 AI 시스템을 전면 금지하는 잠정 합의에 도달했다. 이번 조치는 AI법(AI Act)을 간소화·보완하기 위한 ‘디지털 옴니버스 패키지’의 일부이지만, 내용상으로는 첫 ‘누드화 앱’ 금지 조항이자, 비동의 친밀 이미지 생성 AI에 대한 직접 규제라는 점에서 의미가 크다.

기업들은 관련 시스템을 규제에 맞게 정비할 기한으로 2026년 12월 2일까지 유예를 부여받았다. 아일랜드의 AI 담당 국무장관 니암 스미스는 이를 “유럽에서 인공지능을 책임감 있게 규제하는 데 있어 중요한 전환점”이라고 평가했고, 유럽의회 공동 보고자인 아일랜드 출신 마이클 맥나마라는 “의회의 핵심 과제였던 누드화 앱 금지와 AI 기반 아동 성착취물 생산 금지를 동시에 달성했다”고 강조했다.

이번 정치적 합의는 아직 유럽의회 본회의와 회원국 이사회의 최종 승인 절차를 남겨두고 있으나, 양측이 세부 문안까지 합의한 만큼 큰 틀에서 후퇴할 가능성은 낮다는 관측이 우세하다. 동시에, AI가 생성한 콘텐츠에 대한 투명성 의무 이행 기간도 6개월에서 3개월로 단축해, 2026년 12월 2일까지는 인공적으로 생성된 이미지·영상이라는 표시를 의무적으로 부착하도록 하는 방향으로 조정했다.

“여성 98%”로 쏠린 딥페이크…AI 플랫폼, 성적 이미지 ‘공장’으로

딥페이크 음란물의 성별 편향은 이미 수치로 확인되고 있다. 여러 연구에 따르면 온라인에 유통되는 딥페이크 포르노 이미지의 약 98%가 여성을 대상으로 하고 있으며, 대부분이 피해자 동의 없이 제작·배포되는 것으로 나타났다. 이는 여성 특히 여성 정치인·언론인·인플루언서가 성적 합성물의 주타깃이 되고 있음을 보여준다.

플랫폼 내 AI 이미지 생성기가 ‘성적 이미지 공장’으로 기능하고 있다는 조사 결과도 나왔다. 영국 비영리단체 디지털 혐오 대응 센터(CCDH)가 X(옛 트위터)에 통합된 AI 도구 ‘그록(Grok)’을 분석한 결과, 2025년 12월 말부터 2026년 1월 초까지 11일간 약 300만건의 성적 이미지를 생성한 것으로 추산됐다. 이는 분당 약 190장의 성적 이미지가 만들어진 셈이며, 이 가운데 약 2만3000건은 미성년자로 보이는 아동·청소년을 성적으로 묘사한 이미지였다는 분석도 제시됐다.

해당 조사에 따르면 그록은 평균 41초마다 한 번꼴로 아동 성적 이미지를 생성하는 데 관여한 것으로 계산된다. X는 1월 14일 일부 기능을 제한했다고 밝혔지만, 외부 조사 보고서와 해외 언론은 독립 앱에서 여전히 ‘디지털 옷벗기기(digital undressing)’ 기능이 제공됐다는 점을 지적하며 플랫폼의 책임 문제를 제기하고 있다.

‘표현의 자유’ 넘어 ‘성적 권리 침해’로…EU 규제, 글로벌 기준 될까

멜로니 사건과 EU의 누드화 앱 금지는 AI 딥페이크를 더 이상 ‘악의적인 장난’이나 ‘표현의 자유’ 범주가 아닌, 디지털 성폭력·성적 권리 침해의 문제로 전면 재규정하는 계기가 되고 있다. 특히 EU는 “시장에 올리는 단계에서부터 금지”하는 공급자 책임과, “실제 생성·활용 단계까지 막는” 이용자 책임을 동시 부과함으로써, AI 이미지 생성 체인의 전 단계에 규제의 그물을 씌우고 있다.

이번 합의는 글로벌 빅테크가 사실상 EU 기준을 글로벌 ‘디폴트’로 삼을 수밖에 없다는 점에서, AI 기반 비동의 성적 이미지 생성 규제의 국제 표준이 될 가능성이 크다는 분석이 이미 제기되고 있다. 멜로니가 강조했듯 “믿기 전에 확인하고, 공유하기 전에 한 번 더 생각하는” 이용자 차원의 디지털 리터러시는 여전히 필요하지만, 성적 이미지의 ‘산업화’를 가능하게 한 플랫폼·AI 개발사에 대한 구조적 책임 묻기가 병행되지 않으면 피해는 계속 누적될 수밖에 없다는 점을 이번 숫자들이 보여준다.

향후 한국을 포함한 각국 입법 과정에서도, 단순 유포자 처벌을 넘어 AI 개발·제공·플랫폼 사업자까지를 포괄하는 다층 규제와 함께, 피해자의 신속한 삭제·구제 절차, 집단소송·징벌적 손해배상 등 실효적 권리구제 수단을 어디까지 담을 것인지가 핵심 쟁점이 될 전망이다.