[뉴스스페이스=이은주 기자] AI 딥페이크로 만든 테일러 스위프트·리한나 영상이 틱톡을 중심으로 전 세계 이용자를 상대로 한 ‘고수익 보장’ 스캠 광고에 동원되면서, 합성 미디어가 사실상 글로벌 금융범죄의 인프라로 자리 잡고 있다.

국내에서도 송혜교·조인성, 유명 투자전문가 등을 사칭한 딥페이크 투자광고로 수천만원에서 수억원대 피해가 속출하고 있어, 한국 역시 더 이상 ‘해외 사례’의 관전자가 아니라는 평가가 나온다.

AI 탐지 기업 Copyleaks의 새로운 조사에 따르면, 사기범들이 테일러 스위프트, 리한나 등 유명 연예인의 AI 딥페이크 영상을 이용해 TikTok에서 가짜 리워드 프로그램을 홍보하고 있는 것으로 드러났다. 이번 사례는 소셜 미디어 플랫폼이 합성 미디어 단속에 있어 갈수록 심각한 도전에 직면하고 있음을 여실히 보여준다.

어떻게 속이나…‘틱톡 페이’부터 리딩방까지

Copyleaks 조사에 따르면 이번에 적발된 틱톡 사기 광고는 레드카펫, 토크쇼, 팟캐스트 등 실제 인터뷰 영상을 가져와 얼굴과 동작은 그대로 두고, 음성만 AI로 복제해 ‘가짜 추천 영상’으로 재가공하는 방식이다. 테일러 스위프트가 등장해 ‘TikTok Pay’ 가입을 권유하고, 리한나로 보이는 인물이 “그냥 영상 보고 의견만 남기면 된다”고 말하는 식으로, 이용자 심리를 자극하는 ‘쉬운 돈벌이 내러티브’를 전면에 내세운다.

영상 하단에는 틱톡 공식 로고, UI 요소 등을 덧씌워 정식 광고처럼 보이게 꾸미고, 링크를 누르면 틱톡이 아닌 제3자 사이트로 연결돼 개인정보와 금융정보를 입력하도록 유도한다. 이 과정에서 사기 조직은 과도한 뷰티·컬러 필터를 씌워 조명·피부 질감·입 모양과 음성의 미세한 어긋남 등 딥페이크 흔적을 가리는데, 일반 이용자가 모바일 화면에서 이를 구분해내기는 쉽지 않다.

국내에서도 구조는 크게 다르지 않다. 한국소비자원이 2023년 페이스북 온라인 도박 광고를 모니터링한 결과, 유명인·언론보도 사칭 딥페이크 광고는 2개월 동안 14건이 확인됐고, 이 가운데 연예인·스포츠 스타 영상 조작이 6건, 공중파 뉴스 화면을 합성한 사례가 8건으로 나타났다. 한국방송통신전파진흥원이 분석한 또 다른 사례에서는 조인성·송혜교 얼굴을 합성한 투자 광고에 속아 투자자들이 약 6,600만원을 대포통장으로 추정되는 계좌에 송금한 뒤 피해금을 거의 돌려받지 못한 것으로 전해졌다.

올해 1월 국내에선 틱톡 ‘고수익 비법’ 영상을 보고 리딩방에 입장한 투자자가 가짜 증권사 앱에 7억원을 넘게 넣었다가 전액 잃은 사건도 발생했다. 경찰에 따르면 이 영상 역시 유명 투자전문가를 사칭한 딥페이크 광고였고, 서울경찰청 피싱사기수사대가 관련 수사를 진행 중이다.

‘딥페이크 1순위 표적’ 된 테일러 스위프트

글로벌 차원에서 딥페이크 사기 조직의 ‘1순위 타깃’은 단연 테일러 스위프트다. 사이버보안 기업 맥아피는 2025년 보고서에서 전 세계 유명인 가운데 딥페이크 사칭 피해를 가장 많이 본 인물로 스위프트를 지목했고, 관련 조사에서 스위프트가 포함된 딥페이크 사칭 콘텐츠 비중이 전체의 최상위를 차지한 것으로 나타났다. 미국 매체 더힐은 사기꾼들이 스위프트의 얼굴과 음성을 이용해 팬들을 속이고, 개인정보·금융정보를 빼내는 사례가 증가하고 있다고 전했다.

최근에는 테일러 스위프트 이미지와 목소리를 합성해 무료 제품·식품 쿠폰을 미끼로 소액 배송비(9.96달러, 약 1만3,000원)를 결제하게 한 뒤, 실제로는 매달 자동결제가 이뤄지도록 설계한 ‘구독형 스캠’도 등장했다. 이용자가 링크를 클릭하면 미국 푸드 채널 ‘푸드 네트워크’를 모방한 가짜 사이트로 이동하고, 조작된 후기와 가짜 리뷰를 보여주는 방식이다.

이처럼 딥페이크 사칭이 일상화되자 스위프트는 2026년 들어 자신의 사진·음성 권리를 둘러싼 법적 대응에 본격 나선 상태다. 국내 보도에 따르면 그는 AI가 무단으로 자신의 얼굴과 목소리를 광고·콘텐츠에 활용하지 못하도록 법적 권리 확보에 나섰고, 이미 X(구 트위터)에서 성적으로 노골적인 딥페이크 이미지가 확산된 사건과, 2024년 미국 대선 당시 도널드 트럼프 대통령이 스위프트가 자신을 지지하는 듯한 AI 이미지를 공유해 논란이 된 사례 등이 배경으로 작용했다.

유튜브·메타도 ‘합성 사기’ 전면전…하지만 역부족

틱톡만의 문제도 아니다. 미국 테크 매체 404 Media 조사에 따르면, 유튜브는 한때 스위프트·스티브 하비·조 로건의 딥페이크를 이용해 메디케어 사기를 홍보한 단일 광고 조직과 연결된 AI 생성 사기 광고 1,000개 이상을 삭제했다. 이 영상들은 삭제 전까지 누적 조회수 약 2억회를 기록한 것으로 드러나, 플랫폼이 개입하기 전까지의 영향력과 피해 잠재력을 적나라하게 보여줬다.

메타는 페이스북·인스타그램에서 매일 방대한 규모의 사기 광고가 신고·삭제되고 있다고 인정했지만, 규모와 속도에서 사기 조직을 완전히 따라잡지 못하고 있다. 2025년 보안업체 Surfshark 연구에서는 소셜 미디어 플랫폼에서 발생한 딥페이크 관련 사기로 수억 달러에 이르는 피해가 발생했으며, 이 가운데 유명인 사칭이 전체 딥페이크 관련 금전 피해의 80%를 차지하는 것으로 분석됐다. 유명인의 신뢰·호감도를 ‘전면 광고판’처럼 활용하는 범죄 모델이 이미 경제적으로 검증됐다는 의미다.

유튜브는 이에 대응해 얼굴·외모를 자동 인식해 AI 합성 여부를 식별하는 무료 ‘외모 탐지 도구’를 도입하고, 최근에는 그 대상을 할리우드 탤런트 에이전시와 연예인들로 확대해 본인 영상 모니터링에 활용하도록 했다. Copyleaks의 알론 야민 CEO는 이를 두고 “생성형 AI 시대, 플랫폼이 신원 보호에 접근하는 방식의 전환점”이라고 평가했지만, 이용자 측 예방 교육과 법·제도 정비 없이는 ‘사후 삭제’만으로는 역부족이라는 지적이 많다.

한국에서도 소비자원·KCA 등의 분석에서 드러난 것처럼, 딥페이크는 이미 투자 사기·도박 광고·성착취 등 각종 범죄에 결합된 상태다. 틱톡을 비롯한 숏폼 SNS가 10·20대의 ‘사실상 기본 플랫폼’이 된 만큼, 한국 역시 테일러 스위프트·리한나 사례를 단순 해외 뉴스로 소비할 것이 아니라, 자국 플랫폼 환경과 맞춘 선제적 규제·교육 체계를 마련해야 한다는 지적이 설득력을 얻고 있다.