[뉴스스페이스=이승원 기자] 일론 머스크가 이끄는 소셜 플랫폼 X(옛 트위터)가 무력 분쟁을 다룬 인공지능(AI) 생성 영상을 올리면서 이를 밝히지 않는 크리에이터의 수익공유를 90일간 중단하는 새 정책을 도입했다.

techcrunch, foxbusiness, engadget에 따르면, X 제품 책임자 니키타 비어는 3월 3일(현지시간) “전쟁을 다룬 AI 생성 동영상을 게시하면서 AI 제작 사실을 밝히지 않을 경우 90일간 크리에이터 수익공유 프로그램에서 제외하고, 재차 적발 시 영구 제명한다”고 밝혔다. 이용자는 관련 영상을 올릴 때 게시 메뉴에서 ‘콘텐츠 노출 설정(Add Content Disclosures)’ 중 ‘Made with AI(인공지능 생성)’ 항목을 반드시 선택해야 한다.

이번 조치는 미국·이스라엘과 이란 간 공습이 이어지는 가운데, X 타임라인이 실제 전쟁 장면과 AI·조작 영상이 뒤섞인 ‘전장(戰場)형 피드’로 변질됐다는 비판이 고조된 직후 나왔다. 비어는 “전쟁 시기에는 현장의 진실한 정보에 접근하는 것이 중요하다”며 “오늘날 AI 기술로는 사람들을 오도할 수 있는 콘텐츠를 만드는 일이 너무나 쉬워졌다”고 배경을 설명했다.

이번 정책은 구체적으로 ‘무력 충돌(armed conflict)’ 관련 영상에만 적용되며, 정치·경제 분야의 허위정보나 일반적인 AI 콘텐츠에는 일단 확대 적용하지 않는다. X는 AI 도구의 메타데이터, 알고리즘 신호, 그리고 집단지성 기반 팩트체크 기능인 ‘커뮤니티 노트(Community Notes)’를 통해 위반 게시물을 적발하겠다는 방침이다.

배경에는 중동 전쟁을 둘러싼 ‘AI발(發) 가짜 전쟁영상’의 폭증이 있다. 미국과 이스라엘이 이란을 공습한 직후 X에는 수개월~수년 전 영상을 최신 전황처럼 재업로드하거나, 영상게임·합성 영상을 실제 전투 장면인 것처럼 포장한 게시글이 수백만 조회 수를 기록했다는 조사 결과가 나왔다. 예컨대 한 검증 계정은 ‘두바이 상공의 탄도미사일’이라며 퍼진 영상이 실제로는 2024년 10월 이란의 텔아비브 미사일 공격 장면을 재활용한 것이라고 지적했는데, 이 영상은 440만회 이상 조회됐다고 와이어드(WIRED)가 분석했다.

이란 관영 매체 테헤란타임스는 “카타르 미군 레이더 기지 파괴”라는 설명과 함께 AI 생성 이미지로 추정되는 사진을 X에 올렸고, 이 역시 수십만 명에게 퍼진 뒤 삭제됐지만 유사 게시물이 계속 복제·확산됐다고 뉴욕타임스와 개방형 정보분석 업체 골든아울(Golden Owl)이 전했다. 영국 BBC Verify와 각종 싱크탱크는 이·이란 간 충돌 격화 이후 AI 생성 영상과 조작 콘텐츠가 “역대급 규모로 폭증했다”고 평가하며, 이를 ‘디지털 안개(fog of digital war)’ 현상으로 규정했다.

머스크가 2022년 X를 인수한 이후 플랫폼은 코로나19, 선거, 전쟁 등 주요 쟁점에 대한 ‘중앙집중식 허위정보 규제’를 대거 해체하거나 완화해 왔다. 2023~2025년 사이 X는 선거·보건 허위정보 관련 공식 정책을 삭제하거나 축소했고, 대신 커뮤니티 노트 같은 ‘이용자 집단지성’에 의존하는 방향으로 선회해 각국 규제당국과 시민단체의 우려를 불러온 바 있다.

이번 조치는 그런 X가 처음으로 “특정 맥락(전쟁)”에 한해 AI 콘텐츠에 대한 명시적 규제와 경제적 페널티를 도입했다는 점에서 정책 기조의 의미 있는 전환으로 평가된다. 인디아투데이, 스트레이츠타임스, 크립토브리핑 등 복수 해외 매체는 “AI 전쟁영상 미표기 시 90일 수익정지·재발 시 영구 퇴출”이라는 수치를 공통 확인하며, 이것이 머스크 체제 X 출범 이후 ‘최초의 강경한 AI 라벨링 룰’이라고 분석했다.

다만 적용 범위가 ‘무력 분쟁 영상’으로 한정돼 있다는 점은 논란의 여지를 남긴다. 선거, 금융시장, 공중보건 등에서도 AI 생성 허위정보의 파급력이 이미 심각하다는 점에서, 정치·경제 영역을 아예 제외한 이번 정책이 “전쟁 이슈에 대한 여론 악화 부담을 줄이기 위한 최소 대응인지, 광범위한 AI 규제의 시험대인지”에 대해서는 추가 검증이 필요하다는 지적이 나온다.

X는 이번 조치를 “타임라인 콘텐츠의 진정성과 수익공유 프로그램의 조작 방지”를 위해 도입했다고 설명한다. 이는 사실상 “조회 수와 팔로워 규모보다, 정보의 신뢰성에 가격(수익)을 매기겠다”는 신호에 가깝다. 이미 글로벌 광고주 상당수는 2023~2025년 사이 X의 콘텐츠 안전성 우려를 이유로 광고 집행을 축소하거나 중단해 왔고, 이번 조치는 전쟁·분쟁 관련 브랜드 리스크를 완화해 광고 생태계를 되살리려는 시도로도 해석된다.

크리에이터 입장에선 ‘한 번의 AI 미표기’가 최소 3개월 수익 중단, 재적발 시 영구 퇴출로 이어지는 만큼, 전쟁 관련 합성 영상·썸네일을 이용한 클릭 유도형 콘텐츠 전략을 재점검해야 하는 상황이다. 특히 전쟁·분쟁 이슈를 다루는 계정 상당수가 전통 미디어보다 빠르게 전황을 전하는 동시에, 검증되지 않은 친전·반전 선전물을 확산시켜 온 구조를 감안하면, “속보성을 앞세운 클릭 장사”에서 “출처와 진위 검증을 함께 제공하는 신뢰 장사”로의 체질 전환이 요구된다는 분석이 힘을 얻는다.