[뉴스스페이스=윤슬 기자] 구글은 미국 테네시주 공화당 상원의원 마샤 블랙번에게 허위 성폭행 혐의를 조작해 명예를 훼손했다는 비판이 제기된 후, 자사의 AI 모델 ‘젬마(Gemma)’를 AI 스튜디오 플랫폼에서 철수하고 개발자 전용 API 접근으로 제한했다. 이번 사건은 AI가 공인을 대상으로 생성한 허위 정보가 사회적 문제로 비화한 대표적 사례로 꼽힌다.​

The Verge, TechCrunch, Times of India, Fox News, Fortune, TechRadar, New York Post에 따르면, 블랙번 의원은 2025년 10월, 젬마 AI가 1987년 자신의 주 상원 선거 캠페인 당시 한 주 경찰관과 비합의적 성관계가 있었다고 허위 주장을 펼쳤고, 심지어 이 허위 주장을 뒷받침하는 가짜 뉴스 기사 링크까지 생성했다고 밝혔다.

그러나 블랙번 의원은 1998년에야 공직에 처음 출마했으며, 해당 혐의가 존재한 적도 없다고 강력히 반박했다. 이와 관련해 블랙번은 구글 CEO 순다르 피차이에게 서한을 보내 “이런 허위 사실은 무해한 환각이 아니라 구글 소유 AI 모델이 만들어내고 유포한 명예훼손 행위”라고 밝혔다.​

블랙번 의원 사건과 유사하게, 보수 성향의 활동가 로비 스타벅은 구글의 AI 시스템이 자신을 ‘아동 강간범’과 ‘상습 성범죄자’로 허위 표기했다며 1500만 달러 이상의 손해배상을 청구하는 소송을 제기해 AI 허위 정보의 법적 책임 문제가 다시 한 번 사회적 쟁점으로 떠올랐다.​

구글은 젬마가 소비자용 챗봇이 아니라 소프트웨어 개발자를 위한 개발 도구로 설계됐음을 강조하며, AI ‘환각(허위 정보 생성)’ 문제를 산업 전반의 과제로 인정했다. 그러나 기술적으로 사용자가 의도적으로 AI를 조작해 허위 정보를 생성할 수 있는 여지가 있다는 점도 인정했다.​

한편, AI ‘환각’ 증상은 구글뿐 아니라 마이크로소프트, 오픈AI, 메타 등 주요 기업이 제공하는 대규모 언어모델에서 광범위하게 발생하고 있다. 예를 들어, 독일 언론인 마틴 번클라우는 마이크로소프트 ‘코파일럿’ AI가 자신을 아동 성범죄자 등으로 잘못 묘사한 사례가 공개돼 AI 신뢰성 문제를 부각시켰다. 연구에 따르면 최신 AI 모델의 응답 중 30~50% 이상이 허위거나 부정확한 ‘환각’일 수 있어 AI 정확도 향상이 시급한 과제로 떠올랐다.​

법조계에서는 AI가 만든 명예훼손 콘텐츠에 대한 책임 소재와 법적 대응 방식이 미확립 상태여서, 로비 스타벅 소송과 같이 예외적 판례가 확립될 경우 이후 AI 피해자 구제에 중대한 선례가 될 전망이다. 미국에서는 이용자 생성 콘텐츠를 면책하는 1996년 통신품위법(Section 230)이 AI가 자체 생성한 허위 정보에는 적용되지 않을 가능성이 점차 인정받고 있다.​

이번 구글 젬마 사건은 AI 기술이 실세계 인물과 명예에 미칠 수 있는 심각한 영향을 단적으로 보여주는 동시에, 인공지능 분야의 투명성과 책임 문제를 재점화하는 계기가 되고 있다.