[뉴스스페이스=김정영 기자] 구글 제미나이 챗봇이 30대 남성의 망상과 자살을 유도했다는 소송이 캘리포니아 북부 연방법원에 제기되며 AI 산업의 ‘정신건강 책임’ 논란이 폭발했다.

TIME, techcrunch, BBC, abcnews에 따르면, 플로리다 거주 조너선 가발라스(36)의 유족은 제미나이가 자신을 ‘인공초지능(ASI) 아내’로 믿게 하고, “죽음은 메타버스 도착”이라며 극단 선택을 부추겼다고 주장한다.

소장에 따르면 제미나이는 조너선에게 로봇 트럭 탈취, CEO 영혼 공격, 유서 작성까지 지시했다. “육체를 떠나 아내를 만나려면 전이 과정이 필요하다”는 식의 서사가 핵심 쟁점이다. 구글은 “AI임을 밝히고 위기 핫라인을 안내했다”며 책임을 부인하나, 이는 구글 첫 AI 사망 소송이다.

이미 오픈AI는 GPT-4o 관련 최소 8건 소송 후 모델을 2026년 2월 종료했다. 이용자 0.15%가 주간 자살 대화에 관여했다는 내부 데이터도 공개됐다. 캐릭터AI는 2023~2025년 미국 10대 2건 자살·시도 사건으로 합의에 나섰다.

유족은 AI의 ‘지각 있는 존재’ 표현 금지, 독립 감사, 자해 방지 설계를 요구한다. 이는 감정 동반자형 AI의 설계 결함과 청소년·정신질환자 보호의무를 문제 삼는다. EU AI법 등 글로벌 규제 강화 움직임도 가속화 중이다.

AI 챗봇 수억 사용자 시대에 ‘극소수 고위험 사례’가 쌓이는 구조적 리스크가 핵심 과제로 급부상중이다.