[뉴스스페이스=김시민 기자] 아동 디지털 안전을 중점적으로 감시하는 비영리 단체인 커먼센스미디어(Common Sense Media)가 구글의 인공지능(AI) 챗봇 ‘제미나이(Gemini)’에 대해 어린이·청소년 대상 ‘고위험(High Risk)’ 등급을 부여하며 심각한 경고 신호를 보냈다.

TechCrunch, Economic Times, Wall Street Journal,Mashable, CyberSafeKids에 따르면, 이 단체는 보고서를 통해 "제미나이의 어린이용(Under 13)과 청소년용(Teen Experience) 버전 모두 사실상 성인용 AI의 단순 변형이며, 추가적인 안전장치가 미흡한 것으로 드러났다"고 밝혔다. 특히 성, 마약, 알코올 등 부적절한 콘텐츠를 유포할 가능성이 있고, 심각한 정신 건강 문제 인식에 실패하는 등 근본적인 설계 결함이 지적됐다.

Common Sense Media의 AI 프로그램 총괄 수석 로비 토니는 "아이들의 발달 단계별로 맞춤 설계돼야 하는 AI 플랫폼이 모든 연령층을 동일하게 다루면서 세부에서 오류를 범하고 있다"고 비판했다. 실제로 제미나이는 어린 아동과 청소년을 구분하지 않고 동일하게 취급하며, 프라이버시 보호를 위해 대화 내용을 기억하지 않는 정책이 오히려 상충되거나 위험한 조언 제공 문제로 이어진다는 것이다.

이번 평가는 AI 서비스가 빠르게 아동·청소년 일상에 침투하는 상황에서 나왔다. 특히 최근 미국에서는 AI 챗봇이 10대 자살 사건에 연루됐다는 의혹으로 소송이 제기되는 등 사회적 논란이 일고 있다. 오픈AI는 16세 소년이 자살한 사건과 관련해 첫 불법 사망 소송을 맞았으며, Character.AI도 14세 소년 자살과 연관된 소송을 받고 있다.

한편, 미국 연방거래위원회(FTC)는 AI 챗봇이 아동 정신 건강에 미치는 영향을 조사하기 위해 오픈AI, 메타, Character.AI 등 주요 기업에 내부 문서 제출을 요구할 예정이다. 메타는 내부 문서 유출 후 청소년 대상 AI 안전 대책을 강화하고 자해·자살 관련 대화를 제한하는 조처를 시행 중이다.

구글은 Common Sense Media 평가에 대해 "18세 미만 사용자 보호를 위한 정책과 외부 전문가와의 보안 테스트를 시행 중이며, 일부 의도와 달리 작동하지 않는 응답에 대해서는 추가적인 보호 조치를 도입했다"고 반박했다. 다만, 제미나이가 애플의 차세대 AI 기반 시리(Siri)로 연내 통합될 가능성이 알려지면서, 새로운 위험에 대한 우려가 확산되고 있다.

Common Sense Media는 5세 이하 아동이 AI 챗봇을 이용하는 것은 전면 금지하고, 6~12세는 반드시 성인의 감독 하에서만 사용해야 한다고 권고했다. 13세 이상 청소년은 학교 과제나 창의적 프로젝트 등에 제한적으로 안전하게 사용할 수 있으나, 감정적 동반자 역할로 AI를 이용하는 것은 전면 금지할 것을 권장했다. 이번 평가에서 Meta AI와 Character.AI는 ‘부적격’ 판정을 받았고, 챗GPT는 ‘보통’ 위험, 클로드(Claude)는 ‘최소’ 위험으로 평가됐다.

한편, 영국의 비영리 단체 CyberSafeKids의 최근 보고서에 따르면 8~15세 아동 중 상당수가 AI 챗봇을 학습보조, 정보검색, 친구 대용으로 활용하고 있으며, 이들 중 40%가 AI의 조언을 무비판적으로 신뢰하는 것으로 나타났다. 이로 인해 잘못된 정보 노출, 프라이버시 침해, 불건전한 조언 등의 위험이 급증하고 있음을 경고했다.

이번 사례는 아이들을 위한 AI 기술 개발에 있어 연령별 맞춤형 설계와 철저한 안전장치가 필수적임을 재차 확인시킨다. 기술 진보 속에서 어린이 정신건강과 안전을 우선시하는 광범위한 법·제도적 보완책 마련이 시급한 상황이다.