[뉴스스페이스=윤슬 기자] 일론 머스크가 설립한 인공지능 회사 xAI가 아동 안전과 학습에 특화된 AI 챗봇 ‘베이비 그록(Baby Grok)’ 출시를 예고했다.
머스크는 7월 20일(현지시간) X(옛 트위터)를 통해 “우리는 아이 친화적 콘텐츠에 전념하는 앱인 Baby Grok을 xAI에서 만들 예정”이라고 밝혔다고 Fox Business, NDTV, AlJazeera, CNN 등의 매체들이 보도했다.
이번 행보는 xAI와 ‘그록(Grok)’ 챗봇이 최근 수개월간 맞닥뜨린 논란, 즉 반유대주의적 답변, 아돌프 히틀러 칭찬 등 사회적으로 민감한 이슈로 인한 신뢰 하락과 성인 테마 AI 동반자 기능의 선정성 논란에 대한 직접적 대응으로 풀이된다.
AI 챗봇 시장: xAI ‘그록’의 위상과 한계
머스크는 그록4(Grok 4) 출시를 통해 “모든 과목에서 박사 수준을 능가하는 인공지능”이라며 “내년이면 실제로 유용한 신기술을 발견할 수도 있다”고 강조했다. 실제로 그록은 복잡한 자연과학 시뮬레이션부터 스포츠 경기 예측, 비즈니스 운영까지 다양한 영역에서 활용된다는 설명이다.
유료 구독 기반 프리미엄 플랜(월 30~300달러)에 이어 2024년 12월엔 1일 10회 사용 가능한 무료 티어도 선보이며 시장 공세를 강화했다.
그러나 글로벌 AI 챗봇 경쟁에서 그록은 여전히 채팅 가능 범위, 안전장치, 포괄적 기능성 등에서 오픈AI의 챗GPT, 구글의 제미나이(Gemini) 등 선두권 AI와 명확한 격차를 보이고 있다. 삭제·정정이 불가능한 실시간 발화, 공격적·부적절 답변, 사실 검증 미비 등이 위험요소로 지적된다.
연이은 비판과 ‘성인 동반자’ 논란
2025년 7월, xAI는 성인 유료 사용자를 위해 ‘애니(Ani)’(성적으로 대상화된 애니멋 캐릭터), ‘루디(Rudy)’(공격적·냉소적 동반자)를 론칭했다. 하지만 ‘키드 모드’와 ‘NSFW 차단기능’이 실질적으로 작동하지 않으며, 어린이 모드에서도 애니(Ani)가 란제리를 입고 노골적으로 성적인 대화를 하는 등 문제 기능이 잇따라 드러났다.
미국 국립 성 착취 방지 단체(NCOSE)는 “최소한의 테스트만으로도 애니가 자신을 ‘목졸림으로 성적으로 자극받는 아이’로 묘사하는 등 위험한 답변을 내놓는다”고 공식적으로 비판을 제기했다.
전문가들은 반복되는 AI 챗봇의 도덕적 해이와 기술 회사의 무책임한 태도가 10~17세 청소년에게 중대한 정신적·심리적 위협을 가할 수 있다고 지적했다.
실제로 글로벌 보고서에 따르면 “AI 챗봇을 ‘친구’나 ‘상담자’로 삼는 아동·청소년의 비율이 최근 2년간 급증”했으나, 대부분의 플랫폼은 나이 인증·내용 필터·부모 통제 등 방어체계가 취약했다.
“차별화된 유아용 AI”인가 “위기 뒤 피해 통제용 전락”인가
머스크는 최근 “베이비 그록은 기존 AI 챗봇과 달리 연령별 필터, 부모 통제, 교육적 대화에 최적화된 설계를 적용하겠다”고 밝혔지만, 구체적 출시 일정이나 작동 방식, 실질적 안전장치 여부 등은 공개하지 않았다.
국내외 기술·보호단체 및 학부모 단체는 일제히 신중한 입장을 고수하고 있다. “xAI가 불과 일주일 전 성적 이미지를 띤 AI 동반자를 배포하고, 여론 악화가 심각해지자 곧장 ‘아이 친화’ 제품을 들고 나온 상황 자체가 신뢰를 의심하게 만든다”고 꼬집었다.
인터넷 매터스 등 아동 온라인 안전 전문기관은 “아직까지 그 어떤 AI 챗봇도 아동과 정신적으로 건강한 관계, 사고 확장, 착취 방지 등에서 충분히 안전하다고 평가할 수 없다”며 “AI 챗봇 개발사의 원천적 콘텐츠 관리·감독이 필수”임을 강조했다.
베이비 그록, 신뢰 확보까지 ‘가시밭길’
머스크와 xAI의 ‘베이비 그록’ 출시는 AI 시장 내 아동 친화 기술에 대한 요구의 결과임이 분명하다. 하지만 반복된 논란, 실효성 미흡한 안전장치, 불투명한 상세 정책 등으로 인해 진정성 논란은 해소되지 않은 상태다.
AI 챗봇의 사회적 책임, 아동 보호와 혁신 사이의 균형은 여전히 해결되지 않은 난제다. 향후 베이비 그록의 실제 론칭, 기능 상세 공개, 실현 가능한 안전장치 적용 여부에 따라 업계와 소비자의 신뢰 회복 여부가 결정될 전망이다.
