[뉴스스페이스=김정영 기자] 오픈AI가 챗GPT 내 성인용 콘텐츠, 특히 성애물(erotica) 허용 방침을 밝히면서 국내외에서 뜨거운 논란이 일고 있다. 샘 올트먼 최고경영자(CEO)는 2025년 10월 15일(현지시간), 자신의 소셜미디어(X, 옛 트위터)를 통해 “우리는 세계의 선출된 도덕 경찰이 아니다”며 "성인 이용자에게는 보다 폭넓은 표현의 자유를 제공하겠다"는 방침을 재확인했다.
로이터, BBC, CNBC, Fox Business, Variety, CBC에 따르면, 올트먼 CEO는 “12월부터 연령 확인(age-gating) 시스템을 완전히 도입하는 동시에 ‘성인 이용자는 성인답게 대하자’는 원칙에 따라 인증된 성인에게는 성인물 등 훨씬 더 많은 콘텐츠를 허용하겠다”고 밝혔다. 기존의 챗GPT는 정신건강 문제를 염려해 상당히 제한적인 콘텐츠 정책을 유지했으나, 이러한 제한이 정신적 문제가 없는 다수 이용자에게는 불편과 비효율성을 초래했다는 설명이다.
올트먼은 “중대한 정신건강 문제를 다룰 수 있는 새로운 도구들이 마련돼 대부분의 경우 제한을 완화할 준비가 됐다”고 덧붙였다.
한편, 이 같은 결정에 대해 반대하는 목소리도 만만치 않다. 전미성착취반대센터(NCOSE)의 헤일리 맥나마라 이사는 “성적으로 대상화된 AI 챗봇은 본질적으로 위험하며, 인위적으로 조작된 친밀감이 실제 정신건강에 악영향을 미칠 수 있다”고 경고했다.
또한, 실제 연령 확인이 제대로 이뤄질지에 대한 의문도 크고, 청소년의 접근 통제가 현실적으로 어렵다는 우려가 크다. 미디어 규제 전문가들도 AI 챗봇의 성인 콘텐츠 허용이 사회적 기준과 안전 문제를 새롭게 고민하게 만들 것이라고 평가한다.
올트먼 CEO는 “AI가 사람들의 삶에서 점점 더 중요한 역할을 맡게 되는 만큼, 이용자가 원하는 방식으로 AI를 사용할 자유를 허용하는 것은 우리의 사명에서 중요한 부분”이라고 강조하는 동시에, “타인에게 해를 끼치는 행위는 계속 금지하며, 정신건강 위기를 겪는 이용자와 그렇지 않은 이용자를 구분해 다룰 것”이라고 밝혔다. 이는 성인 이용자에게는 더 많은 자유를, 취약 이용자에겐 보호장치를 동시에 마련하겠다는 전략으로 풀이된다.
오픈AI는 이번 정책 변경과 함께 최근 미성년자 이용자를 위한 별도의 챗GPT 버전을 출시해, 연령별 맞춤형 콘텐츠와 안전장치를 강화하고 있다. 미성년자 사용자에게는 자살·자해, 성적 대화 등을 제한하며, 사용자와의 대화에서 그들의 정신건강 상태를 판단해 적절히 대응하는 시스템을 적용 중이다. 또한, 인공지능이 이용자 나이를 예측하는 신기술을 도입해 연령에 따른 접근 제한을 강화하겠다는 계획도 내비쳤다.
이와 함께, 메타(구 페이스북)도 18세 미만 인스타그램 사용자를 대상으로 등급 기반(미국 영화 PG-13 등급 기준) 필터를 적용하는 등, AI와 소셜미디어에서 미성년자를 보호하는 노력이 강화되고 있어 글로벌 기술기업 모두가 미성년자 보호와 성인 자유 보장 사이에서 균형을 모색하는 상황이다.
결국 이번 오픈AI의 성인 콘텐츠 허용 정책은 AI 서비스 진화와 이용자 자유 확대라는 긍정적 측면과 함께, 미성년자 보호, 정신건강 문제 악화 가능성 등 사회적 책임을 놓고 벌어지는 첨예한 논쟁을 불러일으키고 있다. 향후 관련 법제, 기술적 안전장치, 사회적 합의를 통한 조율이 필요하다는 지적이 제기된다.
