[뉴스스페이스=이종화 기자] “AI에게 비밀을 털어놓는 순간, 그것은 더 이상 ‘당신만의 비밀’이 아닙니다.”

 

오픈AI 샘 올트먼 CEO가 최근 수백만명에 이르는 챗GPT 사용자들에게 "AI와 나눈 개인 대화는 법적 비밀보호가 전혀 없다"며 강력한 경고를 날렸다.

 

그는 “사람들이 가장 민감한 인생사를 챗GPT에 토로하지만, 그 대화 내용은 법적 특권(Confidentiality)이나 비밀유지 의무가 없으며, 법정 증거로 제출될 수 있다”고 밝혔다.

 

상담사·의사·변호사와 '대화'는 보호, AI는 예외

 

샘 올트먼은 ‘디스 패스트 위켄드’ 팟캐스트를 통해 “사람들은 치료사에게 하듯 챗GPT에 관계 문제부터 고민까지 다 털어놓고 조언을 구한다"면서 "그러나 상담사, 의사 등의 인간 전문가와는 달리, AI에는 이런 프라이버시가 적용되지 않는다"고 설명했다.

 

실제로 관련 글로벌 기사들과 테크저널리즘에 따르면, 의사, 치료사, 변호사와의 대화는 ‘법적 특권’ 또는 ‘비밀보호’ 체계로 안전하지만, 챗GPT 등 AI 챗봇과의 대화는 보호 장치가 전혀 없다.

 

테크크런치 등 주요 언론도 “AI 시스템의 법적정책이 미완성이라, 수사기관이나 법원이 요구할 경우 AI 기록이 통째로 제출될 가능성이 높다"고 지적한다.

 

법원 “모든 사용자 대화 무기한 보존” 명령…AI 프라이버시 현실로

 

문제는 우려가 현실이 되고 있다는 점이다.

 

2025년 5월 미국 남부지방법원의 오나 T. 왕 치안판사는 오픈AI에 “삭제 예정이었던 모든 챗GPT 대화 로그를 보존하고 분리하라”고 명령했다. 이는 <뉴욕타임즈> 등 주요 언론사들이 제기한 저작권 소송의 일환으로, 해당 명령은 무료, 플러스, 프로, 팀 이용자 모두에게 적용되고 있다. 엔터프라이즈·교육용 고객, 특정 API 고객만 예외다.

 

이 명령으로 챗GPT는 기존 ‘30일 내 대화 자동 삭제, 임시채팅 즉시 삭제’ 정책을 폐기, 모든 대화를 무기한 저장해야 한다.

 

이미 삭제한 과거 대화, 임시챗, 삭제표시한 데이터까지 소급 보존 대상이다.

 

대화 본문뿐 아닌 타임스탬프, 유저식별정보·메타데이터 등 행태분석 데이터까지 포함, 이용자 프로필이 장기적으로 누적된다는 분석이다.

 

실제 오픈AI는 "매일 수백~수천만 건의 대화가 유입되고 있으며, 이러한 데이터의 무기한 보존은 시스템 운용, 인프라 비용 증가뿐 아니라 GDPR 등 세계 개인정보보호 룰과도 상당히 충돌"한다고 법원에 항변 중이다.

 

하지만 법원은 "필요한 증거보전을 위해 전체 서비스 기록 동결이 불가피하다"고 판단했다. 보존 명령은 소송 종료(최소 수년, 경우에 따라 10년 이상)까지 계속될 가능성이 있다.

 

GDPR(일반 개인정보 보호법)은 유럽연합(EU)에서 제정한 포괄적인 데이터 보호 및 개인정보 보호법으로, 2018년 5월 25일부터 시행됐으며, EU 회원국 내에서 이루어지는 거래나 서비스 제공과 관련하여 EU 시민의 개인 데이터를 강력하게 보호하기 위해 만들어졌다.

 

1억8000만명, 6억회/월 사용…폭증 속 데이터 안전성 논란
2025년 기준 챗GPT 이용자는 1억8000만명, 월평균 사용 횟수는 6억회를 돌파했다. 그러나 2025년 5월부로 무료·플러스 계정의 '채팅 비활성화' 옵션도 폐지돼, 대부분 사용자가 특별한 조치 없이는 데이터가 영구 보관될 처지다.

 

“AI 대화, 왓츠앱·시그널과 달리 종단간 암호화도 없어”

프라이버시 옹호 단체들은 “챗GPT 대화는 왓츠앱·시그널 등과 달리 종단간 암호화도 적용되지 않아, 오픈AI가 언제든 내용을 열람할 수 있다”고 비판한다. 이로 인해, "이미 영구삭제했다고 믿었던 민감 대화들이 내부 시스템에 남아 있을 수밖에 없어, 디지털 시대 프라이버시 패러다임의 근본적 변화가 시작됐다"고 진단한다.

 

AI 대화의 법적 증거화, 산업계·법조계 충격파

이 같은 기조는 경제·산업·법조계 전반에 큰 영향력을 미치고 있다. 예를 들어, 영업기밀, 연구보고, 미공개 아이디어, 내부정보, 심지어 언론의 특종제보까지 챗GPT 내 대화로 남아 있다면, 언제든 소송 절차에서 소환될 수 있다. 세계적 개인정보보호 기준(GDPR)이 '정보수집 최소화'를 요구하지만, 법원의 데이터동결 명령엔 속수무책인 셈이다.

 

글로벌 “AI 대화 비밀보호 법제화” 논의, 아직은 미완성

각국에서는 AI 대화에도 오프라인 전문가 수준의 비밀보호를 적용해야 한다는 주장이 확산된다. 미국·유럽을 중심으로 개인정보보호와 AI 데이터 거버넌스를 강화하는 주별 법률제정이 봇물처럼 쏟아지는 중이다.

 

예컨대, 2025년 1월 이후 미국서만 7개 이상 주(州)에서 새로운 AI·데이터 프라이버시법이 시행되고, 캘리포니아주 등은 AI 시스템을 개인정보법 적용대상에 새로 반영하고 있다. 그러나 아직 AI 대화에 대한 일관된 법적 특권이나 실질적 프라이버시 보장은 전면 도입되지 않았다.

 

“AI는 당신의 ‘상담사’가 아니다”…디지털 프라이버시 숙고 필요

이용자 입장에서는 챗GPT와 같은 AI 챗봇과 나누는 대화를 이메일, 문자메시지처럼 ‘법정 증거로 사용될 수 있는 데이터’로 간주하고, 민감한 정보는 최대한 신중하게 다뤄야 한다는 것이 전문가 다수의 경고다.

 

샘 올트먼은 “1년 전만 해도 이런 걸 고민할 필요가 없었다. AI 대화에도 인간상담사와 같은 프라이버시 원칙이 시급히 필요하다”고 역설했다.