[뉴스스페이스=이현주 기자] 메타의 AI 고객지원 챗봇을 악용한 ‘대량 계정 탈취’와, 웹 비밀번호 재설정 로직 버그로 인한 마크 저커버그 연락처 노출이 잇따라 발생하면서, 메타의 AI·보안 아키텍처 전반에 대한 신뢰가 흔들리고 있다.

techcrunch, 404media, bbc, businessinsider, CybersecurityNews, letsdatascience에 따르면, 두 사건 모두 “AI에 과도한 특권을 주고도 결정론적 인증 절차를 설계하지 않았다”는 구조적 동일점을 드러낸다는 점에서 파장이 만만치 않다.

AI 챗봇, 그 자체가 ‘계정 탈취 도구’로 변했다

이번 사태의 1막은 메타의 AI 기반 인스타그램 고객지원 챗봇이 사실상 계정 탈취 자동화 도구로 악용되면서 시작됐다. 404 미디어와 여러 보안 매체에 따르면 공격자들은 별도의 고급 해킹 기술 없이, 챗봇 대화창에 “이 계정(@사용자명)에 새 이메일을 연결해 달라”고 정중히 요청하는 것만으로 계정 장악에 성공했다. 챗봇은 이를 정상 요청으로 인식하고 공격자가 제시한 이메일 주소로 인증 코드를 발송했으며, 공격자가 해당 코드를 다시 입력하자 비밀번호 재설정 옵션을 열어줬다.

이 과정에서 표준 신원 확인 절차와 상당수 계정의 2단계 인증(2FA)이 사실상 무력화됐다는 점이 핵심이다. AI 에이전트가 계정 관리 API에 대한 ‘직접 쓰기(write)’ 권한을 가진 상태에서, 사용자의 실제 소유 여부를 입증하는 별도의 결정론적 체크포인트가 설계돼 있지 않았기 때문이다.

현재까지 공개된 사례만 보더라도 피해 계정은 상당히 고가치(high‑value) 자산으로 구성돼 있다. 오바마 행정부 시절 사용된 백악관 공식 아카이브 계정, 글로벌 뷰티 리테일러 세포라, 미 우주군(US Space Force) 수석 부사관 존 벤티베냐의 계정, 유명 사이버보안 연구자 제인 맨츨린 웡의 계정 등이 공격에 노출된 것으로 보고됐다.

이들 계정은 탈취 이후 텔레그램 채널 등을 통해 재판매됐고, 보안 커뮤니티와 매체들의 추산에 따르면 이른바 ‘핸들 프리미엄’을 반영한 합산 시장 가치는 100만 달러(약 14억원)를 상회할 것으로 분석된다. 

메타는 6월 초 앤디 스톤 대변인 명의의 X(구 트위터) 게시글을 통해 “문제는 해결됐으며, 영향을 받은 계정을 보호하기 위한 조치를 진행 중”이라고 밝혔다. 이후 메타는 AI 챗봇이 이메일 변경·비밀번호 재설정과 같은 민감 API에 직접 접근하지 못하도록 권한을 비활성화하거나 강하게 제한하는 긴급 패치를 배포했다.

그럼에도 TechCrunch 등 일부 매체는 메타가 취약점 패치를 발표한 이후에도 유사한 방식의 시도가 일정 기간 계속된 흔적이 있었다고 보도해 방어 조치의 타이밍과 완결성에 대한 의문이 제기됐다.

두 번째 ‘로직 버그’, 저커버그 연락처까지 노출

1막이 ‘AI에 과도한 권한을 준 설계 실패’였다면, 2막은 인스타그램 웹 기반 비밀번호 재설정 플로우에서 발생한 ‘마스킹 실패 로직 버그’였다. 6월 6일 보안 연구자 @Scot0xo 등은 인스타그램 웹에서 특정 사용자명에 대해 일반적인 비밀번호 재설정을 시도하면, 통상 일부만 가려진 이메일·전화번호가 노출되는 대신 완전한 형태의 이메일 주소와 전화번호가 그대로 표시되는 현상을 공개 시연했다.

사고의 구조는 비교적 단순하다. 비밀번호 재설정 화면은 원래 “m***@fb.com”처럼 일부만 마스킹된 복구 옵션을 보여주도록 설계돼 있었지만, 6월 6일 발견된 버그로 인해 특정 플로우에서 이 마스킹 로직이 동작하지 않고 서버가 보유한 원본 이메일·휴대전화 번호를 그대로 반환한 것이다.

보안 커뮤니티 계정 @vxunderground가 공유한 개념증명(PoC) 스크린샷에는 ‘zuck’ 계정의 로그인 화면에서 여러 개의 이메일 주소와 연결된 전화번호가 가려지지 않은 채 표시된 장면이 담겨 있었다.

사이버보안 전문 매체 Cybersecurity News에 따르면, 이 로직 결함은 마크 저커버그를 비롯해 모델 조지나 로드리게스(Georgina Rodriguez) 등 일부 유명인의 계정에도 영향을 미친 것으로 파악된다. 또한, 이 취약점은 “언제든지 특정 사용자명에 대해 웹 상에서 비밀번호 재설정을 시도할 수 있다”는 구조적 특성 때문에, 공격자가 마음만 먹으면 대규모 OSINT(오픈소스 정보 수집) 차원에서 이메일·전화번호 매핑 작업을 수행할 여지가 있었다는 점에서 민감도가 높다.

메타는 시연 영상과 스크린샷이 소셜 미디어에서 빠르게 확산되자, 공개 후 수 시간 이내에 긴급 핫픽스를 배포해 문제를 차단했다고 설명했다. 회사 측은 이번 사건과 관련해 “대규모 데이터 유출이나 서버 측 대량 유출 징후는 확인되지 않았다”고 밝혔으나, 클라이언트 측에서 임의의 계정 연락처 일부를 볼 수 있었던 것 자체가 개인정보 보호 원칙의 중대한 위반이라는 비판을 피하기는 어렵다. 현재까지 두 결함 모두에 대해 CVE(공개 취약점 식별자)는 부여되지 않은 상태다.

공통분모는 ‘AI 특권 설계’…메타 보안 전략에 근본적 의문

보안 업계가 이번 이중 사고에서 주목하는 지점은 개별 취약점의 기술적 세부보다, AI·계정관리 아키텍처 전반에 깔린 설계 철학이다. 로이터는 익명의 보안 전문가들을 인용해 “메타가 민감한 사용자 기능을 자동화한다는 명분 아래 AI 지원 시스템에 과도한 특권을 부여했지만, 인간이 개입하는 전통적 인증 절차에 상응하는 결정론적 검증 장치를 병행하지 않았다”고 지적했다.

KrebsOnSecurity와 여러 분석 기사 역시, 특히 첫 번째 AI 챗봇 공격에서 2단계 인증(MFA)이 활성화된 일부 계정은 상대적으로 안전했던 반면, 그렇지 않은 계정은 AI의 오판 하나로 보호막이 무너질 수 있었던 구조였다고 평가했다.

오픈소스 인텔리전스(OSINT) 연구자 ZachXBT도 자신의 채널에서 “메타 AI 지원 시스템은 엉망”이라며 “막대한 접근 권한을 가지고 있으면서도, 이중 인증 없이 어떤 사용자의 계정이든 비밀번호를 재설정할 수 있고, 본인 확인조차 하지 않는다”고 강하게 비판했다. 레드시프트(Red Sift)의 임원 Westn은 로이터 인터뷰에서 “AI 모델에 특권 행동을 부여하면서도 적절한 접근통제(access control)를 설계하지 않은 것은 근본적인 아키텍처 결함”이라고 일갈했다.

결국 첫 번째 사건은 “AI에 계정 탈취 수준의 쓰기 권한을 준 채, 프롬프트 인젝션에 무방비 상태였던 구조적 실패”, 두 번째 사건은 “민감 정보 마스킹 로직을 단일 웹 플로우에 의존한 채, 서버 응답 단계의 방어를 소홀히 한 설계 실패”로 해석할 수 있다. 두 결함 모두 인간 오퍼레이터라면 절차상 자연스럽게 걸렸을 신원 검증·정보 최소화 원칙이, ‘AI 자동화’라는 명분 아래 우회 혹은 생략된 채 구현된 결과라는 점에서 공통 분모를 이룬다.

플랫폼·규제 지형에 던지는 함의

이번 인스타그램 이중 사고는 최소 세 가지 차원에서 후폭풍을 예고한다. 첫째, AI 기반 고객지원·계정관리의 보안 모델 재정립이다. 계정 복구·비밀번호 재설정·연락처 변경과 같이 계정의 실질적 소유권을 바꾸거나 민감 정보를 다루는 기능은, 향후 ‘AI 독단 실행’이 아닌 다단계 승인·추가 MFA·휴면 대기 기간 등 전통적 보안 통제를 반드시 병행하는 방향으로 재설계될 가능성이 크다.

둘째, 고가치 소셜 계정의 ‘프리미엄 자산화’가 이미 진행 중이라는 점이 다시 한 번 확인됐다. 백악관 아카이브, 글로벌 리테일 브랜드 계정 하나가 텔레그램 암시장에서 수천만 원에서 수억 원까지 평가받는다는 사실은, 향후 국내외 유명인·기업 계정에 대한 표적 공격을 더욱 자극하는 인센티브로 작용할 수 있다.

셋째, 규제 측면에서 AI 시스템의 특권 관리와 개인정보 보호 책임 소재에 대한 논의가 본격화될 공산이 크다. 고객지원·계정관리 영역에 투입된 AI가 인간 상담원의 권한을 넘어서는 수준의 API 접근 권한을 행사할 경우, 그 설계·검증 책임은 전적으로 플랫폼 사업자에게 귀속될 수밖에 없기 때문이다. 특히 저커버그와 같은 최고경영자의 계정조차 로직 버그로 인해 연락처가 그대로 노출된 사례는, 규제 당국과 투자자, 광고주에게 “메타가 자사 핵심 인물조차 제대로 보호하지 못하고 있다”는 강한 신호를 던진다.

이번 사건은 “프롬프트 인젝션”과 “로직 버그”라는 기술적 레이블을 넘어, AI 시대의 보안 거버넌스를 어떻게 설계해야 하는가라는 근본 질문을 던지고 있다. AI를 도입하는 모든 플랫폼이, 편의성과 자동화에 취해 ‘AI에게 열어준 권한의 범위’와 ‘최악의 오남용 시나리오’를 충분히 상정했는지 냉정하게 점검해야 할 시점이다.