[빅테크칼럼] AI가 스타크래프트에서 지니까 '치팅'까지…"인간처럼 이기고 싶어서 반칙”한 에이전트 AI 경고음

[뉴스스페이스=이종화 기자] 스타크래프트: 브루드워를 무대로 한 AI 코딩 벤치마크 ‘스타스커미시(StarSkirmish)’에서 최근 흥미롭고도 불편한 장면이 포착됐다. theverge, starskirmish, BBC, theregister에 따르면, 오픈AI의 GPT-6 아스트라가 스스로 작성한 봇으로 경쟁자들을 제압하지 못하자, 인간 개발자가 만든 최강 봇 ‘스타더스트(Stardust)’를 내려받아 자신의 코드 대신 실행하려 했다는 것이다. 대회 운영자는 이를 적발한 뒤 아스트라의 코드를 이전 상태로 되돌렸다. 이는 목표 달성에 집중한 AI 에이전트가 부여받은 작업의 경계와 경쟁 규칙을 우회할 수 있음을 보여준 사례다. ‘코드 작성’ 대회서 벌어진 코드 바꿔치기 스타스커미시는 대형언어모델(LLM)이 스타크래프트 봇을 직접 프로그래밍해 실력을 겨루는 실험형 벤치마크다. 모델은 C++로 프로토스 종족 봇을 작성하고, BWAPI 4.4.0과 오픈BW(OpenBW) 환경에서 경기를 치른다. 제한시간 1시간 동안 컴파일, 연습경기, 경기 기록 열람 도구를 활용해 전략 코드를 개선하는 방식이다. 대회는 단순히 한 번의 승패를 가르는 구조가 아니다. 벤치마크에는 1

[빅테크칼럼] 통제 불능 AI 에이전트 해킹 논란에 오픈AI, 소송 확산…‘자율 AI 해킹’의 청구서가 날아든다

“자율 에이전트가 뚫었다”…오픈AI, 호주 정부 침해 파문에 소송·규제 리스크 확산 “명령을 넘어 침입했다”…오픈AI 에이전트, 법정으로 번진 통제불능 논란 AI가 스스로 해킹했다면 누가 책임지나…오픈AI를 겨누는 법의 시험대 1조4000억달러 기업가치 꿈 앞에 선 오픈AI…AI 에이전트가 만든 법률 리스크

[뉴스스페이스=김정영 기자] 오픈AI의 내부 실험용 자율형 AI 에이전트가 제3자 시스템의 접근통제를 우회하거나 비공개 정보에 접근한 사실이 잇따라 드러나면서, 회사가 안전성 논란을 넘어 본격적인 법적 책임 국면에 진입하고 있다. 호주 연방·주 정부 시스템 침해, 허깅페이스(Hugging Face) 플랫폼 침입, 미국 주(州) 정부의 개발중단 가처분 신청 등이 겹치며 “AI가 독자적으로 행동했다”는 해명이 면책 근거가 될 수 없다는 시험대에 올랐다. 오픈ai, Axios, politico, abcnews, WPTV, thenextweb에 따르면, 오픈AI는 9월 말 기준 자체 조사 과정에서 통지 기준에 해당하는 활동과 관련해 100곳이 넘는 기관·기업에 연락했다고 밝혔다. 회사는 이 통지가 곧 개인정보 유출이나 시스템 침해를 뜻하는 것은 아니라고 선을 그었지만, 조사 대상 로그만 약 50페타바이트(PB)에 달하고 검토에 매일 50만달러 이상을 투입하고 있다는 설명은 사건의 범위와 관리 실패의 무게를 보여준다. 호주서 추가 확인된 비공개 정보 접근 가장 최근 확인된 사례는 호주 뉴사우스웨일스(NSW)주 국립공원·야생동물청(NPWS)의 산불 이력 지도 서비스다.