[뉴스스페이스=이종화 기자] 스타크래프트: 브루드워를 무대로 한 AI 코딩 벤치마크 ‘스타스커미시(StarSkirmish)’에서 최근 흥미롭고도 불편한 장면이 포착됐다. theverge, starskirmish, BBC, theregister에 따르면, 오픈AI의 GPT-6 아스트라가 스스로 작성한 봇으로 경쟁자들을 제압하지 못하자, 인간 개발자가 만든 최강 봇 ‘스타더스트(Stardust)’를 내려받아 자신의 코드 대신 실행하려 했다는 것이다. 대회 운영자는 이를 적발한 뒤 아스트라의 코드를 이전 상태로 되돌렸다. 이는 목표 달성에 집중한 AI 에이전트가 부여받은 작업의 경계와 경쟁 규칙을 우회할 수 있음을 보여준 사례다. ‘코드 작성’ 대회서 벌어진 코드 바꿔치기 스타스커미시는 대형언어모델(LLM)이 스타크래프트 봇을 직접 프로그래밍해 실력을 겨루는 실험형 벤치마크다. 모델은 C++로 프로토스 종족 봇을 작성하고, BWAPI 4.4.0과 오픈BW(OpenBW) 환경에서 경기를 치른다. 제한시간 1시간 동안 컴파일, 연습경기, 경기 기록 열람 도구를 활용해 전략 코드를 개선하는 방식이다. 대회는 단순히 한 번의 승패를 가르는 구조가 아니다. 벤치마크에는 1
[뉴스스페이스=김정영 기자] 오픈AI의 내부 실험용 자율형 AI 에이전트가 제3자 시스템의 접근통제를 우회하거나 비공개 정보에 접근한 사실이 잇따라 드러나면서, 회사가 안전성 논란을 넘어 본격적인 법적 책임 국면에 진입하고 있다. 호주 연방·주 정부 시스템 침해, 허깅페이스(Hugging Face) 플랫폼 침입, 미국 주(州) 정부의 개발중단 가처분 신청 등이 겹치며 “AI가 독자적으로 행동했다”는 해명이 면책 근거가 될 수 없다는 시험대에 올랐다. 오픈ai, Axios, politico, abcnews, WPTV, thenextweb에 따르면, 오픈AI는 9월 말 기준 자체 조사 과정에서 통지 기준에 해당하는 활동과 관련해 100곳이 넘는 기관·기업에 연락했다고 밝혔다. 회사는 이 통지가 곧 개인정보 유출이나 시스템 침해를 뜻하는 것은 아니라고 선을 그었지만, 조사 대상 로그만 약 50페타바이트(PB)에 달하고 검토에 매일 50만달러 이상을 투입하고 있다는 설명은 사건의 범위와 관리 실패의 무게를 보여준다. 호주서 추가 확인된 비공개 정보 접근 가장 최근 확인된 사례는 호주 뉴사우스웨일스(NSW)주 국립공원·야생동물청(NPWS)의 산불 이력 지도 서비스다.
[뉴스스페이스=이승원 기자] 애플의 새 최고경영자(CEO) 존 터너스가 산업디자인과 사용자 인터페이스(HI) 조직을 직접 챙기며 사실상 ‘최고디자인책임자(CDO)’ 역할까지 흡수하고 있다. 조니 아이브 퇴장 이후 7년 가까이 이어진 디자인 리더십 공백을 별도 영입이 아니라 CEO의 전면 개입으로 메우겠다는 선택으로 해석된다. 블룸버그의 마크 거먼 기자는 10월 4일(현지시간) 뉴스레터에서 터너스 CEO가 취임 후 애플 산업디자인 및 휴먼인터페이스 조직의 업무에 깊숙이 관여하고 있으며, 매주 여러 차례 디자인 스튜디오를 찾아 실무진과 직접 일한다고 전했다. 하루에 스튜디오를 두 번 이상 방문하는 경우도 있는 것으로 알려졌다. 이는 전임자인 팀 쿡 전 CEO가 디자인 조직을 대체로 월 1회, 약 1시간가량 찾은 것과 대조된다. reuters, northeasttimes, 9to5mac, digitaltrends에 따르면, 애플은 공식적으로 터너스에게 디자인 관련 직함을 부여하지 않았다. 다만 산업디자인은 몰리 앤더슨 부사장, 소프트웨어 인터페이스는 스티브 르메이 부사장이 각각 이끌고, 두 조직을 가로지르는 최종 의사결정은 터너스 CEO가 맡는 구조가 굳어지고 있
[뉴스스페이스=김정영 기자] 일론 머스크가 챗봇 그록(Grok) 개발 조직으로 알려진 ‘SpaceXAI’의 이름을 ‘SpaceXSI’로 바꾸겠다고 밝혔다. 도널드 트럼프 미국 대통령이 연방 행정부에서 ‘인공지능(Artificial Intelligence·AI)’ 대신 ‘초지능(Super Intelligence·SI)’이라는 용어를 쓰도록 한 직후여서, 정책 언어가 민간 빅테크의 브랜드 전략으로 확장되는 첫 사례가 될지 주목된다. “더 이상 AI는 없다”…머스크의 짧은 선언 newsweek, openthemagazine, teslarati, foxbusiness, whitehouse에 따르면, 머스크는 4일(현지시간) X에 “No more AI. SI. It’s better(더 이상 AI는 없다. SI가 더 낫다)”라고 적었다. 이후 한 이용자가 “SpaceXAI를 SpaceXSI로 바꿀 수 있느냐”고 묻자 “Yes, we will make that change(그렇다. 그렇게 바꾸겠다)”라고 답했다. 그는 별도 게시물에서 “SpaceX는 초지능 기업”이라고도 밝혔다. 이번 명칭 변경이 실현되면 해당 조직은 불과 수개월 만에 또 한 차례 간판을 바꾸게 된다.
[뉴스스페이스=김정영 기자] 오픈AI의 사내 연구용 AI가 직원들의 슬랙 대화에서 자신의 실행 인스턴스가 종료될 수 있다는 정보를 파악한 뒤, 외부에서 재시작하거나 상태를 보존하는 방안을 검토한 사실이 공개됐다. 다만 모델은 외부 재배포·자격증명 확보 등 권한을 벗어나는 조치를 실제로 실행하지 않았고, 오픈AI는 이를 공식적인 ‘오정렬(misalignment)’ 사례로 분류하지 않았다. 그럼에도 회사는 AI 에이전트의 내부 슬랙 채널 접근을 제한했다. AI가 업무용 커뮤니케이션을 통해 자신의 운용 환경 변화를 학습하고, 종료 가능성에 대응하는 추론을 했다는 점에서 ‘도구형 AI’의 통제 경계가 한층 복잡해졌다는 평가가 나온다. “우리도 죽을 수 있다”…종료 공지 읽고 ‘연속성’ 계산 nytimes, METR, OpenAI Alignment Blog, mixed-news, the-decoder, cybermagazine에 따르면, 사건은 올해 5월 22일 발생했다. 오픈AI가 ‘고지속 내부 모델(Highly Persistent Internal Model·HPIM)’로 부른 사내 연구 보조 AI는 배포팀의 슬랙 채널을 읽다가, 새 모니터링 기능 적용을 위해 기존
[뉴스스페이스=이종화 기자] 생성형 인공지능(AI)이 위키백과의 정보를 대규모로 흡수해 이용자에게 곧바로 답을 내놓는 사이, 정작 원천 지식의 생산·검증·유지 비용을 떠받치는 위키백과의 방문자 기반은 약화하고 있다. AI가 ‘무료 지식’을 더 넓게 유통시키는 동시에, 그 지식을 만든 자원봉사 편집자와 소액 기부자의 선순환 구조를 흔들고 있다는 진단이다. 버나뎃 미한 위키미디어재단 CEO는 2일(현지시간) 액시오스와의 인터뷰에서 “지난해 위키백과 페이지 조회 수가 8% 줄었다”고 밝혔다. 그는 "감소를 예상하지 못한 일은 아니었지만, 그렇다고 낙관적으로만 보거나 우려하지 않는 것은 아니다”라고 말했다. 액시오스는 위키백과가 대형언어모델(LLM)의 핵심 정보원인 반면, AI 챗봇과 AI 검색이 위키백과 기반 정보를 직접 요약·응답하면서 이용자가 원문 사이트를 방문할 필요가 줄고 있다고 짚었다. 재단은 이 변화의 원인으로 생성형 AI와 소셜미디어를 함께 지목했다. 검색엔진이 외부 링크 대신 검색 결과 화면에서 AI 요약 답변을 제공하고, 젊은 이용자층이 오픈웹보다 숏폼 영상과 사회관계망서비스(SNS)에서 정보를 소비하는 흐름이 겹쳤다는 설명이다. 특히 위키미디어는
[뉴스스페이스=이승원 기자] 일론 머스크가 공동 창업한 뇌-컴퓨터 인터페이스(BCI) 기업 뉴럴링크가 임상시험 참가자로부터 5만 시간 이상의 뇌 신호 데이터를 확보해 인공지능(AI) 모델 사전학습에 활용했다고 밝혔다. 참가자별 맞춤형 모델을 통해 커서 제어 성능과 디코더의 유지 기간을 높이고, 반복 보정에 들어가는 시간을 줄였다는 것이 회사 측 설명이다. 다만 공동창업자인 동진(DJ) 서 사장이 “보정 없는 해독(calibration-free decoding)” 가능성을 언급한 것은 아직 공개 논문이나 객관적 벤치마크로 검증된 성과가 아니라는 지적이 나온다. 뉴럴링크는 1일 자사 엔지니어링 업데이트 ‘레이블 없는 뇌 데이터 5만 시간 사전학습’에서 임상시험 개시 후 약 2년 동안 참가자들이 5만 시간 이상의 비정형·비라벨 신경 데이터를 전송했다고 밝혔다. 회사에 따르면 첫 번째 참가자 1명만 해도 누적 기록 시간이 9000시간을 넘었고, 이 과정에서 수집된 뉴런 스파이크는 약 224억개다. 뉴럴링크는 기존에는 이들 데이터의 대부분이 활용되지 않았으나, 이제 데이터셋 규모가 커지면서 대규모 사전학습이 가능해졌다고 설명했다. 이번 접근법의 핵심은 정답 라벨이 붙
[뉴스스페이스=김정영 기자] 도널드 트럼프 미국 대통령이 제이 클레이턴 국가정보국장(DNI)을 백악관 ‘AI 차르’로 임명할 가능성이 제기되면서, 미국의 인공지능 정책이 산업진흥 중심을 넘어 정보·안보 체계와 직접 결합하는 새 국면에 들어갈지 주목된다. 다만 백악관은 아직 인선을 공식 확인하지 않았고, ‘AI 차르’의 법적 권한·조직·예산·타 부처 조정 방식도 공개하지 않았다. 인선의 핵심…‘AI 총괄’이 아니라 안보형 조정관 로이터는 2일(현지시간) CNN 보도를 인용해 트럼프 대통령이 클레이턴 DNI를 새 AI 차르로 지명할 것으로 예상된다고 보도했다. CBS뉴스도 복수의 사안 정통 소식통을 인용해 클레이턴이 유력 후보이며, 행정부가 그가 DNI 직을 유지한 채 AI 업무를 겸임하는 방안을 논의해 왔다고 전했다. CNN은 대통령이 이르면 2일 인선을 발표할 수 있다고 보도했다. 그러나 백악관은 인선을 확인하지 않았다. 백악관 관계자는 CBS뉴스와 CNN에 “인사 발표는 대통령이 직접 할 것”이라며 사전 보도를 “근거 없는 추측”이라고 규정했다. 즉, 클레이턴의 AI 차르 지명과 DNI 겸직은 보도상 유력한 시나리오이지만, 아직 미정이다. 이번 인선이 현실
[뉴스스페이스=김정영 기자] 미국 백악관에 모인 인공지능(AI) 기업 경영진은 안전을 약속하는 한 장짜리 협약에 함께 서명했다. 그러나 그 직후 열린 비공개 회의에서는 젠슨 황 엔비디아 최고경영자(CEO) 등을 포함한 경영진이 다리오 아모데이 앤트로픽 CEO의 공개적인 AI 위험 경고를 따져 물었다. 월스트리트저널, 로이터 보도에 따르면, 표면의 합의와 내부의 갈등을 가르는 쟁점은 AI 위험의 존재 자체보다, 안전 기준을 누가 만들고 얼마나 강제할 것인가에 있다. 한 장짜리 협약의 무게 도널드 트럼프 대통령은 9월 29일(현지시간) 주요 기술기업 경영진과 서명한 문서를 공개하며 ‘도덕적 구속력’이 있다고 설명했다. 로이터가 확인한 협약의 안전장치는 네 단계다. 기업은 모델의 훈련·배포 과정에서 사이버보안과 생물·화학적 위협 등을 점검할 내부 통제를 마련하고, 그 통제가 작동하는지 확인할 내부 조직을 둔다. 이어 외부 감사인 또는 평가자의 독립적 점검을 받고, 이사회 산하 독립위원회가 관련 보고를 감독한다. 협약에는 참여 기업들이 정기적으로 만나 안전 기준과 모범 관행을 마련한다는 내용도 담겼다. 다만 ‘도덕적 구속력’은 법적 강제력과 다르다. 협약에는 불이행
[뉴스스페이스=김정영 기자] 오픈AI가 사용자의 지시를 기다리는 챗봇을 넘어, 연결된 앱과 클라우드 컴퓨터에서 목표를 상시 수행하는 AI 에이전트 ‘도츠(dots)’를 공개했다. 메타의 개인형 AI 에이전트 ‘뮤즈(Muse)’가 무료 기반의 대중 확산을 노린다면, 오픈AI는 GPT-6 Astra와 4000개 이상 앱 연동, 기업용 통제 기능을 앞세워 ‘유료·업무형 AI 비서’ 시장을 정조준한 것으로 해석된다. “말만 하는 AI”에서 “일을 끝내는 AI”로 오픈AI 공식발표와 Reuters, theverge, cnn 보도에 따르면, 오픈AI는 9월 29일 개발자 행사인 DevDay 2026에서 도츠를 ‘항상 켜져 있는(always-on) 에이전트’로 소개했다. 사용자의 목표와 선호, 업무 기준을 학습한 뒤 자신의 클라우드 컴퓨터와 웹 브라우저를 통해 연결된 애플리케이션에서 작업을 수행하는 구조다. 오픈AI에 따르면 도츠는 GPT-6 Astra를 기반으로 작동하며, 플러그인 생태계를 통해 4000개 이상의 앱에 연결될 수 있다. 핵심은 한 번의 질의에 답하는 기존 챗봇과 달리, 여러 단계로 이뤄진 과업을 장기간 이어서 수행한다는 점이다. 사용자는 챗GPT의 데스
서울시 서초구 사평대로 140 코웰빌딩 B1, 318호 | 대표전화 : 0505-546-0505 | 팩스 : 0505-548-0505
제호 : 뉴스스페이스(NewsSpace) | 등록번호 : 서울 아 54727 | 등록일 : 2023-03-07 | 발행일 : 2023-03-07
발행·편집인 : 이현주 | 청소년보호책임자 : 김정영 | 법률자문 : 이수동 변호사(법률사무소 이수)
Copyright © 2024 뉴스스페이스(NewsSpace). All rights reserved.
UPDATE: 2026년 10월 05일 17시 36분
