[뉴스스페이스=김정영 기자] AI 시장이 다시 한 번 분기점에 들어섰다. 이제는 ‘무제한 토큰 태우기’가 아니라, 토큰 단가와 ROI(투자 대비 효과)를 따지는 냉정한 숫자의 시대다.

테슬라는 7월 6일부터 직원 1인당 AI 사용 비용을 주당 200달러(약 30만원)로 제한하는 정책을 시행한다. 그동안 일부 소프트웨어 엔지니어는 주당 수천 달러 수준의 토큰 비용을 쓰고 있었고, 이 비용을 더 이상 방치하지 않겠다는 의미다. 연간으로 환산하면 1인당 약 1만400달러(주 52주 기준) 수준에서 상한선을 그은 셈이다. 테슬라는 상한을 넘기려면 별도 승인을 받도록 했고, 머스크가 이끄는 xAI의 베타 모델은 예외로 두면서 내부 트래픽을 자사 생태계로 흡수하려 한다.

“사람보다 비싼 AI”... 빅테크, 토큰 폭주에 브레이크

테슬라 사례는 단일 기업의 이슈가 아니라, 전 세계 빅테크가 동시에 겪고 있는 ‘AI 비용 충격’의 단면이다. 오픈AI와 앤트로픽 등이 월 구독제에서 종량제(사용량 기반 요금제)로 가격 체계를 전환하면서, 기업들의 토큰 비용이 인건비를 넘어섰다는 분석이 잇따른다.

우버는 엔지니어용 AI 코딩 도구의 월간 토큰 사용 한도를 직원 1인당 1500달러(약 230만원)로 설정하는 등, AI를 ‘무한정 쓰는’ 시대가 끝나가는 신호가 뚜렷하다. 가트너 역시 "2028년이면 AI 코딩 비용이 개발자 연봉을 넘어설 것"이라는 전망을 내놓으며, "토큰 비용 통제가 곧 개발비 관리의 핵심 변수로 떠오를 것"이라고 경고했다.

“가성비 AI”로 전환... 토큰 라우팅 구조의 부상

토큰 단가가 개발비를 좌우하는 국면에서, 기업들은 더 이상 ‘최고 성능’만을 좇지 않는다. 앤트로픽은 입력 토큰 100만개당 3달러, 출력 토큰 100만개당 15달러(프로모션 기간에는 각각 2달러, 10달러)라는 가격을 내세운 클로드 소네트 5를 전면에 내세우며 ‘가성비 AI’ 시장 공략에 나섰다.

이는 코인베이스 등이 GLM·Kimi 등 중간급 모델로 작업을 라우팅해, ‘충분히 좋고 싸게’ 결과를 뽑는 구조를 구축한 것과 같은 맥락이다. 비즈니스 현장에서는 고성능 프런티어 모델을 모든 업무에 쓰는 대신, 요약·코딩·고객 응대 등 각 작업마다 “가장 싼데 충분히 좋은” 모델로 분산시키는 멀티 모델·멀티 벤더 전략이 빠르게 확산되고 있다.

중국이 선점하는 ‘중간 모델’ 계층

이런 ‘토큰 라우팅’ 시대의 최대 수혜자는 중국이다. 미국 수출 규제로 엔비디아 GPU 공급이 막힌 중국 내에서, 화웨이와 중국 로컬 LLM들이 “조금 덜 똑하지만 훨씬 싼” 중간 성능 계층을 빠르게 점유하고 있다. 파이낸셜타임스에 따르면, 화웨이는 최신 AI 칩 ‘어센드 950PR’를 중심으로 중국 기술기업들로부터 대량 주문을 확보했고, 올해 AI 반도체 매출을 약 120억달러 수준으로 전망하고 있다.

이는 전년 목표치였던 75억달러 대비 60% 이상 성장하는 수치로, 엔비디아가 빠진 빈틈을 ‘중간 성능·저가 추론’으로 메우는 전략이 통하고 있음을 보여준다.

화웨이 어센드·창신메모리, ‘저가 추론 폐쇄 루프’ 구축

하드웨어 레벨에서도 중국은 “싼 추론”을 자국 칩·메모리로 완결하는 폐쇄 루프를 짜고 있다. 중국 현지 및 해외 보도에 따르면, 화웨이의 어센드 시리즈는 이미 주요 LLM의 학습·추론 플랫폼으로 자리 잡고 있고, 일부 개방형 모델과 신흥 모델(딥시크 등)이 어센드 기반 최적화를 가속하고 있다.

동시에 D램과 낸드 공급에서 중국계 창신메모리(Changxin Memory)가 대형 IT·인터넷 기업과 장기 공급 계약을 체결하며, ‘국산 칩 + 국산 메모리 + 국산 LLM’로 구성된 저비용 추론 인프라를 구축하고 있다. 또 텐센트가 창신메모리 물량을 수년치 선점했다는 보도는, 중국 빅테크가 이미 토큰 비용을 하드웨어 레벨에서 구조적으로 낮추는 방향으로 움직이고 있음을 시사한다.

프런티어 모델의 역설… “비싸면 과학, 싸면 일상”

문제는 프런티어 모델(초거대 LLM)의 경제성이다. AI 기업들은 조 단위 매개변수를 가진 모델을 AGI(범용인공지능)로 가는 ‘이카루스의 날개’로 포장해 왔지만, 기업 현장에서는 이 비싼 모델이 일상 업무를 점점 ‘싸고 충분히 좋은’ 모델에게 내주는 역설이 벌어지고 있다.

프런티어 모델이 신약 개발, 물질 탐색, 과학적 발견처럼 중간 모델이 따라오기 어려운 영역에서 확실한 성과를 입증하지 못한다면, 토큰 단가와 지연 시간, 전력 소모를 이유로 중간 모델과의 격차는 빠르게 좁혀질 수밖에 없다. 결국 AGI를 향해 고도에서 날아오르는 이카루스의 날개도, 지상의 토큰 경제학이라는 중력을 피해갈 수 없다는 것이 최근 시장의 냉정한 평가다.

엔비디아 중심의 글로벌 AI 반도체 시장이 ‘중국 내 자급 자족 구조’와 ‘서방 중심 생태계’로 양분되는 조짐은, 기술 패권 경쟁이 AI 토큰 경제학에도 직접적인 영향을 미치고 있음을 시사한다.

토큰 가격이 AI 패권을 바꾼다

AI 붐이 AI 실망으로 꺾일지, 아니면 토큰 경제학에 적응한 새로운 성장 국면으로 재정렬될지는 아직 단정하기 어렵다. 다만 분명한 것은, 더 이상 ‘무제한 토큰을 태우는’ 시대가 아니며, 프런티어 모델이든 중간 모델이든 생존의 기준이 토큰당 가치로 옮겨가고 있다는 점이다.

이제 시장은 “누가 가장 큰 모델을 만들었느냐”보다, “누가 가장 싸고 효율적으로 AI를 굴리느냐”를 묻고 있다. AI 버블의 고점은 결국 GPU가 아니라, 토큰 경제학이 결정할 가능성이 크다.