[뉴스스페이스=이종화 기자] IBM은 최고 AI 책임자(CAIO, Chief AI Officer)를 보유한 기업의 비율이 단 1년 만에 약 3배 가까이 급증한 것으로 나타났다고 밝혔다. 이는 단순한 직제 신설을 넘어, AI를 전제로 한 새로운 운영 모델과 지배구조 재편이 본격화되고 있다는 신호이며, AI가 기업 리더십 구조를 얼마나 빠르게 재편하고 있는지를 단적으로 보여준다.

‘CAIO 대중화’…1년 새 26%→76%

IBM Newsroom, Investing News Network (INN), IT-Online, Stock Titan, fortune, Moomoo, techintelpro에 따르면, IBM 기업가치연구소(IBV, IBM Institute for Business Value)가 실시한 이번 연례 연구는 2026년 2월부터 4월까지 33개국, 21개 산업에 걸쳐 2,000명의 CEO를 대상으로 진행됐다. 연구 결과, 현재 CAIO를 보유한 조직의 비율은 76%로, 2025년의 26%에서 크게 뛰어올랐다.

IBM에 따르면 이 직책은 더 이상 기술 기업에만 국한되지 않으며, 나이키(Nike), 광고·마케팅 그룹 WPP, 하이네켄(Heineken), 헬스케어 유통사 CVS헬스(CVS Health) 등 다양한 업종의 기업들도 CAIO를 임명한 것으로 나타났다. 이는 CAIO가 더 이상 테크 기업 전유직이 아니라, ‘범산업 C레벨 직책’으로 빠르게 확산되고 있음을 보여준다.

또 C레벨 설계에서 AI를 전제로 한 ‘AI-우선(AI-first)’ 구조를 취한 기업은 그렇지 않은 기업보다 전사적 AI 이니셔티브를 10% 더 많이 확장하는 것으로 나타났다. 숫자만 놓고 보면, CAIO를 중심으로 한 C레벨 재편이 단순 유행이 아니라 투자·실행 면에서 가시적인 차이를 만들어내고 있다는 해석이 가능하다.

“기술 레이어가 아니라 운영 모델”…AI 우선 경영의 급부상

IBM 부회장 게리 콘(Gary Cohn)은 이번 보고서 서문에서 “CEO의 역할은 늘 혼란을 헤쳐 나가는 것이었지만, AI가 바꾸는 것은 리더십의 속도와 결과”라며 “성공하는 기업은 AI를 단순한 기술 레이어가 아니라 새로운 운영 모델로 삼아 ‘AI 우선’ 방식으로 운영하게 될 것”이라고 강조했다.

실제 데이터는 CEO 인식의 급격한 변화를 보여준다. 응답 CEO의 64%는 AI가 생성한 인사이트에 기반해 ‘주요 전략적 의사결정’을 내리는 데 편안함을 느낀다고 답했다. 2030년까지 AI가 사람 개입 없이 처리할 것으로 예상되는 ‘코드화 가능한 운영 의사결정’ 비중은 48%로, 현재 25%에서 거의 두 배 가까이 늘어날 것으로 전망됐다.

즉, 현재는 AI가 반복·규칙 기반 업무를 보조하는 수준에 머무르지만, 2030년에는 일상적인 운영 의사결정의 절반 가까이를 AI가 자동 처리하는 구조를 상당수 CEO가 상정하고 있다는 의미다. 이 전망이 실현될 경우, 전통적 관리자·중간관리자 역할 정의 자체가 다시 쓰일 가능성이 크다.

인력·조직 설계의 ‘사람 문제’…AI 사용은 아직 25%

문제는 기술보다 사람이다. IBM 조사에 따르면, CEO의 86%가 “우리 직원들은 이미 AI와 협업할 능력을 갖추고 있다”고 믿고 있지만, 실제로 업무에 AI를 정기적으로 사용하는 직원 비율은 25%에 그쳤다. 경영진 인식과 현장의 사용 행태 사이에 뚜렷한 간극이 존재한다.

CEO들은 2026~2028년 사이에 전체 직원의 29%는 완전히 다른 역할을 수행하기 위한 ‘재교육(reskilling)’이 필요하고, 53%는 현재 직무에서 경쟁력을 유지하기 위한 ‘역량 강화(upskilling)’가 필요할 것으로 전망했다.

IBM 컨설팅 수석 부사장 모하마드 알리는 “AI 전환에서 실질적인 성과를 내고 있는 CEO들은 단순히 AI를 더 빨리 도입하는 것이 아니라, 최고의 인재와 최고의 기술이 만날 수 있도록 조직 자체를 재설계하고 있다”고 강조했다. 결국, CAIO 신설·C레벨 재편의 성패는 재교육·재배치 등 인력 전략과 얼마나 정합적으로 맞물리느냐에 달려 있다는 메시지다.

흥미로운 것은, 정작 최고경영층의 AI 활용도는 아직 낮다는 점이다. 스탠퍼드대 경제학자 니컬러스(닉) 블룸(Nicholas Bloom)이 6,000명 이상의 고위 임원을 대상으로 실시한 별도 연구에 따르면, CEO·CFO 등 시니어 임원의 69%는 일주일에 1시간 미만만 AI를 사용하고, 28%는 아예 사용하지 않는 것으로 나타났다. 직원들에게 AI 활용을 요구하면서도, 정작 본인들은 ‘라이트 유저’에 머물러 있는 셈이다.

지배구조의 새 균열선…이사회 vs CEO의 AI 속도전

AI를 둘러싼 지배구조의 긴장도 고조되고 있다. IBM 조사에서 CEO의 83%는 ‘AI 주권'(AI sovereignty, 데이터·모델·인프라에 대한 통제와 규제 준수, 국가·지역별 규범 대응 등을 포괄하는 개념)을 자사 비즈니스 전략의 핵심 요소로 꼽았다. 동시에 79%의 CEO는 AI가 더 큰 운영 역할을 맡게 되면서 의사결정을 분권화(decentralization)하고 있다고 답했다.

이 과정에서 최고인사책임자(CHRO)의 위상도 달라지고 있다. 응답 CEO의 59%는 향후 몇 년 안에 CHRO의 영향력이 커질 것이라고 내다봤다. AI 전략이 곧 인재 전략이 되는 시대에, 인사 책임자가 기술·조직 재설계를 함께 주도해야 한다는 인식이 확산되고 있다는 방증이다.

그러나 AI 속도와 리스크를 둘러싼 이사회–경영진 간 ‘속도차’는 심상치 않다. 보스턴컨설팅그룹(BCG)이 2026년 발표한 별도의 조사에서, CEO의 61%는 “이사회가 AI 전환 속도를 지나치게 밀어붙이고 있다”고 답했다. 같은 조사에서 이사회 구성원의 약 75%는 “자신들의 AI 이해 수준이 또래보다 뒤처지지 않는다”고 자신감을 드러냈지만, CEO의 약 35%는 “이사회가 AI가 대체할 수 있는 인간 업무 범위를 과대평가하고 있다”고 지적했다.

즉, 이사회는 ‘FOMO(놓칠 수 있다는 두려움)’와 경쟁 압박 속에 AI 도입 속도를 높이려 하고, CEO는 규제·윤리·조직 역량 등을 감안해 보다 점진적 접근을 선호하는 구조적 긴장이 형성되고 있는 것이다.

IBM 조사에서 85%의 CEO가 “이제 모든 기능 조직의 리더는 자기 영역에서 기술 전문가가 되어야 한다”고 답한 것도 이런 맥락에서 읽힌다. CIO·CTO·CAIO만으로는 AI 리스크를 통제할 수 없고, CFO·CHRO·CMO까지 ‘테크 리더’로 변신해야 한다는 압박이 빠르게 커지고 있다.

한국 기업에 주는 시사점… ‘직함’보다 운영 모델·보드 룸이 문제

이번 IBM·BCG·스탠퍼드발 데이터가 보여주는 메시지는 분명하다.

첫째, CAIO는 이미 글로벌 스탠더드에 가까운 직제로 부상했다. 1년 새 76%까지 올라간 수치는 “언젠가”가 아니라 “이미” 대부분의 글로벌 기업이 AI 책임 체계를 정비했다는 의미에 가깝다. 둘째, AI를 ‘툴’이 아니라 ‘운영 모델’로 재정의하지 않으면, CAIO 신설이 보여주기식에 그칠 위험이 크다. 실제 전사적 AI 이니셔티브 확장 측면에서 AI-우선 C레벨 구조를 갖춘 기업과 그렇지 않은 기업의 격차가 이미 10%로 벌어지고 있다는 점은 한국 기업에도 무게 있게 다가온다.

셋째, 인사·지배구조 관점에서의 후속 정합성이 관건이다. 대규모 재교육·재배치 없이, 그리고 이사회–경영진 간 속도·리스크 인식 차이를 관리하지 못한 채 AI 투자를 밀어붙이면, ‘AI 전환 피로감’과 ‘신뢰 위기’가 동시에 불거질 수 있다. 특히 고위 임원 본인들이 주당 1시간도 안 되는 수준으로 AI를 쓰면서 AI 전환을 지휘하고 있다는 스탠퍼드 연구 결과는, 한국 기업에도 ‘위에서부터의 사용’이 얼마나 중요한지를 시사한다.

결국 한국 기업이 이번 IBM 보고서에서 가장 먼저 체크해야 할 것은 “우리에게 CAIO가 필요하냐”가 아니라 “우리 이사회·C레벨·조직문화가 AI-우선 운영 모델을 감당할 준비가 되어 있느냐”일 것이다. 그 질문에 대한 답이 ‘예’가 되지 않는 한, CAIO라는 직함만 늘어나는 ‘AI 허울 혁신’에 머물 위험이 작지 않다.