한국IBM, ‘AI 인사이트 포럼’
전세계 CEO 2000명 대상 설문
61% “AI에이전트 적극 도입”
국내 CEO는 45%로 가장 낮아

김현정 한국IBM 컨설팅 대표가 17일 열린 ‘AI 인사이트 포럼’에서 글로벌 CEO 2000명을 대상으로 한 AI 관련 설문 조사 결과를 발표하고 있다. <사진=한국 IBM>

전세계 경영 리더 2000명을 대상으로 한 설문 조사에서 인공지능(AI)을 도입한 기업 4곳 중 1곳만이 목표한 투자 성과를 거두고 있다는 결과가 나왔다. AI 전환을 선택이 아닌 필수로 보는 시각이 두드러지는 가운데 ‘수익성’과 ‘혁신’ 사이에서 적절한 줄다리기를 놓고 경영 리더들의 고민이 깊어질 수 밖에 없는 대목이다.

한국IBM은 17일 서울 여의도 국제금융센터 더 포럼에서 ‘AI 인사이트 포럼’을 개최했다. 이 자리에서 김현정 한국IBM 컨설팅 대표는 최근 IBM 기업가치연구소(IBV)가 진행한 글로벌 CEO 연구의 결과를 발표했다. 해당 설문은 IBV가 옥스퍼드 이코노믹스와 손잡고 올해 2월부터 2개월간 33개국·24개 산업 2000명의 CEO를 대상으로 이뤄진 설문조사가 기반이 됐다.

김 대표는 “불확실성이 굉장히 커지고 있는 상황에서도 많은 기업들이 과거보다 더 큰 규모의 리스크(위험)를 감수하더라도 AI 도입을 가속화하겠다고 말하고 있다”면서 “61%의 글로벌 CEO가 현재 AI 에이전트를 적극적으로 도입하고 있고, 이를 조직 전반에 대규모 적용할 준비를 완료했다고 답했다”고 전했다.

그러면서 그는 “상대적으로 국내 CEO들의 45%만이 이에 동의하는 등 전 세계에서 가장 낮은 응답률을 보였다”면서 “국가별로 볼 때 한국의 (AI 채택) 준비 정도가 글로벌 대비 낮은 상황”이라고 말했다.

한국IBM은 17일 서울 여의도 국제금융센터 더 포럼에서 ‘AI 인사이트 포럼’을 개최했다. <사진= 고민서 기자>

이러한 동향은 다른 설문에서도 나타났다.

조사에 참여한 글로벌 CEO의 64%는 경쟁에서 뒤처지는 것을 우려해 해당 기술이 조직에 어떤 가치를 제공하는지 명확히 이해하기도 전에 일부 기술에 투자하고, 더 많은 리스크를 감수한다는 사실을 인정했다. 반면 국내 CEO의 경우 같은 질문에서 리스크를 감수한다고 응답한 비율은 52%로 더 낮았으며, 기술 도입에 있어 ‘빠르게 진행해 시행착오를 겪는 것’이 ‘느리고 정확하게 진행하는 것’보다 낫다고 답변한 비율은 28%에 불과해 글로벌 CEO의 응답률인 37%보다 훨씬 낮은 수치를 보였다.

김 대표는 “AI가 가져올 수 있는 가치에 대해선 (많이들) 동의를 하지만 그만큼의 리스크를 질 수 있는 환경인지에 대해선 (현장의) 고민이 많은 시기”라며 “아무래도 리스크가 많은 환경에서 투자 의사결정의 성격이 연구개발(R&D) 관점이 크기 때문에 그만큼 성공 확률을 가늠하기 어렵고, (기업의 입장에선 AI와 관련해) 어디에 투자할 것인가가 굉장히 큰 고민거리”라고 진단했다.

실제로 이번 조사에서도 글로벌 CEO의 59%는 예상치 못한 변화가 발생할 경우 기존 운영 자금과 혁신에 대한 투자의 균형을 유지하는 데 어려움을 겪고 있다고 응답했으며, 67%는 장기적 성장과 혁신을 이끄는 디지털 기회를 활용하기 위해 더 많은 예산 유연성이 필요하다고 말했다.

그러나 AI가 가져오는 변화가 크다고 느끼는 것은 국내 CEO도 동일했다. 글로벌 CEO의 68%는 AI가 비즈니스의 핵심 요소까지 바꾸고 있다고 답했을 때, 국내 CEO의 78%가 그렇다고 응답했으며, 54%는 향후 경쟁력은 누가 더 앞선 생성형 AI를 보유하는가에 달려있다고 전했다.

AI가 기업 성장의 열쇠가 되려면 ‘독자적인 데이터’와 맞물려 ‘효율적인 연결 기술’이 구현돼야 한다는 주문이다.

설문에서도 응답한 글로벌 CEO의 68%는 전사 차원의 데이터 통합 아키텍처가 부서 간 협업을 위해 필수적이라고 답했다. 72%는 조직이 보유한 고유 데이터가 생성형 AI의 가치를 실현하는 데 핵심적인 역할을 한다고 응답했다. 그러나 한편으로 이번 연구는 기업들이 효과적인 데이터 환경을 구축하는 데 어려움을 겪고 있음을 시사했다. 응답자의 절반(50%)은 최근 투자 속도 때문에 조직 내 기술이 단절되고 단편적인 기술만 사용하고 있다고 인정했다.

왼쪽부터 한국IBM 컨설팅 김현정 대표, 미래에셋증권 AI 솔루션본부 주세민 본부장(상무), 서울AI재단 AI 혁신사업본부 주성환 본부장, 코웨이 DX 센터 김동현 센터장(전무) 모습. <사진=한국 IBM>

특히 김 대표는 AI로 성과를 내려면 실질적인 데이터 기반의 의사 결정이 중요하다고 조언했다. 글로벌 기업들이 투자 대비 효과를 나타내는 ROI 중심의 AI 전략을 짜는 것도 이 때문이다.

설문 결과에 따르면 CEO의 65%는 ROI를 기반으로 AI 활용 사례를 적용하고 있으며, 68%는 혁신 ROI를 효과적으로 측정할 수 있는 명확한 지표를 보유하고 있다고 답했다.

상대적으로 지난 3년간 진행된 AI 프로젝트 중 예상 ROI를 달성한 비율은 25%에 불과했고, 단 16%만이 기업 전체로 확장된 것으로 나타났다.

이와 관련해 김 대표는 “가령 IBM의 경우 AI 도입을 단순한 비용 절감의 수단으로 보지 않는다”면서 “현재 IBM에는 약 30만명의 임직원이 있는데, 각자의 역할이 명확하게 정의돼 있다. 이들이 일상 업무를 수행하면서 AI를 통해 어느 정도의 시간을 절약했는지, 그리고 그 절약된 시간으로 얼마나 더 가치 있는 일들을 했는지를 추적하고 있다”고 말했다.

그러면서 “이러한 추적 결과는 추가 인력 채용 없이도 우리가 원하는 활동들을 수행할 수 있는 기반이 되며, 이를 통해 비용 절감이 아닌 가치 창출의 관점에서 ROI를 도출하고 있다”고 덧붙였다. 이 과정에서 IBM은 최근 2년간 총 3조원에 달하는 비용 절감 효과를 거뒀다는 게 김 대표 설명이다.

한편 56%의 CEO는 핵심 기술 인재 확보 및 유지에 어려움을 겪고 있다고 답했고, 66%는 아웃소싱의 한계를 인식, 소수의 정예 파트너와의 전략적 협력에 집중한 계획이라고 답변했다.

이어진 패널토의에서 주세민 미래에셋증권 AI 본부장과 김동현 코웨이 DX 센터 전무, 주성환 서울AI재단 AI 혁신사업본부장은 공통적으로 AI 채택 과정의 어려움으로 관련 인재 확보와 조직의 인력 운용을 꼽았다.

주세민 본부장은 “AI의 경우 특정 인력이 있으면 할 수 있고, 없으면 못하는 일들이 있다”면서 “한 사람의 생산성이 10배, 100배 이상 차이가 나기 때문에 적절한 인력을 소싱하는 게 가장 큰 과제”라고 말했다.

AI에 선제적인 투자가 필요하다는 것도 공통된 의견이다.

김 전무는 “AI로 테스트를 진행하거나 개념검증(PoC)을 하면 거의 99%는 실패라고 생각하지만, 성공한다면 그것이 가져올 파괴력이 크기 때문에 1%에 기대를 거는 것 아니겠냐”며 “지금 당장 쓸 수 있는 기술들은 작년에 얘기한 기술들이다. 결국 흐름을 못 따라가면 적용이 어려워지는 만큼 꾸준히 그 흐름을 따라가야 한다”고 말했다.

Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지