AI 투자 역설…연 100억 쏟아도 매출 성장 기업은 '5곳 중 1곳'

글로벌 대기업 AI 지출 전년比 47%↑…딜로이트 "매출 성장 달성 20%뿐"

1인당 토큰 비용 최대 2286만원…우버, 4개월 만에 연간 예산 전액 소진

AI로 만든 이미지 [사진=MS코파일럿]

기업들이 AI(인공지능) 도입에 천문학적 비용을 쏟아붓고 있지만, 실제 매출 성장으로 이어지는 경우는 5곳 중 1곳에 불과한 것으로 나타났다. 투자는 늘고 성과는 제자리인 'AI 투자수익률(ROI) 역설'이 글로벌 경영 현장의 화두로 부상하고 있다.
 
29일 IT업계에 따르면 가트너·세컨드탤런트 등 주요 조사기관이 올해 상반기 발표한 자료를 종합하면, 글로벌 대기업의 연평균 AI 투자액은 650만 달러(약 100억원)에 달한다.
 
올해 전 세계 AI 지출 총액은 전년 대비 47% 급증한 2조5900억 달러에 이를 것으로 전망된다. 대부분 생성형 AI 소프트웨어 지출 증가율로 전년 동기 대비 80.8% 증가했다.
 

투자 규모는 가파르게 늘었지만 성과는 기대에 못미치고 있다. 딜로이트가 1854명의 경영진을 대상으로 올해 실시한 설문에서 AI를 통해 실제 매출 성장을 달성했다고 응답한 글로벌 기업은 단 20%에 그쳤다. 
 
명확한 전략 없이 생성형 AI 도입에만 예산을 투입한 기업의 AX(AI 전환) 실패율은 더 높다. 라이터의 기업 설문에 따르면 공식적인 AI 전략을 보유한 기업의 성공적 도입률은 80%인 반면 전략 없이 도입한 기업은 37%에 불과했다. 
 
에이전트 AI 확산으로 토큰 비용 부담도 커졌다. 크런치베이스 분석에 따르면 직원 1인당 AI 토큰 지출은 일반 기업은 월 2246달러(약 346만원), 상위 25% 기업은 월 1만4843달러(약 2286만원) 수준이다.

우버가 엔지니어 5000명에게 AI 코딩 도구를 배포한 결과 1인당 월 500~2000달러(약 77만~308만원)가 청구됐으며 4개월 만에 연간 예산 전액을 소진했다. 토큰 기반 과금 구조의 위험성을 단적으로 보여준다.
 
높은 실패율과 비용 부담에도 AI 지출이 계속 늘어나는 배경에는 '뒤처지면 끝'이라는 경영진의 위기감이 깔려 있다.

가트너가 CEO를 대상으로 실시한 설문에서 응답자의 62%가 'AI가 향후 10년간 경쟁 지형을 결정할 핵심 변수'라고 답했다. AI에 투자하지 않는 것이 투자보다 더 큰 위험으로 인식되고 있는 것이다. 가트너가 현재 AI 시장이 '환멸의 골짜기' 국면임을 인정하면서도 2026년 AI 지출이 전년 대비 47% 증가할 것으로 전망하는 이유도 여기에 있다.
 
국내 상황은 양극화가 더 뚜렷하다. 맥킨지가 올해 상반기 발표한 글로벌 설문에서 하나 이상의 업무 기능에 AI를 활용한다고 응답한 기업 비율은 88%에 달했다. 국내도 이와 유사한 흐름으로, IT업계에서는 올해 기준 국내 기업의 80% 이상이 어떤 형태로든 AI를 도입한 것으로 파악하고 있다. 다만 이는 도구 접근 수준을 포함한 수치로, 전사적 활용과는 거리가 있다.
 
비용 부담이 큰 국내 중소 제조기업의 현실은 정반대다. 중소벤처기업부에 따르면 국내 중소 제조기업의 AI 도입률은 1% 안팎에 불과하다.

대한상공회의소가 국내 504개 제조기업을 조사한 결과에서도 82.3%가 'AI를 경영에 활용하지 않고 있다'고 답했으며, 중소기업 활용도는 4.2%에 그쳤다. 당장 매출로 이어지지 않는 영역에 수억원을 투입할 여력 자체가 없다는 것이 현장의 목소리다.
 
가트너의 미쉘 칼슨 애널리스트는 "단순히 AI에 더 많이 지출한다고 더 나은 비즈니스 성과로 이어지지 않는다"며 "지난 10년간 동종업계를 능가한 기업들은 AI를 성장 엔진으로 활용하고 제품 혁신·영업·마케팅에 연계한 기업들이었다"고 평가했다.