맥킨지의 AI 진단 — AI 투자 4년, 수익 낸 기업이 고작 6%인 이유
이번 주 프랑스 파리에서는 '비바 테크놀로지 2026'이 열리고 있습니다. 글로벌 컨설팅 기업 맥킨지는 매년 이 행사에서 최신 기술 트렌드를 발표합니다. 올해도 어김없이 관련 세션이 열렸습니다. 연사로 나선 맥킨지의 시니어 파트너 킴 바루디와 스테판 부는 무대에서 청중들에게 질문을 던졌습니다. 왜 AI에 대한 투자는 실제 성과로 이어지지 않는가
이번 주 프랑스 파리에서는 ‘비바 테크놀로지 2026’이 열리고 있습니다.
글로벌 컨설팅 기업 맥킨지는 매년 이 행사에서 최신 기술 트렌드를 발표합니다.
올해도 어김없이 관련 세션이 열렸습니다.
연사로 나선 맥킨지의 시니어 파트너 킴 바루디와 스테판 부는 무대에서 청중들에게 질문을 던졌습니다.
“ 왜 AI에 대한 투자는 실제 성과로 이어지지 않는가? “
두 사람의 진단은 명쾌했습니다.
문제는 ‘기술’에 있는 것이 아니라, ‘실행’에 있다는 것이었습니다.
그러면서 대기업과 빠르게 성장하는 기업들을 지켜본 경험을 바탕으로 이야기를 풀어 나갔습니다.
본지는 이날 세션 내용을 아래와 같이 정리했습니다.
AI 투자 늘리는데 수익은 그대로... “도구만 바꾸지 말고 엔진룸을 바꿔라”
챗GPT 4년, AI는 어떻게 ‘도구’에서 ‘노동력’이 됐나
아마존 창고가 보여준 미래: 사람·에이전트·로봇이 함께 일하는 공간
너무 빠르면 부서지고, 너무 느리면 뒤처진다 — ‘공생 기업’으로 가는 균형점
이 내용을 바탕으로 오늘 글을 시작하겠습니다.
1. AI 투자 늘리는데 수익은 그대로...
“도구만 바꾸지 말고 엔진룸을 바꿔라”
오늘날 기업의 80%가 AI에 투자하고 있으며, 그중 94%는 앞으로 투자 규모를 더 늘릴 계획입니다.
수억 달러를 쏟아붓는 기업도 적지 않습니다.
하지만 AI를 통해 실질적인 이익을 내는 기업은 고작 6%에 불과합니다.
지난해(4%)와 비교해도 거의 제자리걸음입니다.
맥킨지는 이러한 실패가 기업의 무능 탓이 아니라 특정 ‘함정’에 빠졌기 때문이라고 분석했습니다.
기존의 업무 흐름은 그대로 둔 채,
낡은 시스템 위에 새로운 기술만 얹는 방식이 문제의 근본적 원인이라고 지적했습니다.
대표적인 사례로 꼽은 것은
모든 의사결정과 실행 과정에 사람이
반드시 개입하는 ‘휴먼 인 더 루프(human in the loop)’ 구조였습니다.
AI가 아무리 빠르게 일 처리를 해도,
사람이 일일이 확인하고 승인해야 한다면 전체 업무 속도는
결국 사람의 처리 속도에 맞춰질 수밖에 없습니다.
현재 기업의 60~80%가 이 단계에 머물러 있는 것으로 나타났습니다.
이처럼 기존 시스템에 AI 비서나 에이전트를 단순히 덧붙이는 방식으로는
생산성이 5~10% 오르는 데 그치는 것으로 나타났습니다.
기업의 획기적인 도약으로 이어지지 못하는 이유였습니다.
맥킨지는 소프트웨어 개발 분야가 이를 잘 보여준다고 보고 있었습니다.
AI 코딩 도구를 도입하면서 만들어내는 코드의 양은 5~10배 늘었지만,
실제 전체 생산성은 5~15%밖에 늘지 않았습니다.
코드가 늘어난 만큼 사람이 검토하고 처리해야 하는 작업도 함께 늘어났기 때문입니다.
결국 해결책은 업무가 돌아가는 시스템 자체를 통째로 바꾸는 것이었습니다.
실제로 2주 단위였던 개발 주기를
하루 단위로 전면 개편한 기업들은 뚜렷한 생산성 향상을 이룬 것으로 나타났습니다.
맥킨지는 이러한 원리가 콜센터, 은행, 통신사 등 다른 산업에도 똑같이 적용된다고 밝혔습니다.
따라서 AI를 바라보는 관점 자체를 근본적으로 바꾸는 것이 변화의 출발점이기도 했습니다.
“AI는 더 이상 단순한 도구(tool)가 아니라 하나의 독립된 노동력(workforce)이다.
하지만 이 노동력을 어떻게 현장에 제대로 배치하고 활용해야 하는지,
그 방법을 찾아낸 기업은 아직 극히 드물다. “
2. 챗GPT 4년, AI는 어떻게 ‘도구’에서 ‘노동력’이 됐나
그렇다면 AI는 어떻게 단순한 도구에서 하나의 노동력으로 진화할 수 있었을까요?
맥킨지는 지난 4년간의 흐름을 되짚으며 그 답을 찾았습니다.
출발점은 2022년 챗GPT의 등장이었습니다.
당시의 AI는 유창한 언어를 구사했지만 ‘무상태(stateless)’,
즉, 이전 대화를 기억하지 못하는 한계가 있었습니다.
게다가 조직 내부 시스템과도 연동되지 않아 사람이 일일이 결과를 확인해야 했습니다.
이후 등장한 에이전트는 가능성은 컸지만,
조직과 개인의 맥락인 ‘업무 규칙’을 이해하지 못했습니다.
마치 회사 사정을 전혀 모르는 갓 입사한 신입 분석가처럼 행동하는 수준에 그쳤습니다.
변화는 지난해 두 가지 계기가 겹치면서 일어났습니다.