AI 전환의 시작: 맥킨지가 바라본 2025 AI Report

AI, 단순한 도구를 넘어선 혁신의 물결

오늘날 우리 주변을 감싸는 AI의 물결은 단순한 기술적 진보를 넘어, 기업 생태계 전체를 뒤흔드는 거대한 변화의 서막을 알리고 있는 듯합니다. 맥킨지(McKinsey)의 2025년 AI 보고서는 이러한 변화의 파노라마 속에서 기업들이 AI를 어떻게 받아들이고 있으며, 또한 어떤 근원적인 질문과 씨름하고 있는지를 여실히 보여주고 있는 것이에요. 흥미로운 점은 거의 모든 조직, 대략 88%에서 90%에 달하는 기업들이 어떤 형태로든 AI를 이미 활용하고 있지만, 이들 대부분은 여전히 '실험' 또는 '파일럿' 단계에 머물러 있다는 사실입니다. 이는 마치 새로운 도구를 손에 쥐었지만, 그것을 진정으로 활용할 방법을 모색하는 과정과도 같습니다. 전체 기업 중 오직 1%만이 AI를 비즈니스 워크플로우에 완전히 통합하여 실질적인 성과를 창출하는 'AI 성숙도'에 도달했다는 보고는, 우리가 가야 할 길이 아직 멀다는 점을 시사하고 있어요.

AI를 정기적으로 사용하고 있는 비율은 88%로 증가 추세지만, 아직도 대부분 PoC 수준입니다. < 사진 : McKinsey >

맥킨지는 이러한 현상을 분석하며 AI가 단순한 업무 효율성 증진 도구를 넘어선, 기업의 존재 방식을 근본적으로 재편할 '변화의 촉매제'라고 강조합니다. 단순히 더 똑똑하게 일하는 것을 넘어, 아예 일하는 방식 자체를 다시 설계하고 비즈니스 모델을 재구성해야 한다는 의미입니다. 실제로 최고 성과를 내는 기업들은 AI를 통해 점진적인 효율성 향상에 만족하지 않고, 워크플로우를 과감히 재설계하고 혁신을 가속화하며, 궁극적으로 비즈니스 모델 자체를 재편하는 데 주력하고 있는 것이지요. 이러한 전환의 핵심에는 '리더십'이 자리하고 있습니다. 최고 경영진, 특히 CEO의 비전과 헌신 없이는 AI 전환이 단순한 기술 도입을 넘어 조직 전체의 성공으로 이어지기 어렵다는 점이 명확하게 드러나는 대목입니다.

오늘날 우리는 스스로 계획을 세우고 여러 단계의 워크플로우를 실행하는 'AI 에이전트'와 같은 새로운 기술들의 등장을 목도하고 있습니다. 고무적인 점은 기업의 직원들이 이러한 AI 도입에 생각보다 훨씬 더 준비되어 있으며, 새로운 기술에 대한 교육열 또한 매우 높다는 사실입니다. 하지만 이와 동시에 AI를 효과적으로 비즈니스에 녹여내어 전환을 이끄는 소수 기업과 여전히 파일럿 단계에서 헤매는 다수 기업 사이에 'AI 격차'는 점점 더 확대되고 있는 양상이에요. 물론, AI의 결정이 때로는 부정확하거나 편향될 수 있다는 점을 고려할 때, 위험을 관리하기 위한 철저한 노력 역시 필수적입니다. 이 모든 복합적인 상황을 종합적으로 조망해보면, AI는 이제 기업에게 선택적인 기술 도입을 넘어, 생존과 성장을 위한 '필수적인 전환'을 요구하고 있는 중대한 시점이라고 단언할 수 있습니다.

AI, 어떻게 기업 혁신의 역사를 써왔을까?

최근 몇 년간 기업 혁신의 역사를 새로 쓰고 있는 가장 큰 변화 중 하나는 단연 생성형 AI(GenAI)와 에이전트 AI의 등장이라고 할 수 있습니다. ChatGPT 같은 생성형 AI는 역사상 가장 빠르게 채택된 기술 중 하나로 기록될 만큼 폭발적인 파급력을 보였어요. 고객 서비스부터 마케팅, 소프트웨어 개발, 심지어는 전략 수립에 이르기까지 정말 다양한 분야에서 그 활용 가능성이 탐구되고 있는 것이지요. 또한, 사람의 지속적인 개입 없이도 스스로 여러 단계를 수행하는 자율적인 에이전트 AI 역시 빠르게 실험 단계를 넘어 실제 생산 환경에 적용되기 시작하는 추세입니다. 맥킨지는 이러한 AI 기술이 향후 수십 년간 노동 생산성을 비약적으로 높여 경제 전반에 걸쳐 수조 달러의 가치를 창출할 것으로 예상하며, 이는 단순한 기술적 혁신을 넘어 거대한 경제적 변혁을 예고하는 것이라고 분석하고 있습니다.

조직들은 AI 에이전트가 현실 세계에서 행동하고, Workflow의 여러 단계를 계획하고 실행할 수 있는 모델로서 동작하기를 기대했고, 응답자의 23%는 조직이 기업 내 어딘가에서 에이전트 AI 시스템을 최소 한 개 이상의 비즈니스에서 테스트 중이거나 배포하기 시작했다고 답했습니다. 그럼에도 불구하고 실제 에이전트를 특정 업무에 적용하기 시작했다는 응답은 10%를 넘지 않았습니다.

AI 에이전트는 아직 대부분의 기업 구성원들이 잘 모르거나, 일부에서만 테스트 되고 있는 중이다. < 사진 : McKinsey >

처음에는 많은 기업이 AI를 '효율성' 증대나 '비용 절감'의 도구로만 제한적으로 인식하는 경향이 있었습니다. 그러나 고성과를 내는 선도적인 기업들은 AI를 통해 '성장'과 '혁신'을 우선순위에 두고, 비즈니스를 근본적으로 변화시키는 강력한 촉매제로 활용하고 있다는 점이 이 전환의 핵심이라고 볼 수 있습니다. 결국 AI 전환의 성공은 최고 경영진의 리더십과 조직 전반의 재설계에 달려있다는 맥킨지의 일관된 메시지가 AI 혁신의 역사를 통해 끊임없이 입증되고 있는 셈입니다. AI가 단순한 기술을 넘어 비즈니스 전략의 중추적인 요소로 자리 잡기까지, 정말 눈부신 속도로 진화해온 과정은 인류 문명의 새로운 장을 열어젖히는 드라마틱한 서사처럼 느껴집니다.

AI 전환, 모두에게 장밋빛일까? 기업들이 느끼는 현실과 고민

AI가 거스를 수 없는 대세이자 미래 성장 동력이라는 점은 이제 이론의 여지가 없는 듯합니다. 그렇다면 과연 지금 기업들은 이러한 AI 전환에 대해 어떤 생각과 고민을 하고 있을까요? 맥킨지 보고서는 많은 기업들이 여전히 '실험'과 '파일럿' 사이의 '파일럿 지옥(pilot purgatory)'에 갇혀 방황하고 있는 현실을 냉정하게 보여주고 있습니다. 무려 3분의 2에 달하는 기업들이 AI를 도입하고도 이를 전체 비즈니스에 제대로 확장하지 못하고 있는 상황에 놓여 있는 것이에요. 실제로 AI를 도입한 기업 중 약 39%만이 실제로 수익(EBIT)에 유의미한 영향을 경험했다고 하니, 생각보다 AI를 통해 가시적인 성과를 내는 것은 그리 쉽지 않은 과제라는 점을 알 수 있습니다.

매출규모가 커질수록 AI를 테스트하는 걸 넘어 비즈니스 핵심 프로세스로 통합하는 추세를 보인다 < 사진 : McKinsey >

이러한 현실 속에서 많은 기업들이 AI를 '점진적인 효율성 개선' 정도로만 바라보는 경향이 짙습니다. 예를 들어, 대다수의 기업들이 10~15% 정도의 생산성 향상을 목표로 AI를 활용하려는 경우가 많다고 해요. 물론 효율성 개선도 중요하고 필요한 부분이지만, 맥킨지는 AI의 진정한 가치가 비즈니스 모델 자체를 새롭게 디자인하고 혁신적인 성장을 추구하는 데 있다는 조언을 아끼지 않습니다. AI를 단순히 기존 업무를 자동화하는 '새로운 도구'로만 여기면, 그 무한한 잠재력을 충분히 활용하기 어렵다는 뜻이 담겨 있는 것이지요. 이는 패러다임 전환의 필요성을 역설하는 중요한 메시지입니다.

AI가 기업의 성과에 미치는 영향, 전사적인 수익(EBIT) 측면을 보면 AI 사용으로 인해 긍정적인 영향을 미쳤다는 응답자는 39%에 불과하며, 이 중 대부분은 5% 미만의 미미한 기여를 했다고 응답했습니다.

비용적인 성과보다는 AI는 기업에 혁신 문화와 직원, 고객만족을 먼저 가져다 준다는 관점이 놀랍다. < 사진 : McKinsey >

또 하나 간과할 수 없는 중요한 점은, AI를 효과적으로 활용하여 혁신을 주도하는 소수 기업과 아직 방향을 잡지 못하고 헤매는 대다수 기업 사이의 'AI 격차'가 점점 더 벌어지고 있다는 사실입니다. 보고서는 직원들이 AI 교육에 대한 열의가 높고 새로운 기술 도입에 충분히 준비되어 있음에도 불구하고, 막상 리더십이 AI 전환에 대한 명확한 비전을 제시하지 못하거나 조직 재설계에 소극적일 때 이러한 격차가 심화된다고 지적하고 있어요. 결국 AI 전환의 성패는 기술 자체의 문제가 아니라, 그것을 이끌어가는 리더십의 역량과 조직 문화의 변화 수용성에 달려있는 중요한 문제라고 볼 수 있습니다. 이는 우리가 기술의 외형만을 좇을 것이 아니라, 그 본질을 이해하고 내재화하는 데 더 많은 노력을 기울여야 함을 일깨워주는 대목입니다.

'AI 전환'의 그림자: 과장된 기대와 현실의 벽은?

AI가 기업 혁신의 핵심이자 미래 생존의 필수 조건이라고 모두가 한목소리로 외치고 있지만, 사실 그 화려한 수사 뒤에는 여러 논쟁과 현실적인 비판의 목소리도 존재합니다. 일부 전문가들은 컨설팅 회사들이 AI의 잠재력을 너무 과대 포장하여, 실제로 고객 기업들이 기대했던 만큼의 성과를 얻지 못하는 경우가 빈번하다는 지적을 제기하고 있는 것이지요. 멋진 시제품이나 파일럿 프로젝트는 화려하게 성공하지만, 막상 이를 회사 전체에 적용하려고 하면 데이터 품질 문제, 기존 인프라의 한계, AI 전문가 부족 등 다양한 현실적인 벽에 부딪히기 일쑤라는 이야기입니다. 많은 기업들이 컨설턴트들의 '실제적인 구현 경험 부족'을 우려하며, 대규모 AI 도입에 어려움을 겪는다는 의견도 적지 않게 나오고 있는 상황입니다.

맥킨지 보고서 자체에서도 많은 기업이 앞서 언급했던 '파일럿 지옥(pilot purgatory)'에 갇혀 있다고 언급하고 있습니다. AI를 여기저기 도입하긴 했지만, 그것이 실질적인 비즈니스 성과나 기업 전체의 전환으로 이어지지 못하고 있다는 뜻을 내포하는 것이지요. 이는 AI를 그저 '효율성' 증대 도구로만 여기고, 비즈니스 모델이나 핵심 워크플로우를 근본적으로 재설계하는 데 소홀했던 결과일 수 있습니다. 또한, 열악한 데이터 품질, AI에 적합하지 않은 기존 인프라, 그리고 AI 전문가의 절대적인 부족 역시 AI 전환의 속도를 늦추는 중요한 걸림돌로 작용하고 있어요. AI는 양질의 데이터를 먹고 자라는 생명체와 같아서, 그 먹이가 부실하면 결코 건강하게 성장할 수 없다는 비유가 적절할 듯합니다. AI 고성과 기업들은 그런 문제를 극복하기 위해 과감한 투자와 프로세스 혁신에 나서고 있긴 합니다.

AI 고성과 기업은 일반 기업에 비해 많은 디지털 예산을 투자하고, 일반 기업에 비해 4.9배나 투자합니다. < 사진 : McKinsey >

더 나아가, AI 도입에 따른 윤리적인 문제나 의사 결정 과정의 투명성 부족, 규제 불확실성 같은 거버넌스 문제도 현재 AI 전환을 둘러싼 큰 논쟁점입니다. AI의 의사 결정 과정이 불분명하거나 특정 집단에 편향된 결과를 낳을 수 있다는 우려도 증폭되고 있어요. 심지어 AI의 발전이 데이터 분석과 같은 컨설팅 업계의 전통적인 업무까지 자동화하면서, 컨설팅 모델 자체에도 근본적인 변화를 가져올 것이라는 흥미로운 예측도 들려옵니다. 이처럼 AI 전환은 장밋빛 미래와 동시에 현실적인 도전과 비판, 그리고 인류가 함께 해결해야 할 여러 숙제를 동시에 던져주고 있는 복합적인 상황인 것입니다. 기술적 발전만큼이나 사회적, 윤리적 고민이 병행되어야 한다는 점을 간과해서는 안 됩니다.

2030년, AI가 그리는 기업의 미래는? 상상 그 이상의 변화!

자, 그렇다면 2025년을 넘어 2030년에 이르러 AI와 기업은 또 어떻게 진화하고 변모해 나갈까요? 맥킨지는 AI가 기업 전략의 중심축이 되어 우리가 상상하는 그 이상의 변화를 가져올 것이라고 예측하고 있습니다. 먼저 '에이전트 AI'는 혁신을 주도하는 선봉장이 될 것이에요. 사람의 지속적인 개입 없이도 스스로 계획을 세우고 여러 단계의 업무를 자율적으로 실행하는 AI 시스템이 대중화될 예정입니다. 이는 단순한 자동화를 넘어, 마치 새로운 '미들웨어'처럼 다양한 플랫폼과 인간의 상호작용을 오케스트라처럼 조율하고 지휘하는 역할을 수행하게 될 것입니다.

생성형 AI 또한 단순한 콘텐츠 제작을 넘어 의사 결정, 정교한 예측 분석, 복잡한 코드 생성, 심지어는 비즈니스 프로세스 자동화에 훨씬 더 깊숙이 관여하게 될 거예요. 데이터 처리 속도와 보안을 획기적으로 강화하는 '엣지 AI'와 다양한 형태의 데이터를 동시에 이해하는 '멀티모달 AI'도 크게 발전할 것입니다. 특히, 2026년쯤에는 AI가 클라우드 플랫폼과 완전히 통합되어, 기업들이 훨씬 빠르고 효율적으로 AI 기반의 새로운 애플리케이션을 배포하고 확장할 수 있게 될 것이라고 합니다. 이는 기업의 디지털 전환 속도를 가속화하는 핵심 동력이 될 예정입니다.

미래의 기업 운영 방식은 '하이퍼오토메이션'을 통해 효율성이 극대화될 것이 분명합니다. 인사(HR)부터 공급망 관리(SCM), 재무에 이르기까지 모든 비즈니스 기능에서 반복적이고 정형화된 업무가 AI에 의해 자동화되어, 사람들은 훨씬 더 창의적이고 전략적인 고부가가치 업무에 집중할 수 있게 될 것이에요. AI는 방대한 데이터를 실시간으로 분석하여 시장 변화나 고객 니즈를 미리 예측하고, 기업이 한발 앞서 민첩하게 대응할 수 있도록 도울 것입니다. 또한 'AI-as-a-Service(AIaaS)'와 같은 새로운 비즈니스 모델이 등장하여, 기업들은 복잡한 AI 기술을 자체적으로 구축하지 않고도 손쉽게 활용할 수 있게 될 것입니다.

물론, 이러한 격변 속에서 '인간과 AI의 협업'은 그 어느 때보다 중요해질 예정입니다. AI는 인간의 역량을 보완하고 증강하는 '코파일럿' 역할을 하며, 직원들은 전략적 사고와 창의성에 집중할 수 있게 될 것이에요. 하지만 2025년에서 2030년 사이에 현재 직무 능력의 약 39%가 구식이 될 수 있다는 예측도 있어서, 지속적인 재교육(reskilling)과 업스킬링(upskilling)은 개인과 조직 모두에게 필수적인 생존 전략이 될 것입니다. 그리고 AI 시스템이 기업의 중요 의사 결정 과정에 더욱 깊이 통합될수록, 윤리적 AI와 투명한 거버넌스 구축은 선택이 아닌 필수가 될 것이 분명합니다. 2030년까지 전체 기업의 86%가 AI를 통해 변혁을 이룰 것이라는 맥킨지의 예측은, 정말 설레면서도 동시에 깊이 있는 준비를 요구하는 미래를 기대하게 만듭니다.

이 Blog Post는 Google Opal에서 작성된 것으로, 블로그 주인의 생각과는 다를 수 있습니다. (할루시네이션도 있을 수 있어요)

관련 링크 : <https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai>