🏢 IBM, 다시 주목받다: 그러나 AI 시대의 시험대에 서다

IBM(International Business Machines, 이하 IBM)이 오랜만에 투자자들의 관심을 끌어모으고 있습니다. 아빈드 크리슈나(Arvind Krishna) CEO의 조용한 리더십 하에, IBM은 생성형 AI를 중심으로 60억 달러 규모의 계약을 체결하며 새로운 성장 동력을 확보했습니다. 그러나 여전히 IBM은 AI 시대에 진정한 입지를 다질 수 있을지를 증명해야 하는 과제를 안고 있습니다.

 

한때 '빅 블루(Big Blue)'라는 별명으로 전 세계 기술 업계를 주름잡았던 IBM은, 지난 수십 년 동안 수많은 도전과 좌절을 겪으며 점차 시장의 변방으로 밀려났습니다. 클라우드 혁명, 모바일 퍼스트 시대, AI 1차 붐 등 기술 패러다임이 변할 때마다 IBM은 번번이 타이밍을 놓쳤고, 투자자들 사이에서도 '성장성 없는 공룡'이라는 인식이 굳어져 갔습니다.

 

하지만 최근 몇 년간, 조용히 변화를 이끌어온 아빈드 크리슈나(Arvind Krishna) CEO의 리더십 아래, IBM은 다시 무대 중앙으로 돌아오려는 신호를 보내고 있습니다.

하이브리드 클라우드 전략을 중심으로 레드햇(Red Hat)을 적극 활용하고, 생성형 AI 붐에 발 빠르게 대응하면서, IBM은 시장과 투자자들에게 다시 '가능성'을 보여주고 있습니다.

 

특히 이번 생성형 AI 시대는 IBM에 있어 과거와는 다른 기회이자, 동시에 또 다른 시험대입니다. 과거처럼 기술 시연만으로 만족할 것인가, 아니면 진짜 사업적 성공으로 이어질 것인가 — IBM은 지금 중요한 갈림길에 서 있습니다.

 

이 글에서는 IBM이 걸어온 변화의 궤적, 그리고 현재 직면하고 있는 새로운 도전들을 깊이 있게 살펴보며, 진정한 부활 가능성을 평가해보겠습니다.

 

---

📈 소프트웨어와 컨설팅 사업의 성장…하지만 완전한 부활은 아직

IBM은 2021년 IT 아웃소싱 사업부를 킨드릴(Kyndryl)로 분사한 이후, 소프트웨어와 컨설팅 중심의 회사로 더 집중된 모습을 보이고 있습니다. 특히 오픈소스 소프트웨어 기업 레드햇(Red Hat) 인수 이후, 레드햇 매출이 두 배 이상 성장하면서 긍정적인 변화를 이끌어냈습니다. 그러나 1분기 실적 발표에서는 소프트웨어 사업의 성장세가 기대에 미치지 못했다는 분석도 나왔습니다. 환율 효과를 제외하면 성과가 예상보다 부진했다는 JP모건의 지적이 이를 뒷받침합니다.

 

 

IBM은 최근 몇 년간 구조조정과 사업 재편을 거치며 소프트웨어 중심 회사로 탈바꿈하는 데 주력했습니다. 그 중심에는 2019년에 인수한 레드햇(Red Hat)이 있습니다. 레드햇은 하이브리드 클라우드를 지원하는 오픈소스 솔루션을 제공하며, IBM이 기업 고객들에게 클라우드 전환을 돕는 플랫폼으로 자리 잡을 수 있도록 중요한 역할을 했습니다. 이 덕분에 레드햇의 매출은 인수 이후 약 두 배로 성장하며, IBM 전체 소프트웨어 부문의 핵심 성장 축으로 부상했습니다.

 

또한 IBM은 소프트웨어 포트폴리오를 AI, 자동화, 보안, 데이터 관리 등 전략적 영역으로 집중시키며 과거보다 더 탄탄한 사업 구성을 갖추게 되었습니다. 이 과정에서 IBM의 소프트웨어 매출은 꾸준히 증가하는 모습을 보여주었고, 투자자들은 IBM을 단순한 '구식 하드웨어 회사'가 아닌 '첨단 소프트웨어/AI 기업'으로 다시 보기 시작했습니다.

 

그러나 이번 1분기 실적 발표에서는 경고등이 켜졌습니다. 표면적으로는 환율 효과로 인해 소프트웨어 매출이 성장한 것처럼 보였지만, 환율 효과를 제거하면 실제 성장은 기대치를 밑돌았습니다. JP모건을 비롯한 주요 투자은행들은 이를 "내재 성장률 둔화"로 해석하며 우려를 표했습니다. 이는 IBM이 진정한 성장 기업으로 거듭나기 위해 아직 갈 길이 멀다는 사실을 보여줍니다. 레드햇 하나에 의존하는 성장 구조 또한 위험 요소로 지적되고 있습니다.

 

---

⚠️ 컨설팅 사업의 약화와 경기 둔화 우려

IBM 전체 매출의 약 3분의 1을 차지하는 컨설팅 부문은 1분기에 2% 감소했습니다. 특히 역설적으로 AI가 기업 업무 방식을 바꾸는 전환기에 들어서면서, 많은 기업이 대규모 IT 프로젝트를 보류하게 되어 컨설팅 수요 자체가 위축되고 있습니다. 게다가 불확실한 경제 전망까지 겹쳐 향후 몇 년간 연 4% 수준의 완만한 성장에 그칠 것으로 보입니다.

 

 

컨설팅 부문은 IBM 매출의 약 32%를 차지할 만큼 중요한 축입니다. 이 부문은 기업들의 디지털 전환, 클라우드 구축, 인프라 최적화 등을 지원하는 업무를 수행합니다. 특히 AI 도입과 관련된 컨설팅 수요가 기대되었지만, 최근 몇 개월간 예상과는 다른 방향으로 흐르고 있습니다.

 

1분기 IBM 컨설팅 매출은 전년 대비 2% 감소했습니다. 이 감소의 핵심 원인은 두 가지입니다.

첫째, 많은 기업이 AI 시대에 대비하기 위해 대규모 IT 프로젝트를 신중하게 재검토하고 있다는 점입니다. AI가 조직 구조, 업무 방식, 기술 인프라 전반을 뒤흔들 가능성이 제기되면서, 기업들은 새로운 대형 프로젝트 착수 대신 기존 계획을 연기하거나 축소하고 있습니다. 이는 자연스럽게 IBM과 같은 컨설팅 회사의 단기 매출 감소로 이어졌습니다.

 

둘째, 글로벌 경제의 불확실성입니다. 금리 인상, 소비 둔화, 지정학적 리스크 등으로 인해 기업들이 전반적인 IT 지출을 줄이고 있습니다. 컨설팅은 가장 먼저 예산이 삭감되는 분야 중 하나이기 때문에, IBM 역시 그 영향을 피할 수 없었습니다. Morningstar 분석에 따르면, IBM의 컨설팅 사업은 향후 연 4% 내외의 낮은 성장률을 기록할 것으로 예상됩니다. 이는 테크 산업 평균 성장률(8~10%)에 비해 크게 뒤처지는 수준입니다.

 

게다가 IBM의 컨설팅은 마이크로소프트나 아마존과 같은 거대 클라우드 기업들과의 협력에 어느 정도 의존하고 있습니다. 자체적인 독자 솔루션에 대한 의존도가 낮은 만큼, 시장 변동에 더 민감하게 반응할 수밖에 없습니다.

 

결국 컨설팅 부문의 성장 둔화는 IBM 전체 성장 스토리에 구조적 한계를 드리우고 있습니다. AI 전환이라는 거대한 기회 앞에서도 IBM이 얼마나 빠르고 민첩하게 대응할 수 있을지는 여전히 의문 부호가 따라붙습니다.

 

 

---

🔮 AI 시대, IBM은 과거의 실수를 반복할 것인가?

IBM은 과거에도 중요한 기술 전환의 기회를 놓쳤습니다. 클라우드 컴퓨팅 시대에 AWS와 Azure가 시장을 지배할 때 IBM은 존재감을 크게 드러내지 못했습니다. AI 기술에서도 '왓슨(Jeopardy! 퀴즈 챔피언)', '딥 블루(체스 챔피언)' 등의 상징적 성공에도 불구하고, 이를 지속가능한 비즈니스로 확장하는 데 실패했습니다. 최근의 AI 붐에서도 IBM은 마이크로소프트처럼 생산성 소프트웨어나 강력한 클라우드 인프라를 갖추지 못해 추가적인 수익 기회를 확보하는 데 한계가 있습니다.

 

 

IBM은 과거에도 기술 전환의 중요한 순간마다 기대에 미치지 못하는 모습을 보여주었습니다. 대표적인 사례가 바로 클라우드 컴퓨팅 시장입니다. IBM은 자체 하드웨어와 서비스를 고집하는 전략을 펴다가, AWS(아마존)와 Azure(마이크로소프트)가 주도하는 클라우드 혁명에 대응하는 데 실패했습니다. 이 결과 IBM은 클라우드 시장 점유율에서 한참 뒤처지게 되었고, 다시 회복하는 데 오랜 시간이 걸렸습니다.

 

AI 분야에서도 비슷한 아쉬움이 있습니다. IBM은 AI의 초기 성공 신호를 가장 먼저 보낸 회사 중 하나였습니다. 특히 1997년 체스 세계 챔피언을 이긴 '딥 블루(Deep Blue)'와 2011년 퀴즈쇼 '제퍼디!(Jeopardy!)'에서 인간 챔피언을 꺾은 '왓슨(Watson)'은 세계적인 화제를 모았습니다. 하지만 이 기술들을 상업화하고 대규모 수익 모델로 전환하는 데는 실패했습니다.

특히 왓슨 헬스(Watson Health) 프로젝트는 기대와 달리 의료 분야에서 복잡한 데이터 처리와 정확성 문제를 해결하지 못해 결국 매각 수순을 밟게 되었습니다.

 

현재 IBM이 직면한 AI 시장 역시 초기 열광 이후 '상업적 현실성'을 검증받아야 하는 단계에 접어들고 있습니다. 많은 기업이 AI 도입에 대한 실험은 활발히 하고 있지만, 그 실험이 실질적인 대규모 투자로 이어질지 여부는 불확실합니다. 더욱이 AI 기술이 고도화되고 효율성이 높아질수록, 기업들은 외부 컨설팅이나 지원 없이도 독자적인 운영이 가능해질 것입니다. 이 경우 IBM이 맡을 수 있는 역할은 급격히 줄어들 수 있습니다.

 

IBM이 과거처럼 '기술적 가능성'은 입증했지만 '사업적 확장'에는 실패하는 패턴을 반복할 것인지, 아니면 이번에는 진정한 AI 비즈니스 성공 모델을 만들어낼 수 있을지, 지금이 결정적인 시험대입니다.

 

 

---

🚀 크리슈나 CEO의 반등 시도: 그러나 쉽지 않은 길

크리슈나 CEO는 IBM을 다시 춤추게 만들고자 많은 노력을 기울였습니다. 그는 고객들이 자사 하드웨어와 클라우드 서비스를 혼합해 사용하는 하이브리드 클라우드 전략을 정확히 간파하고, 레드햇을 중심으로 이를 지원하는 소프트웨어를 제공했습니다. 덕분에 IBM은 한동안 잊혔던 '성장 기업' 이미지에 가까워졌습니다. 그러나 AI 부문에서 확실한 리더십을 확립하기 전까지는, 주가 프리미엄을 정당화하는 데는 여전히 부족해 보입니다.

 

 

아빈드 크리슈나(Arvind Krishna) CEO는 2020년 취임 이후 IBM의 체질을 과감히 개선하려는 시도를 해왔습니다. 그의 가장 중요한 업적 중 하나는 '하이브리드 클라우드' 전략을 명확히 세운 것입니다.

기업들이 모든 데이터를 퍼블릭 클라우드(아마존, 마이크로소프트)로 옮기는 것이 아니라, 자체 데이터센터와 퍼블릭 클라우드를 조합해 쓰고 싶어한다는 수요를 정확히 파악한 것입니다. 이 전략의 핵심이 바로 레드햇(Red Hat) 인수였고, 이를 통해 IBM은 기업들이 다양한 클라우드 환경을 통합 관리할 수 있도록 돕는 소프트웨어 솔루션 제공자로 자리매김했습니다.

 

그 결과, IBM은 과거처럼 자사 제품에만 고객을 묶어두려는 전략에서 탈피하여, 오히려 다양한 파트너와 호환 가능한 개방형 생태계를 지향하기 시작했습니다. 이는 시장의 긍정적 평가를 받았고, 투자자들도 IBM이 '구시대 기업'에서 '디지털 전환 파트너'로 거듭나고 있다고 기대하기 시작했습니다.

 

하지만 현실은 여전히 녹록지 않습니다.

• 컨설팅 부문의 구조적 둔화,
• 소프트웨어 사업 성장세 둔화 징후,
• 경제 불확실성에 따른 IT 지출 감소
  이런 요인들이 IBM의 회복 속도를 둔화시키고 있습니다.

특히 AI 분야에서는 마이크로소프트(Azure AI, Copilot), 구글(DeepMind, Gemini), 아마존(Bedrock, Titan AI) 등이 공격적으로 시장을 주도하고 있습니다. 이들과 비교하면 IBM은 '기술 브랜드'로는 여전히 강점을 갖고 있지만, '대중성과 시장 영향력' 면에서는 확실히 밀리고 있습니다.

 

IBM은 지금 'AI 컨설팅'이라는 초기 입지를 가지고 있지만, 이를 뛰어넘어 독자적인 AI 플랫폼과 제품군을 성장시키지 않는다면, 다시 한 번 기회를 놓칠 수 있습니다. 크리슈나 CEO가 반등을 시도하고 있는 것은 분명하지만, AI라는 무대에서 '완전한 부활'을 이루기까지는 훨씬 더 험난한 여정이 기다리고 있습니다.

 

 

---

🧠 결론: '춤추는 코끼리'가 될 수 있을까?

IBM은 분명 과거 몇 년간 보다 훨씬 나은 모습을 보이고 있습니다. 그러나 AI 분야에서의 확고한 성공 사례 없이 현재의 기대를 유지하기는 어렵습니다. AI 시장이 성숙함에 따라 고객들의 수요가 줄어들 수 있다는 점, 그리고 IBM이 AI 프로젝트 이후 추가적인 수익 창출 파이프라인을 갖추지 못했다는 약점은 큰 리스크로 남아 있습니다.

"Who Says Elephants Can’t Dance?"(코끼리도 춤출 수 있다)고 했던 그 시절처럼, IBM은 다시 한번 춤추려 하고 있습니다. 하지만 이번에는 정말 '오래, 제대로' 춤출 수 있는지를 지켜봐야 할 때입니다.

 

 

IBM은 분명히 다시 '움직이기' 시작했습니다.

과거의 무거운 발걸음을 벗어나 하이브리드 클라우드, 오픈소스 소프트웨어, 생성형 AI 컨설팅이라는 새로운 무기를 들고, 변화하는 시장에 적응하려는 노력을 이어가고 있습니다.

이는 단순한 이미지 쇄신이 아니라, 실질적인 사업 구조 개편과 전략적 방향 수정이 동반된 점에서 분명한 진보입니다.

그러나 이 길은 결코 순탄치 않습니다.

AI 기술이 기업 현장에 본격적으로 자리 잡으면서 IBM의 컨설팅 수요가 오히려 감소할 가능성, 주요 경쟁자들이 훨씬 더 빠른 속도로 AI 솔루션과 생태계를 구축하고 있다는 점, 그리고 IBM 자체가 여전히 클라우드, AI 플랫폼 측면에서 완전한 주도권을 확보하지 못했다는 점은 모두 불안 요소로 남아 있습니다.

 

특히 과거 왓슨(Watson) 프로젝트처럼, 기술적 가능성은 증명했지만 비즈니스화에는 실패했던 뼈아픈 역사를 되풀이하지 않으려면,
IBM은 이제 'AI 기술의 성공'을 넘어 'AI 비즈니스의 성공' 으로 나아가야 합니다.

 

아빈드 크리슈나 CEO가 이끄는 IBM이 정말로 '춤추는 코끼리'가 되어 AI 시대를 선도하는 모습을 보여줄 수 있을지, 아니면 다시 한 번 기술의 변곡점에서 발이 묶일 것인지 — 그 답은 이제, 앞으로 1~2년 안에 명확해질 것입니다.

 

IBM에게 있어, 지금 이 순간은 단순한 반등이 아니라, 미래를 결정짓는 진정한 '부활의 순간'입니다.