Nvidia의 독주, 인텔 가우디-3, 삼성 마하-1

인공지능(AI) 기술의 비약적 발전으로 반도체 산업에서 AI 칩 시장이 급격히 확대되고 있습니다. 특히 생성형 AI 모델의 대중화로 인해 높은 수준의 컴퓨팅 파워와 대규모 데이터 처리 능력을 갖춘 AI 전용 칩에 대한 수요가 크게 증가하고 있습니다.

 

 

이러한 가운데 엔비디아가 고성능 GPU를 앞세워 AI 가속기 시장을 주도하고 있습니다. 하지만 시장 급성장에 따라 엔비디아의 독주체제가 점차 변화할 것으로 예상됩니다. 구글, 아마존, 마이크로소프트 등 빅테크 기업들이 자체 AI 칩 개발에 나서고 있으며, AMD, 인텔 등 반도체 업체들도 AI 시장 공략을 가속화하고 있기 때문입니다.

 

이에 따라, AI 칩 시장에는 성능뿐 아니라 전력 효율성, 비용 효율성 등을 특화한 다양한 제품군이 등장하고 있습니다. 특히 AI 모델 추론 분야에서 특화 칩들이 급부상하며 엔비디아의 고성능 GPU 헤게모니에 도전하고 있습니다.

 

이 같은 Al 칩 시장의 재편 과정에서 한국 기업들도 일정 부분 역할을 할 것으로 기대됩니다. 삼성의 파운드리와 SK하이닉스의 메모리가 AI 칩 솔루션 제공에 기여할 수 있으며, 네이버, 카카오 등 국내 플랫폼 기업들은 비영어권 AI 데이터 분야에서 경쟁력을 발휘할 수 있습니다.

 

1.     생성형 AI의 세 가지 핵심 요소는 컴퓨팅 파워, 빅데이터, 모델링입니다.

컴퓨팅 파워는 AI 모델 개발과 운영을 위한 가장 기본적인 인프라입니다. 대규모 AI 모델을 원활히 학습시키고 추론하기 위해서는 엄청난 연산 능력이 필요합니다. 이를 위해 GPU, TPU, ASIC 등 고성능 AI 가속기 하드웨어가 활용됩니다.

 

빅데이터 역시 필수적입니다. AI는 데이터에서 패턴을 학습하여 지식을 습득합니다. 보다 방대한 데이터를 확보할수록 AI 모델의 성능과 일반화 능력이 높아집니다. 구글, 마이크로소프트 등 빅테크 기업들이 데이터 확보에서 앞서 있는 이유입니다.

 

마지막으로 모델링 역량도 중요합니다. AI 모델의 구조와 알고리즘을 정교하게 설계해야 컴퓨팅 자원을 효율적으로 활용하고 높은 성능을 낼 수 있습니다. 모델링에는 수학, 통계학, 기계학습 이론 등 깊이 있는 지식이 필요합니다.

 

이 세 가지 요소가 적절히 결합될 때 비로소 생성형 AI의 강력한 능력이 구현됩니다. 예를 들어 GPT-3와 같은 대규모 언어모델이 가능해졌던 것도 컴퓨팅 파워, 데이터, 모델링 기술이 어우러진 결과입니다.

 

최근 AI 기술 발전의 원동력이 된 것 또한 이 세 가지 요소의 동시 진화입니다. 컴퓨팅 성능 향상, 데이터 축적, 모델링 기법 혁신이 맞물리면서 AI의 성능이 가파르게 발전하고 있는 것입니다.

 

2.     엔비디아는 현재 AI 가속기 시장에서 80-90%의 압도적 점유율을 가지고 있지만, 향후 10년 동안 점유율이 60% 수준으로 하락할 것으로 예상하고 있습니다.

엔비디아의 높은 시장 점유율은 고성능 GPU 제품군의 우위에 기인합니다. 특히 CUDA 소프트웨어 생태계와 연계된 강력한 컴퓨팅 파워는 AI 모델 개발과 학습에 있어 압도적인 이점을 제공합니다.

 

하지만 젠슨 황 CEO는 향후 AI 가속기 시장이 15-20배 급성장할 것으로 내다보면서, 70%가 넘는 점유율은 유지되기 어려울 것이라고 인정했습니다. 그는 향후 10년간 60% 수준의 점유율을 목표로 하고 있습니다.

 

이는 합리적인 수준의 목표로 보입니다. 기존 PC/그래픽 GPU 시장에서 엔비디아가 장기간 70% 수준의 점유율을 유지했던 것과 비슷한 수치입니다.

 

시장이 확대되면서 경쟁사들의 AI 칩 개발도 가속화되고 있기 때문입니다. 특히 구글, 아마존, 마이크로소프트 등 주요 고객사들이 자체 AI 칩을 개발하면서 엔비디아 의존도를 낮추려 하고 있습니다.

 

또한 인텔, AMD 등 반도체 업체들도 AI 시장 공략에 적극 나서고 있습니다. 가격 경쟁력과 특화된 제품으로 일정 부분 시장을 잠식할 것으로 예상됩니다.

 

엔비디아는 상대적으로 높은 수준의 시장 점유율을 유지하되, 독점으로 인한 부작용을 줄이고 경쟁 환경을 조성하려는 것으로 보입니다. 이를 통해 장기적으로 AI 반도체 시장 전체를 키우겠다는 전략으로 해석됩니다.

 

3.     AI 모델 추론 (inference) 시장에서는 엔비디아의 고성능 GPU보다 전력 효율성과 비용 효율성이 높은 전용 칩들이 부상하고 있습니다.

AI 추론이란 이미 학습된 모델을 실제 서비스에 배포하여 질의에 대한 결과를 도출하는 과정을 말합니다. 추론 단계에서는 엄청난 컴퓨팅 파워보다는 합리적인 수준의 성능과 전력/비용 효율성이 중요해집니다.

 

이에 따라 엔비디아의 Grace CPU, 아마존의 Inferentia, 삼성전자의 자체 설계 칩 등 특화된 AI 추론 프로세서들이 주목받고 있습니다. 이들 칩은 엔비디아 GPU에 비해 성능은 다소 뒤처지지만, 전력효율과 가격 경쟁력이 매우 뛰어납니다.

 

예를 들어 엔비디아 GPU로 추론할 경우 1000토큰당 100의 비용이 든다면, 아마존 Inferentia 같은 자체 설계 칩으로는 절반 이하인 50의 비용만으로도 추론이 가능하다고 합니다.

 

이처럼 AI 추론 시장에서는 비용 효율성이 중요한 이슈입니다. 구글, 마이크로소프트 등 주요 기업들이 자체 AI 칩 개발에 주력하는 이유이기도 합니다.

 

또한 일반 기업의 온프레미스(on-premises) 환경에서도 가성비 높은 AI 추론 칩에 대한 수요가 높아지고 있습니다. 인텔의 Gaudi 3 등이 이 영역을 공략하고 있습니다.

 

결과적으로 AI 추론 칩 시장에서는 엔비디아 GPU를 완전히 대체하기는 어려워도, 상당 부분 점유율이 잠식될 것으로 예상됩니다. 전력/비용 효율성을 앞세운 특화 제품군들이 대안으로 부상하고 있는 것입니다.

 

 

4.     인텔의 Gaudi 3는 엔비디아와의 직접적인 성능 경쟁보다는 기업 내부 데이터 센터에서의 AI 추론 가속을 목적으로 하고 있습니다.

Gaudi 3는 인텔이 자체 개발한 AI 프로세서로, 기업들이 자체 서버 환경에서 AI 모델을 실행하고 추론할 때 사용되는 칩입니다. 성능 면에서는 엔비디아나 AMD보다 다소 뒤처지는 편이지만, 가성비를 내세워 기업들의 온프레미스(on-premises) AI 시장을 공략하고 있습니다.

 

엔비디아의 GPU는 최상의 성능을 자랑하지만 고가이기 때문에, 일반 기업들이 자체 AI 추론 작업용으로 도입하기에는 부담이 될 수 있습니다. 이에 인텔은 Gaudi 3를 비교적 저렴한 가격에 내놓으며 실제 기업 현장에서의 AI 추론 수요를 겨냥하고 있습니다.

 

따라서 Gaudi 3는 엔비디아 GPU와 직접 경쟁하기보다는 일반 기업의 내부 AI 작업 수요를 충족시키는 것이 주 목적입니다. 상대적으로 저렴하면서도 합리적인 성능을 제공함으로써 기업들의 AI 인프라 구축을 지원하는 역할을 하고 있습니다.

 

5.     AMD의 MI300X는 엔비디아와 AMD의 최신 GPU 제품군에 비해 성능이 다소 뒤처지지만, 상대적으로 낮은 가격 경쟁력을 앞세워 일부 기업 시장을 공략하고 있습니다.

MI300X는 AMD가 데이터센터와 AI 트레이닝/추론 시장을 겨냥해 내놓은 가속기 제품입니다. 최신 엔비디아 GPU나 AMD의 자체 Instinct MI200 시리즈에 비해서는 전반적인 성능이 낮은 편이지만, 가격 측면에서는 상대적으로 저렴한 수준을 유지하고 있습니다.

 

이러한 가성비를 내세워 MI300X는 높은 수준의 컴퓨팅 파워가 필요하지 않은 중소규모 기업이나 특정 AI 워크로드 시장에서 대안으로 포지셔닝되고 있습니다. 최고 성능이 필수는 아니지만 적정 수준의 AI 연산을 합리적인 비용에 구현해야 하는 기업들이 주요 대상이 될 것으로 보입니다.

 

물론 AMD 역시 MI300X보다 상위 라인업으로 Instinct MI200 시리즈를 갖추고 있지만, MI300X는 가격 경쟁력을 살려 엔트리급 AI 가속기 시장에 보다 집중하고 있는 모습입니다. 비록 최고 수준은 아니지만 합리적 가격대의 대안을 제시함으로써 특정 니치 시장에서 자리를 잡아가고 있습니다.

 

 

6.     엔비디아의 CUDA 소프트웨어 생태계는 경쟁사들이 쉽게 따라잡기 어려운 주요 강점입니다.

CUDA(Compute Unified Device Architecture)는 엔비디아 GPU의 병렬 컴퓨팅 능력을 활용할 수 있게 해주는 소프트웨어 플랫폼입니다. CUDA를 통해 개발자들은 GPU의 강력한 계산 능력을 쉽게 활용할 수 있습니다.

 

CUDA는 C 프로그래밍 언어를 기반으로 하며, 다양한 API, 라이브러리, 컴파일러, 디버깅 및 최적화 툴 등을 포함하고 있습니다. 이를 통해 GPU 프로그래밍의 생산성과 성능을 크게 높일 수 있습니다.

 

엔비디아는 2007년 CUDA를 출시한 이래로 지속적으로 발전시켜왔습니다. 현재 CUDA는 AI, 고성능 컴퓨팅, 그래픽스 등 다양한 분야에서 엔비디아 GPU를 활용할 수 있는 핵심 소프트웨어 생태계로 자리잡았습니다.

 

경쟁사들 역시 자사 GPU를 활용할 수 있는 프로그래밍 모델을 갖추고 있지만, 생태계 규모나 성숙도 측면에서 CUDA를 넘어서기는 쉽지 않습니다. CUDA의 강력한 지원 환경과 방대한 개발자 커뮤니티는 엔비디아가 GPU 컴퓨팅 시장을 장기간 주도할 수 있게 해주는 중요한 역할을 합니다.

 

7.     구글, 마이크로소프트, OpenAI 등 빅테크 기업들은 엔비디아 GPU의 주요 수요처이지만, 동시에 자체 AI 칩 개발에도 적극 나서고 있습니다.

이들 빅테크 기업들은 막대한 데이터와 컴퓨팅 파워를 요구하는 대규모 AI 모델 개발 및 학습을 위해 엔비디아의 고성능 GPU를 대량 구매하고 있습니다. 작년 기준으로 마이크로소프트와 메타(구 페이스북)는 각각 15만 장의 엔비디아 GPU를, 구글은 7만5천 장을 구매했다고 합니다.

 

하지만 이들은 엔비디아 GPU의 고가격에 대한 부담을 느끼고 있습니다. 최신 엔비디아 GPU 한 장당 가격이 4만 달러를 넘는 상황입니다. 이에 구글, 마이크로소프트를 비롯해 아마존, 메타 등 주요 기업들이 자체 AI 칩 개발에 나서고 있습니다.

 

자체 AI 칩을 개발하면 추론 비용을 크게 낮출 수 있기 때문입니다. 구글의 TPU, 아마존의 Inferentia, 마이크로소프트의 칩 등이 대표적인 사례입니다. 이들 칩은 학습 능력이 엔비디아 GPU에 못미치지만 추론 성능은 GPU 대비 절반 이하 수준의 비용으로 구현할 수 있습니다.

 

결과적으로 빅테크 기업들은 AI 모델 학습에는 여전히 엔비디아 GPU에 의존하면서도, 구축한 모델을 배포하고 추론할 때는 점점 더 자체 AI 칩을 활용하는 하이브리드 전략을 구사하고 있습니다.

 

8.     한국은 네이버, 카카오 등 강력한 국내 AI 플랫폼을 보유하고 있어, 비영어권 데이터와 서비스 분야에서 경쟁력을 가지고 있습니다.

미국 빅테크 기업들이 전 세계 데이터를 주도적으로 흡수하며 AI 분야에서 압도적 우위를 점하고 있지만, 한국은 독자적인 생태계를 구축하고 있다는 점에서 차별화됩니다.

 

국내 포털 업체인 네이버와 카카오는 국내뿐 아니라 일본, 동남아시아, 남미 지역에서도 1-2위 수준의 서비스 플랫폼을 구축하며 해당 지역 데이터를 확보하고 있습니다.

 

이를 바탕으로 한국어를 비롯한 비영어권 데이터에 특화된 AI 모델 개발이 가능해집니다. 실제로 네이버는 유럽 연합과 유럽형 검색엔진 및 AI 언어모델 개발을 협력한 바 있습니다.

 

또한 우크라이나 재건 과정에서 젤렌스키 대통령이 우크라이나어 기반 AI 언어모델 개발을 요청했을 때, 네이버가 주목받기도 했습니다.

 

이처럼 한국은 독자 플랫폼을 통해 비영어권 데이터를 계속 축적해나갈 수 있는 환경을 구축하고 있습니다. 이는 미국 빅테크 기업의 영향력에서 벗어나 AI 분야에서 나름의 영역을 확보할 수 있는 기회가 될 것으로 보입니다.

 

9.     삼성의 파운드리 사업과 SK하이닉스의 메모리 솔루션은 AI 칩 분야에서 맞춤형 솔루션을 제공할 수 있는 기회를 열어주고 있습니다.

AI 칩은 단순히 고성능 프로세서만으로는 부족합니다. 데이터와 모델의 크기가 기하급수적으로 커지면서 높은 메모리 대역폭과 용량도 필수적인 요소가 되었습니다. 이에 따라 프로세서와 메모리를 통합하는 맞춤형 패키징 솔루션의 중요성이 부각되고 있습니다.

 

이 부분에서 삼성전자의 파운드리 역량과 SK하이닉스의 메모리 기술이 기회 요인이 될 수 있습니다. 삼성전자는 최근 파운드리 공정 경쟁력을 높여가고 있으며, TSMC에 의존하던 대형 AI칩 고객사들을 일부 유치할 수 있을 것으로 기대되고 있습니다.

 

또한 SK하이닉스는 고성능 메모리 솔루션을 통해 AI 칩에 최적화된 맞춤 메모리를 공급할 수 있습니다. 메모리 기업 중 하나인 마이크론 테크놀로지스가 최근 AI 전용 고대역폭 메모리를 출시한 바 있습니다.

 

이렇게 메모리-프로세서 통합 패키지를 제공할 수 있다면, 삼성과 SK하이닉스는 AI 가속기 시장에서 일정 부분 자리를 잡을 수 있을 것입니다. 비록 전체 시장을 주도하기는 어렵겠지만, 전략적인 협력으로 차별화된 니치 시장을 공략해 나갈 수 있습니다.

 

10.  투자 관점에서 볼 때, 현재 AI 칩 설계 작업흐름을 지원하는 업체들이 매력적인 투자처로 부상하고 있습니다.

AI 칩 개발이 활발해지면서 칩 설계 자동화(EDA: Electronic Design Automation) 툴과 IP(Intellectual Property)가 큰 주목을 받고 있습니다. 과거에는 연필과 종이로 칩을 수작업으로 설계했지만 지금은 복잡한 AI 칩을 전산화된 툴을 사용해 자동으로 설계해야 하기 때문입니다.

 

이 부문에서 미국의 시놉시스(Synopsys), 캐덴스(Cadence) 등의 EDA 툴 업체들이 주도적인 역할을 하고 있습니다. 이들 회사의 툴을 활용해야만 AI 칩 설계가 가능해집니다.

 

또한 ARM은 다양한 IP 코어를 제공하는 대표적인 업체입니다. 각종 프로세서 설계 시 ARM IP 코어를 활용하게 되는데, AI 칩 분야에서도 ARM IP가 많이 사용되고 있습니다.

 

이렇듯 EDA 툴과 IP는 AI 칩 설계의 기반이 되는 핵심 요소입니다. 실제로 AI 칩을 직접 만드는 업체보다 이들 기반 기술 기업에 대한 투자 매력도가 더 높아지고 있는 상황입니다.

 

엔비디아, AMD, 인텔 등 개별 업체 경쟁이 치열해지면서 기술 및 제품 교체 주기가 빨라지고 있기 때문입니다. 반면 EDA 툴과 IP는 업체들이 새 칩을 개발할 때마다 필수적으로 활용돼야 하는 기반 기술이라는 점에서 비즈니스 지속가능성이 높습니다.

 

결과적으로 AI 칩 설계 작업흐름 업체들이 변화의 물결 속에서도 꾸준한 수익을 낼 수 있을 것으로 예상되고 있습니다.

 

 

결론

 

AI 기술의 혁신적 발전과 함께 AI 칩 시장도 지각변동을 겪고 있습니다. 기존 엔비디아의 독주체제가 점차 재편될 것으로 예상되는 가운데, 다양한 업체들이 차별화된 전략으로 AI 칩 시장에 진출하고 있습니다.

 

구글, 아마존, 마이크로소프트 등 빅테크 기업들은 자체 AI 칩을 통해 추론 비용을 대폭 낮추려 하고 있습니다. 인텔, AMD 등 반도체 기업들 역시 가격 경쟁력과 특화된 AI 제품으로 일정 부분 시장을 잠식할 것으로 보입니다.

 

엔비디아는 여전히 높은 수준의 시장 점유율을 견지하되, 60% 수준에서 장기 안정화를 모색하는 모습입니다. 시장 확대에 따른 경쟁 촉발과 혁신 유도가 목적인 것으로 판단됩니다.

 

이러한 재편 과정에서 한국 기업들도 나름의 역할을 할 것으로 기대됩니다. 삼성과 SK하이닉스는 파운드리와 메모리 솔루션으로 AI 칩 설계에 기여할 수 있습니다. 네이버, 카카오 등 플랫폼 기업들은 비영어권 AI 데이터 분야의 경쟁력을 살려 나갈 수 있을 것입니다.

 

다만 AI 기술은 전반적으로 승자독식 구조가 강해 선도업체의 지속 우위가 예상됩니다. 방대한 데이터 확보와 컴퓨팅 파워에서 미국 빅테크 기업들이 유리한 상황입니다. 한국은 특화된 분야에서 전략적 활로를 모색해야 할 것으로 보입니다.

 

결과적으로 AI 칩 시장의 변화는 AI 기술 전반의 지각변동을 예고하고 있습니다. 하드웨어와 소프트웨어, 데이터 측면에서 다양한 혁신과 경쟁이 예상되며, 새로운 산업 지형과 생태계가 만들어질 것입니다. 이 과정에서 한국이 어떤 전략적 포지셔닝을 취하느냐가 중요한 관건이 될 전망입니다.