일본 AI 혁명의 서막: 소프트뱅크와 엔비디아의 AI 그리드 및 슈퍼컴퓨터 프로젝트

최근 일본 소프트뱅크와 엔비디아는 AI 기술의 혁신적 도약을 위해 긴밀한 협력관계를 발표했습니다. 소프트뱅크는 20만 개의 기지국을 미니 데이터 센터로 전환하여 일본 전역에 AI 그리드를 구축할 계획이며, 이는 자율주행 및 산업 AI 솔루션을 지원할 거대한 컴퓨팅 인프라로 자리잡을 전망입니다. 이러한 AI 그리드는 자율주행차나 AI 로봇이 실시간으로 데이터를 처리하여 빠르게 반응하도록 하며, 특히 대기 시간이 중요한 상황에서 유리한 이점을 제공합니다.

 

일본은 AI 기술을 국가 발전과 산업 혁신의 중요한 동력으로 삼고 있습니다. 최근 일본의 주요 클라우드 서비스 제공업체들이 엔비디아(NVIDIA)와 협력하여 AI 컴퓨팅 인프라를 크게 확장하면서, 일본은 AI 혁신의 중심지로 도약하고자 하는 전략을 구체화하고 있습니다. 이러한 변화는 일본 경제산업성(METI)의 지원 아래 진행되고 있으며, 로봇공학, 자동차, 헬스케어, 통신 등 주요 산업 분야의 디지털 전환을 가속화하려는 목적을 가지고 있습니다.

 

특히 엔비디아의 최첨단 AI 컴퓨팅 기술이 일본 클라우드 인프라 확장의 핵심에 자리 잡고 있으며, 이는 고성능 AI 학습과 실시간 데이터 처리에 필요한 클라우드 인프라를 제공함으로써 AI 연구와 산업 적용을 촉진하고 있습니다. 각 클라우드 기업은 산업별 특화된 AI 솔루션을 제공하며, 이를 통해 자율주행, 디지털 트윈, 고성능 시뮬레이션 등 다양한 응용 분야에서 경쟁력을 높이고 있습니다. 이번 일본 클라우드 서비스 제공업체들의 AI 인프라 확장은 국가 전체의 AI 생태계를 강화하며, 글로벌 AI 시장에서도 주목받는 사례로 자리 잡고 있습니다.

 

엔비디아 AI 에어리얼 및 블랙웰 플랫폼: 소프트뱅크의 글로벌 AI 리더십 도약

이번 협력의 핵심은 소프트뱅크가 일본에서 가장 강력한 AI 슈퍼컴퓨터를 구축하기 위해 엔비디아의 블랙웰(Blackwell) 플랫폼을 활용하는 것입니다. 이 AI 슈퍼컴퓨터는 생성형 AI 및 대형 언어 모델 개발을 위한 연구기관과 기업을 지원하며, 소프트뱅크가 AI 연구 및 개발의 중심지로서 일본을 이끌어 갈 것으로 기대됩니다.

또한, 소프트뱅크는 엔비디아의 AI 에어리얼(Aerial) 가속화 컴퓨팅 플랫폼을 통해 세계 최초의 AI와 5G 네트워크를 결합한 상용 AI-RAN(라디오 액세스 네트워크)을 성공적으로 구축했습니다. 이를 통해 AI와 5G 워크로드를 동시에 처리할 수 있으며, 초과 네트워크 용량을 활용한 AI 추론 서비스로 글로벌 통신 업계에 새로운 수익 모델을 제시하고 있습니다.

 

소프트뱅크는 일본 내 AI 인프라 구축을 위해 엔비디아의 최신 AI 기술을 도입하면서 글로벌 AI 리더십을 공고히 하고 있습니다. 이번 프로젝트의 중심에는 엔비디아의 블랙웰(Blackwell) 플랫폼과 AI 에어리얼(Aerial) 가속화 컴퓨팅 플랫폼이 있습니다. 소프트뱅크는 이 첨단 기술들을 통해 일본 전역의 5G 기지국을 AI 기능을 갖춘 미니 데이터 센터로 전환하고 있으며, 이를 통해 초저지연 AI 서비스를 가능하게 하고 있습니다. 특히 이로 인해 자율주행, 산업용 로봇 제어, 실시간 영상 분석 등의 AI 응용 분야에서 높은 성능을 제공할 수 있게 되었습니다.

1. 블랙웰 플랫폼을 활용한 AI 슈퍼컴퓨터 구축

엔비디아 블랙웰 플랫폼은 소프트뱅크의 AI 슈퍼컴퓨터 프로젝트의 핵심 기술입니다. 소프트뱅크는 이를 바탕으로 일본에서 가장 강력한 AI 슈퍼컴퓨터를 구축하고 있으며, 이는 생성형 AI, 대형 언어 모델(LLM), 로봇 공학, 자율주행 차량 등 다양한 고성능 AI 연구 및 개발에 기여할 예정입니다. 이 AI 슈퍼컴퓨터는 엔비디아의 DGX™ SuperPOD™ 아키텍처와 DGX B200 시스템으로 구성되어, 고도의 연산을 요구하는 작업에 최적화되어 있습니다. 소프트뱅크는 이 인프라를 활용하여 자사 연구뿐만 아니라 일본 내 대학과 연구 기관, 기업에도 AI 연구 개발 환경을 제공할 계획입니다.

2. AI-RAN: AI와 5G 네트워크의 융합

AI 에어리얼(Aerial) 가속화 컴퓨팅 플랫폼은 5G와 AI를 융합하여 AI-RAN(Artificial Intelligence Radio Access Network) 솔루션을 구현하는 핵심 기술입니다. AI-RAN은 AI와 5G 네트워크를 동시에 운영할 수 있는 플랫폼으로, 전통적인 5G 기지국의 용량 중 남는 부분을 활용해 AI 추론 작업을 병행함으로써 새로운 수익 창출 기회를 제공합니다. 이를 통해 소프트뱅크는 기지국의 인프라를 비용 중심에서 수익을 창출하는 자산으로 변환할 수 있습니다.

AI-RAN 솔루션의 실제 현장 시험은 일본 가나가와 현에서 실시되었으며, 5G 네트워크의 성능을 유지하면서 동시에 자율주행 차량 원격 지원, 로봇 제어, 엣지 AI 응용 프로그램을 실시간으로 구동하는 데 성공했습니다. 이를 통해 소프트뱅크는 통신 인프라를 단순한 네트워크 제공에서 벗어나 실시간 AI 서비스 플랫폼으로 전환하여 추가적인 수익 창출 모델을 제시하고 있습니다. 또한, AI-RAN을 통해 초과 네트워크 용량을 활용하여 AI 추론 서비스를 제공하는 구조는 통신 사업자들이 기존의 인프라를 효율적으로 활용하면서 수익을 극대화할 수 있도록 돕습니다.

3. 글로벌 AI 확장과 신기술 상용화 가능성

소프트뱅크는 이번 AI-RAN 및 블랙웰 플랫폼을 활용한 AI 슈퍼컴퓨터 프로젝트를 통해 일본을 넘어 글로벌 AI 시장에 새로운 패러다임을 제시할 계획입니다. 향후 AI-RAN을 상용화하고 일본 외부로도 수출하여 글로벌 시장에서 새로운 수익 모델을 개척할 예정입니다. 소프트뱅크는 AITRAS라는 새로운 AI-RAN 솔루션을 통해 통신사업자들이 네트워크를 AI 중심으로 재설계하고, 다양한 AI 서비스 제공을 통해 경쟁력을 강화할 수 있도록 지원하고 있습니다.

AITRAS는 단일 엔비디아 가속화 GPU 서버에서 5G 통신과 AI 추론 작업을 동시에 수행할 수 있는 소프트뱅크의 독자적인 오케스트레이터 기술을 통합한 시스템으로, AI와 5G의 융합으로 미래의 통신사업 모델을 재정의하고 있습니다. 이를 통해 AI-RAN을 구현한 통신사업자는 5G 네트워크에 AI 추론 서비스와 같은 부가 가치를 더해 기존 인프라의 수익성을 획기적으로 높일 수 있습니다.

 

 

일본 클라우드 서비스 제공업체의 AI 인프라 확장

소프트뱅크 외에도 GMO Internet Group, 하이레소(Highreso), KDDI, 루틸레아(Rutilea), 사쿠라 인터넷(SAKURA Internet) 등 일본의 주요 클라우드 서비스 제공업체들이 엔비디아의 AI 가속 컴퓨팅 플랫폼을 활용하여 일본 전역에서 AI 인프라를 확장하고 있습니다. 예를 들어, KDDI는 디지털 트윈과 자율주행 차량 시뮬레이션을 위해 엔비디아의 AI 컴퓨팅 인프라를 구축하고 있으며, 루틸레아는 후쿠시마 지역에서 AI 기반 산업 회복을 지원하고 있습니다.

 

이와 같이, 일본의 다양한 기업들은 엔비디아의 기술을 활용하여 AI 산업의 확장 및 발전을 목표로 하고 있습니다. 이들은 정부의 지원을 받아 로봇 공학, 자동차, 헬스케어 등의 다양한 산업에서 AI 기반 솔루션을 강화하여 경쟁력을 높이고 있습니다.

 

최근 일본의 주요 클라우드 서비스 제공업체들이 엔비디아의 AI 가속 컴퓨팅 기술을 적극 도입하여 일본 전역에 걸쳐 AI 인프라를 대폭 확장하고 있습니다. 이러한 협력은 일본 경제산업성(METI)의 지원을 받아 전국적으로 AI 데이터 센터를 구축하려는 장기적 계획의 일환으로 추진되고 있으며, 이를 통해 일본의 로봇공학, 자동차, 헬스케어, 통신 산업의 변화를 가속화하고자 합니다.

1. 소프트뱅크: 일본 AI 인프라의 핵심

소프트뱅크는 엔비디아의 블랙웰(Blackwell) 플랫폼을 활용하여 일본에서 가장 강력한 AI 슈퍼컴퓨터를 구축 중입니다. 이 슈퍼컴퓨터는 일본 최초로 NVIDIA DGX SuperPOD™ 아키텍처를 채택하여 초대형 AI 언어 모델(LLM)과 생성형 AI 응용 프로그램의 학습 및 개발을 지원합니다. 특히, 소프트뱅크의 AI 인프라는 기업뿐만 아니라 대학, 연구 기관에 이르기까지 폭넓은 사용자층에 고성능 AI 컴퓨팅 자원을 제공하며, 일본 전역의 다양한 산업이 AI 혁신을 가속화할 수 있도록 돕습니다. 소프트뱅크는 이 인프라를 통해 AI 연구 개발을 선도하며 일본의 AI 생태계를 더욱 강화하고 있습니다.

2. GMO 인터넷 그룹: 고성능 AI 클라우드 구축

GMO 인터넷 그룹은 일본 최초로 GMO GPU 클라우드라는 서비스를 출시하면서, 엔비디아 H200 텐서 코어 GPU 및 엔비디아 AI 엔터프라이즈 소프트웨어 스위트를 전면 도입하였습니다. 이 클라우드는 델 파워엣지(Dell PowerEdge) 서버를 기반으로 구축되었으며, AI 모델의 고속 학습과 생성형 AI 애플리케이션의 운영을 지원합니다. GMO GPU 클라우드는 일본 내 기업들에게 고성능 AI 컴퓨팅 환경을 제공하여 다양한 산업에서의 AI 도입을 촉진하고 있으며, 특히 대규모 데이터 처리와 분석이 필요한 기업들에게 큰 혜택을 제공할 수 있을 것으로 기대됩니다.

3. 하이레소(Highreso): AI 데이터 센터 확장

하이레소는 Highreso 카가와라는 전용 AI 데이터 센터를 설립하여 엔비디아 H200 텐서 코어 GPU를 기반으로 한 인프라를 제공하고 있습니다. 이 AI 데이터 센터는 1,600여 개의 GPU를 통해 연구 기관과 기업들이 고성능 컴퓨팅 환경에서 AI 개발을 수행할 수 있도록 돕고 있습니다. 또한, 2024년 여름에 두 번째 AI 데이터 센터를 오픈할 계획으로, 이를 통해 일본 내 제조업 및 연구, 교육 분야의 AI 연구 활성화를 촉진할 예정입니다. 이러한 인프라는 일본의 AI 연구 생태계와 산업 경쟁력 향상에 기여할 것입니다.

4. KDDI: 디지털 트윈과 자율주행을 위한 AI 인프라

KDDI는 자사의 ELYZA 비즈니스 그룹과 함께 엔비디아의 HGX 시스템을 도입하여 디지털 트윈과 자율주행 차량 시뮬레이션을 위한 AI 컴퓨팅 인프라를 구축하고 있습니다. 이 인프라는 AI 모델 학습과 추론, 센서 데이터 처리, 로봇 제어 등 다양한 AI 작업을 지원합니다. KDDI는 특히, NVIDIA GB200 Grace Blackwell 슈퍼칩을 포함한 액체 냉각 데이터 센터를 계획하고 있어, 향후 더욱 고성능의 AI 학습 환경을 제공하고 AI 기반 시뮬레이션 작업의 속도와 정확성을 높일 것입니다.

5. 루틸레아(Rutilea): 애니메이션과 리테일을 위한 AI 클라우드

루틸레아는 일본 교토에 위치한 AI 클라우드 데이터 센터를 통해 1,000개 이상의 NVIDIA Hopper GPU를 제공하고 있으며, 이 클라우드를 통해 애니메이션, 리테일, 푸드 서비스 등 다양한 분야에서 LLM 및 생성형 AI 모델 개발을 지원하고 있습니다. 루틸레아는 후쿠시마 지역에 AI 후쿠시마(AI Fukushima)라는 데이터 센터를 추가로 설립하여, 2011년 동일본 대지진으로부터 지역 경제 회복을 돕고 있습니다. AI 후쿠시마는 최신 AI 컴퓨팅 플랫폼을 제공하여 지역 내 다양한 산업의 회복과 발전에 기여하고 있습니다.

6. 사쿠라 인터넷(SAKURA Internet): 재생 에너지와 AI 인프라 결합

사쿠라 인터넷은 Koukaryoku라는 클라우드 서비스를 통해 기존의 2,000개 NVIDIA Hopper GPU를 4,000개로 확대할 계획이며, 재생 에너지를 활용한 AI 인프라를 구축하고 있습니다. 특히, Hokkaido 지역의 이시카리 데이터 센터에서는 NVIDIA HGX B200 인프라를 도입하여 2027년까지 전력을 재생 가능 에너지원으로 완전히 대체할 계획입니다. 사쿠라 인터넷은 이 인프라를 통해 의료 연구를 위한 대형 언어 모델(LLM) 개발을 비롯해 다양한 AI 서비스에 필요한 고성능 컴퓨팅 자원을 제공합니다.

 

결론

일본의 주요 클라우드 제공업체들이 추진하는 AI 인프라 확장은 단순한 기술 도입을 넘어선 국가적 차원의 AI 생태계 구축을 목표로 하고 있습니다. 엔비디아와의 협력으로 구축되는 고성능 AI 컴퓨팅 인프라는 일본 내 각 산업 분야의 디지털 전환을 지원하며, AI 기술을 실질적인 경제 성장과 사회적 발전의 기반으로 활용하고 있습니다. 이러한 노력은 AI 기반의 데이터 처리, 실시간 추론, 대형 언어 모델(LLM) 학습 등 복잡한 AI 워크로드를 지원하며, 자율주행 및 헬스케어, 제조업 등의 산업에서 새로운 기회를 창출하고 있습니다.

 

일본의 AI 인프라 확장은 국가적으로는 경제 성장과 산업 경쟁력 강화에 기여하며, 글로벌 AI 시장에서도 새로운 표준을 제시할 잠재력을 지니고 있습니다. 일본의 클라우드 업체들은 각자의 강점을 살려 AI 클라우드 서비스를 최적화하고 있으며, 이는 일본을 넘어 전 세계로 확대될 수 있는 성공적인 모델로 주목받고 있습니다. 특히 일본 경제산업성의 지원을 받는 이들 프로젝트는 국가적 차원의 협력을 통해 보다 견고한 AI 생태계를 조성하는 데 기여하고 있으며, 일본의 AI 혁신이 글로벌 시장에서 중요한 역할을 할 수 있음을 보여줍니다. 이러한 AI 인프라 확장은 향후 글로벌 AI 생태계의 발전에도 긍정적인 영향을 미칠 것으로 예상됩니다.