AI 가격을 낮추기 위한 짐 켈러 (Jim Keller) 의 도전

NVIDIA를 위협하는 텐스토런트의 AI 칩 혁신

세계적인 칩 디자이너인 짐 켈러(Jim Keller)가 새로운 도전에 나섰습니다. 인텔(Intel), AMD, 테슬라(Tesla)에서 혁신적인 칩 디자인을 이끌었던 그가 이번에는 자율주행차와 스마트폰에서 클라우드 서비스에 이르기까지 다양한 AI 응용 프로그램의 비용을 낮추기 위해 텐스토런트(Tenstorrent)를 이끌고 있습니다.

 

켈러는 "NVIDIA가 잘 서비스하지 못하는 많은 시장이 있다"고 말하며, 텐스토런트의 새로운 AI 칩이 이러한 틈새 시장을 공략할 것임을 시사했습니다. AI가 스마트폰, 전기차, 클라우드 서비스 등으로 확장됨에 따라 더 저렴한 솔루션을 찾는 기업들이 늘고 있습니다. 켈러는 "많은 소규모 기업들이 NVIDIA의 고급 GPU에 20,000달러를 지불하고 싶어하지 않는다"고 덧붙였습니다.

 

텐스토런트의 혁신적인 칩 디자인

텐스토런트는 올해 말에 두 번째 세대의 범용 AI 칩을 출시할 예정입니다. 이 칩은 에너지 효율성과 처리 효율성 면에서 NVIDIA의 AI GPU보다 우수하다는 평가를 받고 있습니다. 텐스토런트의 갤럭시(Galaxy) 시스템은 NVIDIA의 DGX 서버보다 3배 더 효율적이고 33% 저렴하다고 회사 측은 주장합니다.

 

켈러는 텐스토런트의 성공 비결 중 하나로 고대역폭 메모리(HBM)를 사용하지 않는 것을 꼽았습니다. HBM은 데이터 전송 속도가 빠른 고급 메모리 칩으로, NVIDIA의 AI 칩에서 중요한 역할을 하지만 에너지 소비와 높은 가격의 원인이 되기도 합니다. 텐스토런트는 HBM을 사용하지 않음으로써 이러한 문제를 피하고 있습니다.

 

일반적인 AI 칩셋에서는 GPU가 프로세스를 수행할 때마다 메모리로 데이터를 전송해야 합니다. 그러나 텐스토런트는 이러한 전송을 크게 줄이도록 칩을 설계했습니다. 이를 통해 GPU와 HBM을 모두 대체할 수 있는 새로운 AI 칩을 개발하고 있습니다.

미래를 대비한 유연한 디자인

텐스토런트의 칩은 100개 이상의 코어 각각에 작은 CPU가 포함된 구조로 설계되어 있습니다. 이 코어들은 독립적으로 데이터를 처리할 수 있으며, 이를 통해 칩의 효율성을 높이고 다양한 응용 프로그램에 맞게 조정할 수 있습니다. 예를 들어, 소수의 코어는 스마트폰이나 웨어러블 디바이스에 적합하고, 100개의 코어는 AI 데이터 센터에서 사용할 수 있습니다.

켈러는 AI의 최적 응용 프로그램을 예측하기 어렵기 때문에 다양한 제품에 맞는 기술을 개발하는 것이 중요하다고 강조했습니다. 또한, 단일 기업이 NVIDIA를 대체하기보다는 여러 새로운 플레이어가 AI 시장의 다양한 니즈를 충족할 것으로 전망했습니다.

 

텐스토런트의 혁신적인 접근 방식은 AI 칩 시장에 큰 변화를 가져올 가능성이 있습니다. 고비용의 HBM을 피하고, 에너지 효율적인 디자인을 통해 AI 기술의 접근성을 높이고자 하는 텐스토런트의 노력이 앞으로 어떤 성과를 낼지 주목됩니다.