NVIDIAの200億ドルは無駄ではなかった：Groqチップが正式に量産開始

動察 Beating AI 速報、NVIDIA Groq 3 LPX が本格的な量産段階に入った。昨年12月、NVIDIAは約200億ドルでGroqの技術ライセンスを取得し、創業者Jonathan Ross氏ら中核チームを引き抜いた。8ヶ月後、この取引の最初のハードウェアが正式に登場した。

Groq 3 LPXは、大規模モデルの推論を専門に高速化するシステムで、256個のGroq 3 LPUチップを搭載している。Artificial Analysisのテストでは、Gemma 4 31Bに10万トークンを入力した後、Groq 3 LPXは毎秒3431個の出力トークンを達成した。同じテストで、当時市場で公開的に呼び出せる最速のAPIは約870個のみで、Groq 3 LPXはその約4倍に達した。

実際の導入では、Rubin GPUがより重い計算を担当し、Groq 3 LPXはトークン生成速度の向上に特化している。Coding Agentにとって、モデルを数十回、数百回連続で呼び出す際に、モデルが「文字を吐き出す」のを待つ時間を大幅に短縮できる。

NebiusはGroq 3 LPXを採用する最初のAIクラウドベンダーとなる。さらに興味深いのは、Groq自身も最初の採用者の1つとなり、Dellと共に展開する予定だ。昨年NVIDIAに技術ライセンスを供与したが、今年はNVIDIAが作り出した「Groq」を使い始めている。