動察 Beating AI 速報、SpaceXAI は次世代AIエージェントを実行するためにNVIDIA Vera CPUを導入する。これはGPUの代わりに大規模モデルを計算するものではなく、主にモデル呼び出し間の処理を担当し、ツール呼び出し、コード実行、データ処理、タスクオーケストレーション、シミュレーションを含む。SpaceXAI は引き続きVera Rubinを使用してGrokのAIインフラを拡張する。
AIエージェントが複雑になるほど、CPUの役割はむしろ増える。モデルがツール呼び出しを生成した後、実際にコードを実行したりデータを照会したりするタスクは通常CPUに任される。CPUの処理が遅すぎると、GPUは結果が返ってくるのを待たなければならない。VeraはNVIDIAがこの部分のために特別に設計したCPUである。
VeraはNVIDIA自社開発のOlympus CPUコアを88個搭載し、メモリ帯域幅は最大1.2TB/s。NVIDIAによると、エージェント、強化学習、データ処理などのタスクにおいて、Veraのタスク完了速度はx86 CPUの最大1.8倍に達するという。
NVIDIAがエージェント向けに用意するハードウェアの役割分担もますます明確になっている:Rubin GPUは大規模モデルの計算を担当し、Groq LPUはトークン生成を高速化し、Vera CPUはツール呼び出しとコード実行を担当する。SpaceXAI はさらにVera Rubinを宇宙に持ち込む計画で、第一世代のStarmind AI衛星は最適化版のVera Rubin NVL72に基づいて構築される。