動察 Beatingのモニタリングによると、評価機関Artificial Analysisが業界初のエージェント(Agent)向けハードウェアベンチマーク「AA-AgentPerf」を発表した。従来の評価は単発のQ&A「短距離走」のように応答速度のみを重視していたが、エージェントタスクは「リレー走」に似ており、AIが自律的に目標を分解し、ファイルの読み書き、コードの書き換え、テスト実行を繰り返し行う必要がある。頻繁なインタラクションはサーバーのメモリ容量とスケジューリング効率に極めて高い課題を突きつける。このベンチマークは、実際のプログラミング軌跡を再生し、「1メガワットあたりの消費電力でサポート可能な同時エージェント数」を核心的なエネルギー効率指標とし、データセンターの電力と資金のボトルネックに直接アプローチする。
初回テストでは、1.6兆パラメータのオープンソースモデルDeepSeek V4 Proを実行。結果、NVIDIA Blackwell液冷ラックシステムGB300 NVL72は、1メガワットあたり6万1400の同時エージェントを処理可能であり、前世代のHopper HGX H200がサポートする2600個と比較して、エネルギー効率が20倍以上向上した。単一GPUの同時処理容量も41倍に向上。これにより、同じ電力予算のもとでデータセンターは20倍のエージェント同時処理規模を実現でき、自動プログラミングやカスタマーサポートなどのアプリケーション導入コストを大幅に削減する。
初回結果では、AMD Instinct MI355Xは一時的に遅れを取った。評価機関は、AMDとH200の構成はいずれも汎用オープンソースのvLLMフレームワークを使用して構築され、深い最適化が行われていないと指摘。サービスフレームワークとカーネル演算子の適応が進むにつれ、AMDの性能には改善の余地が残されている。現在、Together AIなどの推論サービスプロバイダーは、Blackwell上でDeepSeek V4 Proをいち早く展開し、エージェントプログラミングツールCursorにリアルタイム推論サポートを提供している。