動察 Beating AI速報、AnthropicがIPOロードショーで明らかにしたところによると、Claude Mythos Previewはわずか3日間で、あるClaudeモデルをAMD GPU上で重要な計算段階を走らせることに成功した。必要なGPUカーネルのほぼすべてをClaude自身が移植または作成し、人手による介入はごくわずかだった。Anthropicによると、これまで新しいチッププラットフォームに接続するには、通常数十人のエンジニアが6~12か月を要していた。
NVIDIAが最も置き換えられにくい強みの一つが、CUDAだ。
CUDAはNVIDIAが2006年に発表したGPUコンピューティングプラットフォームだ。2018年までに、PyTorchやTensorFlowなどの主要な深層学習フレームワークはCUDAとその付属計算ライブラリを広く利用するようになっていた。NVIDIAはさらに、マルチGPU通信、デバッグ、性能最適化のツールも順次整備してきた。開発者は大量の低レベルプログラムを一から書かなくても、GPUを効率的に活用できる。
ますます多くのAIトレーニングや推論プログラムがCUDAを中心に開発されるにつれ、NVIDIAは大量の既存コードとツールを蓄積してきた。開発者がNVIDIAを選ぶのは、多くの場合ソフトウェアがすでに適合されているからでもある。たとえAMDが高性能なGPUを作ったとしても、顧客が乗り換えるにはコードの移行、互換性テスト、性能最適化といった問題に直面しなければならない。
AMDのMI355Xは288GBの高帯域幅メモリを搭載し、ハードウェア構成は決して弱くない。厄介なのは、NVIDIA向けに書かれたGPUカーネルがAMDに替えるとそのまま動くとは限らず、動いたとしても性能が理想通りとは限らないことだ。エンジニアはAMDのチップアーキテクチャに合わせてコードを調整し、計算結果と実行速度を繰り返しテストする必要がある。
AMDはすでにROCmやHIPIFYなどのツールを提供し、開発者によるCUDAプログラムの移行を支援している。Tritonなどのクロスプラットフォームプログラミングツールも移行の難易度を下げているが、複雑な低レベル計算には依然として大量の人手による最適化が必要だ。
今回AnthropicはMythosにその一部の作業を引き継がせ、自らGPUカーネルを移植または書き直した。ロードショーの図表の説明によると、3日間でClaudeモデルのプロンプト処理段階をAMD MI355X上で実用可能な性能に到達させた。
Anthropicは実は以前から単一のチップメーカーへの依存を減らしてきた。目論見書によると、同社は数年をかけて、NVIDIA GPU、AMD GPU、Google TPU、Amazon Trainiumにまたがる計算資源スケジューリングシステムを構築し、価格と性能に応じて異なるチップを選択できるようにした。
今年7月、AnthropicはAMDとも提携し、2027年上半期からAMDの次世代GPUを最大2GW規模で導入する計画だ。両社はClaudeを活用してROCmの開発とGPU性能の最適化も加速させる。AMDは今後、Anthropicに最大50億ドルを投資することを約束した。
投資家のMarcelo P. Lima氏は、NVIDIAのCUDAの堀はすでに消滅したと考える。しかしアナリストのBen Pouladian氏は異なる見方を示す。モデルの一部の計算をAMD上で動かすことと、システム全体を大規模展開で安定かつ採算が取れ、競争力のある性能に到達させることには、大きな差がある。