動察 Beating AI速報、マスク氏が明らかにしたところによると、メンフィスのスーパーコンピューティングクラスターColossus 2は年末までに約120万基のNVIDIA Blackwell GPUを導入する計画だ。さらに2つの施設が稼働を開始する予定である。Gun Rangeは11月末までに22万基のGB300を稼働させ、モデルトレーニングに使用する。Spamは元々ランチョンミートなどの食品を保管していた倉庫を改造したもので、約20万基のGB300を導入し、AI推論専用とする計画だ。
現在、Macrohardには11万基のGB200と22万基のGB300が搭載され、MacroharderとMinihardにはそれぞれ22万基のGB300がある。今後新たに追加予定の42万基を加えると、5つのクラスターの合計は約119万基となる。
トレーニングと推論ではネットワークへの要件も異なる。Macroharder、Minihard、Gun Rangeはいずれも800Gbpsのネットワークカードを採用しているが、Spamの推論タスクは同規模の高速相互接続を必要としない。マスク氏によると、そのネットワーク構成はよりシンプルで、必要な光ファイバーはトレーニング施設の半分以下だという。