DeepSeekとHuaweiが手を組み、NVIDIAのAI計算力覇権に挑戦：次世代チップ設計に参画、年末に国産チップでの事前学習を目指す

動察 Beating AI速報、昨年、DeepSeekはファーウェイのAscendチップを使ってR2のトレーニングを試みたが、最終的に成功しなかった。「フィナンシャル・タイムズ」が当時明らかにしたところによると、チップの安定性、カード間通信、ソフトウェアサポートに問題があった。ファーウェイがエンジニアを現地に派遣して支援しても、DeepSeekは最終的にNVIDIAのチップに戻ってトレーニングを完了した。

1年以上経ち、両社の協力はハードウェア設計へとさらに深まっている。「The Information」が現在明らかにしたところによると、ファーウェイのエンジニアがDeepSeekのオフィスに長期駐在し、モデルトレーニングにおける実際の要件を次世代Ascendチップの設計に直接組み込んでいる。これには、計算タスクの配置方法や、チップ間のデータ転送方法が含まれる。

DeepSeekは今年9月末にAscend版TileLangをオープンソース化したばかりで、さらに行列計算やMoEエキスパート通信などの低レイヤツールも公開し、モデルを国産チップへ移行するために必要な開発作業を削減した。しかし、ソフトウェアが動くことと、完全な事前トレーニングまでにはまだ長い道のりがある。数万個のチップが数週間にわたって継続的に協調する必要があり、どれか1つでも故障したり、データ転送に遅延が生じたりすると、クラスタ全体が遅くなる可能性がある。現在、両社はチップ設計の段階からこれらの問題に取り組み始めている。

ファーウェイは、2027年第1四半期に準備完了となるAscend 960DTの大部分の供給を、他のモデル企業に分散させるのではなく、DeepSeekに優先的に渡す計画だ。DeepSeekは早ければ今年末に950DTを使って事前トレーニングを開始する準備をしている。現在、関連テストでは1000個以上のチップが使用されており、完全な事前トレーニングには数万個が必要になる可能性があるが、一部のクラスタ管理ソフトウェアはまだ完成していない。同時に、DeepSeekは引き続きより多くのNVIDIAチップを求めている。