動察 Beatingのモニタリングによると、NVIDIAはNemotron 4への投資を強化しており、世界最強クラスのオープンモデルの一つに育てたいと考えている。『The Information』が複数のプロジェクト関係者を引用して報じたところによると、シリーズ最大のモデルは少なくとも1兆パラメータになると見込まれており、Nemotron 3 Ultraの約2倍に相当する。具体的な仕様やリリース時期は未定で、最終的なトレーニングもまだ始まっていない。
NVIDIAは、より強力なオープンモデルでGPU需要を喚起したい考えだ。同社は近年、自社開発モデルへの計算リソース投資を大幅に増やしている。今年4月時点で、今後数年間のクラウドサービス調達コミットメントは280億ドルに増加しており、約1年前の3倍に相当するが、これには他の研究開発用途も含まれている。
Nemotron 4には、外部企業も多数参加している。Cursor、Mistral、Thinking Machines、Reflection AIなどがトレーニングデータ、評価、モデル設計を提供し、Prime Intellectは30万のシミュレーション環境を提供している。
問題は、これらの企業の多くが元々NVIDIAの顧客または投資先であることだ。OpenAIなどのトップモデル企業も、同社の最大のGPU購入者の一つである。今、NVIDIA自身が第一線のオープンモデルに挑戦することで、オープンモデル市場を拡大したい一方で、自社の顧客やパートナーとの競争も始まっている。