MiniMaxは第3四半期に2.7兆パラメータのモデルをオープンソース化する可能性があり、世界最大のオープンソース大規模モデルとなる見込みです。

動察 Beating のモニタリングによると、The Information は関係者の話として、MiniMax が 2.7 兆パラメータの大規模言語モデルを開発中であり、早ければ第3四半期にリリースされる可能性があり、オープンソース化も計画していると報じている。モデルの内部コードネームは M3 Pro だが、最終的なリリース名は未定である。

計画通りにウェイトが公開されれば、このモデルは世界最大のパラメータ規模を持つオープンソース大規模モデルとなる可能性がある。MiniMax の現行フラッグシップモデル M3 は 4280 億パラメータであり、新モデルの規模は M3 の約 6.3 倍となり、現在の複数の兆パラメータ級のオープンウェイトモデルをも上回る。

パラメータ規模が大きいほど、複雑な推論やマルチステップの指示タスクに有利となることが多いが、最終的なパフォーマンスはトレーニングの質、アクティブパラメータ、推論コスト、評価結果に依存する。