羅福莉は半年間溜め込んで、シャオミはMiMo-V2.6の強化学習を直接ライブ配信した。

動察 Beating AI 速報、シャオミは次世代 MiMo-V2.6 の強化学習トレーニングを公開ライブ配信中です。

責任者の羅福莉氏によると、チームは約半年間沈黙を保ち、強化学習がどこまでスケールできるかを研究し続けてきたとのことです。現在 V2.6 はまだトレーニング中で、具体的な技術方案は今後数週間で順次オープンソース化される予定です。

今回はいきなり規模を非常に高く設定しました。各ステップで 1568 個の prompt を使用し、それぞれが 16 本の rollout を生成、合計約 20 億 Token を全行程非同期で実行します。コード、汎用、視覚、サイバーセキュリティ、チャットなどの Agent タスクも同じトレーニングに混在させ、同時に複数の harness を使用しています。

外部からは各ステップのタスク構成、コンテキスト長、トレーニング所要時間などの内部指標をリアルタイムで確認できます。UC Berkeley の博士課程学生 Yichuan Wang 氏はパネルから、各ステップ約 1500 タスク、コードタスクが約 3 分の 2 を占め、同時にアクティブなサンドボックスが 4 万以上あることを観察しました。