動察 Beating AI 速報、アラブ首長国連邦のMBZUAI傘下の基礎モデル研究院IFMがK2 Horizonを発表し、一度に6つのモデルをオープンソース化しました。それぞれ0.9B、3.7B、7B、32B、36B-A4B、375B-A23Bです。0.9Bはスマートウォッチやメガネなどのエッジデバイス向けで、7Bはスマートフォンで動作可能です。最大の375B-A23BはMoEを採用し、トークン生成ごとに約23Bのパラメータをアクティブ化します。公式によると、0.9B、3.7B、7Bは各サイズで複数の評価スコアを更新しました。
最終的な重みに加えて、トレーニングコード、データまたはデータ構築レシピ、中間チェックポイント、トレーニングログ、評価記録も公開されます。一部のデータはライセンス制限により直接再配布できませんが、出典、構築方法、配合比率は公開されます。モデルとコードはApache 2.0を採用しています。
Artificial Analysisは375B-A23BのIntelligence Index(総合能力指数)に47点を付け、MiniMax-M3の45点に近い値です。エージェントタスクではより強い性能を示しますが、知識と高難度推論は比較的弱いです。