PrismMLは90億パラメータのモデル重みを2GBに圧縮：iPhone上で毎秒34トークンをローカル生成

動察 Beating AI 速報、米国のAI企業PrismMLはBonsai 2ファミリーに2B、4B、9Bの3モデルを追加した。すべてアリババのQwen3.5をベースとしている。チームは言語モデルの主要な重みを-1、0、+1の3つの値に制限し、モデルファイルをそれぞれ0.43GB、0.95GB、2GBに縮小した。サイズはオリジナルの16ビット重みの約9分の1である。新モデルは依然として推論、画像理解、ツール呼び出しをサポートし、主にスマートフォンやパソコンなどのデバイス上のローカルAgent向けである。

PrismMLによると、iPhone 18 Pro Max上で9Bモデルは毎秒最大34トークンを生成し、2Bは120に達する。

公式テストでは、9Bのコーディングと指示追従能力は同規模のオリジナルQwen3.5にほぼ匹敵するが、複雑なタスクでは差が顕著である。マルチターン対話とツール操作をテストするTau2Benchで、Bonsai 2 9Bは73.02を記録し、オリジナルは85.25に達した。複雑な文書解析のスコアは73.8で、オリジナルは88.73であった。

3モデルはApache 2.0ライセンスの下で重みが公開されている。