PrismMLがQwen3.6を4GBに圧縮、27BモデルをiPhoneに搭載

動察Beatingのモニタリングによると、カリフォルニア工科大学の数学者Babak Hassibi氏が共同設立したAIラボPrismMLは、アリババのオープンソースモデルQwen3.6-27Bを圧縮し、iPhone 17 Pro上で動作させることに成功したと発表した。

Qwen3.6-27Bは270億パラメータの高密度モデルである。推論時にはすべてのパラメータが関与し、一部のパラメータのみを活性化するMoEモデルではない。

PrismMLによると、モデルサイズは約54GBから4GB未満に圧縮され、性能の顕著な低下は見られない。複雑な対話、推論、エージェント、コードタスクに使用可能である。

AppleはすでにPrismMLと接触し、この技術の活用方法について協議している。Appleはこれまでも多くのAIをデバイスローカルに搭載しようとしてきたが、高度なSiriは依然としてクラウドモデルに依存している。