UnslothがGLM-5.2の753Bモデルを極限まで圧縮し、Macローカルでのスムーズなデプロイと実行を実現

動察 Beating のモニタリングによると、Unsloth AI は動的量子化技術を用いて、智譜 AI の 753B パラメータ大規模モデル GLM-5.2 のサイズを 80% 以上圧縮し、Mac でのローカルデプロイに対応した GGUF フォーマット版をリリースしました。動的 1-bit および 2-bit 量子化により、元々 1.51 TB あったモデルを 217 GB（1-bit バリアント）から 239 GB（2-bit UD-IQ2_M バリアント）に削減。これにより、一般の開発者や中小企業は、単一の Mac Studio だけでローカルにオフラインでモデルを実行できるようになりました。

量子化版は Mac Studio M3 Ultra（256 GB ユニファイドメモリ）上で 21.6 tokens/s のスムーズな速度を実現し、元のモデルの精度を 76% から 82% 維持しています。Unsloth AI が公開した比較テストでは、完全にローカルで動作する 1-bit レベルの GLM-5.2 GGUF が、独立したピクセルアート、サウンドエフェクト、パーティクルシステムを備えた完全な HTML5 ゲーム（Flappy Bird のリメイク版『Sunset Flier』）のプロンプト作成において、Claude 4.8 Opus や GPT-5.5 と同等の生成品質を示しました。

智譜 AI がリリースしたオープンソースの混合エキスパート（MoE）モデルである GLM-5.2 は、753B の総パラメータと 100 万トークンのコンテキストを持ちます。従来のデプロイ方式では、超大規模モデルを実行するために高価なクラウド上のマルチ GPU クラスターを構築する必要がありましたが、動的量子化ソリューションの発表によりハードウェアの壁が打ち破られ、個人や小規模チームがトップクラスのオープンソースモデルを独立してデプロイするハードルが大幅に低下しました。現在、GLM-5.2 GGUF の重みは Hugging Face プラットフォームでダウンロード可能であり、ユーザーは llama.cpp や Unsloth Studio を通じて直接読み込んで実行できます。