AIが一斉にチャットを放棄し始める？Needle 3はツール呼び出しのみに特化、最小9MBで動作可能

動察 Beating AI 速報、YC S25 のエッジAI企業 Cactus Compute が Needle 3 をリリース。ツール呼び出しと構造化抽出に特化し、通常のチャットは担当しない。例えばユーザーが「リビングの照明を30%に調整して」と言えば、対応する機能を見つけ、「リビング」と「30%」をパラメータに埋め込むだけでよい。

最近話題の Jev と少し似ているが、路線は異なる。Jev は候補の意思決定に直接スコアを付ける。Needle 3 は依然としてトークンごとに生成するが、出力はプログラムが直接実行できるツール呼び出しに制限されている。

Needle 3 は1セットの重みを2〜20層に裁断できる。2層版は約9MB、完全な20層版は約35MBで、スマートウォッチ、Raspberry Pi、スマートフォンなど異なるデバイスの演算能力に応じて選択できる。

Android 操作コマンド向けに個別にファインチューニングした後、4層・2900万パラメータ版の自己テストスコアは62.5で、DeepSeek V4 Flash の60.5を上回った。