144MパラメータでAgentの意思決定が可能、Julia-1はAndroidタブレットでも動作する

動察 Beating AI 速報、AI ラボの Supersonic Labs がわずか1億4430万パラメータの軽量意思決定モデル Julia-1 をリリースした。長文を生成するのではなく、コンテキスト、質問、2～20個の候補回答を受け取り、分類、スコアリング、真偽判定を直接完了し、Agent のツール選択、ルーティング、次のアクションの決定に利用できる。

Julia-1 は多言語エンコーディングモデル mmBERT-small をベースに開発され、モデルの重みは約550MBで、低ハードウェア要件を主打としている。公式はすでに Apple M4、Intel i5-1235U、Samsung Android タブレットでテストを完了している。M4 の1回の意思決定の中央値レイテンシは約33ms；Samsung タブレットは CPU のみで実行した場合約203ms、プロセスのピークメモリは約393MB。

公式が公開した4組の Jev 比較テストでは、Julia-1 が3組で勝利した。Typed Decisions は73.15%、Jev の参考成績は72.70%；AG News は94%対91%；感情分類は86%対48%。しかし72カテゴリを含む Banking77 では、Julia-1 はわずか64%で、Jev の87%を明らかに下回った。公式は、候補カテゴリが多すぎて互いに類似している場合、現在のグループ絞り込みが正解を早期に除外してしまう可能性があると述べている。

Julia-1 のクラウド GPU トレーニングと実験の総コストはわずか約104ドル。モデルの重み、実行コード、完全な評価、出典記録はすべて公開されており、Apache 2.0 ライセンスを採用。公式は API も開発中で、100万入力トークンあたり0.025ドルの課金を計画している；モデルは判断のみを行い長文を生成しないため、出力トークンは無料。