a16zがローカルAIアシスタントUnderdogに賭ける：メールもカレンダーも自分のパソコン内に保存

動察 Beating AI 速報、Conway Research が個人向け AI アシスタント Underdog を発表し、a16z、Khosla Ventures などの機関から投資を受けた。現在は Mac 上で直接動作し、ユーザーのメールやカレンダーに接続して、メール検索、スケジュール整理、日常業務の処理を支援する。モデルはローカルで動作するため、個人データをクラウド AI に渡す必要がなく、オフラインでも使用可能。a16z は Conway Research の初回ラウンドのリード投資家を務めたことを確認済み。

Underdog が一般的な Mac で動作する理由の一つは、モデルが十分に小さいことだ。現在公開されている Woof はわずか 4B パラメータで、4-bit 重みは約 2.37GB。もう一つは、チームが Woof と Apple Silicon に特化して最適化した Husky 推論エンジンを開発したことだ。公式の M5 Max でのテストでは、同じモデルが 16 のタスクで MLX より高速で、最大 4.5 倍に達した。

創業者の Sigil Wen は、メール検索、ファイル整理、スケジュール処理といった日常業務には、毎回データセンターの最強モデルを呼び出す必要はないと考えている。小規模モデルでも能力が十分で速度が速ければ、ユーザー自身のコンピュータで大量のタスクを直接処理できる。

Underdog は今後、iPhone、Windows、Linux、Android、NVIDIA デバイスへの展開も計画している。Wen はこの路線を「Underdog's Law」と呼ぶ。今日データセンターが必要な最先端 AI も、約半年後には個人デバイスに搭載される可能性があるという意味だ。

チームはまた、Agent がユーザーの代わりに直接買い物をするなどのシナリオも研究しており、最終的にはローカル AI を、長期的に個人のコンテキストを把握し、ユーザーの代わりに直接用事を処理する個人 Agent にしたいと考えている。