ClineがKimiにセルフホスティングのコスト計算を指南：実測で節約はわずか10%、年間費用50万ドル未満なら手を出すな

動察 Beatingのモニタリングによると、AIプログラミングツールClineは、実際の本番トラフィックを用いてKimi K2.6のセルフホスティングコストを試算した。毎月5830億トークンを処理し、すべてをAPI経由で行うと約18万5000ドルかかる。トラフィックの低い時間帯に16枚のB200を設定し、終日フル稼働でベーストラフィックを処理し、残りのリクエストは引き続きAPI経由とすることで、請求額は16万6000ドルに減少し、約10%の節約にとどまる。

Clineの試算では、時間帯に応じてGPUを動的に増減させることで、節約率を22%から25%に引き上げられる。さらにカーネル、バッチ処理、レイテンシ要件を最適化すれば、理論上は35%から40%に達する可能性があるが、これらの方法はまだ実際に導入されていない。

セルフホスティングのハードルも高い。Clineは、年間API支出が50万ドル未満の場合、節約額が推論エンジニアの人件費をカバーできないことが多いと指摘する。100万ドルから200万ドルに達して初めて、コスト効率が良くなる可能性が高まる。この試算はKimi K2.6に基づいており、Kimi K3にそのまま当てはめることはできない。