原文タイトル：Token Budget Wars
原文著者：Jaya Gupta
翻訳・編集：Peggy

編集者注：エンタープライズAIは、「導入するかどうか」から「どう採算を合わせるか」の段階へ移行しつつある。

過去2年間、多くの企業が従業員にAIの利用を促してきたのは、主に技術トレンドや競争圧力に追随するためだった。しかし、AI推論コストが実験予算から継続的な運用支出へと変わるなか、CEOやCFOはより現実的な問いを投げかけ始めている。AIは結局、どれだけの価値を生み出しているのか。1ドルのtokenコストに対して、どのような実際の成果が得られているのか。

これこそが「Token Budget Wars」の核心である。いわゆるtoken予算戦争とは、単に企業がAIの請求額を抑えようとすることではない。どの業務により多くの計算資源を投じる価値があるのか、どのタスクはより安価なモデルに切り替えるべきなのか、どのプロセスは外注や人手を代替できるのか、そしてどれが単なる無駄な消費なのかを、あらためて見極めることを意味する。

本稿で最も注目すべき点は、AIの利用量が価値と同義ではないということだ。SaaSの時代には、利用量は通常、そのソフトウェアが採用されていることを意味した。しかしAIの時代において、token消費が示すのは「メーターが回っている」という事実にすぎない。同じワークフローでも、プロンプト、コンテキスト、モデル選択、リトライ回数の違いによって、コストに数倍の差が生じる可能性がある。請求額の増加は、AIが本当に仕事をしていることを意味する場合もあれば、システムが無駄に空回りしているだけの場合もある。

したがって、エンタープライズAIの次の段階で重要なのは、モデルの能力だけではない。tokenコストをビジネス成果と結びつけられるかどうかである。第一段階では、AIが仕事をこなせることを証明した。第二段階で答えるべき問いは、その仕事に本当に対価を支払う価値があるのか、ということだ。

以下、原文：

エンタープライズAIはすでに「導入するかどうか」から「どう配分するか」へ移行している。

企業の上層部において、新たな「通貨」となっているのは、AI投資のROIをどれだけ定量化できるかという能力だ。すべての職能部門が同じ問いを突きつけられている。何を生み出したのか。コストはいくらだったのか。過去2年間、CEOたちは朝起きてCNBCのJim Cramerを見ながら（#bearish）、競合他社が生産性向上を発表するのを目にし、社内全体にAIを使うよう求めてきた。いま本当のプレッシャーとなっているのは、その次に来る問いである。価値を証明してみせよ。

Claudeは2025年11月にリリースされたが、その時点でほとんどの企業の2026年度年間予算はすでに確定していた。第1四半期に入ると、企業の実際の利用量は当初計画を大きく上回っていた。推論コストはもはや実験のための予算項目ではなく、継続的に発生する運用コストとなった。それに伴って、新たな問いが浮上している。AIは一体どこで本当に価値を生み出しているのか。

この問いに答えるのは難しい。なぜなら、token の効用が定量化されていないからだ。請求書を見ても、その支出が人手を代替したのか、収益を生み出したのか、リスクを低減したのか、プロセスを加速したのか、あるいは単にエンジニアたちがランキングのために必死に token を消費しているだけなのかは分からない（#metamates）。支出が数十万ドル程度であれば、それはまだ実験のように見える。しかし、ある臨界点、たとえば 7 桁に達すると、それはインフラになる。技術的な差異が損益計算書に実質的な影響を及ぼし始める。同じワークフロー、同じ入力でも、2 回の実行で token コストが 5〜10 倍違うことがあり、表面上は何の問題もないように見える。実験規模でも、この変動はすでにかなり高くつく。しかしインフラ規模に入ると、それは CFO が CEO に説明しなければならない数字になる。

これを「限界 token 効用」と呼んでもよい。推論コストを 1 ドル追加で投じるごとに生み出される事業価値のことだ。これはスケール段階で本当に重要になる数字であり、同時に、現時点でほとんどの企業には見えていない数字でもある。

取締役会での問いは、「AI は役に立つのか」から、「AI はいったいどこで本当にレバレッジを生んでいるのか」へと移りつつある。だからこそ、いわゆる token 予算をめぐる争いは、本質的には token の配分権をめぐる争いなのである。

そして token の所有権をめぐる争奪が急速に過熱しているのは、それが 30 年続いてきた経営幹部の本能と衝突しているからだ。大きなチームは、大きな役職、大きな責任範囲、そしてより大きな権限を意味してきた。これまでシニアマネジメントの成功を示す目に見える指標は、彼らが管理するチームの規模だった。直属の部下、間接的な部下、そして組織図上の人数である。

しかし、インテリジェンスが希少資源になると、新たな指標はこうなる。あなたはどれだけのインテリジェンスを動員できるのか。

AI 支出は本質的に、人件費と競合しつつある。

ほとんどの AI 予算申請は、本質的には次の 3 種類の主張のいずれかである。外部委託労働力の代替、社内労働力の代替、あるいは新たな収益の創出だ。

従業員には給与がある。BPO のアウトソーシング契約には、チケット、保険金請求、請求書、審査ごとに設定された単価がある。人間はこうした計量単位を理解できる。しかし推論コストはより複雑だ。なぜなら、あるタスクを最終的に完了するコストは、システムが実行中にどのように動作するかに依存するからである。3 回のリトライと人手による修正を必要とし、さらにフロンティアモデルを呼び出す保険金請求処理タスクは、本来代替しようとしていた外部委託の人手よりも高くつく可能性がある。だからこそ議論は、「1 つの成果を完了するコストはいくらか」へと移っている。たとえば、解決済みチケット 1 件あたり、処理済み保険金請求 1 件あたり、レビュー済み契約書 1 通あたり、完了済み請求書 1 枚あたり、追加採用を回避したポジション 1 件あたり、維持できた顧客 1 人あたり、あるいは収益転換 1 ドルあたりのコストである。

経営幹部たちは、BPO が最もベンチマークを作りやすい領域であることに気づいている。なぜなら、これらの業務はもともと「完了単位」で価格設定されているからだ。これに対して、社内従業員と AI を比較するのははるかに難しい。従業員は毎日多くのことをしており、その中には昼休みに TikTok を見ることも含まれる。生産性向上は、採用回避や分散した余剰キャパシティの解放として現れることが多い。また管理者も、部分的な自動化だけを理由にチーム人数を削減することには抵抗する。BPO は、事業チームに定量化可能なベースラインを提供する。

これは SaaS のロジックとは異なる。SaaS はかつて、企業に利用量を価値の代理指標として捉えるよう学習させた。

しかし AI はこの前提を崩した。同じワークフローで消費される推論リソースは、プロンプト、取得されたコンテキスト、選択されたモデル、呼び出されたツール、リトライ回数、そして agent が詰まるかどうかによって大きく変動し得る。請求書上の単位——token——は安定しているが、それが表す作業量は安定していない。

より正確に言えば、シグナルとノイズが同じ計量単位を使っているということだ。token の請求額が増えることは、本当の仕事が進んでいることを意味する場合もある。しかし同時に、計算資源が粗悪なプロンプト、無関係なコンテキスト、不要なツール呼び出し、重複した推論、そして過剰性能のモデルに浪費されていることを意味する場合もある。2社の token 請求額がまったく同じでも、その下で動いている事業はまったく異なるかもしれない。一方は推論を成果へと変換しており、もう一方は無駄な試行錯誤に対価を支払っているだけだ。それにもかかわらず、この2つの状況は請求明細上ではまったく同じに見える。

SaaS の利用量が教えてくれるのは、ソフトウェアが導入されたということだ。AI の利用量が教えてくれるのは、メーターが回っているということにすぎない。それは、企業が本当に動き出しているかどうかを教えてはくれない。

なぜ限界 token 効用は見えにくいのか？

主な理由は3つある。

第一に、リトライのロングテールだ。ある agent がワークフローを初回で正しく完了する確率を p とすると、解決済みワークフロー1件あたりの期待 token 消費量は、おおむね T/p に拡大する。ここで T は基礎コストである。完了率が 90% から 70% に下がると、問題解決1回あたりの実効コストは約 28% 上昇する。20% ではない。失敗が複利的な影響を生むからだ。企業のワークフローでは、入力はしばしば混沌としており、例外ケースも重要である。失敗は正確性を下げるだけでなく、経済性そのものを変えてしまう。

第二に、コンテキストの膨張だ。注意機構に大きく依存する処理では、推論コストはコンテキスト長に対しておおむね O(n²) で増加する。そのため、コンテキスト長が2倍になれば、推論コストはおおむね4倍になる。誰もがモデルに十分な情報を持たせたいと考えるため、システムは過剰供給に陥りがちだ。本来は5件の文書で十分なのに、検索では50件を引っ張ってくる。コネクタはメールスレッド全体をそのまま流し込む。agent は、とっくに古くなった会話履歴を抱えたまま動き続ける。

第三はルーティングである。チームがどのモデルで「十分に良い」のか分からない場合、デフォルトでは最も強力なモデルを使うことになる。基礎的な分類タスクが、本来は複雑な推論に使われる同じモデル上で実行されることもある。呼び出し回数が数百万回に達すると、単純なタスクを小さなモデルに任せるのか、それともすべてのタスクを最先端モデルに任せるのかは、管理可能な請求額で済むか、取締役会レベルの問題に発展するかの違いになりがちだ。

非ソフトウェア業界は、この痛みを一種の「変革」として感じることになる。ソフトウェア企業がこの問題を最初に目にするのは、最適化対象となる業務がもともと十分に計測可能な状態にあるからだ。エンジニアリングチームには、PR、コミット、デプロイ、インシデント、サイクルタイム、平均修復時間などの指標があり、しかもそれらの指標はプロダクトと結び付いている。完璧ではないにせよ、この種の業務は比較的測定しやすい。

非ソフトウェア企業は、この問題をより深刻に感じることになる。なぜなら、それらの業務はオペレーションそのものだからだ。たとえば、保険金請求処理、引受査定、カスタマーサポートのチケット、コンプライアンス審査、サプライチェーンの異常対応、決済に関する異議申し立てなどである。あるいは、現実世界の資産を保有する企業も同じ問題に直面する。これらのワークフローは従来、人員、サイクルタイム、SLA 達成率、エラー率で測定されることが多かった。しかも多くの場合、単に平均的に正しいだけでは不十分で、監査に耐えられることが求められる。業務単位とコスト単位は同じ言語を使っておらず、同じ組織内にもない。技術チームは token 消費量を見ることができ、事業部門はワークフローの変化を見ることができる。しかし、その両者を結び付けるには、まず複数のチームが「いったい何を測定しているのか」について合意する必要がある。

私の考えでは、ソフトウェア企業は token 予算をめぐる争いを生産性測定の問題として経験することになる。これは、これまでに起きてきた多くの「AI レイオフ」とも対応している。一方、非ソフトウェア企業はそれを変革の問題として経験することになる。

欠けている層は、token から成果へのアトリビューションである。企業には、推論コストを完了した業務や生み出された事業成果と結び付ける変換レイヤーが必要になる。このレイヤーは、三つの問いに答えなければならない。このワークフローの実際のコストはいくらなのか。そこにはリトライや修正も含まれているのか。agent の実行軌跡のうち、本当に重要な部分はどこで、単なる無駄な試行錯誤はどこなのか。この業務はオペレーションモデルを変えたのか。たとえば、カスタマーサポート担当者一人あたりの処理チケット数が減ったのか、保険金請求の処理期間が短くなったのか、BPO 予算が小さくなったのか、採用が先送りされたのか。次の層は、事業の言語で成果をアトリビュートすることだ。単に「このワークフローには 2.13 ドルかかった」と言うのではなく、次のように言う必要がある。この種の保険金請求は agent が処理したほうが BPO より安い。しかし、保険契約上、追加の例外書類が必要になる場合、リトライのロングテールが経済性を破壊してしまう、と。

測定は記憶へと変わる。ある token をある成果に結び付けるためには、企業はその間に起きたすべてを捕捉しなければならない。agent が何を見たのか、何を検索したのか、どのツールを呼び出したのか、何を無視したのか、どこでリトライしたのか、いつ人間に上書きされたのか、どの例外ルールが適用されたのか、どの先例が作用したのか、そしてなぜ一方の経路は成功し、もう一方の経路は失敗したのか。測定レイヤーは意思決定の軌跡を記録しなければならない。そしてこれはまさに、企業が過去にほとんど本当の意味では持っていなかったものだ。記録システムは何が起きたかを捕捉できるが、なぜ起きたかを捕捉できることはほとんどない。たとえば、CRM はある取引が延期されたことを教えてくれるが、営業予測の背後にある、書き留められていない判断までは教えてくれない。

意思決定の理由は、企業内で最も腐敗しやすく、最も消えやすい資産の一つです。なぜなら、それは Slack のスレッド、メールチェーン、エスカレーション会議、そして人の頭の中に存在しているからです。しかし問題は、人は去り、プロセスも変わるということです。

AI はこの状況を変えました。なぜなら、agent は軌跡を生成するからです。すべての検索、ツール呼び出し、リトライ、エスカレーション、人間による修正、そして最終的な意思決定は、コンテキストから行動へ、そして結果へと至る経路の一部になります。当初、企業がこうした軌跡を捕捉するのは、支出の妥当性を証明するためでしょう。しかし一度それらが捕捉されると、コストレポートそのものよりも価値を持つようになります。なぜなら、それらは組織が実際にどのように意思決定しているのかを記録する、永続的な記録になるからです。（こほん、context graph。とはいえ、最近この言葉には本当に聞き飽きています。）

本当の賞品は、配分レイヤーです。もし推論が顧客のオペレーションモデルにおける従量課金型リソースになるなら、1ドルごとに、その支出に見合う価値があることを証明しなければなりません。どのベンダーが、token がいつ成果に転換したのか、いつ転換しなかったのか、そしてその理由を説明できるのでしょうか。

企業はこれを完全に自力で解明することはないでしょう。企業はこれを「変革」として購入します。フォーチュン500企業は、これまで何度も同じ脚本を繰り返してきました。シートベルトを締め、マッキンゼーを雇い、市場にいる Palantir 出身者を片っ端から採用し、CEO がトップダウンで変革を推進するのです。Token から成果へのアトリビューションも、ERP、BI、デジタルトランスフォーメーションと同じような形で現れるでしょう。経営陣の後ろ盾を得た「プロジェクト」として到来し、その下に一連のインフラが整備され、最終的には新たな信頼できる情報源となります。これを実現できる創業者は、従来型の起業家像とは異なる、別種の創業チームを作ることになるでしょう。そして彼ら自身もまた、伝統的な意味での起業家の原型とは異なる存在になります。

token から成果へのアトリビューションを握る者は、配分に関する意思決定を行えるようになります。どのワークフローにより多くの計算資源を割くべきか、どれに上限を設けるべきか、どれをより安価なモデルに切り替えるべきか、どれを引き続き人間が担うべきか、どれが BPO を代替できるのか。一度こうした意思決定ができるようになれば、企業内の AI 支出の流れをコントロールし、そのリソースを配分するために必要な信頼を獲得することになります。

エンタープライズ AI の第一段階が証明したのは、モデルは仕事をこなせるということでした。次の段階で決まるのは、それらの仕事のうち、どれだけが本当に支払う価値のあるものなのかです。チャーリー・マンガーが言ったように、「インセンティブを見せてくれれば、結果を教えてあげよう」。

[原文リンク]

BlockBeats の公式コミュニティに参加しよう：

Telegram 公式チャンネル：https://t.me/theblockbeats

Telegram 交流グループ：https://t.me/BlockBeats_App

Twitter 公式アカウント：https://twitter.com/BlockBeatsAsia