「トークン全振り」に効果あるか不明のまま数百万ドル投資——企業のAI運用に見えたROIの壁

企業がAIエージェントのトークン利用を急拡大させる一方で、その投資対効果を証明できずにいる実態を、VentureBeatが報じました。米調査会社Gartnerの予測によると、AIエージェント向けソフトウェアへの支出は2026年に2070億ドルに達する見込みで、2025年の864億ドルから139%増という急拡大です。しかしトークンの価格モデルは、CFOたちが何十年もかけて学んできたソフトウェアコストの管理手法とはまったく違う振る舞いをするため、多くの企業が「使うだけ使って成果が見えない」状態に陥っていると記事は指摘しています。

Uberが直面した「トークン全振り」問題

記事が象徴的な事例として挙げるのが配車サービス大手Uberです。Uberは2025年12月にClaude Codeをトークン消費量のリーダーボードとともに導入したところ、2026年分として確保していたAIコーディング予算を2025年4月の時点で使い切ってしまいました。Uberのプレジデント兼COOであるAndrew Macdonald氏は、この過剰な利用と、ライダーやドライバー向けの製品がより良くなったこととの間に、いまのところ関連性は見えていないと認めています。この現象には「トークンマキシング(tokenmaxxing)」という呼び名がつけられ、Uberは現在、従業員1人につき月額1500ドルという上限をエージェント型コーディングツールの支出に設けています。同様にMicrosoftも、Experiences and Devices部門でClaude Codeのライセンス費用に疑問を持ち、契約を打ち切ったといいます。

使い分けの工夫でROIを示せた企業も

一方で、モデルの使い分けによって明確な成果を示せている企業もあります。法律テック企業Everlawは、あるJavaインフラのプロジェクトで3500ドル分のトークンを使い、実装にかかる期間を9.5エンジニア月から2.5エンジニア月に短縮しました。より規模の大きい製品開発では、2万7000〜4万ドル分のトークンを投じることで、90〜100エンジニア月かかる想定だった作業を19エンジニア月まで圧縮できる見込みだといいます。EverlawのCTOであるMax Christoff氏は「エンジニアリング期間を7カ月短縮できるなら、3500ドルのROIは考えるまでもない」と述べています。契約管理サービスのAgiloftはさらに踏み込み、利用上限そのものを撤廃したうえで、安価なモデルをデフォルトにするインフラ側のルーティングに切り替えたところ、旧上限に達していたユーザーは全体のわずか74%にとどまったとしています。

画像引用元: VentureBeat

モデルの自動振り分けに動く各社

こうした課題に対応するため、Databricks、AWS Bedrock、Azure AI Foundryなど複数のベンダーが、タスクの複雑さに応じて適切なモデルを自動で割り当てる「オートルーター」の開発を進めています。DatabricksのUnity AI Gateway内で提供される「Smart Routing」は、プロンプトの意図や参照されるファイル、推論の深さ、実行の複雑さといった要素を評価してモデルを振り分ける仕組みです。同社のプロダクトマネジメントディレクターであるDavid Nasi氏は「ルーティングの判断はランタイムで完全に透明であるべきで、ブラックボックス化は意図的に避けている」と説明しています。契約管理AIを手がけるAgiloftのVP of AI OperationsであるNoe Ramos氏も「多くの企業では、モデル選択をプロンプトを打つ人任せにしている。それでは安価なオープンウェイトモデルで十分こなせるタスクにまで、フロンティアモデルを使ってしまう。これは人の問題ではなく、配管の問題だ」と指摘しています。

それでも残るROI測定の難しさ

ルーティングの工夫が進む一方で、投資対効果を定量的に示せている企業はまだ少数派です。セキュリティ企業SUSEのGM of TechnologyであるRick Spencer氏は、まず診断が先であり、闇雲な利用制限を最初の一手にすべきではないと述べており、同社では成果の多くがまだ逸話的な報告にとどまっているといいます。語学学習アプリPromovaのHead of EngineeringであるDmytro Palaniichuk氏も、複数の施策を同時に走らせているためAI導入単体の効果を切り分けるのが難しいとし、「非決定的な出力に決定論的なチェックを課すこと自体が難しい」と課題を語っています。EverlawのChristoff氏は、1〜2年以内にトークン支出が年間の採用人数と同じように扱われるようになり、事業部門長がビジネスケースとともにトークンと採用の両方を予算化するようになるだろうと予測しています。

企業の現場では、AIをどれだけ使ったかではなく、どのタスクにどのモデルを充てるべきかという「配管」を整えることが、次の競争軸になりつつあるようです。