【エグゼクティブ・サマリー】
- Uberが2026年通期のAI予算をわずか数ヶ月で消化、MicrosoftはClaude Codeの社内利用を停止──「課金型推論」の現場崩壊が露呈
- Goldman SachsはAgentic AI(※自律型AIエージェントのこと)の普及によりトークン需要が今後数年で24倍に膨張すると試算
- NVIDIA Vera Rubinが約10倍の電力効率を実現してもデマンド曲線の伸びに追いつかず、AIインフラ経済の構造的歪みが顕在化
既存テクノロジーの限界と課題
ChatGPTが登場した2022年末以降、生成AIの利用形態は「人間がプロンプトを打ち、AIが1回返す」という一問一答型を前提に設計されてきました。
ところが2025年後半から急速に普及したAgentic AI(※自律的にツールを呼び出し、思考と検証のループを回し続けるAIシステムのこと)は、この前提を根底から覆します。
従来のチャットボットが1リクエストで消費するトークン(※AIが処理する単語片の単位で、課金の基本ユニット)は数千が上限でした。一方、エージェントは1タスクの裏側で何十回、何百回と推論を回し続けるため、消費量が3桁単位で跳ね上がります。
具体的なボトルネックは以下の通りです。
- コンテキスト累積の指数化:エージェントが1ステップ進むごとに、過去の思考・ツール出力・検証結果がすべて次の推論に持ち越されます。出張のたびに前回までの議事録を全部リュックに詰めて持ち歩くようなもので、ステップが重なるほどコンテキストという荷物が重くなり続けます。これはTransformerのアテンション機構(※入力全体の関連性を計算する仕組み)がO(n²)で計算量を消費するため、文脈が伸びるほど1トークンあたりの実効コストが二次関数的に膨張する構造です。
- GPUメモリ帯域の枯渇:推論中はKVキャッシュ(※過去トークンの中間計算結果を保持するメモリ領域)がHBM(※GPUに搭載される高帯域メモリ)を食い潰し、バッチ処理(※複数リクエストの並列処理)の効率が落ちます。結果として1トークンあたりの実効コストが想定値を上回ります。
- トラフィックパターンの不整合:エージェントは「人間の入力を待たずに連射する」特性があり、従来のWeb APIを前提とした負荷予測モデルが機能しません。データセンター側の稼働率設計と需要曲線が噛み合わないのです。
つまり、コストの問題は単にGPUを買い増せば解決する話ではなく、推論アーキテクチャそのものがAgentic時代に最適化されていないという構造的な歪みです。
ニュースの核心:Uberの「AI予算が数ヶ月で蒸発」事件
Tom’s Hardwareが2026年5月27日に報じた一連の動きは、AIインフラ経済の歪みを白日の下に晒しました。
最も象徴的なのは、UberのCTOであるPraveen Neppalli Nagaが、わずか数ヶ月で2026年度通期のAI予算を完全に使い切ったと社内で明かした事案です。
これに続いて、Operations責任者のAndrew Macdonaldは、トークン消費量の増加と実際のプロダクト改善の間に明確な相関を見出せないと述べています。
“was very hard to draw a line” (トークン消費の増加と機能改善の間に「線を引くのは極めて難しい」) — Andrew Macdonald(Tom’s Hardware報道より)
社員の80%以上がAgentic AIを利用し、出荷コードの60%以上がAI生成という極めて高い導入率にもかかわらず、ROI(※投資対効果)の説明がつかない──これは「導入率の高さ=価値創出」という素朴な等式の崩壊を意味します。
同時期にMicrosoftが社内開発者のClaude Code利用権を剥奪し、自社のCopilot CLIへの統合方針を打ち出したのも示唆的です。表向きは「ツール統合」とアナウンスされていますが、Microsoftの会計年度末(6月末)直前というタイミングは、コスト管理上の判断であることを強く匂わせます。家計の月末にサブスクを切る判断と本質は同じで、それが企業のAI開発予算レベルで起きているのです。
さらにGoldman Sachsの最新レポートでは、Agentic AIによるトークン需要は今後数年で24倍に拡大すると試算されています。OpenClawの開発者でOpenAIに移籍したPeter Steinbergerは、わずか3人のチームでAgentic AIツール群を運用した結果、1ヶ月で130万ドル以上のトークン費用を消費したと明かしました。
3人のエンジニアが、1ヶ月で1億9000万円相当のトークンを溶かす──この数字はAI時代の人件費とインフラ費の力関係が完全に逆転したことを示しています。
【比較表】従来チャットボットとAgentic AIのアーキテクチャ比較
| 項目 | 従来型チャットボット | Agentic AI |
|---|---|---|
| 1タスクあたりトークン消費 | 数千〜1万トークン | 数十万〜数千万トークン |
| 処理パターン | 単発のリクエスト/レスポンス | 自律ループ(推論→ツール実行→検証→再推論) |
| コンテキスト管理 | セッション内で線形増加 | 各ループで指数的に累積 |
| 計算リソース特性 | 低レイテンシ重視 | 持続スループット+大容量HBM必須 |
| 主な用途 | Q&A、要約、翻訳 | コード生成、業務自動化、自律調査エージェント |
| 課金モデル親和性 | 月額定額・サブスク型 | 従量課金(トークン単価×消費量) |
| ヘビー利用時の月額目安 | 数十〜数百ドル | 数千〜数百万ドル |
【図解】Agentic AIにおけるトークン爆発の構造

【考察】ITエコシステム・業界へのインパクト
このトークン経済の歪みは、半導体・クラウド・SaaSの各レイヤーに連鎖的な圧力を生みます。
1. 半導体レイヤー:推論最適化への急旋回
NVIDIAは次世代プラットフォーム「Vera Rubin」で約10倍の電力効率(perf/watt)を実現するとアナウンスしていますが、これはBlackwell世代との比較値です。Goldman Sachsが指摘する24倍のデマンド増を吸収するには明らかに足りません。
ここで台頭するのが、推論専用のLPU(※Language Processing Unit、Groq社が提唱する推論特化型プロセッサ)やSRAM統合型アーキテクチャです。HBM帯域に依存しない設計が、Agentic時代の経済的な逃げ道として注目を集めるでしょう。
2. クラウドレイヤー:課金モデルの根本転換
Microsoftが既にGitHub Copilotで実施しているトークンベース課金への全面移行は、サブスク文化に慣れた企業のIT予算編成に強烈な不確実性を持ち込みます。電気料金が「使い放題プラン」から「従量制」に切り替わった瞬間、月初に無造作に使った代償は月末の請求書で炸裂します。CIO(※最高情報責任者)の意思決定基準が「機能の有無」から「単位コストあたりの価値」へと急速にシフトする転換点です。
3. データセンター建設計画と稼働年数のジレンマ
Blackwell向けに発表されたデータセンタープロジェクトの50%以上がキャンセルまたは遅延しているという報道は深刻です。
さらに2025年末にはGoogle、Oracle、Microsoftの3社揃って「サーバ機材を6年間稼働させる」方針に転換しました。これは年次でハードウェア性能が飛躍するAI時代の路線と明らかに矛盾します。ハイパースケーラー(※大規模クラウド事業者)は「最新GPUに飛びつく」戦略と「既存資産を償却しきる」戦略の板挟みになっており、この均衡点が崩れた瞬間に半導体サプライチェーン全体が揺れます。
4. SaaS・エンタープライズAIへの再評価
ROIを明示できるエンタープライズAIプラットフォーム(Palantir等)が、漠然としたコパイロット型ツールよりも優位に立つ局面が訪れます。「コードがAIで何%書かれているか」という指標は、Airbnb(60%)、Chime(84%)、Google(50%)、Uber(60%超)と各社が誇示してきましたが、UberのCOO発言以降、この自慢話は実質的な空文句として扱われ始めるでしょう。
まとめ
トークンは新しい電力であり、新しい人件費でもあります。
3人のエンジニアが月130万ドル分のトークンを焼き、年俸50万ドルのNVIDIAエンジニアは年間25万ドル分のトークンを使うべきだとJensen Huangが公言する世界では、「AIで効率化された」と「AIにコストを溶かされた」の境界線はもはや曖昧です。
ハードウェアの効率改善は確実に進みますが、市場に行き渡るには数年単位のラグがあります。一方でAgentic AIの普及は四半期単位で進行しています。
この時差こそがUberの予算枯渇とMicrosoftの撤退を生んだ正体であり、Vera Rubinの登場をもってしても向こう1〜2年は埋まりません。AIを使いこなした企業ではなく、単位トークンあたりの価値を最大化できた企業だけが次の四半期決算に残ります。
引用元記事・補足資料
- AI costs begin to bite as agents may increase token demand by 24 times, says Goldman Sachs report — Tom’s Hardware:本記事の核心となるUber、Microsoft、Goldman Sachsの動きを統合報道した1次レポート。
- Gen AI: too much spend, too little benefit? — Goldman Sachs:生成AIへの巨額投資にROIが見合うかを問うGoldman Sachs公式レポート
- Uber Leadership:UberのOperations責任者Andrew Macdonaldを含む経営陣プロフィール
- GitHub Blog:MicrosoftによるCopilotのトークンベース課金移行に関する公式アナウンスを掲載するGitHub公式ブログ。
- Anthropic News & Updates:Microsoftが社内導入を停止したClaude Codeの開発元、Anthropicの公式アップデート。


コメント