2026年のAI推論費用:企業の請求書を解剖する
トークンの単価は17か月で92%下がった。同じ期間に、企業の生成AIへの支出は2023年の23億ドルから2025年の370億ドルへと16倍に膨らんだ。Menlo VenturesのState of Generative AIレポートによる数字だ。これが、AIの責任者や基盤の技術の責任者が今年その正当性を問われる、あらゆる推論の請求書の中に居座る逆説である。単価は崩れ、それでも請求額は増えた。推論はいまや企業のAIのGPUの支出の55〜80%を占める。Spheronの2026年4月の分析による。金の行き先は、モデルの開発ではなく推論になった。
本稿は、その請求書を項目ごとに解剖するものだ。金が実際にどこで積み上がるのか、なぜトークンが安くなっても請求は安くならないのか、そしてどの手がどれだけ数字を動かすのかを、ベンダーの決まり文句ではなく、出典と数値の幅で示す。この話題の公開データの多くを供給する組織(GPUのクラウド事業者、推論の基盤、性能測定のサービス)は、いずれもこの市場で何かを売っている。ある出典はそれをはっきり開示している。「Lyceumは本記事を発行しており、この市場で競争している」。本稿はGPUの容量を売っていないので、以下の数字は売り込みではなく証拠として示す。
トークンあたりの費用が下がっているのに、企業の請求額が増え続けるのはなぜか
働いているのはジェヴォンズ効果で、Microsoftの最高経営責任者サティア・ナデラは2025年1月にそれを名ざしで指摘した。「またジェヴォンズの逆説だ。AIが効率的で身近になるほど、その利用は跳ね上がる」。ある資源が単位あたり安くなると、その消費は価格の下がり方より速く増え、支出の総額は下がるどころか上がる。
帳簿の価格の側はよく記録されている。GPT-4の入力の価格は2023年3月に100万トークンあたり30ドルで始まり、GPT-4 Turboで10ドルに下がり、GPT-4oでは5ドルから始まって、2024年8月には2.50ドルに落ち着いた。17か月で92%の下落である。a16zの「LLMflation」の分析は、能力あたりの推論費用が3年でおよそ1000分の1になったという広い流れを示し、Epoch AIの2025年3月の推計は、GPT-4の当初の性能に並ぶための費用が年に40分の1から200分の1になっているとする。
消費はそのすべてを追い越した。主な牽引役はエージェントによる倍率だ。「この契約条項を起草して」といった利用者のひとつの動作が、いまや5回から50回の別々の推論の呼び出しを生む。エージェントが計画し、起草し、試し、誤りを見つけ、直すからだ。OpenAIの利用のデータでは、組織あたりの平均の推論トークンの消費が2025年までの12か月でおよそ320倍に増えた。供給は需要のあとを追った。OpenAI自身の計算の設備は2023年の0.2ギガワットから2025年の1.9ギガワットへと9.5倍に広がり、それはトークンの価格が下がっているのと同じ時期に起きた。
予算を持つ側にとっての帰結は、ひとつの罠だ。100万トークン30ドルのときに筋が通った最適化の採算は、100万トークン0.15ドルでは成り立たない。高い価格では、整えた指示はほぼ即座に元が取れた。安い価格では、整えていない指示を1000万回動かしても、月150ドルではなく1500ドルにしかならない。金額の差は縮むが、価格の下がり方よりはるかに速く量が増えたので、合計の請求は上がり続ける。指示の水準の最適化は自動的な勝ちではなく量の判断になった。費用管理の労力は、個々の指示を削ることではなく、呼び出しの回数と文脈の肥大に向けるべきだ。
企業の推論への支出は、金額でどれくらいの規模なのか
企業の生成AIへの支出は2025年に370億ドルに達し、2023年の23億ドルから2年で16倍になった。Menlo Venturesの2025年12月の報告による。(Menloの別の切り口では単年の跳ね上がりが見える。2024年の115億ドルから2025年の370億ドルへ、3倍の加速だ。累計でも単年でも向きは同じである。)この規模の支出は、より広いクラウドの費用の乱れの中にある。2025年のクラウドの無駄は445億ドルに達し(HarnessのFinOps in Focusレポート)、HashiCorpとForresterの2024年のデータでは91%の組織が何らかの無駄を認めている。支出の跳ね上がりが見つかるまでの平均の遅れは31日。誰かが気づくまでのまる1か月、暴れる推論の費用が積み上がる。
推論の費用に責任を持つAIの責任者にとって、運用上の代償はその生の金額ではなく、その遅れのほうだ。エージェントの倍率で膨らむ作業に対して1か月の検知の穴があるということは、届いた請求書は誰かが見るころにはすでに動かせない事実になっている、ということである。
推論はいまAIの予算のどれだけを食い、実際の請求書はどう見えるのか
業界の分析は、企業のAIのGPUの支出のうち推論を55〜80%と置く(Spheronの2026年の分析)。かつては最大の費用の中心と思われていた学習は、本番の通信をさばく費用の積み重ねに追い越された。理由は構造にある。学習はモデルの版ごとに一度きり。推論は利用者の要求のたびに、作業が続くかぎり永遠に起きる。
Spheronの計算例が規模を具体的にしてくれる。700億のパラメータのモデルが日に1000人の利用者に応じ、それぞれが日に1000回、1回500トークンの要求を出すと、1日に5億トークンになる。100万トークンあたり1.90ドル(H100を8基使う従量の料金)なら、1日950ドル、計算だけで年におよそ34万7000ドルだ。通信の費用、遊休のGPUの時間、基盤の間接費を足す前の数字である。中規模の展開であって、外れ値ではない。しかもこの数字は、次の節で扱う隠れた項目をすべて除いている。
実証から本番へ移るときに費用の見積もりを壊す変数は何か
試行の段階で作った費用の見積もりを決まって壊す変数が3つあり、どれも表向きの料金表には現れない。
隠れた推論トークン。推論のトークンは、入力の3〜5倍高い出力の料金で課金され、しかも請求書の見える部分には現れない。入力100トークン、見える出力50トークンと表示される要求が、利用者に見える答えを出す前に内部で生成した5000トークンの推論を隠していることがある。
出力トークンの倍率。主要なAPIの基盤では、出力のトークンは入力の4〜8倍かかる。復号は記憶の帯域に縛られて逐次であり、入力の処理のように並列にできないからだ。Vertex AIのGemini 2.5 Proは入力100万トークン1.25ドルに対して出力100万トークン10ドル、8対1の比率。Amazon BedrockのClaude 3.5 Sonnetは6ドルに対して30ドル、5対1だ。研究ではこれを「トークン税」と呼ぶ。計算に上乗せされる小売の値幅であり、入力トークンを前提に作った試行の見積もりは、これを体系的に見誤る。3000の入力トークンを渡して500の出力トークンを作る検索拡張生成の呼び出しは、規模が大きくなれば、数の少ない出力のトークンのほうが計算の費用を支配する。
エージェントの呼び出しの倍率。エージェントの業務の各段階(計画、起草、試験、誤り、修正)はそれぞれ別に課金される呼び出しであり、利用者のひとつの動作が5回から50回を引き起こしうる。試行の段階の「1回の要求は1回の課金」という見積もりは、本番のエージェントの繰り返しとの接触を生き延びない。
GPUは1時間あたり実際いくらで、それは100万トークンあたりいくらになるのか
GPUの借り賃をトークンあたりの費用に換算する計算はこうだ。100万トークンあたりの費用は、GPUの1時間あたりのドルを、(毎秒のトークン数×3600÷100万)で割ったもの。SpheronがLlama 3.1 70Bについて、束の大きさ256、入出力512/512のトークン長で示した2026年4月の従量の料金は次のとおり。
GPUの構成 | 料金(1時間あたりドル) | 処理量(毎秒トークン) | 100万トークンあたりの費用 |
|---|---|---|---|
A100 8基 | 8.40ドル | 約1,400 | 1.67ドル |
H100 8基 | 19.20ドル | 約2,800 | 1.90ドル |
H200 8基 | 36.32ドル | 約3,600 | 2.80ドル |
B200 8基 | 59.44ドル | 約5,200 | 3.18ドル |
一読すると直感に反する筋が見える。最も新しく高価な機材が、自動的にトークンあたり最安になるわけではない。処理量が1時間あたりの料金に比例して伸びないからだ。この表で最も古い層であるA100が、この束の構成では最も安いトークンを生む。量子化はこの絵を機材の選択とは別に変える。FP8の量子化は1時間あたりの料金を変えずに処理量をおよそ倍にし、H100の100万トークンあたりの費用をおよそ1.90ドルから0.95〜1.10ドルに下げる。
GPUの容量を直に借りるのではなく、運用ずみのAPIから推論を買うチームには、2026年3月時点の相当する料金表はこうなる。
提供元とモデル | 入力(100万あたりドル) | 出力(100万あたりドル) | 文脈 |
|---|---|---|---|
Claude Opus 4.6 | 5ドル | 25ドル | 標準20万/拡張100万 |
Claude Sonnet 4.6 | 3ドル(20万以下)/6ドル(20万超) | 15ドル/22.50ドル | 20万/100万 |
Claude Haiku 4.5 | 1ドル | 5ドル | 20万 |
Gemini 2.5 Pro | 1.25ドル(20万以下)/2.50ドル(20万超) | 10ドル | 100万 |
Gemini 2.5 Flash | 0.30ドル | 2.50ドル | 100万で一律 |
GPT-4o | 2.50ドル | 10ドル | 12万8000 |
GPT-4.1 | 2.00ドル | 8.00ドル | 100万 |
より広い市場の目安は2026年8月時点で、24の提供元にわたる136の有料モデルの調査によれば、全体で最も安いモデル(Qwen3.7 Flash)が100万トークンあたり0.03ドル/0.13ドル、本番で使える水準(性能の点数70以上)で最も安いのが2.00ドル/6.00ドル(Grok 4.5)、最先端の層(点数80以上)で最も安いのが3.00ドル/15.00ドル(Kimi K3)だ。Claude、Gemini、OpenAIのいずれも、非同期の返しを許せる作業には標準のおよそ半額でまとめ処理を提供しており、その場での応答が要らないものには使われていない手立てである。
文脈の長さと同時の対話は、要求の数を超えてどう費用を膨らませるのか
トークンの算術は、多くのチームの不意を突く部分だ。静かに積み重なるからである。1トークンはおよそ0.75語、あるいは4文字。短い利用者の発言は50〜150トークン。本番の指示文はそれだけで500〜2000トークンあり、利用者がまだ何も打っていない段階でかかる。20往復の会話の履歴を文脈として送れば、さらに3000〜1万トークン。そしてすべての要求が入力の総量をもう一度まるごと払う。多くのAPIの構成は状態を持たないからだ。履歴を全部送り直さないかぎり、モデルは前の往復を覚えていない。
長い文脈の価格づけがこれをさらに膨らませる。Claude Sonnet 4.6とGemini 2.5 Proはどちらも20万トークンの境目を超えると入力の料金が倍になる。Sonnetは100万あたり3ドルから6ドルへ、Geminiは1.25ドルから2.50ドルへ。長い文脈の窓が検索の仕組みをなくして構成を単純にするというよくある主張は、構成として破綻する前に、費用の面ではるかに早く破綻する。会話の履歴を数万トークン抱えた文脈の窓で入力の料金が倍になることは、請求書の最大の項目に直に掛かる倍率だからだ。
提供元をまたぐ計算例が、この開きを示す。1回の要求で3600の入力トークンを送り300の出力トークンを生む対話のエージェントは、Gemini 2.5 Flashなら1000回あたり1.83ドル。まったく同じ形の要求でも、最先端の層のモデルではその何倍にもなる。すべての呼び出しに最先端をひとつ既定で当てるのではなく、作業ごとにモデルを選ぶこと。最適化の作業を始める前にできる、数少ない判断のひとつだ。
追加学習や自社運用のモデルが、APIの推論より大きな費用の問題になるのはなぜか
モデルを追加学習させたり、専用の基盤で自社運用したりすることは、上がり続けるトークン課金への当然の答えに見える。だがそれは費用を減らすのではなく、費用の形を変える。専用のGPUの容量は、トークンごとの課金を1時間あたりの固定の容量の料金に置き換え、固定の容量はそれ自身の費用の穴を持ち込む。通信が容量を下回るときの遊休の時間、ゼロから立ち上げるときの起動の待ち、そして計測されたAPIには要らなかった容量の管理の手間だ。ゼロまで縮む設定は遊休の費用を和らげるが、根本の移り変わりをなくすわけではない。追加学習や自社運用のモデルは、推論を、利用に連動する変動費から、あらかじめ用意し、見張り、大きさを合わせ続けねばならない固定費に変える。それは本物の運用の負担であり、「自社運用すればいい」という答えが自動的に安くならない理由でもある。計測される請求書を、多くの基盤のチームがいま人を置いていない容量の計画の仕事と取り替えることになるのだ。
ベンダーの費用の内訳が完全に落としている隠れた項目は何か
上の各節で挙げた推論の費用のデータは、どれもGPUや推論の市場で競う事業者から来ている。何が扱われ何が扱われないかを形づくる、構造的な事実だ。そのどの出典も飛ばしているひとつの穴が、主権と法令対応の費用である。欧州の企業のチームは、トークンの単価とは関係のない現実の制約に直面する。一般データ保護規則と欧州AI法により、共用で米国に置かれた推論は、比較表の上でトークンの料金がどれだけ競争力を持って見えても、企業の契約では最初から論外になることが多い。規制下の組織にとって、域内での運用やオンプレミスの展開は好みではない。調達と法務の審査を通る唯一の構成であることがしばしばで、上の公開の料金表がまったく捉えていない、最安の米国のAPIの料金に対する上乗せを伴う。規制下の展開の総費用を組み立てるAIの責任者は、構成を決めてしまったあとの法令の審査で気づくのではなく、この上乗せを明示して予算に入れる必要がある。
推論の請求額を実際に動かす手は何で、どれだけ効くのか
一般論ではなく出典と数値の幅を伴う手が4つあり、効き目の大きさで並べる価値がある。
指示の一時保存は、最も効き目が大きく最も手間の少ない手だ。一時保存が当たったときの料金は標準の入力の価格より80〜90%安く、入力トークンの7割以上が安定して繰り返される前半(指示文、道具の定義の一式、決まった指示の集まり)にある作業なら、推論の費用の合計を56〜63%削る。Anthropicの具体では、Claude Opusで一時保存が当たると100万トークンあたり0.30ドル、標準の3.00ドルに対して9割引きになる。ただし書き込みには25%の上乗せがあり、SonnetとHaikuでは最低1024トークン、Opusでは2048トークンを要し、保持は5分、1時間まで延ばせる。OpenAIは1024トークン以上の一致する前半を自動で保存し、コードを変えずに半額になる。計算例を挙げる。2000トークンの指示文を日に1万回、入力100万あたり3.00ドルで送ると、保存なしで1日60ドル、9割が当たれば1日6ドル。実装のひとつの細部で1日54ドル浮く。その細部が効く。提供元は指示の先頭から保存するので、変わる内容(時刻、対話の識別子、利用者の名前)を安定した前半より前に置くと、保存はまるごと壊れる。その変わる内容を安定した塊のあとへ動かすのは、一行の修正で見返りが大きい。(一時保存についての譲歩と組み直しの全体、そしてなぜ入力の9割引きでも確率的な呼び出しがそのまま残るのかは、大規模言語モデルの費用最適化の手引きを参照。)
量子化は、単一の変更としては二番目に大きな効き目をもたらす。FP8は1時間あたりの料金を変えずに処理量をおよそ倍にし、H100の100万トークンあたりの費用をおよそ1.90ドルから0.95〜1.10ドルへ半減させる。
4層の最適化の枠組みは、Spheronの分析によれば、残りの手を種類ごとに並べる。モデルの水準の変更(量子化、蒸留、精度が許すなら小さいモデルへの適正化)は費用を30〜75%削る。実行時の変更(まとめ処理、投機的な復号、鍵と値の一時保存の再利用)は処理量を40〜80%上げる。基盤の変更(余剰枠と従量の使い分け、自動の増減、GPUの種類の選択)は単価を40〜65%下げる。そして費用管理の規律(誰の費用かの割り当て、計測、予算の執行)は単価を下げないが、先に挙げた91%の組織の数字が示す無駄の積み上がりを防ぐ。その分析が挙げる実際の事例では、700億パラメータの展開を月3万9000ドルから1万6000ドルへ、59%削った。どれかひとつではなく、4つの層をまとめて当てた結果である。
4つの手に共通する筋はひとつだ。どれも、応用が処理せねばならないトークンの数を減らさない。すでに消費されているトークンに払う価格を下げるだけだ。その区別こそ、本稿の主張のすべてである。料金の引き下げによるものであれ最適化の層によるものであれ、安いトークンは量の問題を解かない。そして支出が16倍に伸びている本当の理由は、その量の問題なのだ。
決定論的な構成が計算を変えるところ
上のどの手も、ひとつの確率的な前提の上で働いている。その作業が、量とトークンの数をあとから最適化する大規模言語モデルの呼び出しの連なりであり、これからもそうである、という前提だ。KYCの処理、契約の確認、法令の点検を大きな規模で回す規制下の企業には、確率的な流れを最適化するのとは別に、構造の上での道がある。そもそも、業務の実行のすべてをモデルの呼び出しに通さない、という道だ。Jinbaの業務の構成は8割がルールに基づき、設計として決定論的で、確率的なモデルの呼び出しは本当に必要な狭い部分にだけ残す。この構成は、規模を出しても企業の業務を月5〜20ドルで動かすと報告されている。同じ作業をする確率的なAIのエージェントの相当品が300ドル以上であるのに対してだ。15〜60倍の費用の差は、より良い料金表からではなく構成から来ている。指示の一時保存や量子化の調整に何か月もかけるか、トークンの燃焼を源から避ける業務の層を採るかを比べるAIの責任者にとって、決定論を先に置く設計は、最適化の積み残しのあとではなく前に検討する価値がある。とくに銀行、保険、医療でよくある、書類が多く監査に敏感な業務ではそうだ。そこではオンプレミスでSOC 2に適う展開が、先に述べた主権の穴も同時に解く。この転換の背後にある最高財務責任者に向けた戦略は、企業のAIの費用削減のための2部構成の枠組みを読んでほしい。推論の請求書を項目ごとに読み解くほうは、2026年の企業のAI推論の本当の費用を参照。
調べ方
本稿の価格の数字は、提供元の一次資料と、発行の時点で最新の日付のある業界の分析から取った。企業の支出の数字はMenlo VenturesのState of Generative AIレポート(2025年12月)。GPUの1時間あたりの料金と4層の最適化の枠組みはSpheronのGPUの価格と費用の経済の分析(2026年4月)。提供元ごとの一時保存の仕組みはGMI Cloudの分析。Claude、Gemini、OpenAIの料金表はMem0の提供元横断のAPI価格の比較(2026年3月)。市場全体のいまの目安はBenchLMの価格の指数(2026年8月、24の提供元にわたる136の有料モデル)。出力トークンの倍率と主権の指摘はLyceumの推論費用の分析。上のすべての金額は日付のある特定の報告に出典があり、推計や補間はひとつもない。
よくある質問
推論の費用とGPUの費用は同じものですか。厳密には違います。GPUの費用は機材の借り賃、つまりある加速装置の1時間あたりのドルです。トークンあたりの推論の費用は、その料金を実際に出せる処理量で割ったもので、1時間あたりの料金が変わらなくても、束の大きさ、量子化、モデルの構成によって変わります。
安いモデルに替えれば、必ず合計の請求は下がりますか。自動的には下がりません。トークンあたりが安くても、同じ出力の質に届くのにより多くの推論トークン、より多くのやり直し、より長い文脈を要するモデルなら、少ない呼び出しで答えに届く高いモデルより合計が高くつくことがあります。表向きの料金より、要求ごとの比較のほうが重要です。
まとめ処理のAPIの価格は、本番の作業に使う価値がありますか。その場での応答ではなく非同期の返しを許せる作業なら、価値があります。Claude、Gemini、OpenAIはいずれもまとめ処理に標準のおよそ半額を用意しており、対象の要求をまとめ処理の窓口に回す以外に構成の変更は要りません。
推論の費用の急増は、たいていどれくらいで気づかれますか。クラウドの費用管理のデータでは、クラウドの支出全般で検知までの平均の遅れは31日です。誰かの費用として割り当てられていない作業、壊れた一時保存、暴走したエージェントの繰り返しが、予算の責任者の目に触れる前にまる1か月かけて相当の請求を積み上げうるということです。
自社運用は、規模が大きければ必ずAPIより安くなりますか。いいえ。変動して計測される費用を、それ自身の間接費(遊休のGPUの時間、起動の待ち、続く容量の管理)を抱えた固定の容量の費用に変えるだけです。稼働率が高く安定して、その固定の支出を正当化できるようになって初めて節約になります。