2026年5月、Community Bankの親会社が、シャドーAIを引き金とする初のSEC Form 8-Kを提出しました。従業員が顧客の氏名、社会保障番号、生年月日を公開LLMに入力したためです。ハッカーもマルウェアもなく、業務の停止も起きていません。ただ従業員が、仕事を速く進めるために銀行のシステムを迂回しただけでした。この提出は、銀行におけるシャドーAIのコストを、情報システム部門が抱える背景リスクではなく、データの機微性と量によって生じる重要なコンプライアンス事象として捉え直させます。
技術者1人あたり月1,500ドルの上限を設け、年間のAI予算を4か月で使い切る企業が出ている。トークンが高いからではなく、確率的なエージェントが1件あたり5〜30倍のトークンを生むからだ。判断の輪をルールベースの実行に置き換えれば、1件あたりの費用は最大60分の1になる。Gartner、Forrester、Layer3Labs、Hackernoonの一次データの比較を含む。
プロンプトキャッシュは、Anthropic、OpenAI、AWS Bedrock、Google Geminiのいずれでも、キャッシュされた入力トークンに75〜90%の本物の割引をもたらします——しかし出力トークンには一切触れません。規模で支出を支配するのは、その出力です。これをコストの解として扱うエンジニアは、症状を割引しているだけで、本当の費目は積み上がり続けます。
決定論的AIとエージェンティックAIを比べる企業のチームは、監査可能性とコストを別々の利点として扱いがちです。しかし違います。監査人のためにすべての判断を記録する、固定されバージョン管理されたパイプラインは、構造上、モデルの再呼び出し、リトライ、自己修正のループをなくすパイプラインと同じものです。Uberのエンジニアリング組織は2026年4月までに年間のAI予算を使い切りました——トークンが高くなったからではなく、エージェンティックなアーキテクチャが設計上トークン量を何倍にもするからです。
企業のAIの推論費用はいまやGPUの支出の55〜80％を占める。それでもトークン単価は17か月で92％下がった。増え続ける請求書の裏にあるジェヴォンズの逆説を、H100の従量料金、隠れた推論トークン、文脈の肥大、遊休GPUの無駄まで、出典つきの金額で解き明かす。
企業のAI支出の取り組みの多くは、手順を飛ばすせいで画面の表示止まりになる。本稿は6つの統制（棚卸し、割り当て、可視化、費用の付け替え、実行時の柵、単位あたりの費用の見通し）を、起きねばならない順に並べる。読めないモデルの支出を、信頼できる統べられた予算の項目に変えるために。
Jinba、Gumloop、StackAI、Workato、LangChain、Gemini Enterprise、Claude Coworkを、200人以上の業務チーム向けにRBAC、監査ログ、オンプレミス対応、規模が大きいときの費用で順位づけした。
AIのガバナンスの枠組みは、方針の層で止まりがちです。本記事では、規制下の企業が実行時に必要とする5つの統制——ワークフローの承認、RBAC、監査ログほか——を運用の視点で解説します。