銀行におけるシャドーAIは、ポリシーの問題ではなく代替手段の問題です。承認済みの選択肢が回避策より速くないため、従業員は顧客の氏名やSSN、与信ファイルを無料のChatGPTやGeminiのアカウントに貼り付けます。本記事では、シャドーAIとは何か、なぜ銀行が他のどの業界よりも鋭い規制上の露出を抱えるのか、グラム・リーチ・ブライリー法（GLBA）のセーフガード規則上のどの義務に関わるのか、検知ツールで既存の露出をどう突き止めるのか、そして多くの解説が省く最後の一歩、つまり従業員が禁止されたツールの代わりに実際に使う統制されたAIプラットフォームをどう導入するのかを解説します。
モデルルーティングは1回あたりの推論コストを下げます。RouteLLMのベンチマークでは、GPT-4の品質を95%保ったままMT Benchで85%の削減が示されました。それでも本番運用のチームは、月額1,000〜5,000ドルのLLM API費用を払い続けています。決定論的ワークフローは、そもそもモデルを必要としない経路から推論を取り除くことで、同じ処理を月額50〜200ドルで動かします。本稿では、コストの仕組み、ベンチマークを読むときの注意点、そして両者を選び分けるための判断基準を順に見ていきます。
2026年5月、Community Bankの親会社が、シャドーAIを引き金とする初のSEC Form 8-Kを提出しました。従業員が顧客の氏名、社会保障番号、生年月日を公開LLMに入力したためです。ハッカーもマルウェアもなく、業務の停止も起きていません。ただ従業員が、仕事を速く進めるために銀行のシステムを迂回しただけでした。この提出は、銀行におけるシャドーAIのコストを、情報システム部門が抱える背景リスクではなく、データの機微性と量によって生じる重要なコンプライアンス事象として捉え直させます。
技術者1人あたり月1,500ドルの上限を設け、年間のAI予算を4か月で使い切る企業が出ている。トークンが高いからではなく、確率的なエージェントが1件あたり5〜30倍のトークンを生むからだ。判断の輪をルールベースの実行に置き換えれば、1件あたりの費用は最大60分の1になる。Gartner、Forrester、Layer3Labs、Hackernoonの一次データの比較を含む。
プロンプトキャッシュは、Anthropic、OpenAI、AWS Bedrock、Google Geminiのいずれでも、キャッシュされた入力トークンに75〜90%の本物の割引をもたらします——しかし出力トークンには一切触れません。規模で支出を支配するのは、その出力です。これをコストの解として扱うエンジニアは、症状を割引しているだけで、本当の費目は積み上がり続けます。
決定論的AIとエージェンティックAIを比べる企業のチームは、監査可能性とコストを別々の利点として扱いがちです。しかし違います。監査人のためにすべての判断を記録する、固定されバージョン管理されたパイプラインは、構造上、モデルの再呼び出し、リトライ、自己修正のループをなくすパイプラインと同じものです。Uberのエンジニアリング組織は2026年4月までに年間のAI予算を使い切りました——トークンが高くなったからではなく、エージェンティックなアーキテクチャが設計上トークン量を何倍にもするからです。
企業のAIの推論費用はいまやGPUの支出の55〜80％を占める。それでもトークン単価は17か月で92％下がった。増え続ける請求書の裏にあるジェヴォンズの逆説を、H100の従量料金、隠れた推論トークン、文脈の肥大、遊休GPUの無駄まで、出典つきの金額で解き明かす。
企業のAI支出の取り組みの多くは、手順を飛ばすせいで画面の表示止まりになる。本稿は6つの統制（棚卸し、割り当て、可視化、費用の付け替え、実行時の柵、単位あたりの費用の見通し）を、起きねばならない順に並べる。読めないモデルの支出を、信頼できる統べられた予算の項目に変えるために。