AI協働のコストを15分の1にする方法
要約
- 企業のAI費用は急騰しており、支出は前年比108%増えています。その大きな理由は、単純で繰り返しの多い作業まで含め、あらゆる仕事に高価な「確率的な」AIのエージェント（同等の作業量あたり月300ドル以上）を使っていることです。
- 費用を抑える鍵は、より良いプロンプトではなく、より良い構造です。企業の業務の80%以上は規則に基づいており、100%予測でき監査できる「決定的な」仕組みのほうが適しています。
- こうした一般的な作業を確率的な実行から決定的な実行へ移すことで、費用を15〜60分の1にし、トークンの消費を95%以上削減できます。
- 規制下の企業は、件数の多い手続きを、この組み合わせを前提に設計された基盤の上に作り直すことで、AI支出を大きく削減できます。Jinba Flowなら、費用対効果が高く規制に沿ったAIのワークフローを数日で構築し稼働させられます。
CFOがまた請求書を転送してきました。件名は「第2四半期 AI API 利用——要確認」。金額は前四半期から倍増しており、予算の会議は二日後です。
気のせいではありません。企業のAI支出は2026年に前年比108%増えました。そしてGartner は、世界のAI支出が2026年だけで2兆5,900億ドル——47%増——に達すると見込んでいます。銀行、保険会社、信用組合といった規制下の企業にとって、この爆発はすでにある痛みの上に降りかかります。高い運用費用、コンプライアンスの目詰まり、旧来システムとの連携、そして増していく規制の複雑さです。CFOの異議は現実であり、その声は大きくなっています。
しかし、企業のAIの協働をめぐる議論で、ほとんど誰も語っていないことがあります。請求を押し上げているのはAIのモデルではありません。チームがそれと協働するために使う道具の、構造です。
多くの企業は、共有のLLMのエージェントを通じてAIを展開しています。すべての利用者、すべての作業、すべての業務の段階が、そのたびに大規模言語モデルへの高価な呼び出しを引き起こす道具です。引受のチームが融資の書類の確認を頼む。コンプライアンス担当がAMLの照合を頼む。運用の管理者がKYCの書類一式の要約を頼む。そのやり取りごとにトークンが燃えます。トークンごとに費用がかかります。そしてこれらの道具が開かれた対話型のAIを軸に設計されているため、費用は実際の作業の複雑さではなく、チームの人数に比例して増えていきます。
その結果はどうなるか。新しいメンバーを迎えるたび、手続きを広げるたびに膨らんでいく、AI支出の請求です。そして「より良いプロンプトを書く」「RAGを使う」「文脈の枠を最適化する」という定番の助言は、構造の傷に貼る絆創膏にすぎません。
本当の手当てには、根本的に異なる二つのAIの構造——確率的と決定的——の違いを理解することが要ります。
隠れた費用の源：確率的なAIと決定的なAI
この二つの言葉は技術的に聞こえますが、違いは単純です。そしてそれを理解することは、企業の規模では年に数千万円の価値があります。
確率的なAI——「創造する頭脳」
確率的なAIは、優秀だが予測しにくいコンサルタントだと考えてください。課題を説明すれば、知っていることのすべてを引き寄せて筋道を立て、確からしい答えを返します。GPT-4 や Claude のような大規模言語モデルは、このように働きます。前例のない、機微を要する仕事——複雑な法務条項の起案、曖昧な規制文書の解釈、構造化されていないデータの要約——には並外れて有能です。
問題は、あらゆるという言葉です。チームが手続きのあらゆる段階——繰り返しが多く規則に基づく80%の段階も含めて——に共有の確率的なAIのエージェントを使えば、必要のない創造性に割増しを払っていることになります。企業のAIの費用の構造に関する調査によれば、エージェント型の作業量は2030年までにおよそ24倍に増えると見込まれ、計画外のAI支出の中で最も速く伸びる分類の一つです。大規模に動かした場合、日常の業務に確率的なLLMのエージェントを走らせる費用は、同等の作業量あたり月300ドル以上に達します。
決定的なAI——「手続きを回す仕組み」
決定的な仕組みは規則で動きます。もしXならY。創造性も、確率的な推論も、トークンの消費もありません。毎回同じように実行され、100%予測でき、完全に監査できる結果を生みます。コンプライアンスの審査と監査証跡が、あらゆる業務に組み込まれている規制業種にとって、譲れない要件です。
構造化され繰り返せる、業務の80%——書類の振り分け、返済負担率の算出、コンプライアンスの検出の起動——にとって、決定的な実行は安いだけではありません。より優れています。一貫し、透明で、監査のチームが規制当局に釈明しなければならない驚きを生みません。
費用の差は歴然としています。決定的なワークフローを大規模に動かす費用は月額5〜20ドル、確率的な同等の構成は300ドル以上です。これは15〜60倍のコスト優位であり、プロンプトの最適化からではなく、作業に合った構造を選ぶことから生まれます。
具体例：融資引受の待ち行列におけるトークンの消費
具体的に見ていきましょう。融資の引受は、銀行業務の中で最も件数が多く、書類の比重の高い業務の一つであり、長い処理時間、高い運用費用、ばらつくリスク評価に応えるためにAIの自動化が導入されている代表的な場所でもあります。
場面A：確率的な（高くつく）進め方
引受のチームが、企業のAIの協働のために共有のLLMのエージェントを使っています。毎朝、分析担当が道具を開き、待ち行列の申込ごとに新しい会話を始めます。
「添付の源泉徴収票、預金取引明細、信用情報の報告を、申込者 Jane Smith について分析してください。収入の安定性を確認し、返済負担率を算出し、AMLの照合を実行し、推奨をまとめてください。」
LLMはすべての書類を一から読みます。各段階を筋道立てて考えます。物語のような要約を生成します。そして次の申込でも、その次でも、同じことを繰り返します。書類の取り込み、計算、コンプライアンスの照合の一つひとつが、大きなトークンを消費する新たなLLMの呼び出しです。
この業務は遅く、高くつきます。しかもLLMの推論が確率的であるため、似た入力に対してわずかに異なる出力を生みます。ほぼ同一の二つの申込がなぜ異なるリスクの記述を受けたのかと監査人に問われたとき、これはコンプライアンスの悪夢です。人による引受の判断もチームや支店によってすでにばらついています。確率的なAIの層はこの問題を直しません。増幅します。
場面B：決定的なワークフローによる進め方
では、同じ手続きをJinba Flowのような基盤で決定的なワークフローとして作り直したとします。ワークフローの80%は規則に基づき、AIは、それが本当に置き換えのきかない価値をもたらす唯一の作業——構造化されていない書類を理解すること——にだけ外科手術的に使われます。
融資引受のワークフローは、次のように実行されます。
- 書類の取り込み（決定的）：ワークフローが、標準のファイル連携を通じて源泉徴収票、預金取引明細、信用情報の報告を自動的に取り込みます。LLMの呼び出しはなし。費用はほぼゼロ。
- 主要項目の抽出（AI、外科手術的に）：範囲を厳密に絞った一度のLLMの呼び出しが、OCRと自然言語処理で特定の項目を抽出します。
［総収入］、［債務総額］、［申込者名］。指示は最小限です。トークンの消費は場面Aのごく一部です。 - 返済負担率の算出（決定的）：規則に基づく工程が、
［債務総額］を［総収入］で割ります。これは算術です。LLMは要りません。 - AMLの照合（決定的）：ワークフローが
［申込者名］を社内のAML照合のAPIへ渡します。規則に基づく振り分け。LLMの呼び出しはなし。 - 判断と申込の振り分け（決定的）：返済負担率が基準を下回り、AMLに問題がなければ、申込は承認の待ち行列へ回ります。そうでなければ、整理された要約が用意された状態で、人の確認へ検出されます。
LLMが使われたのはちょうど一度、その知性を必要とする作業のためだけでした。それ以外はすべて決定的な規則の上で動きました。この進め方は、融資処理の時間を最大75%短縮しつつ、トークンの消費を95%以上減らせます。そしてすべての段階が規則に基づき監査できるため、コンプライアンスのチームは申込の一件ごとに、きれいで確認できる監査証跡を手にします。
非技術系の引受担当やコンプライアンス担当は、この承認済みのワークフローをJinba Appから直接実行できます。コードは不要、開かれたAIへの指示も不要、出力のばらつきもありません。自動生成された入力フォームを備えた対話型の画面が用意され、その裏側では統制された決定的な仕組みが動いています。
これが、実務における外科手術的なAIの使い方です。
構造からの答え：プロンプトの最適化では救われない理由
ここで多くの運用の責任者は、当たり前の道具立てに手を伸ばします。より良いプロンプトの設計、RAGの導入、文脈の枠の管理です。いずれも有用な手立てであり、トークンの請求を20〜40%削れます。しかし、その下にある構造は変わりません。決定的な課題に、確率的なエージェントを走らせたままです。一貫性が必要な場所に、創造性の代金を払い続けています。
AI導入の次の段階を制する企業は、最も巧みなプロンプトを持つところではありません。きちんとしたAIのワークフローの層——AIが価値を生む場所ではAIを使い、それ以外のあらゆる場所では決定的な実行に頼る基盤——を築くところです。これが、ワークフロー1件あたり月300ドルの費用を5〜20ドルに変える、構造の転換です。20%の節約ではありません。15〜60倍の節約です。
これこそ、Jinbaが作られた理由です。
Jinba は、YC の支援を受けた SOC II 準拠のAIワークフローの作成環境で、銀行、保険会社、法律事務所、医療機関といった規制下の大企業のために専用設計されています。その構造は、企業の業務の80%は決定的であるべきで、AIは本当にそれを要する20%の作業に外科手術的に当てるべきだ、という原則の上に築かれています。
Jinba の基盤が、上に述べた費用とコンプライアンスの課題をどう直接解くかを示します。
- 大規模での決定的な実行：Jinba のワークフローは、設計として80%が規則に基づきます。費用の削減は理屈ではなく、構造からくるものです。KYCの確認、融資の引受、コンプライアンスの審査といった件数の多い手続きを、確率的なエージェントから Jinba のワークフローへ移すと、その手続きのトークン費用は95%以上下がります。
- 本当の意味での、企業のAIの協働：これは、個人向けのAIの道具の多くが取り逃がしている決定的な隙間です。Jinba Flow と Jinba App は、個人ではなくチームのために作られています。Jinba Flow で構築したワークフロー、AIのエージェント、スキル、コネクタは、役割に基づくアクセス制御（RBAC）、SSO、Active Directory の連携とともに、運用チーム全体で共有されます。これは Claude Cowork のような道具が単に備えていない統制の層であり、規制対象の業務についてそれが欠けていることは Anthropic 自身のドキュメントも認めています。
- オンプレミス導入と、完全な監査可能性：機微な金融データは、自社のファイアウォールの内側にとどまります。Jinba は外部から遮断された環境のためのオンプレミスとプライベートクラウドでの導入に対応し、すべてのワークフローの実行について完全な監査ログを残します。説明できるコンプライアンスの姿勢の土台です。
- AIによるワークフロー構築の支援：これらのワークフローを築くために、チームがコードを書いたりコンサルタントを雇ったりする必要はありません。Jinba のチャットからのフロー生成により、手続きを平易な言葉で説明すれば決定的なワークフローが自動生成され、視覚的な編集画面で整えられます。かつては30万ドルのコンサルティングと3か月を要したものが、いまは数日で築けます。
Jinba はこの構造をおよそ70件のエンタープライズ導入——MUFG（三菱UFJ銀行）を含みます——に適用し、一貫して同じ結果を届けてきました。確率的なAIのエージェントにトークン費用を流出させていた企業が、自社の業務の大半はそもそも確率的なAIを必要としていなかったと気づくのです。
よくある質問
企業のAI費用を押し上げている、主な要因は何ですか。
企業のAI費用を押し上げている主な要因は、単純で規則に基づく作業まで含め、あらゆる仕事に高価な「確率的な」AIのエージェントを使うという構造上の選択です。多くのチームは汎用のAIの道具に頼り、業務の各段階で大規模言語モデルへ新たな呼び出しを行うため、トークンの消費が過大になり請求が膨らみます。
確率的なAIと決定的なAIは、何が違うのですか。
確率的なAIは GPT-4 のように創造的で確率に基づき、前例のない機微な作業に向く一方、予測しにくく費用もかさみます。対して決定的なAIは規則に基づき予測でき、手続きを毎回同じように実行します。そのため、繰り返しが多く構造化された企業の業務の80%にとって、はるかに費用対効果が高く監査もしやすいものになります。
決定的なワークフローは、どうやってAIの支出を減らすのですか。
決定的なワークフローは、高価な大規模言語モデル（LLM）への呼び出しを最小限にすることで支出を減らします。すべての段階で創造的なAIを使うのではなく、手続きの大半を単純な規則に基づく論理で処理し、構造化されていないデータの解釈のように、その固有の知性を要する特定の作業でのみLLMを呼びます。この外科手術的な進め方により、トークンの消費を95%以上削減し、ワークフローあたりの費用を15〜60分の1にできます。
プロンプトの設計だけでは、なぜAIの費用を抑えきれないのですか。
プロンプトの設計やRAGのような手法は一定の節約（通常20〜40%）をもたらしますが、その下にある構造の問題を直しません。単純で決定的な作業に、依然として強力な確率的なAIを使っているなら、必要のない能力に根本的に払いすぎています。最も大きな費用の削減は、業務の大半を決定的な構造へ移すことから生まれます。
決定的なAIに適しているのは、どのような業務ですか。
件数が多く、繰り返しがあり、おおむね規則に基づく業務が、決定的なワークフローの進め方にぴったり合います。規制業種における代表的な例は、KYC（顧客確認）の検証、融資の引受、AML（マネーロンダリング対策）の照合、保険金請求の処理、そしてコンプライアンスの報告です。
非技術系のチームは、決定的なAIのワークフローをどう構築できますか。
非技術系のチームは、Jinba Flow のような今日のAIワークフローの基盤を使って決定的なワークフローを構築できます。これらの道具は視覚的なノーコードの編集画面と「チャットからフローへ」の機能を備えており、業務利用者が手続きを平易な言葉で説明するだけで、構造化され監査できるワークフローが自動生成され、数か月ではなく数日で整えて稼働させられます。
決定的なAIの進め方は、規制業種にとって安全で規制に沿っていますか。
はい。決定的な進め方は、純粋に確率的なものより本質的に安全で、規制にも馴染みます。決定的な仕組みは規則に基づくため、出力は100%予測でき完全に監査でき、規制当局が確認できるきれいな証跡が残ります。この目的のために設計された Jinba のような基盤は、機微なデータを社内のファイアウォールの内側に保つ、オンプレミスとプライベートクラウドでの導入の選択肢も提供します。
次の一歩：どこでトークンが流出しているかを突き止める
規制下の企業でAIの費用が膨らむことは、避けられない運命ではありません。それは構造上の選択であり、覆せる選択です。
件数が多く繰り返しの多い業務を、確率的なLLMのエージェントから、AIを外科手術的に当てる決定的なワークフローの層へ移すことで、企業のAIの協働の費用を15分の1以下にできます。能力を落とすことなく、コンプライアンスを犠牲にすることなく、そして技術の構成全体を作り直すことなく。
問いは、その節約が本物かどうかではありません。いまの構造がどこで不必要にトークンを燃やしているのかを、正確に把握できているかどうかです。
Jinba AI Consultingは、条件を満たす規制下の企業向けに、無償のLLM費用の点検を提供しています。およそ70件のエンタープライズ事例と、KYCの業務、融資引受の自動化、AMLの照合、コンプライアンスの審査における深い業務知見に裏づけられた Jinba のチームが、いまのAI支出のどこが非効率なのかを具体的に特定し、それを直す決定的な構造への道筋を設計します。数か月ではなく数週間で、大手会計系ファームの値札もなしに。