企業システムは何十年にもわたり、動作を予測でき、監査もできるように設計されてきました。技術者が好むのは、条件分岐と明確なルールに基づき、どのような結果が得られるかをあらかじめ見通せる決定論的な設計です。ところが、本質的に非決定論的なAIを導入して、物事が思いどおりに進まないと驚きます。
非構造化データと設計の甘いワークフローを非決定論的なモデルに任せれば、思いもよらない結果が返ってきます。AIの動作に歯止めをかけなければ、設定した覚えのないゴールに、想像もしなかったやり方でたどり着きます。その結果に満足できることは、まずありません。
問題の根はシステム設計にあります。解決の第一歩は、業務プロセスを整え、「90/10の原則」を理解することです。
エージェント型AIを導入する際の90/10の原則
多くのリーダーは、AI変革にも従来のパレートの法則が当てはまると考え、仕事の8割から9割を技術が担うと期待します。実際には、その逆です。
エージェント型AIの導入が成功するかどうかは、約9割が業務基盤を整える地道な作業にかかっています。データパイプラインを整理し、引き継ぎの曖昧さをなくし、業務手順を明文化し、ガバナンス上の境界を厳格に定めます。どれも手順と結果を明確にできる作業であり、モデルの選定や目新しいAIツールの導入とは別の仕事です。
残りの1割で、エージェント型AIが力を発揮します。状況に応じた情報の統合や、文脈によって対応が変わる例外処理、臨機応変な判断が求められる作業は、決められたルールに従う自動化では扱えません。AIがこうした場面で価値を生むには、土台となる9割がしっかり整っていることが条件です。
多くの組織は、モデルが業務プロセスの弱点を補ってくれると考え、土台となる9割を飛ばして、残りの1割に取りかかります。その穴をモデルで埋めることはできません。
土台となる9割を整えるには、運用面で次の4つの柱が欠かせません。
- 可視化。 把握していないものを保護し、管理することはできません。まずは実際の利用状況を洗い出します。組織内では、どのようなAIが動いているでしょうか。正式に承認されたモデルはどれで、ブラウザのタブや開発者が本業とは別に進めるプロジェクトを通じて、いつの間にか入り込んだモデルはどれでしょうか。MCPサーバは社内のツールやデータにどのようにつながっているでしょうか。多くの組織では、把握すべき範囲が想定を大きく上回ります。
- 責任の明確化。 利用状況を把握したら、AIエージェントを業務の担い手として扱います。一つひとつにタグを付け、実行を許可する操作とアクセスできるデータを定めます。とりわけ重要なのは、すべてのエージェントに人間の責任者を指名し、想定外の動作が起きたときに、誰が説明責任を負うのかを明確にしておくことです。
- 可観測性。 責任者を把握したうえで、エージェントが実際に何をしているかをリアルタイムで確認できるようにします。どのプロンプトが動作のきっかけとなったのか、そのときのコンテキストがプロンプトインジェクションによって改変されていないか、次にどのツールを呼び出す予定かまで把握する必要があります。そうすれば、処理が確定する前に、通常の業務を進める動作と、実際にリスクを伴う動作を見分けられます。
- ガバナンス。 可観測性を実際の制御につなげます。エージェントが許可された範囲で動いていれば、そのまま実行させて生産性を高めます。許容範囲に収まるか判断が難しい操作は、いったん止めて人による確認を求めます。明らかに範囲外の操作や悪意のある操作は、即座にブロックします。インシデント後に担当者がテレメトリを確認するだけでは、制御は間に合いません。判断のためのガードレールをワークフローの設計に直接組み込んで初めて、ガバナンスが機能します。
こうした運用基盤を整えてから、最後の重要な工程を担う自律型AIのワークフローを導入します。基盤があれば、エージェントの動作を評価し、異常を検知し、なぜその判断に至ったのかを正確にたどることができます。
業務プロセスの良し悪しを増幅するAI
関係は単純です。業務プロセスが整っていれば、AIでより早く優れた成果を得られます。プロセスに問題があれば、AIは混乱を加速させます。
AIで成果を上げるのは、練り上げた業務の仕組みの最後の1割にAIを組み込む組織です。業務プロセスを整え、定めたルールに沿って運用するところまでAIで代替しようとしても、同じ成果は得られません。
AI変革を計画するなら、まず現状を問い直しましょう。自社の業務プロセスは、今どの程度成熟しているでしょうか。エージェントを業務に組み込むには、どのような準備が必要でしょうか。その責任を負うのは誰でしょうか。
まずはこれらの問いに答えを出しましょう。そのうえで、AIを活用した変革を全社規模で進めます。
その順序で進めれば、結果に落胆することはずっと少なくなるはずです。
AWS re:Invent 2026のTrendAI™セッションにご参加ください
AWS re:Invent では、Johnny HandがPega Systemsとのブレイクアウトセッションに登壇し、ゼロデイ脆弱性の管理にも通じる基本原則について、さらに詳しく解説します。
ゼロデイのリスクにさらされる時間を短縮する:AIを活用した防御からの教訓
12月2日(水)午後2時30分
MGM Grand
ラスベガスにお越しの方は、ぜひセッションにご参加ください。20年にわたるゼロデイ研究をもとに構築したエージェント型エンジンが、悪用される前の脆弱性をどう発見し、検証するのかをご紹介します。AWS上で稼働するアプリケーションがゼロデイのリスクにさらされる時間を短縮するために、何が必要なのかも解説します。
参考記事:
The 90/10 Principle: Why AI Transformation Starts with Process, Not Technology
By: Johnny Hand
翻訳:与那城 務(Platform Marketing, TrendAI™ Research)