無秩序から統治へ：エージェント型AIにおけるガバナンスギャップの解消

エージェント型AIの登場により、ソフトウェアが可視化されない形で意思決定し、行動することが初めて可能になりました。エージェント型AIシステムは、エンタープライズ環境全体にわたり、計画、推論、意思決定、そして最終的な実行までを担います。従来のソフトウェアが出力生成に限定されていたのに対し、APIの呼び出し、機密データへのアクセス、ワークフローの起動、他システムとの連携など、多様な新しい能力を備えています。

このような変化は、業務フローやプロセスの簡素化・自動化に大きな可能性をもたらしますが、同時に新たなリスクの領域も生み出します。サイバーセキュリティはこれまで、「ソフトウェアは人間の決定を実行する」という単純な前提の上に構築されてきました。しかし、エージェント型AIの登場により、この前提はもはや成立しません。

エージェント型AIシステムは、従来のソフトウェアとは異なり、完全に決定論的ではありません。これらは反復的なループを通じて動作し、新たな入力、ツールの出力、変化するコンテキストに適応します。自律的な適応を前提として設計されているため、その行動は初期の指示を超えて進化し得ます。この結果、各ステップで人間が直接関与しない場合、予測や追跡、制御が困難な結果を生む可能性があります。

このように、システムの在り方そのものが変化することで、これまでにない能力と可能性が生まれる一方で、新たに対処すべきリスクも生じています。

エージェント型AIにおけるセキュリティギャップ

エージェント型システムは、従来の攻撃チェーンを実質的に崩壊させます。プロンプトインジェクション、ツールの誤用、データ汚染といった単一の操作が、不釣り合いなほど大きな影響を引き起こし得るためです。エージェンシー（自律性）により、悪意ある意図は初期侵入からデータ流出、さらにはシステム全体の侵害へと急速に連鎖します。

OpenClawのようなソフトウェアは、この現実をさらに加速させます。数分で展開可能であり、導入直後からデータ、API、エンタープライズのワークフローへのアクセス権を付与できるためです。NVIDIA GTCでは、エージェントがいかに容易に導入され、複雑で多段階のワークフローをシステム間でリアルタイムにオーケストレーションできるかが、基調講演のデモンストレーションで示されました。

導入の容易さと広範なアクセスの組み合わせこそが、エージェント型システムを強力にすると同時にリスクの高いものにしています。エージェント型AIの高い可用性と急速な普及は、重大なギャップを浮き彫りにします。すなわち、ソフトウェアに行動する権限を与えている一方で、その行動がどのように展開されるのかについて、セキュリティチームが十分な可視性を持てていないという問題です。

なぜ既存のセキュリティモデルは通用しないのか

エージェント型AIの時代においては、制御ポイントそのものが変化しています。現在の多くのアプローチは、従来の制御手法を拡張しようとしています。

• モデルの保護
• アプリケーションの保護
• エンドポイントの保護

しかし、エージェント型システムは単一の境界内で動作するものではありません。エージェント型AIは相互作用の中で動作し、現在のリスクは次の領域に存在します。

• エージェント間の通信方法
• 意思決定の伝播の仕方
• 意図がどのように行動へと変換されるか

主要なセキュリティの制御ポイントは、もはやエンドポイントやアプリケーションではありません。TrendAI™はこの新たな制御ポイントを、エージェント型システムがどのように相互作用し、情報を交換し、行動を起こすかを捉えるチェックポイントとして定義しています。このインタラクション層は、エージェント、ツール、モデル、データ間をつなぐ通信基盤です。自律システムにおけるI/Oチェックポイントには、指示が受け渡される場所、コンテキストが交換される場所、意図が形成される場所、そして行動が引き起こされる場所が含まれます。

現時点では、この層はほとんど統制されていません。この層を可視化し制御できなければ、エージェント型システムの挙動を効果的に統治することはできません。

コンフィデンシャルコンピューティングのような技術の進展により、AIが稼働する環境自体の信頼性を高め、データ保護を確実にすることは可能になりつつあります。しかし同時に、新たな形の共有責任モデルが生まれています。インフラ側が実行環境を保護する一方で、組織はそのデータを用いて自律システムが何を行うのかを統治する責任を担う必要があります。

そのため、組織は次のような基本的な問いに向き合う必要があります。これらの問いへの答えが、自律システムをどれだけ適切に統治できるかを左右します。

1. 自組織のエージェント型システムが何をしているのかを把握し、可視化できているか
2. その行動は信頼できるものか
3. 介入は可能か、またどの段階で実施できるか

エージェント型システムは、生産性と能力において大きな飛躍をもたらします。そのため、導入を遅らせるという選択肢は現実的ではありません。進むべき道は、ガバナンスを備えた導入です。

セキュリティからAgentic Governance Gatewayへ

TrendAI™は、行動が生成されるその地点で挙動を統治できる「Agentic Governance Gateway」を提供します。Agentic Governance Gatewayは、次のような能力を組織にもたらします。

• エージェントがどこに存在し、何にアクセスできるのかを把握する
• システム間でどのように相互作用しているかを観測する
• その相互作用の背後にあるコンテキストと意図を理解する
• リスクのある、または悪意ある行動をリアルタイムで検知する
• 自動化を妨げることなく、ポリシーとガードレールを適用する

これは、大規模な航空管制に似ています。各フライトはリアルタイムで意思決定を行い、進路を変更し、他と相互作用しますが、システム全体が機能するのは、共有された可視性、明確なルール、そして必要な時に介入できる能力が存在するからです。

これまでのランサムウェア対応や侵害封じ込めの経験により、可視化、検知、対応の能力は大きく向上してきました。しかし、エージェント型システムの登場により、これらの能力は自律的な挙動の統治へと進化する必要があります。

ガバナンスを成果へとつなげる

TrendAI Vision One™は、脅威リサーチ、エンドポイントおよびネットワークの検知・対応、AI主導の分析といった従来からの強みを、エージェント型システムが動作するインタラクション層へと拡張します。

Zero Day Initiative（ZDI）で培われた長年の知見と、クロスレイヤー検知におけるリーダーシップを基盤として、このプラットフォームは実証済みの能力を自律型AIへと適用します。

ガバナンスは、これらの馴染みあるセキュリティ機能を活用し、それを人間主導の活動だけでなく、意思決定を行うシステムそのものの統治へと拡張することで、実運用の中で機能するようになります。

TrendAI Vision One™のような統合プラットフォームアプローチにより、組織は実証済みのセキュリティ制御を自律システムへと拡張しながら、Agentic Governance Gatewayの運用を開始することが可能になります。

CISOが今取り組むべきこと

エージェント型AIは、ソフトウェアの振る舞いそのものに根本的な変化をもたらします。決定論的な結果を生み出すシステムを保護する段階から、意思決定を行うシステムを統治する段階へと移行しています。エージェント型システムは、環境全体にわたって動作する意思決定主体です。これに伴い、セキュリティも進化する必要があります。

エージェント型システムへの移行はすでに始まっており、加速しています。自律型AIを大規模に統治するために、CISOは次の点に注力する必要があります。

• AIエージェントのインベントリを構築し、それらがアクセスおよび実行可能な範囲を把握する
• 最小権限および最小エージェンシーの原則をデフォルトとして適用する
• エージェントのツール、スキル、拡張機能をサプライチェーンリスクとして扱う
• エンドポイントだけでなく、相互作用や通信のフローを監視する
• 影響の大きい自律的な行動に対してガードレールや承認プロセスを導入する

これらの取り組みは、AIコンポーネントの保護から自律的な挙動の統治への転換を示すものであり、エージェント型AIを確信と制御をもって導入するための基盤となります。

AI Fearlessly

AIの未来は、その進化の速さだけで決まるものではありません。組織がどれだけ安全かつ確信を持って活用できるかによって形作られます。エージェント型AIの導入によって生まれる新たな領域も、適切な統治によって自信を持って受け入れることが可能です。Agentic Governance Gatewayは、システムが何をしているのかを理解し、その動作を信頼し、重要な場面で結果を制御できるよう支援します。

前進しながら、確実な統制のもとで運用し、恐れずAIを活用（AI Fearlessly）していきましょう。

参考記事

From Anarchy to Authority: Closing the Governance Gap in Agentic AI

By Rachel Jin, Russell Meyers, Alifiya Sadikali, and Casey Mondoux

翻訳：与那城 務（Platform Marketing, Trend Micro™ Research）