これまでの生成AI活用は、ユーザーの質問に対し、文書やコードを生成する「対話型」が主流でした。
しかし、2026年現在のトレンドでは、目標を設定するとAIが自ら計画を立て、
API連携やデータベース操作を行いながら、一連の業務を自律的に遂行する「AIエージェント」へ移行しています。

Google Cloudにおいても、Vertex AI Agent Builder等を活用することで、
社内データベースとの連携や外部システム呼び出しを伴う高度な業務エージェントの構築が容易になりました。

しかし、AIが自律的な実行権限を持つことで、
従来のWebアプリケーションやチャットボットにはなかった新たなセキュリティリスクが顕在化し始めています。

AIエージェントを実用化するうえで避けて通れないのが、エージェント特有のセキュリティ脅威です。
代表的なリスクには以下のようなものがあります。

• プロンプトインジェクション / 間接的インジェクション
  ⇒外部データ（メールやWebページ等）に含まれる悪意ある命令によって、エージェントの制御が奪われる攻撃
• 過剰な権限による意図しない操作
  ⇒エージェントが必要以上のアクセス権限を持つことで、データベースの不適切な書き換えや外部APIの不必要な実行を引き起こすリスク
• センシティブ情報の漏洩
  ⇒RAG（検索拡張生成）やツール実行時のデータハンドリング不備による機密情報の流出

これらの複雑な脅威からAIシステム全体を防護する概念が「AI Threat Defense（AI脅威防御）」です。
AIの思考・実行プロセスをリアルタイムに監視し、
悪意ある割り込みや不正操作を未然に防ぐ仕組みが不可欠となっています。

Google Cloudでは、AIシステムにおけるリスクに対処するため「SAIF（Secure AI Framework）」という
セキュリティフレームワークを提唱しています。
これに基づき、AIエージェントの設計・開発・運用において
多層防御（Defense in Depth）を組み込むことが推奨されています。

• インプット監視（Model Armor / ガードレール）
  ⇒ユーザーからの入力や外部データ読み込み時に、インジェクション攻撃や有害コンテンツを事前にフィルタリング
• コンテキスト・アイデンティティ制御
  ⇒エージェントに必要最小限の権限（Principle of Least Privilege）を割り当て、ユーザーの権限範囲内のデータアクセスのみを許可
• アウトプット・ツール実行制御
  ⇒エージェントが実行しようとするアクション（APIリクエストやSQL発行など）に検証ステップを挟み、破壊的変更を防ぐ

AIエージェントを運用するインフラ基盤やログの監視には、
Google Cloudの統合セキュリティプラットフォーム「Security Command Center（SCC）」や、
高度な脅威インテリジェンス「Mandiant」の知見が活用されます。

• リアルタイムな脅威検知
  ⇒AIエージェントが動作するクラウド基盤の設定不備（Misconfiguration）や異常なAPI呼び出しパターンを早期検知
• AIを活用したセキュリティ運用（Gemini for Security）
  ⇒セキュリティログやアラートの分析にGeminiを活用し、攻撃のコンテキストを迅速に把握。SOC（セキュリティオペレーションセンター）の対応スピードを劇的に向上させます

単にモデル単体の安全性を高めるだけでなく、クラウドプラットフォーム全体で統合的な脅威監視を行うことが
「AI Threat Defense」の実効性を高める鍵となります。

今後、社内業務や顧客向けサービスにAIエージェントを組み込む際、
企業が取るべき実践的アプローチを3つのステップに整理します。

• 最小権限原則に基づくアーキテクチャ設計
  ⇒エージェントにすべてを行わせるのではなく、書き込みや外部通信を伴う処理には適切な認証・認可基盤と人間の承認プロセス（Human-in-the-Loop）を入れる
• プロンプトおよび入出力データのガードレール実装
  ⇒Vertex AIのガードレール機能やフィルタを適用し、インジェクション攻撃や有害な出力を未然に遮断する
• 継続的なセキュリティ評価と品質管理
  ⇒PoC段階から本番運用に至るまで、Gen AI Evaluation Serviceなどを活用してエージェントの安全性・精度を継続的に評価する

Next Tokyo ’26でも大きなテーマとなったように、
AIエージェントの活用はビジネスの生産性を一歩先の次元へと引き上げる可能性を秘めています。
しかし、そのポテンシャルを最大限に発揮するためには、
「AI Threat Defense」による強固なセキュリティ基盤が欠かせません。

「AI Threat Defense」についてのことはもちろん、
基調講演は以下から視聴できますので、気になる方はぜひ見てみてください！

今回のNext Tokyo ’26はAI最新の動向について、ボリュームたっぷりでした！
最新においていかれないよう、引き続き情報収集をしていきます！

※余談ですが、現地にはドラゴンクエストの「スライム」がいました！！（かわいい～

※会場の雰囲気もチラリ（大勢の人が来場していました！

システムサポートでは、Google Cloudの導入や活用を支援しております。

Google Cloudを導入したい・導入したけど使いこなせていない…という方は、お気軽にご相談ください！