2026年5月22日

Google Cloudで実現する、企業向けAIエージェント基盤の考え方


Content
生成AIの活用は、いよいよ次の段階に入り始めています。

これまでの生成AIは、文章を要約する、社内文書を検索する、問い合わせに回答する、といった
「人間を補助するAI」が中心でした。

しかし今後は、AIが業務内容を理解し、必要なデータを参照し、複数のツールを呼び出しながらタスクを進める
「AIエージェント」の活用が本格化していきます。

Google Cloudが提唱する「Agentic Enterprise」という考え方は、まさにこの変化を表しています。
AIを単なるチャットボットとして使うのではなく、企業の業務プロセスの中で実際に動く
デジタルワーカーとして活用していくという考え方です。

ポイント: これからの生成AI活用は、「質問に答えるAI」から「業務を進めるAI」へと移り始めています。

一方で、ここで重要になるのは「AIエージェントを作れるか」ではありません。

現在の技術を使えば、AIが社内文書を検索し、メール文面を作成し、顧客情報を要約し、APIを呼び出すような仕組みは、比較的短期間で作れるようになっています。

むしろ難しいのは、そのAIエージェントを
企業の本番業務の中で安全に働かせることです。

AIエージェントには、通常のチャットボットよりも大きな権限が与えられます。
顧客情報を参照する。社内システムに接続する。過去の対応履歴を読み取る。
場合によっては、申請、登録、更新、通知といった業務操作に関わることもあります。

注意すべき点: AIエージェントは便利な一方で、社内データや業務システムに関わるため、権限管理・接続制御・監査・運用設計が欠かせません。

そのため、上司や社内関係者から「AIエージェントを導入してほしい」と言われたときに最初に考えるべきことは、個別のAIアプリをいくつ作るかではありません。

本当に考えるべきなのは、AIエージェントが企業内で
安全に、継続的に、管理された形で働ける基盤をどう作るかです。
AIエージェント基盤が企業内の複数業務に広がるイメージ

1. AIエージェント導入で本当に問題になること

AIエージェントの導入で最初に直面する課題は、モデルの性能だけではありません。

むしろ本番導入では、次のような問いに答えられるかが重要になります。

AIエージェント導入時に確認すべき問い

  • このAIエージェントは、誰の代わりに動いているのか。
  • どのデータを見てよいのか。
  • どの業務システムにアクセスしてよいのか。
  • 読み取りだけなのか、更新まで許可するのか。
  • 過去の会話や業務状態をどこまで記憶するのか。
  • 誤った回答や危険な操作をどう検知するのか。
  • 失敗したときに、誰がどのように改善するのか。

たとえば、営業支援エージェントを作るとします。

商談前に顧客情報を要約し、過去の提案資料を探し、類似案件を参照し、提案書のたたき台を作ってくれるAIがあれば、営業活動は大きく効率化できます。

しかし、そのAIが全顧客の機密情報に無制限にアクセスできてよいでしょうか。
提案書の内容を外部ツールに送ってよいでしょうか。
過去の誤った提案を正しい情報として再利用してしまった場合、どう検知するのでしょうか。
AIが生成した提案内容の根拠を、あとから追跡できるでしょうか。

重要なのは、AIの能力だけではありません。
AIがどのデータにアクセスし、どの操作を行い、その結果をどう監査・改善できるかまで設計する必要があります。

このように考えると、AIエージェント導入の本質は
「便利なAIを作ること」ではなく、
「AIが業務に参加するためのルールと基盤を作ること」だと分かります。

特に重要なのは、次の4つです。

  • 権限管理:AIごとに、見られるデータや実行できる操作を分ける
  • 接続管理:社内外システムへの通信経路や操作内容を制御する
  • 記憶と状態管理:会話や業務の流れを保持する
  • 運用と改善:回答品質や失敗パターンを継続的に確認する

この4つを個別に手作りすると、AIエージェントはすぐに複雑化します。

だからこそ、Google Cloudのようなエージェント基盤を活用する意味があります。

2. Google Cloudで作るAIエージェント基盤の全体像

Google CloudでAIエージェント基盤を考える場合、単にGeminiを呼び出すアプリケーションを作るだけでは不十分です。

必要になるのは、AIエージェントを中心に、実行環境、データ基盤、接続制御、権限管理、記憶、監視、評価を組み合わせた全体設計です。

ポイント:
AIエージェント基盤とは、AIモデル単体ではなく、AIが業務システムやデータと安全につながり、継続的に運用されるための仕組み全体を指します。

Google Cloudで構成するAIエージェント基盤の全体像

AIエージェントを中心に、利用者・制御接続・実行データ運用を層で分けて設計する

上図は、AIエージェントを企業の業務で活用するために必要な構成を、役割ごとに層で整理したものです。

AIエージェント基盤では、どのAIモデルを使うかだけでなく、誰が使うのか、どのエージェントが動くのか、どのシステムへ接続できるのか、どのデータを参照できるのか、どのように運用・改善するのかを分けて考える必要があります。

役割 営業支援AIでの例 設計ポイント
利用者層 誰がAIエージェントを使うのかを整理する層 営業担当者、管理者、顧客など 利用者ごとに、必要な情報や許可すべき操作を分ける
AIエージェント層 業務目的に応じたAIエージェントを配置する層 営業支援エージェント、問い合わせ対応エージェント、社内ナレッジ検索エージェントなど 単なるチャットではなく、業務目的に沿って情報収集・判断・ツール実行を行う
制御・接続層 AIエージェントが安全にシステムやツールへ接続するための層 CRM、資料管理システム、問い合わせ履歴、社内FAQへの接続制御 接続先、参照範囲、実行できる操作を制御する
実行・データ・運用層 AIエージェントを動かし、データを保持し、継続的に改善する層 Gemini Enterprise Agent Platform、BigQuery、Cloud Storage、Agent Sessions、Agent Opsなど 実行環境、会話履歴、業務状態、監視、評価を共通基盤として設計する

このように層で分けて考えることで、AIエージェント基盤は単なるチャットアプリではなく、企業内の業務システムやデータと安全につながる共通基盤として設計しやすくなります。

特に営業支援AIでは、顧客情報、過去提案書、議事録、問い合わせ履歴など、複数の情報を横断して扱います。そのため、AIモデルの性能だけでなく、どの情報を参照できるのか、どの操作を許可するのか、回答品質をどのように確認するのかまで含めて設計することが重要です。

この章で伝えたいこと:
AIエージェント導入は、個別アプリを作る取り組みではありません。利用者、エージェント、接続制御、権限管理、実行環境、データ基盤、記憶、運用を層で分けて設計することで、企業全体で使えるAIエージェント基盤になります。

3. 主なサービス:AIエージェントの「実行・接続・記憶・運用」を支える仕組み

AIエージェントを本番業務で使う場合、単にGeminiに指示を出すだけでは不十分です。

AIは業務データを参照し、社内外のツールを呼び出し、会話や業務状態を保持しながら、複数ステップのタスクを進めます。そのためには、AIモデルだけでなく、実行・接続・記憶・運用を支える仕組みが必要になります。

AIエージェント基盤に必要な仕組み

  • AIがどのシステムに接続してよいかを制御する仕組み
  • AIエージェントごとに権限を分ける仕組み
  • 会話や業務の途中状態を保持する仕組み
  • 社内ツールやAPIをAIから使いやすくする仕組み
  • AIの動きを監視し、改善し続ける仕組み

Google Cloud が導入しようとしているエージェント関連技術は、まさにこの課題に対応するためのものです。

Agent Gateway

エージェントの通信や外部ツールへのアクセスを集中的に管理し、Agent RegistryやAgent Identityと連携しながら、どのエージェントがどのツール・APIにアクセスできるかを制御する仕組みです。PDF上ではプレビュー扱いのため、導入時には最新の提供状況を確認する必要があります。

Agent Identity

AIエージェントごとの身元を管理する

人間の社員IDのように、AIエージェントにも固有の身元を持たせます。どのAIが、どの権限で、どのデータを参照したのかを追跡しやすくします。

Agent Sessions / Agent Memory Bank

AIに業務の流れを覚えさせる

複数ステップの業務では、途中状態や過去の文脈を保持する必要があります。短期の状態はAgent Sessions、長期的な文脈はAgent Memory Bankで扱います。

Agent Registry / MCP

社内ツールをAIが使える部品として整理する

CRM、FAQ、申請ワークフロー、Google Drive、BigQueryなどをAIが使えるツールとして整理します。一度整備したツールを複数のエージェントで再利用しやすくなります。

Agent Ops

Agent Evaluation / Agent Observability / Agent Simulation / Agent Optimizer
AIエージェントの品質、実行トレース、推論過程、失敗パターンを可視化・評価し、継続的に改善するための仕組みです。

AIエージェントは作って終わりではありません。事前検証、評価、可視化、改善を継続することで、本番業務に耐えられる状態へ育てていきます。

この章で伝えたいこと:
AIエージェントは、AIモデルだけでは本番業務に組み込めません。接続、権限、記憶、ツール連携、運用改善を組み合わせて初めて、安全に業務へ参加できるようになります。

4. ユースケース:営業支援エージェントを導入すると何が変わるか

ここでは、シンプルな例として「営業支援エージェント」を考えます。

営業活動では、商談前後に多くの準備作業が発生します。顧客情報を確認する。過去の商談履歴を見る。類似案件を探す。提案資料を確認する。議事メモを整理する。次回アクションをまとめる。提案書のたたき台を作る。

これらは重要な業務ですが、担当者の経験や勘に依存しやすく、準備にも時間がかかります。

AIエージェントを導入すると、この流れを大きく変えられます。

営業支援エージェントがCRMや提案資料を参照し、商談準備を支援するイメージ

営業支援エージェントが、顧客情報・商談履歴・提案資料・問い合わせ履歴を参照し、提案準備を支援する

たとえば、営業担当が「A社との次回商談に向けて、過去提案と最近の問い合わせ内容を踏まえて提案の方向性を整理して」と依頼したとします。

営業支援エージェントは、まずCRMから顧客情報を確認します。次に、過去の商談履歴や提案資料を検索します。さらに、問い合わせ履歴や関連する社内ナレッジを参照します。

そのうえで、今回の商談で押さえるべき論点、提案の方向性、想定される懸念、次回アクション案を整理します。

営業支援エージェントが支援する流れ

  1. CRMから顧客情報を確認する
  2. 過去の商談履歴や提案資料を検索する
  3. 問い合わせ履歴や社内ナレッジを参照する
  4. 今回の商談で押さえるべき論点を整理する
  5. 提案の方向性、懸念点、次回アクション案をまとめる

ここで重要なのは、AIが単に文章を生成しているわけではないという点です。

AIエージェントは、複数のデータソースを参照し、必要なツールを呼び出し、業務の目的に沿って情報を組み立てています。

そのため、営業支援エージェントを本番業務で使うには、単にAIに文章を書かせるだけでなく、どのデータを参照できるのか、どのシステムへ接続できるのか、どの操作まで許可するのかをあらかじめ設計しておく必要があります。

このユースケースでGoogle Cloudの各機能が果たす役割

  • Agent Identity:営業支援エージェントとして、参照できる顧客情報や資料の範囲を管理する
  • Agent Gateway:CRMや資料管理システムへの接続を制御し、許可された操作だけを実行させる
  • Agent Sessions:A社との商談準備から商談後フォローまで、一連の会話や業務状態を保持する
  • Agent Registry / MCP:CRM検索、提案資料検索、問い合わせ履歴検索などのツールを呼び出しやすくする
  • Agent Ops:回答品質、参照情報の妥当性、ツール呼び出しの失敗を継続的に確認する

つまり、営業支援エージェントの価値は「提案書を自動生成すること」だけではありません。

営業活動に必要な情報収集、整理、判断材料の提示、次の行動への橋渡しを、一定の品質で支援できることにあります。

これにより、経験の浅い担当者でも過去の知見を活用しやすくなります。一方で、ベテラン担当者は資料探しや整理作業から解放され、より顧客理解や提案方針の検討に時間を使えるようになります。

導入効果:
営業支援エージェントは、営業担当者の代わりにすべてを判断するものではありません。情報収集や整理を支援し、人間がより重要な顧客理解や提案判断に集中できる状態を作ることが目的です。

5. Google CloudでAIエージェント基盤を作る特徴

Google CloudでAIエージェント基盤を作る特徴は、AIモデル、データ、セキュリティ、ツール連携、運用を一体で設計できる点にあります。

AIエージェントを業務に組み込む場合、単に高性能なAIモデルを使うだけでは十分ではありません。業務データにつなぎ、必要なツールを呼び出し、権限を管理し、実行結果を監視し、継続的に改善できることが重要になります。

Google Cloudの強み:
Gemini、BigQuery、Agent Gateway、Agent Identity、Agent Opsなどを組み合わせ、AIエージェントを企業の業務基盤として設計できる点にあります。

まず、中心になるのがGeminiです。Geminiは、文章生成だけでなく、複雑な指示理解、マルチモーダルな情報処理、ツール呼び出しを組み合わせたエージェント型の処理に対応しやすいAIモデルです。AIエージェントがユーザーの依頼を理解し、必要な情報を探し、複数の処理を組み合わせて業務を進めるうえで中核となります。

次に重要なのが、BigQueryを中心とした統合データ基盤です。

企業内には、顧客データ、購買データ、問い合わせ履歴、業務ログ、各種マスタといった構造化データがあります。一方で、提案資料、契約書、マニュアル、議事録、社内ナレッジ、画像、動画、音声といった非構造化データも多く存在します。

AIエージェントが業務で使える回答を行うには、この両方を分断せず、同じ業務文脈の中で扱えることが重要です。BigQueryでは、構造化データを分析するだけでなく非構造化データも分析やAI処理の流れに組み込むことができます。

例:
営業支援エージェントであれば、BigQuery上の顧客データ、商談履歴、問い合わせログを参照しながら、より業務に即した提案方針を整理できます。

ここで重要なのは、AIに単にデータを渡すことではありません。顧客情報、商談履歴、提案資料、問い合わせ履歴、社内ナレッジを組み合わせ、AIが業務上の意味を理解しやすい形で文脈化することです。

このように、BigQueryを中心に構造化データと非構造化データを統合的に扱えることは、AIエージェント基盤を作るうえで大きな強みになります。AIエージェントは、単一の文書検索や単一テーブルの分析ではなく、企業内に散らばる複数種類のデータを横断して判断する必要があるためです。

さらに、Agent Gateway、Agent Identity、Model Armorを組み合わせることで、AIエージェントのアクセス先、実行可能な操作、監査の仕組みを管理しやすくなります。

また、AIエージェントは作って終わりではありません。業務に組み込まれるほど、回答品質、ツール呼び出し、処理時間、失敗パターンを確認し、改善していく必要があります。そのために重要になるのがAgent Opsです。

Google Cloudで一体設計できる主な要素

  • Gemini:複雑な指示理解やツール呼び出しを担うAIモデル
  • BigQueryを中心とした統合データ基盤:構造化データと非構造化データを同じ分析・AI活用の流れで扱う
  • Agent Gateway / Agent Identity:接続制御と権限管理を担う仕組み
  • Model Armor:AI利用時のリスクを抑えるセキュリティ機能
  • Agent Ops:評価・監視・改善を継続する運用基盤

つまりGoogle Cloudの強みは、AI単体ではなく、企業の業務基盤としてAIエージェントを設計できることです。

Gemini、BigQuery、Cloud Storage、検索基盤、Agent Gateway、Agent Identity、Model Armor、Agent Opsを組み合わせることで、構造化データと非構造化データを統合的に活用しながら、AIエージェントを安全に業務へ組み込み、継続的に改善していく基盤を作れます。

6. まとめ:AIエージェント導入は、業務にAIを参加させるための基盤作りである

役員から「AIエージェントを導入してほしい」と言われたとき、まず考えるべきことは、どのチャットボットを作るかではありません。

本当に考えるべきなのは、
AIエージェントが企業の業務に安全に参加できる環境をどう作るか
です。

AIエージェント基盤で設計すべきこと

  • AIがアクセスしてよいデータを定義する
  • AIが使えるツールを整理する
  • AIエージェントごとに権限を分ける
  • AIの通信を制御する
  • 会話や業務状態を保持する
  • AIの判断と操作を記録する
  • 回答品質やタスク達成率を継続的に評価する

このような基盤があって初めて、AIエージェントは一時的な実験ではなく、企業の業務を支える仕組みになります。

Google Cloud Next ’26で発表・紹介された
Agent Gateway、Agent Identity、Agent Platform Sessions、Agent Platform Memory Bank、Agent Registry、MCP、Agent Evaluation、Agent Observability
といった技術は、まさにこの課題に対応するための重要な構成要素です。
ただし、一部機能はプレビューまたは段階的提供のため、実際の導入時には最新の提供状況を確認する必要があります。

重要なのは、AIアプリを1つ作ることではありません。
企業の業務、データ、セキュリティ、運用を見直し、AIが安全に働ける環境を整えることです。

これからのAI活用で差がつくのは、AIを試す速さだけではありません。

AIエージェントを安全に、継続的に、業務へ組み込める基盤を作れるかどうか
です。

Google Cloudは、そのための実行環境、データ基盤、接続制御、権限管理、運用改善の仕組みを備えています。

まとめ:
AIエージェント導入を考える企業にとって、最初に検討すべきことは個別アプリの開発ではありません。
Google Cloud上で、AIエージェントが安全に働ける基盤をどう設計するかです。

システムサポートでは、Google Cloudの導入や活用を支援しております。

Google Cloudを導入したい・導入したけど使いこなせていない…という方は、お気軽にご相談ください!


Google Cloud 導入・活動支援に関するご相談はこちら

2026年5月22日 Google Cloudで実現する、企業向けAIエージェント基盤の考え方

Category Google Cloud

ご意見・ご相談・料金のお見積もりなど、
お気軽にお問い合わせください。

お問い合わせはこちら