Azure の AI サービスとは|推奨アーキテクチャ(ベースライン Foundry チャット)のセキュリティとネットワークを整理

Azure の AI サービスとは|推奨アーキテクチャ(ベースライン Foundry チャット)のセキュリティとネットワークを整理 AI

はじめに

今回から AI 編。
Azure の AI 関連サービスを、セキュリティとネットワークの目線でひととおり確かめていく。
1 回目は全体像として、Azure の AI サービスの種類と、Microsoft が公開している推奨アーキテクチャ(ベースライン Foundry チャット参照アーキテクチャ)を部品ごとに分けて、ID、ネットワーク、閉域にするときの注意を整理する。
※2026年11月時点の情報です。

Azure の AI サービスの全体像

Azure の AI サービスは、大きく分けると次のとおり。
中心は Microsoft Foundry で、Azure OpenAI のモデルやエージェントはここで扱う。

Azure の AI サービスの全体像と、AI 編で扱う回
サービス何をするかAI 編
Microsoft Foundryエージェント、モデル、ツールを 1 つのリソースにまとめた基盤。
RBAC、ネットワーク、ポリシーを 1 つのリソース プロバイダーで管理する。
Azure OpenAI のリソースは Foundry リソースにアップグレードできる
A1〜A3
Foundry Tools旧 Azure AI サービス。
Speech、Translator、Language、Content Understanding、Document Intelligence、Vision、Custom Vision、Immersive Reader など。
Anomaly Detector や QnA Maker などは提供終了の予定
A4
Azure AI 検索RAG で、モデルに渡す社内データを探す(ベクター検索、セマンティック ランク付け)A5
Azure AI Content Safetyモデルとエージェントの有害な入出力を検出するガードレールA6
Azure Machine Learning機械学習のモデルの学習とデプロイ、MLOps の管理A7
API Management(AI ゲートウェイ)AI のエンドポイントの前に置き、認証、負荷分散、ログ、トークンの使用量の管理を行うA8
Defender for CloudAI サービスの脅威保護。
ジェイルブレイク、データ漏えい、資格情報の盗難などをアラートにする
A10
Microsoft PurviewCopilot、エージェント、AI アプリでの機密データの扱いを見える化し、保護するA11

公式ドキュメント:
Microsoft Foundry とは | Microsoft Learn
Foundry Tools とは | Microsoft Learn
Azure Machine Learning とは | Microsoft Learn
Azure API Managementの AI ゲートウェイ | Microsoft Learn
Microsoft Defender for Cloudでの AI 脅威保護 | Microsoft Learn
生成 AI アプリ向け、Microsoft Purview のデータセキュリティおよびコンプライアンス保護 | Microsoft Learn
Azure AI Content Safety とは? | Microsoft Learn

推奨アーキテクチャ:ベースライン Foundry チャット

Microsoft は Azure アーキテクチャ センターで、社内向けのチャット アプリを Foundry で作るときのベースライン(基準になる構成)を公開している。
チャットの画面は App Service、AI 部分は Foundry Agent Service のエージェントで、社内データの検索に AI 検索を使う。
セキュリティ、信頼性、運用の要件に応えるために、ネットワークの分離とファイアウォールまで含めた構成になっている。

ベースライン Foundry チャット参照アーキテクチャの構成(簡略化)
部品このアーキテクチャでの役割
Application Gateway + WAFチャットの画面への唯一の入口。
TLS の終了、WAF での検査。
パブリック IP は DDoS Protection で守る
App Serviceチャットの画面(Web アプリ)。
VNet 統合で、プライベート エンドポイント経由で Foundry などを呼ぶ。
3 つのゾーンにまたがる
Foundry Agent Serviceエージェントの実行環境。
ユーザーの要求を処理し、ツールの呼び出しを調整し、コンテンツの安全性を強制する。
標準エージェントのセットアップを使う
Cosmos DBエージェントの会話や定義などの状態を保存する(自分のサブスクリプションに置き、Agent Service が管理する)
Storageチャット中にアップロードされたファイルの保存。
別のアカウントで、Web アプリのデプロイ用の ZIP も置く
AI 検索アップロードされたファイルや、知識として渡すファイルのインデックス
Key VaultApplication Gateway の TLS 証明書。
Entra ID が使えない接続のシークレットは、Foundry 専用の別のキー コンテナーに置く
Private Link と Azure DNSすべての PaaS をプライベート エンドポイントで VNet につなぎ、プライベート DNS ゾーンで名前を解決する
Azure FirewallVNet からの送信をすべて検査し、許可した FQDN だけに出す。
データの流出を防ぐ
Bastion とジャンプボックス閉域にした Foundry ポータルを開発者が使うための経路

要求の流れは、ユーザー ⇒ Application Gateway(WAF)⇒ App Service ⇒ エージェント ⇒ 検索やモデル、の順。
App Service はマネージド ID で Foundry に認証する。
エージェントは会話の履歴を Cosmos DB に保存するので、ユーザーは前の続きから会話できる。

※エージェントが使えるモデルは、Foundry のモデル カタログの一部だけ。
リージョンとモデルによって使えるツールも違うので、モデルを決める前に確かめる。

公式ドキュメント:ベースライン Microsoft Foundry チャット参照アーキテクチャ | Microsoft Learn

ID とアクセスの要点

ネットワークの面では、インターネットに出ているのは Application Gateway だけ。
ID の面では、チャットの画面が要求を認証・承認し、サービス間はできるだけマネージド ID で認証する。

ID とアクセスの要点(マネージド ID、接続、ロール、ポータル、会話の分離)
項目公式の推奨
マネージド IDFoundry リソース、各プロジェクト、Web アプリ、Application Gateway で別々の ID を作る。
ほかのサービスに認証するリソースにだけ ID を付ける
接続プロジェクト レベルで作り、使っていない接続は消す。
リソース レベルの接続は今と将来のすべてのプロジェクトに効くので作らない。
Entra ID 認証を優先する
シークレットEntra ID が使えない接続(API キーなど)のシークレットは、Foundry 専用のキー コンテナーに置き、ほかの部品とは共有しない
人のアクセスEntra ID のグループと最小限のロールで職務を分ける。
本番では Foundry ポータルを使える人を絞り、エージェントやプロジェクトの構成は IaC とパイプラインで管理する
プロジェクトの作成特権の操作として扱う。
ポータルで作ったプロジェクトは、プライベート エンドポイントや NSG などの制御を自動では引き継がない
プロジェクトの ID標準セットアップでは、Storage、AI 検索、Cosmos DB へのほぼ完全な権限が必要。
依存先はほかのワークロードのリソースと分ける。
プロジェクト内のエージェントは同じ ID を共有するので、必要な権限が違うエージェントはプロジェクトを分ける
会話の分離Agent Service は会話にユーザーごとの承認をしない。
アプリ側で、認証したユーザーがその会話の持ち主かを毎回確かめる(クライアントから来た会話 ID を信じない)
コンテンツの安全性デプロイしたモデルごとにコンテンツ フィルターのポリシーを付ける。
既定で足りなければカスタムを作り、コードで管理する

Foundry の主な組み込みロールは次のとおり。
キー認証を使うと、キーはロールの制限なしでフル アクセスになるので、公式は Entra ID 認証を勧めている。

ロール向いている人できること
Foundry Agent Consumerエージェントを使うだけの人やアプリエージェントのエンドポイントとのやり取りだけ
Foundry Userエージェントを作ってテストする開発者プロジェクトでのビルドと開発、閲覧
Foundry Project Managerプロジェクトの管理者ビルドと開発、Foundry User ロールの割り当て、エージェントの公開
Foundry Account OwnerFoundry リソースの管理者プロジェクトとアカウントの作成、モデルの管理。ビルドと開発はできない
Foundry Owner何でもできる高い特権すべて

※Foundry のロールは最近名前が変わった(Foundry User は以前の Azure AI User など)。
Cognitive Services で始まるロール(Cognitive Services Usages Reader を除く)と Azure AI Developer は、Foundry プロジェクトの作業には使わない。

公式ドキュメント:
ベースライン Microsoft Foundry チャット参照アーキテクチャ | Microsoft Learn
Microsoft Foundry のロールベースのアクセス制御 | Microsoft Learn

ネットワークの要点

ベースラインは、ID に加えてネットワークでも守る構成になっている。
入口は 1 つ、PaaS はすべてプライベート エンドポイント、送信はファイアウォールで絞る、が基本。

エージェントまわりの通信の流れ(アプリから、依存先へ、インターネットへ)

エージェント(プロンプト エージェント)の送信は、VNet の中の委任サブネットで動くデータ プロキシから出る。
データ プロキシはプロジェクトに 1 つで、プロジェクト内のエージェントで共有する。
このサブネットに NSG と UDR を付けて、送信をファイアウォール経由にそろえる。

サブネット受信(NSG)送信(NSG)ファイアウォールへの UDR
プライベート エンドポイント(snet-privateEndpoints)仮想ネットワーク許可しないあり
Application Gateway(snet-appGateway)チャットのユーザーの送信元とサービスに必要なものプライベート エンドポイントとサービスに必要なものなし
App Service(snet-appServicePlan)許可しないプライベート エンドポイントと Azure Monitorあり
Agent Service(snet-agentsEgress)許可しないプライベート エンドポイント、MCP サブネット、インターネットあり(エージェントに許可したパブリック FQDN だけ)
プライベート MCP サーバー(snet-mcpServers)Agent Service のサブネットからの TCP 443・31443 などサービスに必要なものあり
ジャンプボックス・ビルド エージェントBastion のサブネットプライベート エンドポイントとインターネットあり
Azure Bastion(AzureBastionSubnet)Bastion に必要なものBastion に必要なものなし
Azure Firewall(AzureFirewallSubnet)NSG なしNSG なしなし

Foundry のプライベート エンドポイント用には、次の 3 つの DNS ゾーンを用意する。

privatelink.services.ai.azure.com
privatelink.openai.azure.com
privatelink.cognitiveservices.azure.com
そのほかの推奨内容
NSGNSG をサポートするすべてのサブネットに付け、機能を壊さない範囲でいちばん厳しくする
強制トンネリング送信を想定していないサブネットにも付けて、送信をすべてファイアウォールに通す
ファイアウォールエージェントが使う FQDN だけを 443 で許可する。
認証のために AzureActiveDirectory サービス タグも許可する。
TLS 検査はしない(証明書でエージェントの接続が切れることがある)
WAF の調整チャットの本文にはコードや SQL、HTML が入るので、マネージド ルールの誤検知が起きやすい。
会話が長くなると異常スコアがたまって 403 になる。
ルールを丸ごと無効にせず、チャットの本文のフィールドに絞った除外を作る
DDoS ProtectionApplication Gateway のパブリック IP に DDoS Protection プランを付ける

公式ドキュメント:ベースライン Microsoft Foundry チャット参照アーキテクチャ | Microsoft Learn

閉域にしたときの注意

Foundry のパブリック アクセスを止めると、使い方が変わる。
公式の制限事項から、事前に知っておきたいものをまとめた。

Foundry を閉域にするときの注意(8 項目)
注意内容
ポータルの利用Foundry ポータルのプロジェクトの機能は、プライベート エンドポイント経由のデータ プレーン API を使う。
ジャンプボックス、ピアリングした VNet、ExpressRoute、サイト間 VPN から使う
エンドポイントの単位プライベート エンドポイントはリソース単位で、リソース内のすべてのプロジェクトが同じ公開範囲になる。
プロジェクトごとには分けられない
送信のネットワーク送信のネットワーク設定は今は更新できない。
委任サブネットを変えることも、あとから VNet インジェクションを足すこともできず、Foundry の再デプロイが必要
一部対応の機能ワークフロー エージェント(送信の VNet インジェクションは未対応)、AI ゲートウェイ(新しく作ると自動でパブリックになる)、一部のエージェント ツール
インターネットに出るツールBing Grounding、Web 検索、SharePoint Grounding は、ネットワーク分離の環境でも動くが、パブリック インターネット経由で通信する。
Web 検索ツールは委任サブネットも通らない
ファイアウォールの許可リストエージェントには *.identity.azure.net、login.microsoftonline.com などか AAD サービス タグが必要。
評価やトレースには Application Insights の FQDN も必要
Purview との連携Foundry の対話データを Purview に送る処理は、ネットワーク分離をサポートしていない
ネットワーク セキュリティ境界VNet の中のプライベート エンドポイントと UDR を使うこの構成では、Foundry プロジェクトのネットワーク セキュリティ境界の機能はサポートされていない

公式ドキュメント:
Microsoft Foundry のネットワーク分離を構成する方法 | Microsoft Learn
ベースライン Microsoft Foundry チャット参照アーキテクチャ | Microsoft Learn

ポリシーによるガバナンス

設定のずれを防ぐために、Azure Policy で次のような条件を強制することが勧められている。

ポリシーの例ねらい
Foundry Tools や Key Vault でキー認証などのローカル認証をオフにするキーが漏れても使えないようにする
ネットワーク アクセスの規則、プライベート エンドポイント、NSG の構成を必須にするパブリックのままのリソースを作らせない
カスタマー マネージド キーなどの暗号化を必須にする暗号化の要件をそろえる
リージョンやリソースの種類を制限する想定外の場所や種類のリソースを作らせない

Azure Policy の基本はAzure Policy の記事で書いた。

公式ドキュメント:ベースライン Microsoft Foundry チャット参照アーキテクチャ | Microsoft Learn

推奨構成

項目推奨理由
入口インターネットに出すのは Application Gateway(WAF)だけにする攻撃される面を減らす
PaaS への接続Foundry、AI 検索、Cosmos DB、Storage、Key Vault はプライベート エンドポイントで VNet につなぐ通信を Azure のバックボーンに閉じる
送信エージェントの送信は委任サブネットに集め、NSG・UDR・Azure Firewall で許可した FQDN だけにするデータの流出を防ぐ
認証サービス間はマネージド ID、人は Entra ID のグループと最小限のロール。
キー認証はオフにする
キーはロールの制限なしでフル アクセスになる
Foundry リソース本番のワークロードごとに専用の Foundry リソースを作るコンプライアンス、影響範囲、クォータ、コストを分けられる
構成の管理プロジェクト、エージェント、コンテンツ フィルターは IaC で管理し、本番のポータル利用を絞るポータルはサービスの ID で動き、想定以上に見えることがある

注意事項

項目内容
費用ベースラインは Application Gateway、Azure Firewall、ゾーン冗長の構成を含むので、検証で丸ごと作ると費用が大きい。
まず部品ごとに確かめる
送信のネットワーク委任サブネットはあとから足せない。
閉域にする可能性があるなら、最初から VNet インジェクションで作る
閉域で動かないものワークフロー エージェントの送信や一部のツールは閉域に対応していない。
使う機能を先に確かめる
外に出るツールWeb 検索などは、閉域でもインターネット経由で通信する。
データの扱いの要件と合うか確かめる
会話の分離ユーザーごとの会話の分離はアプリ側の責任

まとめ

・Azure の AI サービスは、Foundry(モデルとエージェント)、Foundry Tools、AI 検索、Azure Machine Learning と、それを守る API Management、Defender for Cloud、Purview に分けて考えると整理しやすい。
・推奨アーキテクチャ(ベースライン Foundry チャット)は、入口は Application Gateway だけ、PaaS はプライベート エンドポイント、送信は Azure Firewall、サービス間はマネージド ID、が基本。
・閉域にすると、ポータルの使い方が変わり、あとから変えられない設定や対応していない機能がある。

次回:Microsoft Foundry の認証と RBAC とは(AI 編 2 回目)

Microsoft Foundry の認証と RBAC とは|API キーと Entra ID、マネージド ID を実機で検証
Microsoft Foundry の構成要素と、API キー・Entra ID・マネージド ID の認証、Foundry のロールを整理。所有者でも呼べない理由やキー認証の無効化、Azure Policy での監査を実機で検証。

コメント

タイトルとURLをコピーしました