基本の Foundry チャットとランディング ゾーン版とは|POC 向けの構成と本番でのチームの持ち分、エージェントに要るロールを実機で検証(アーキテクチャ解説シリーズ 24)

アーキテクチャ

この記事でわかること

  • 学習と POC 向けの「基本の Foundry チャット」の構成と、本番には足りないもの
  • ベースラインをランディング ゾーンに載せるときの、ワークロード チームとプラットフォーム チームの持ち分
  • Agent Service の標準セットアップ、送信の制御、DNS など、ランディング ゾーン版で変わる点

はじめに

Azure アーキテクチャ センターのアーキテクチャを 1 つずつ読む 24 回目。
今回から AI の分野に入る。
本番向けの「ベースライン Microsoft Foundry チャット」は AI 編の A0 で読んだので、今回はその前後にある「基本の Foundry チャット」と「ランディング ゾーン版」を読む。

前回:Azure Managed Redis のキャッシュの 3 つのパターン(アーキテクチャ解説シリーズ 23)

Azure Managed Redis のキャッシュとは|キャッシュアサイド、イベント ドリブン、ライトスルーの 3 つのパターンと、古い値が残る動きを実機で検証(アーキテクチャ解説シリーズ 23)
Azure Managed Redis の 3 つのキャッシュのパターンを解説。実機ではキャッシュアサイドの読み取り、無効化しない書き込みで古い値が残る動き、ライトスルーの順序を確かめた。

ベースライン Microsoft Foundry チャットの解説:Azure の AI サービスとは(AI 編 A0)

Azure の AI サービスとは|推奨アーキテクチャ(ベースライン Foundry チャット)のセキュリティとネットワークを整理
Azure の AI サービスの全体像と、推奨アーキテクチャ「ベースライン Foundry チャット」を部品ごとに分けて、ID、ネットワーク、閉域にするときの注意を公式ドキュメントで整理。

2 つのアーキテクチャの違い

基本の Foundry チャットと、ランディング ゾーン版の違い
項目基本の Foundry チャットランディング ゾーン版
目的学習と POC。本番向けではない本番。ベースラインをランディング ゾーンのサブスクリプションに載せる
入口App Service の既定のドメイン(パブリック)。
Easy Auth で Entra 認証
Application Gateway と WAF。
App Service はゾーンに分けて 3 インスタンス
Agent Service依存サービス(Cosmos DB、Storage、AI 検索)を Microsoft がホスト標準セットアップ。
依存サービスはワークロード チームが用意し、エージェントは専用サブネットにつなぐ
ネットワーク実装しない。すべてインターネットから届き、送信も制限しないプライベート エンドポイント。
送信は UDR でハブの Azure Firewall へ
ガバナンスDefender、Azure Policy、コストの歯止めはないプラットフォーム チームの Azure Policy(DINE を含む)と、ワークロードの Azure Policy

公式ドキュメント:
基本的なMicrosoft Foundry チャット参照アーキテクチャ | Microsoft Learn
Azure ランディング ゾーンにおけるベースライン Microsoft Foundry チャット参照アーキテクチャ: | Microsoft Learn

基本の Foundry チャット

App Service のチャット UI と API が、Microsoft Agent Framework で Foundry の Agent Service のエージェントにつなぐ。
エージェントは、AI 検索のインデックスと Web 検索からグラウンディングのデータを取り、Foundry にデプロイした Azure OpenAI のモデルにプロンプトを送る。
Application Insights が、App Service とエージェントのやり取りを記録する。

構成要素がどういうものかは、次のとおり。

構成要素どういうもの役割
Microsoft Foundry とプロジェクトエージェントを作り、テストし、デプロイし、ホストする基盤。
プロジェクトはエージェントやモデルのデプロイ、接続をまとめる入れ物
エージェントをホストし、Azure OpenAI のモデルで推論する
Foundry Agent Serviceエージェントを定義してホストする機能。
会話の履歴、ツールの呼び出し、コンテンツの安全性を扱う
宣言で定義したプロンプト エージェントが、AI 検索などからデータを取ってモデルに渡す流れを調整する
Azure AI 検索全文、セマンティック、ベクター、ハイブリッドの検索サービス。
詳しくはAzure AI 検索のセキュリティとは(AI 編 A5)。
RAG(検索拡張生成)のナレッジ ストア
Azure App ServiceWeb アプリのホスト。
詳しくはAzure の AI サービスとは(AI 編 A0)も参照。
チャット UI と API。
マネージド ID で Agent Service に認証する
ロールの割り当てロールスコープ
App ServiceFoundry ユーザーFoundry リソース
Foundry プロジェクト検索インデックス データリーダーAI 検索
ポータルを使う人Foundry ユーザーFoundry リソース
本番に足りないもの内容
信頼性App Service と AI 検索は Basic で可用性ゾーンなし。
自動スケールなし。
Agent Service の依存サービスは Microsoft がホストし、信頼性を制御できない
ネットワークID を境界にしてパブリックのまま。
送信も制限しないので、エージェントが任意のパブリック エンドポイントにつながりうる
ガバナンスとコストDefender for Cloud、Azure Policy、予算とアラートがない。
Agent Service はツールの呼び出しを決定的に制御できないので、各接続の最大の使用量を見込む
評価中のネットワークPOC の間にネットワーク セキュリティが要るなら、Foundry プロジェクトのネットワーク セキュリティ境界のサポートを使う

公式ドキュメント:基本的なMicrosoft Foundry チャット参照アーキテクチャ | Microsoft Learn

ランディング ゾーン版

Azure ランディング ゾーンは、組織のクラウドを、ワークロード ランディング ゾーンと、共有のプラットフォーム ランディング ゾーンに分ける。
このアーキテクチャは、ワークロードが Foundry リソースの持ち主になる形を推奨する(ビジネス グループで 1 つの Foundry リソースを共有し、ワークロードごとにプロジェクトを渡す形は勧められない)。
共有のリソースの管理はプラットフォーム チームに任せ、ワークロード チームは開発に集中する。

チーム持つリソース
ワークロード チームFoundry リソースとプロジェクト、Agent Service(標準セットアップ)とその専用の Cosmos DB・Storage・AI 検索、App Service と Storage、AI 検索(Foundry IQ)、Application Gateway と WAF、Key Vault、Azure Monitor、ワークロードの Azure Policy、スポークのサブネットと NSG、プライベート エンドポイント
プラットフォーム チームAzure Firewall、Azure Bastion、スポーク VNet、UDR、管理グループのポリシー(DINE を含む)、プライベート DNS ゾーンと DNS 解決、DDoS Protection、VPN / ExpressRoute
ベースラインから変わる点内容
Firewall と Bastionベースラインではワークロード チームが持つが、ランディング ゾーン版ではプラットフォーム チームが接続サブスクリプションで管理する
エージェントの送信エージェントはスポークの専用サブネットにつなぎ、送信はハブの Firewall を通る。
パブリックの MCP サーバーは、承認する FQDN をプラットフォーム チームに伝える
DNSプライベート DNS ゾーンはプラットフォーム チームが管理。
Agent Service の名前解決のため、DNS Private Resolver とルールセットか、ハブ ベースの解決を用意してもらう
依頼と調整ワークロード チームは必要なネットワークのアドレス空間などをプラットフォーム チームに伝え、プラットフォーム チームは管理グループとガバナンスの制約を伝える

公式ドキュメント:Azure ランディング ゾーンにおけるベースライン Microsoft Foundry チャット参照アーキテクチャ: | Microsoft Learn

構成のポイント

柱ポイント
信頼性本番は App Service を Premium で 3 インスタンス以上、AI 検索を Standard 以上で 3 レプリカ以上(基本版の推奨)。
予約したスループットが要るなら Data Zone Provisioned か Global Provisioned
セキュリティコンテンツ フィルター(基本版は DefaultV2)。
アプリとプロジェクトはマネージド ID。
ランディング ゾーン版はプライベート エンドポイントと Firewall で送信を制御する
コスト最適化予算とアラートを早めに設定し、予期しないトークンやツールの使用から守る。
ファイルのアップロードが要らなければ使わせない
オペレーショナル エクセレンスApplication Insights を Foundry プロジェクトにつなぎ、トークンの使用量や待ち時間を見る。
モデルの廃止を計画し、要らないエージェントと接続は削除する

公式ドキュメント:
基本的なMicrosoft Foundry チャット参照アーキテクチャ | Microsoft Learn
Azure ランディング ゾーンにおけるベースライン Microsoft Foundry チャット参照アーキテクチャ: | Microsoft Learn

構築手順

今回の構成と実施すること

今回の構成(Foundry のエージェントが AI 検索のインデックスで答える)

東日本に Microsoft Foundry(プロジェクト)と Azure AI 検索(Free)を置き、AI 検索のインデックスを使って答えるエージェントを作る。
基本の構成のうち、「だれに、どのロールが要るか」を動きで確かめる。
App Service のチャット UI は作らず、手元の PC の Python(azure-ai-projects)をアプリ役にする。
Foundry、モデルのデプロイ、Agent Service そのものの作り方は、

手順実施すること確かめること
①AI 検索にインデックス faq(架空の社内 FAQ 4 件)を作るロールでの認証を有効にする(Free でも使える)
②エージェントを作り、AI 検索のツールを付けるツールに使えるモデル、接続の認証の種類
③プロジェクトのマネージド ID に AI 検索のロールを付ける前と後で質問するロールがないとツールの呼び出しで失敗する
④アプリ役に Foundry ユーザーを付ける前と後でエージェントを呼ぶ付ける前は 403、付けると答えが返る

費用は、Foundry のモデルの使った分(数千トークン)と、AI 検索の Free(0 円)だけで、数円の見込み。

① AI 検索のインデックスを作る

AI 検索は Free レベルで作り、認証は「API キーとロールの両方」にした(既定はキー認証だけ)。
ロールでの接続は、任意のリージョンと任意のレベルで使える。
インデックス faq には、経費精算、在宅勤務、PC の貸し出し、会議室の 4 件を入れた(日本語のアナライザー ja.microsoft)。

公式ドキュメント:ロールを使用してAzure AI 検索に接続する | Microsoft Learn

④ 前半:アプリ役に Foundry ユーザーがないとき

アプリ役(手元の PC、test0001 の資格情報)から、Foundry のプロジェクトのエンドポイントにエージェントの呼び出しを送った。
サブスクリプションの所有者でも、Foundry のデータ プレーンの権限はないので、PermissionDeniedError(Error code: 403)で拒否された。
Foundry リソースの「アクセス制御(IAM)」で、Foundry User(旧 Azure AI User)を割り当てた。

Foundry User のロールを選ぶ
番号項目説明
1Foundry UserFoundry のプロジェクトとアカウントの閲覧、プロジェクトのデータ アクションを与えるロール
ロールの割り当てのレビュー
番号項目説明
1ロールFoundry User
2メンバーアプリ役のユーザー。
本番では App Service のマネージド ID にする

公式ドキュメント:Microsoft Foundry のロールベースのアクセス制御 | Microsoft Learn

② エージェントを作り、AI 検索のツールを付ける

新しい Foundry ポータルでエージェントを作ると、モデルは gpt-5-mini、ツールは Web 検索が既定で入っていた。
「追加」⇒「ツールの追加」を開くと、Azure AI Search は灰色で選べなかった(次の「実機でつまずいた点」)。
gpt-5.4-mini をデプロイしてモデルを切り替えると、選べるようになった。

ツールの選択(gpt-5.4-mini のとき)
番号項目説明
1Azure AI Search既存の AI 検索のインデックスを使って答えるツール

AI 検索への接続は「新しい接続の作成」で作る。
認証の種類は、既定の「API キー」から「プロジェクト マネージド ID」に変えた。

AI 検索への新しい接続の作成
番号項目説明
1Azure AI Search接続する AI 検索のリソース
2認証の種類「API キー」か「プロジェクト マネージド ID」。
マネージド ID にすると、プロジェクトのマネージド ID に AI 検索のロールが要る
インデックスの選択
番号項目説明
1説明ツールの用途。
エージェントがツールを使うかどうかを判断する手がかりになる
2インデックス今回作った faq
エージェントの設定
番号項目説明
1モデルgpt-5.4-mini(グローバル標準)
2手順FAQ を調べ、見つかった内容だけで答え、見つからなければ分からないと答えるよう指示した
3ツールAzure AI Search だけにした(Web 検索は外した)

公式ドキュメント:Azure AI 検索 ツール (クラシック) | Microsoft Learn

③ プロジェクトのマネージド ID に AI 検索のロールを付ける

ロールを何も付けずに質問すると、ツールの呼び出しで失敗した。

ロールがないときのエラー
番号項目説明
1ErrorA user error occurred while executing a tool call.

アーキテクチャのページの表にある「検索インデックス データ リーダー」を、プロジェクトのマネージド ID に AI 検索のスコープで付けた。
しかし約 5 分たっても同じエラーだった。
AI 検索のツールの公式ページでは、キーなしの認証のときに「検索インデックス データ共同作成者」と「Search Service 共同作成者」を付けるよう書かれている。
「Search Service 共同作成者」を足すと、約 2 分後に答えが返った(データの方はリーダーのまま)。

プロジェクトのマネージド ID のロール結果
なしツールの呼び出しでエラー
検索インデックス データ リーダー約 5 分たってもエラー
検索インデックス データ リーダー+Search Service 共同作成者約 2 分後に答えが返った
ロールを付けたあとの答え
番号項目説明
1FAQ にある質問「経費精算の締め日は毎月25日です。
25日を過ぎた申請は翌月の支払いになります。」
インデックスの内容どおり
2FAQ にない質問「社員食堂の営業時間は?」には「分かりません。」と答えた

※今回の結果からは、リーダーだけでは足りず、サービスのレベルのロールも要ったと思われる。
公式のページどうしでロールの書き方が違うので、使う前にツールのページの最新の記述を確かめる。

公式ドキュメント:
Azure AI 検索 ツール (クラシック) | Microsoft Learn
基本的なMicrosoft Foundry チャット参照アーキテクチャ | Microsoft Learn

④ 後半:アプリ役からエージェントを呼ぶ

Foundry User を付けたあと、同じスクリプトで呼ぶと、エージェントの答えが返った。

python ar24-app.py faq-agent "在宅勤務は週に何日までですか?"
18:58:55 OK 6.9 秒
在宅勤務は週 3 日までです。

スクリプトは、AIProjectClient の get_openai_client() で取ったクライアントの Responses API に、extra_body={"agent_reference": {"name": "faq-agent", "type": "agent_reference"}} を渡してエージェントを指定した。

公式ドキュメント:Microsoft Foundry のロールベースのアクセス制御 | Microsoft Learn

実機でつまずいた点

このツールは、選択したモデルでは機能しません。別のモデルを使用してください。

gpt-5-mini のときは Azure AI Search が選べない
番号項目説明
1Azure AI Search灰色で選べず、カーソルを合わせると「このツールは、選択したモデルでは機能しません。」と出る

新しい Foundry ポータルでエージェントのモデルを gpt-5-mini にしていると、「ツールの選択」で Azure AI Search が選べなかった。
Foundry のモデルの一覧から gpt-5.4-mini(2026-03-17)をデプロイし、エージェントのモデルを切り替えると選べるようになった。
ツールが使えるモデルはツールごとに違うので、ツールを先に決めてからモデルを選ぶ。

Request failed with status code 400 A toolbox version must include at least one tool or one skill.

ツールが空のエージェントを保存できない

既定で入っている Web 検索のツールだけを外して保存すると、ツールボックスが空になって保存できなかった。
ツールボックスには、ツールかスキルが 1 つ以上要る。
先に Azure AI Search のツールを追加してから Web 検索を外すと、保存できた。

The ‘agent’ property is deprecated. Use ‘agent_reference’ instead.

SDK で agent を指定すると 400

azure-ai-projects(2.4.0)の Responses API で、エージェントを extra_body={"agent": {...}} で指定すると、400 で拒否された。
プロパティ名を agent_reference に変えると、エージェントの答えが返った。
古いサンプルのコードを使うときは、この名前に注意する。

推奨構成

段階推奨
学習・POC基本の Foundry チャット。
ネットワークが要るならネットワーク セキュリティ境界
本番(単独のサブスクリプション)ベースライン Microsoft Foundry チャット(AI 編 A0)
本番(ランディング ゾーン)ランディング ゾーン版。
Firewall、DNS、ポリシーはプラットフォーム チーム、Foundry と Agent Service はワークロード チーム

注意事項

項目内容
基本版本番に使わない。
省略は構築時間を短くするための意図的なもので、どれもリスクを増やす
依存サービス基本版の Agent Service の依存サービスはサブスクリプションに見えず、信頼性を制御できない
Foundry リソースの共有ビジネス グループで 1 つの Foundry リソースを共有する形は、リソースの整理やコストの割り当ての制限から勧められない
エージェント専用のリソース標準セットアップの Cosmos DB、Storage、AI 検索は Agent Service が専有する。
ほかのアプリやワークロードから使わない

公式ドキュメント:
基本的なMicrosoft Foundry チャット参照アーキテクチャ | Microsoft Learn
Azure ランディング ゾーンにおけるベースライン Microsoft Foundry チャット参照アーキテクチャ: | Microsoft Learn

関連するアーキテクチャとの違い

記事このアーキテクチャとの関係
Azure の AI サービスとは(AI 編 A0)本番向けのベースライン Microsoft Foundry チャットを分析した
Foundry Agent Service のセキュリティとは(AI 編 A3)Agent Service の標準セットアップと VNet を実機で確かめた
Azure ハブスポーク ネットワークとはランディング ゾーン版が載るハブスポーク

まとめ

・基本の Foundry チャットは学習と POC 向けで、ネットワーク、可用性、ガバナンスを省いている。
・本番は、ベースライン Microsoft Foundry チャット(AI 編 A0)か、ランディング ゾーン版を使う。
・ランディング ゾーン版では、Firewall、Bastion、DNS、ポリシーをプラットフォーム チームが持ち、Foundry と Agent Service はワークロード チームが持つ。
・Agent Service は標準セットアップで専用サブネットにつなぎ、送信はハブの Firewall を通す。
・実機では、プロジェクトのマネージド ID に検索インデックス データ リーダーだけでは AI 検索のツールが動かず、Search Service 共同作成者を足すと答えが返った。

次回:Azure Machine Learning の推論のベースライン(アーキテクチャ解説シリーズ 25)

Azure Machine Learning の推論のベースラインとは|Dev・Stage・Prod とレジストリでモデルを昇格し AKS で推論する構成と、ブルー/グリーンの切り替えを実機で検証(アーキテクチャ解説シリーズ 25)
Azure Machine Learning の推論のベースラインを図で解説。マネージド オンライン エンドポイントの blue と green を、0% から 50/50、0/100 へ止めずに切り替える流れを実機で確かめた。

コメント

タイトルとURLをコピーしました