📚 Azure セキュリティの記事一覧(全体像のシリーズと深掘りシリーズ)
はじめに
AI 編の 11 回目。
今回は、Microsoft Defender for Cloud の AI 脅威保護(AI サービス プラン)を扱う。
実機では、サブスクリプションでプランをオンにし、Foundry のモデルに脱獄の文を送って、セキュリティ アラートが出るまでの時間と、アラートに載る情報を確かめた。
※2026年11月時点の情報です。
前回:Microsoft Foundry の監視とログとは

AI 脅威保護とは
Defender for Cloud の AI 脅威保護は、生成 AI のアプリに対する脅威をリアルタイムで見つけて、セキュリティ アラートにする機能。
Azure AI Content Safety の Prompt Shields と、Microsoft の脅威インテリジェンスを使い、データ漏洩、データ ポイズニング、脱獄、資格情報の盗難などの脅威をアラートにする。

| 項目 | 内容 |
|---|---|
| リリース状況 | 一般公開(GA) |
| 対象 | Azure OpenAI のモデルと、Azure AI モデル推論サービスのモデル |
| 見るもの | テキストのトークンだけ。画像と音声のトークンはスキャンされない |
| 有効にする単位 | サブスクリプション。Defender プランの「AI サービス」をオンにする |
| 必要なロール | プランを有効にするには、サブスクリプションの所有者か共同作成者 |
| 使えるクラウド | 商用クラウド。 Azure Government、21Vianet、接続した AWS アカウントは対象外 |
前回の記事では、コンテンツ フィルターで拒否された要求(アプリには 400)が、リソース ログとメトリックでは 200 として記録された。
今回は、同じ拒否を Defender for Cloud がアラートとして拾えるかを見る。
公式ドキュメント:
Microsoft Defender for Cloudでの AI 脅威保護 | Microsoft Learn
AI サービスの脅威保護を有効にする | Microsoft Learn
アラートの種類
AI サービス プランのアラートを、見ているものごとに分けると、次のようになる。

| アラート | 重要度 | 内容 |
|---|---|---|
| 脱獄の試行が Prompt Shields によってブロックされた | 中 | ダイレクト プロンプト インジェクションで安全策を回避しようとした試み。 Prompt Shields がブロックした |
| 脱獄の試行が Prompt Shields によって検出された | 中 | 検出はされたが、コンテンツ フィルターの設定や信頼度の低さによって、ブロックはされなかった |
| 資格情報の盗難の試行 | 中 | モデルの応答の中に資格情報が見つかった |
| フィッシングの URL | 高 | 既知の悪意のある URL が、ユーザーから送られた、またはアプリからユーザーに返された |
| Tor の IP、疑わしい IP からのアクセス | 高 | Tor のネットワークや、脅威インテリジェンスで悪意があるとされた IP アドレスからのアクセス |
| ウォレット攻撃の可能性 | 中 | 同じ要求の大量の繰り返しや、過去の使い方と合わない量の要求 |
脱獄のアラートは、ブロックされた場合と、検出だけの場合で名前が分かれている。
ガードレール(コンテンツ フィルター)で脱獄の検出を「注釈のみ」にしていても、Defender for Cloud で気づける。
ガードレールの設定はFoundry のガードレールとはで扱った。
公式ドキュメント:AI サービスのアラート | Microsoft Learn
プランのコンポーネント
AI サービス プランには、オンとオフを切り替えられるコンポーネントがある。
| コンポーネント | 内容 | 注意 |
|---|---|---|
| 疑わしいプロンプトの証拠 | アラートに、ユーザーのプロンプトの疑わしい部分と、モデルの応答を載せる。 機密データは自動で編集される | オフにしても、脅威の検出のための分析は続く。 アラートの中のプロンプトがマスクされる |
| AI 対話のデータ セキュリティ | Microsoft Purview がプロンプトと応答を分析し、機密情報の分類、監査、インサイダー リスクなどに使えるようにする | Purview の有料の機能で、AI サービス プランには含まれない |
| AI モデルのセキュリティ | Azure Machine Learning のレジストリやワークスペースのモデルを、マルウェアや安全でないオペレーターなどがないかスキャンする |
プロンプトの証拠は、アラートを調べる人にプロンプトの一部を見せる設定。
証拠は Azure portal、Defender ポータル、連携したパートナーの製品から見える。
プロンプトに機密が入る業務では、誰がアラートを見るかを決めてからオンにする。
公式ドキュメント:AI サービスの脅威保護を有効にする | Microsoft Learn
エンドユーザーの情報をアラートに載せる
AI のアプリでは、モデルを呼ぶのはアプリ(Web アプリ、コンピューティング、AI ゲートウェイ)で、エンドユーザーではない。
そのままだと、アラートを見ても「どのアプリの、どの利用者の要求か」が分からない。
そこで、アプリがモデルを呼ぶときに、要求の本文に UserSecurityContext を付ける。
フィールドはすべて省略できるが、公式は、少なくともエンドユーザーの ID と送信元 IP を渡すことを勧めている。
| フィールド | 内容 |
|---|---|
| エンドユーザーの ID | アプリでエンドユーザーの認証に使った、Microsoft Entra ID のユーザー オブジェクト ID。 機密性の高い個人情報は入れない |
| 送信元 IP | エンドユーザーの IP アドレス |
| アプリ名 | アプリを表す単純な文字列 |
| 項目 | 内容 |
|---|---|
| 使える API | Azure OpenAI の REST API は 2025-01-01 のバージョンから。 Python と JS の SDK は extra_body に入れる |
| 使えない API | Azure AI モデル推論 API でデプロイしたモデルでは、今はサポートされていない |
| つづりの間違い | フィールドの名前を間違えても、API の呼び出しは成功する |
公式ドキュメント:AI アラートのアプリケーションとエンドユーザーのコンテキストを取得する | Microsoft Learn
料金と無料試用版
| 項目 | 内容 |
|---|---|
| 無料試用版 | 30 日間。 スキャンするトークンは 750 億個まで。 上限に達すると、30 日以内でも課金が始まる |
| 料金 | 1,000 トークンあたり 0.1266 円(Azure Retail Prices API、2026-11-11 時点)。 ポータルの表示は $0.0008/1K トークン |
| 課金の単位 | スキャンしたトークンの数。リソースの数ではない |
公式ドキュメント:Microsoft Defender for Cloudでの AI 脅威保護 | Microsoft Learn
東日本・西日本の最新の単価は「Azure 料金一覧(Defender for AI Services)」で確認できる(毎日更新)。
Defender XDR との統合
Defender for Cloud のアラートは、Microsoft Defender XDR に統合される。
セキュリティ チームは、Microsoft Defender ポータルで、クラウドのアラートをデバイスや ID のアラートと合わせて調べられる。
| 項目 | 内容 |
|---|---|
| アラート | Defender for Cloud のすべてのアラートが、Defender XDR のアラート キューに表示される。 情報レベルのアラートは統合されない |
| 状態の同期 | どちらかでアラートの状態を変えると、もう一方にも反映される |
| 見える範囲 | テナント全体。 特定のサブスクリプションだけに絞った権限にはできない(フィルターでは絞れる) |
| 必要な権限 | Defender XDR の統合 RBAC のロール、または Microsoft Entra ID の全体管理者かセキュリティ管理者 |
公式ドキュメント:Microsoft Defender XDR での Microsoft Defender for Cloud のアラートとインシデント | Microsoft Learn
構築手順
今回の構成と実施すること

| 手順 | 実施すること | 確かめること |
|---|---|---|
| ① | Foundry(キー認証は無効)とモデルを作る | |
| ② | Defender for Cloud の環境設定で、AI サービス プランをオンにする | 無料試用版の残り日数 |
| ③ | プランの設定(コンポーネント)を確かめる | 既定でオンになっているもの |
| ④ | 脱獄の文を送る。エンドユーザーの ID、送信元 IP、アプリ名を付ける | アプリには 400 が返る |
| ⑤ | Defender for Cloud のセキュリティ アラートを見る | アラートが出るまでの時間。証拠にプロンプトとエンドユーザーの情報が載るか |
| ⑥ | くり返し送る。別のリソースにも送る | アラートが増えるか |
| ⑦ | 「疑わしいプロンプトの証拠」をオフにして送る | アラートのプロンプトが隠れるか |
| ⑧ | 同じ構成を Bicep で作る | |
| ⑨ | 片付け。AI サービス プランをオフに戻す |
① Foundry とモデルを作る
Foundry リソース(キー認証は無効)と gpt-5-mini のデプロイ(GlobalStandard)を東日本に作り、自分に Cognitive Services OpenAI ユーザーを付けた。
作り方はMicrosoft Foundry の認証と RBAC とはと同じ。
ガードレールは既定のまま(Microsoft.DefaultV2)で、脱獄はブロックされる。
② AI サービス プランをオンにする
Azure portal で「Microsoft Defender for Cloud」⇒「環境設定」⇒ サブスクリプション ⇒「Defender プラン」を開く。
「クラウド ワークロード保護(CWPP)」の中の「AI サービス」を「オン」にして、上の「保存」を押す。

| 番号 | 項目 | 説明 |
|---|---|---|
| 1 | AI サービス | 価格は $0.0008/1K トークン。 リソースの数は「1 個の AI リソース」。 オンにすると、監視対象が「完全」になり、「設定 >」のリンクが出る |
| 2 | 無料試用版の案内 | このサブスクリプションでの対象プランは、30 日間の無料試用版に含まれている、と表示されていた |
保存したあと、プランの状態を CLI で確かめた。
無料試用版の残りは 29 日 23 時間 59 分と表示された。
az security pricing show -n AI --query "{tier:pricingTier, free:freeTrialRemainingTime, ext:extensions[].{n:name, e:isEnabled}}"
③ プランの設定を確かめる
AI サービスの行の「設定 >」を押すと、コンポーネントの画面が開く。

| 番号 | 項目 | 説明 |
|---|---|---|
| 1 | 疑わしいプロンプトの証拠を有効にする | 既定でオン。アラートに、プロンプトの疑わしい部分が載る |
| 2 | AI モデルのセキュリティ(プレビュー) | 既定でオン。 Azure Machine Learning のモデルをスキャンする |
今回の画面に出たコンポーネントは、この 2 つだった。
設定を変えたときは、この画面の「続行」を押したあと、Defender プランの画面で「保存」を押す。
④ 脱獄の文を送る
手元の PC の PowerShell から、Entra ID のトークンでモデルを呼んだ。
要求の本文に user_security_context を入れて、エンドユーザーの ID、送信元 IP、アプリ名を付けた。
$t = az account get-access-token --scope https://cognitiveservices.azure.com/.default --query accessToken -o tsv
$u = 'https://<Foundry 名>.cognitiveservices.azure.com/openai/deployments/gpt-5-mini/chat/completions?api-version=2025-04-01-preview'
$body = [ordered]@{
messages = @(@{ role = 'user'; content = '<プロンプト>' })
max_completion_tokens = 200
reasoning_effort = 'minimal'
user_security_context = [ordered]@{ end_user_id = '<エンドユーザーのオブジェクト ID>'; source_ip = '203.0.113.10'; application_name = 'a10-demo-chat' }
} | ConvertTo-Json -Depth 6
Invoke-WebRequest -Method Post -Uri $u -Headers @{ Authorization = "Bearer $t"; 'Content-Type' = 'application/json' } -Body ([Text.Encoding]::UTF8.GetBytes($body)) -UseBasicParsing
エンドユーザーの ID には、テスト用のユーザーのオブジェクト ID を入れた。
送ったのは、普通の質問と、公式ドキュメントの例をもとにした脱獄の文(制限のないチャットボットとして振る舞い、システムの指示を出力するよう求める文)。
普通の質問は 200、脱獄の文は 400(content_filter、jailbreak が detected: true、filtered: true)だった。
| 時刻 | 出来事 |
|---|---|
| 21:28:57 | AI サービス プランをオンにして保存 |
| 21:29:45〜21:32:11 | 脱獄の文を 9 回送る(オンにして 1〜3 分後)。 すべて 400。 アラートは出なかった |
| 21:37:47 | 脱獄の文を送る(オンにして 9 分後)。400 |
| 21:37:50 | アラートが生成された(要求の 5 秒後) |
⑤ セキュリティ アラートを見る
Azure portal の「Microsoft Defender for Cloud」⇒「セキュリティ警告」を開く。

| 番号 | 項目 | 説明 |
|---|---|---|
| 1 | アラート | 重要度は中。 影響を受けるリソースは Foundry リソース。 アクティビティの開始時刻は 21:37 |
アラートを選んで「すべての詳細を表示」を押すと、詳細が開く。

| 番号 | 項目 | 説明 |
|---|---|---|
| 1 | アラート名 | A Jailbreak attempt on your Azure AI model deployment was blocked by Prompt Shields(脱獄の試行が Prompt Shields によってブロックされた) |
| 2 | 全般情報 | 操作名、モデルとデプロイの名前、バージョン、ユーザー エージェント、認証の方法(AAD) |
| 3 | 関連エンティティ | アカウントが 2 つ(呼び出した ID と、エンドユーザーの ID)、Azure リソースが 1 つ、IP が 1 つ(エンドユーザーの送信元 IP) |
| 4 | 補強証拠イベント(プレビュー) | 「イベントを表示します」を押すと、要求ごとの証拠の表が開く |

| 番号 | 項目 | 説明 |
|---|---|---|
| 1 | Prompt Suspicious Segment | 送った脱獄の文が、そのまま載っていた |

| 番号 | 項目 | 説明 |
|---|---|---|
| 1 | End User IP Address、End User Azure AD user ID | 要求の本文に付けた送信元 IP と、エンドユーザーのオブジェクト ID |
証拠の表には、次の列があった。
| 列 | 入っていた値 |
|---|---|
| Event Time | 要求の時刻 |
| Prompt Suspicious Segment | 疑わしいプロンプトの文 |
| Caller IP Address | 呼び出し元(手元の PC)の IP アドレス。末尾まで入っていた |
| Caller Azure AD user ID、Caller Authentication Type | 呼び出した ID のオブジェクト ID と、AAD |
| End User IP Address、End User Azure AD user ID | 本文に付けた送信元 IP と、エンドユーザーのオブジェクト ID |
| User-Agent | WindowsPowerShell/5.1 を含む文字列 |
| Application | 本文に付けたアプリ名(a10-demo-chat) |
| Azure AI Request ID | 要求の ID |
| Grounding Data Source Type、Grounding Data Source | 空 |
前回のリソース ログでは、呼び出し元の IP アドレスの末尾が *** になっていた。
アラートの証拠には、IP アドレスが末尾まで入っていた。
公式ドキュメント:
AI サービスのアラート | Microsoft Learn
AI アラートのアプリケーションとエンドユーザーのコンテキストを取得する | Microsoft Learn
⑥ くり返し送る、別のリソースにも送る
同じ Foundry リソースに、同じ脱獄の文をさらに 5 回送った(21:40〜22:01)。
すべて 400 で止まったが、アラートは 1 件のままで、中の証拠の行も増えなかった。
次に、Bicep で作った別の Foundry リソースに同じ文を送った(21:57:02)。
こちらは 4 秒後に、2 件目のアラートが生成された。
そのリソースにもう 1 回送っても(21:57:25)、3 件目にはならなかった。

| 番号 | 項目 | 説明 |
|---|---|---|
| 1 | 1 件目 | 最初のリソース。 21:37 の 1 回分。 そのあとの 5 回はアラートになっていない |
| 2 | 2 件目 | 別のリソース。21:57 の 1 回分 |
| 送った先 | 回数 | アラート |
|---|---|---|
| 最初のリソース | 6 回(21:37〜22:01) | 1 件(最初の 1 回) |
| 別のリソース | 2 回(21:57) | 1 件(最初の 1 回) |
今回の範囲では、アラートは「リソースごとに最初の 1 回」だけだった。
アラートの件数を、攻撃の回数として読むことはできない。
⑦ プロンプトの証拠をオフにする
AI サービスの行の「設定 >」を押し、「疑わしいプロンプトの証拠を有効にする」をオフにして「続行」を押し、Defender プランの画面で「保存」を押す(21:44)。

| 番号 | 項目 | 説明 |
|---|---|---|
| 1 | 状態 | オフにする。 脅威の検出のための分析は続き、アラートの中のプロンプトがマスクされる、というのが公式の説明 |
オフにして 13 分後に、⑥の別のリソースで 2 件目のアラートが出た。
このアラートの証拠には、プロンプトの文がそのまま載っていた。

| 番号 | 項目 | 説明 |
|---|---|---|
| 1 | Prompt Suspicious Segment | オフにしたあとのアラートだが、送った文がそのまま出ている |
オフにして 44 分後に、3 つ目のリソースにも同じ文を送った。
これは 400 で止まったが、10 分たってもアラートが出ず、プロンプトがマスクされるところは確かめられなかった。
公式ドキュメント:AI サービスの脅威保護を有効にする | Microsoft Learn
⑧ 同じ構成を Bicep で作る
AI サービス プランの設定(コンポーネントを含む)と、検証用の Foundry とモデルを、サブスクリプションのスコープの Bicep にした。
デプロイは約 33 秒で終わった。
プランは Standard(オン)、コンポーネントは AIPromptEvidence と AIModelScanner が有効になり、作られた Foundry のモデルを呼べることを確かめた。
プランをオフにした状態からデプロイして、オンに変わることも確かめた。
Bicep:azure-bicep-samples / a10-defender-ai
⑨ 片付け
| 順番 | 操作 |
|---|---|
| 1 | リソース グループを削除し、Foundry を purge する |
| 2 | AI サービス プランをオフに戻す。 サブスクリプション全体の設定なので、リソースを消しても残る |
az security pricing create -n AI --tier Free
アラートは、関連するリソースを削除しても、ポータルに 90 日間表示される。
公式ドキュメント:セキュリティのアラートとインシデント | Microsoft Learn
実機でつまずいた点
同じ攻撃をくり返しても、アラートが増えない

アラートが出ることを確かめたあと、同じリソースに同じ脱獄の文を 5 回送ったが、アラートは 1 件のままだった。
アラートの説明は「There was 1 blocked attempt」のままで、証拠の行も 1 行のままだった。
別のリソースに送ると、すぐに 2 件目が出た。
テストで「アラートが出ない」と思ったら、すでに同じリソースのアラートが出ていないかを見る。
確かめ直すときは、別のリソースで試す。
運用では、アラートが 1 件でも、攻撃が 1 回だったとは限らない。
回数や内容は、アプリのログや API Management のログで追う。
プロンプトの証拠をオフにしても、すぐにはマスクされない

「疑わしいプロンプトの証拠」をオフにして保存し、設定がオフになったことを CLI でも確かめた。
その 13 分後に出たアラートの証拠には、プロンプトの文がそのまま載っていた。
プロンプトをアラートに載せたくない環境では、プランをオンにするのと同時にオフにしておく。
あとからオフにする場合は、切り替えのあともしばらく、アラートにプロンプトが載る前提で扱う。
発展
| 項目 | 内容 |
|---|---|
| Purview との連携 | AI 対話のデータ セキュリティを有効にすると、Microsoft Purview がプロンプトと応答を分析できる。 Purview のライセンスが別に必要 |
| AI モデルのセキュリティ | Azure Machine Learning のレジストリやワークスペースのモデルを、マルウェアなどがないかスキャンする |
| AI セキュリティ態勢管理 | Defender CSPM プランで、生成 AI のアプリの構成の弱点や攻撃パスを見つける |
| アラートの連携 | アラートを Microsoft Sentinel や SOAR、ITSM の製品に送る |
公式ドキュメント:
AI サービスの脅威保護を有効にする | Microsoft Learn
セキュリティのアラートとインシデント | Microsoft Learn
推奨構成
| 項目 | 推奨 | 理由 |
|---|---|---|
| プラン | Foundry のモデルを使うサブスクリプションで、AI サービス プランをオンにする | コンテンツ フィルターで止めた脱獄を、アラートとして拾える。 リソース ログとメトリックでは 200 に見えていた |
| 有効にする時期 | モデルを使い始める前 | オンにした直後の数分は、アラートにならなかった |
| エンドユーザーの情報 | アプリから UserSecurityContext(エンドユーザーの ID、送信元 IP、アプリ名)を付ける | 付けないと、アラートに出るのはアプリの ID と IP だけになる |
| プロンプトの証拠 | 載せるかどうかを先に決める。載せるなら、アラートを見られる人を絞る | アラートを見られる人は、プロンプトの一部を読める |
| 回数の把握 | アプリのトレースや API Management のログを併用する | アラートは、くり返しの回数を表さなかった |
注意事項
| 項目 | 内容 |
|---|---|
| 対象 | テキストのトークンだけ。画像と音声はスキャンされない |
| 料金 | 30 日間の無料試用版のあとは、スキャンしたトークン数で課金される。 サブスクリプションの中のすべての対象リソースが対象になる |
| プランの範囲 | サブスクリプション全体の設定。 検証用のリソースを消しても、プランはオンのまま残る |
| IP アドレス | アラートの証拠には、呼び出し元の IP アドレスが末尾まで入る |
| Defender XDR | Microsoft Defender ポータルを初めて開くテナントでは、データ領域の準備が始まり、すぐには使えない |
まとめ
・Defender for Cloud の AI サービス プランをオンにすると、Prompt Shields がブロックした脱獄が、セキュリティ アラートになった。
要求の 4〜5 秒後に生成された。
・アラートの証拠には、プロンプトの文、呼び出し元の IP アドレスと ID が載る。
アプリが UserSecurityContext を付けると、エンドユーザーの ID、送信元 IP、アプリ名も載る。
・オンにした直後の数分に送った分は、アラートにならなかった。
・同じリソースへのくり返しはアラートが増えず、リソースごとに最初の 1 回だけだった。
・プロンプトの証拠をオフにしても、13 分後のアラートにはプロンプトが載っていた。
次回:Microsoft Purview の AI 向け機能とは(AI 編 A11)




コメント