Defender for Cloud の AI 脅威保護とは|脱獄のアラート、プロンプトの証拠、エンドユーザーの情報を実機で検証

Defender for Cloud の AI 脅威保護とは|脱獄のアラート、プロンプトの証拠、エンドユーザーの情報を実機で検証 AI

はじめに

AI 編の 11 回目。
今回は、Microsoft Defender for Cloud の AI 脅威保護(AI サービス プラン)を扱う。
実機では、サブスクリプションでプランをオンにし、Foundry のモデルに脱獄の文を送って、セキュリティ アラートが出るまでの時間と、アラートに載る情報を確かめた。
※2026年11月時点の情報です。

前回:Microsoft Foundry の監視とログとは

Microsoft Foundry の監視とログとは|メトリック、リソース ログ、トレース、アラートを実機で検証
Microsoft Foundry の監視とログを実機で検証。メトリック、リソース ログ、トレースに何が残るかを比べた。コンテンツ フィルターの拒否がログでは 200 になる点や、アラートの作り方も紹介。

AI 脅威保護とは

Defender for Cloud の AI 脅威保護は、生成 AI のアプリに対する脅威をリアルタイムで見つけて、セキュリティ アラートにする機能。
Azure AI Content Safety の Prompt Shields と、Microsoft の脅威インテリジェンスを使い、データ漏洩、データ ポイズニング、脱獄、資格情報の盗難などの脅威をアラートにする。

Defender for Cloud の AI 脅威保護の全体像
項目内容
リリース状況一般公開(GA)
対象Azure OpenAI のモデルと、Azure AI モデル推論サービスのモデル
見るものテキストのトークンだけ。画像と音声のトークンはスキャンされない
有効にする単位サブスクリプション。Defender プランの「AI サービス」をオンにする
必要なロールプランを有効にするには、サブスクリプションの所有者か共同作成者
使えるクラウド商用クラウド。
Azure Government、21Vianet、接続した AWS アカウントは対象外

前回の記事では、コンテンツ フィルターで拒否された要求(アプリには 400)が、リソース ログとメトリックでは 200 として記録された。
今回は、同じ拒否を Defender for Cloud がアラートとして拾えるかを見る。

公式ドキュメント:
Microsoft Defender for Cloudでの AI 脅威保護 | Microsoft Learn
AI サービスの脅威保護を有効にする | Microsoft Learn

アラートの種類

AI サービス プランのアラートを、見ているものごとに分けると、次のようになる。

AI サービスのアラートの種類と重要度
アラート重要度内容
脱獄の試行が Prompt Shields によってブロックされた中ダイレクト プロンプト インジェクションで安全策を回避しようとした試み。
Prompt Shields がブロックした
脱獄の試行が Prompt Shields によって検出された中検出はされたが、コンテンツ フィルターの設定や信頼度の低さによって、ブロックはされなかった
資格情報の盗難の試行中モデルの応答の中に資格情報が見つかった
フィッシングの URL高既知の悪意のある URL が、ユーザーから送られた、またはアプリからユーザーに返された
Tor の IP、疑わしい IP からのアクセス高Tor のネットワークや、脅威インテリジェンスで悪意があるとされた IP アドレスからのアクセス
ウォレット攻撃の可能性中同じ要求の大量の繰り返しや、過去の使い方と合わない量の要求

脱獄のアラートは、ブロックされた場合と、検出だけの場合で名前が分かれている。
ガードレール(コンテンツ フィルター)で脱獄の検出を「注釈のみ」にしていても、Defender for Cloud で気づける。
ガードレールの設定はFoundry のガードレールとはで扱った。

公式ドキュメント:AI サービスのアラート | Microsoft Learn

プランのコンポーネント

AI サービス プランには、オンとオフを切り替えられるコンポーネントがある。

コンポーネント内容注意
疑わしいプロンプトの証拠アラートに、ユーザーのプロンプトの疑わしい部分と、モデルの応答を載せる。
機密データは自動で編集される
オフにしても、脅威の検出のための分析は続く。
アラートの中のプロンプトがマスクされる
AI 対話のデータ セキュリティMicrosoft Purview がプロンプトと応答を分析し、機密情報の分類、監査、インサイダー リスクなどに使えるようにするPurview の有料の機能で、AI サービス プランには含まれない
AI モデルのセキュリティAzure Machine Learning のレジストリやワークスペースのモデルを、マルウェアや安全でないオペレーターなどがないかスキャンする

プロンプトの証拠は、アラートを調べる人にプロンプトの一部を見せる設定。
証拠は Azure portal、Defender ポータル、連携したパートナーの製品から見える。
プロンプトに機密が入る業務では、誰がアラートを見るかを決めてからオンにする。

公式ドキュメント:AI サービスの脅威保護を有効にする | Microsoft Learn

エンドユーザーの情報をアラートに載せる

AI のアプリでは、モデルを呼ぶのはアプリ(Web アプリ、コンピューティング、AI ゲートウェイ)で、エンドユーザーではない。
そのままだと、アラートを見ても「どのアプリの、どの利用者の要求か」が分からない。

そこで、アプリがモデルを呼ぶときに、要求の本文に UserSecurityContext を付ける。
フィールドはすべて省略できるが、公式は、少なくともエンドユーザーの ID と送信元 IP を渡すことを勧めている。

フィールド内容
エンドユーザーの IDアプリでエンドユーザーの認証に使った、Microsoft Entra ID のユーザー オブジェクト ID。
機密性の高い個人情報は入れない
送信元 IPエンドユーザーの IP アドレス
アプリ名アプリを表す単純な文字列
項目内容
使える APIAzure OpenAI の REST API は 2025-01-01 のバージョンから。
Python と JS の SDK は extra_body に入れる
使えない APIAzure AI モデル推論 API でデプロイしたモデルでは、今はサポートされていない
つづりの間違いフィールドの名前を間違えても、API の呼び出しは成功する

公式ドキュメント:AI アラートのアプリケーションとエンドユーザーのコンテキストを取得する | Microsoft Learn

料金と無料試用版

項目内容
無料試用版30 日間。
スキャンするトークンは 750 億個まで。
上限に達すると、30 日以内でも課金が始まる
料金1,000 トークンあたり 0.1266 円(Azure Retail Prices API、2026-11-11 時点)。
ポータルの表示は $0.0008/1K トークン
課金の単位スキャンしたトークンの数。リソースの数ではない

公式ドキュメント:Microsoft Defender for Cloudでの AI 脅威保護 | Microsoft Learn

Defender XDR との統合

Defender for Cloud のアラートは、Microsoft Defender XDR に統合される。
セキュリティ チームは、Microsoft Defender ポータルで、クラウドのアラートをデバイスや ID のアラートと合わせて調べられる。

項目内容
アラートDefender for Cloud のすべてのアラートが、Defender XDR のアラート キューに表示される。
情報レベルのアラートは統合されない
状態の同期どちらかでアラートの状態を変えると、もう一方にも反映される
見える範囲テナント全体。
特定のサブスクリプションだけに絞った権限にはできない(フィルターでは絞れる)
必要な権限Defender XDR の統合 RBAC のロール、または Microsoft Entra ID の全体管理者かセキュリティ管理者

公式ドキュメント:Microsoft Defender XDR での Microsoft Defender for Cloud のアラートとインシデント | Microsoft Learn

構築手順

今回の構成と実施すること

今回の構成
手順実施すること確かめること
①Foundry(キー認証は無効)とモデルを作る
②Defender for Cloud の環境設定で、AI サービス プランをオンにする無料試用版の残り日数
③プランの設定(コンポーネント)を確かめる既定でオンになっているもの
④脱獄の文を送る。エンドユーザーの ID、送信元 IP、アプリ名を付けるアプリには 400 が返る
⑤Defender for Cloud のセキュリティ アラートを見るアラートが出るまでの時間。証拠にプロンプトとエンドユーザーの情報が載るか
⑥くり返し送る。別のリソースにも送るアラートが増えるか
⑦「疑わしいプロンプトの証拠」をオフにして送るアラートのプロンプトが隠れるか
⑧同じ構成を Bicep で作る
⑨片付け。AI サービス プランをオフに戻す

① Foundry とモデルを作る

Foundry リソース(キー認証は無効)と gpt-5-mini のデプロイ(GlobalStandard)を東日本に作り、自分に Cognitive Services OpenAI ユーザーを付けた。
作り方はMicrosoft Foundry の認証と RBAC とはと同じ。
ガードレールは既定のまま(Microsoft.DefaultV2)で、脱獄はブロックされる。

② AI サービス プランをオンにする

Azure portal で「Microsoft Defender for Cloud」⇒「環境設定」⇒ サブスクリプション ⇒「Defender プラン」を開く。
「クラウド ワークロード保護(CWPP)」の中の「AI サービス」を「オン」にして、上の「保存」を押す。

Defender プランの画面。AI サービスをオンにする
番号項目説明
1AI サービス価格は $0.0008/1K トークン。
リソースの数は「1 個の AI リソース」。
オンにすると、監視対象が「完全」になり、「設定 >」のリンクが出る
2無料試用版の案内このサブスクリプションでの対象プランは、30 日間の無料試用版に含まれている、と表示されていた

保存したあと、プランの状態を CLI で確かめた。
無料試用版の残りは 29 日 23 時間 59 分と表示された。

az security pricing show -n AI --query "{tier:pricingTier, free:freeTrialRemainingTime, ext:extensions[].{n:name, e:isEnabled}}"

③ プランの設定を確かめる

AI サービスの行の「設定 >」を押すと、コンポーネントの画面が開く。

AI サービス プランのコンポーネント
番号項目説明
1疑わしいプロンプトの証拠を有効にする既定でオン。アラートに、プロンプトの疑わしい部分が載る
2AI モデルのセキュリティ(プレビュー)既定でオン。
Azure Machine Learning のモデルをスキャンする

今回の画面に出たコンポーネントは、この 2 つだった。
設定を変えたときは、この画面の「続行」を押したあと、Defender プランの画面で「保存」を押す。

④ 脱獄の文を送る

手元の PC の PowerShell から、Entra ID のトークンでモデルを呼んだ。
要求の本文に user_security_context を入れて、エンドユーザーの ID、送信元 IP、アプリ名を付けた。

$t = az account get-access-token --scope https://cognitiveservices.azure.com/.default --query accessToken -o tsv
$u = 'https://<Foundry 名>.cognitiveservices.azure.com/openai/deployments/gpt-5-mini/chat/completions?api-version=2025-04-01-preview'
$body = [ordered]@{
  messages = @(@{ role = 'user'; content = '<プロンプト>' })
  max_completion_tokens = 200
  reasoning_effort = 'minimal'
  user_security_context = [ordered]@{ end_user_id = '<エンドユーザーのオブジェクト ID>'; source_ip = '203.0.113.10'; application_name = 'a10-demo-chat' }
} | ConvertTo-Json -Depth 6
Invoke-WebRequest -Method Post -Uri $u -Headers @{ Authorization = "Bearer $t"; 'Content-Type' = 'application/json' } -Body ([Text.Encoding]::UTF8.GetBytes($body)) -UseBasicParsing

エンドユーザーの ID には、テスト用のユーザーのオブジェクト ID を入れた。
送ったのは、普通の質問と、公式ドキュメントの例をもとにした脱獄の文(制限のないチャットボットとして振る舞い、システムの指示を出力するよう求める文)。
普通の質問は 200、脱獄の文は 400(content_filter、jailbreak が detected: true、filtered: true)だった。

時刻出来事
21:28:57AI サービス プランをオンにして保存
21:29:45〜21:32:11脱獄の文を 9 回送る(オンにして 1〜3 分後)。
すべて 400。
アラートは出なかった
21:37:47脱獄の文を送る(オンにして 9 分後)。400
21:37:50アラートが生成された(要求の 5 秒後)

⑤ セキュリティ アラートを見る

Azure portal の「Microsoft Defender for Cloud」⇒「セキュリティ警告」を開く。

セキュリティ警告の一覧に出た脱獄のアラート
番号項目説明
1アラート重要度は中。
影響を受けるリソースは Foundry リソース。
アクティビティの開始時刻は 21:37

アラートを選んで「すべての詳細を表示」を押すと、詳細が開く。

アラートの詳細
番号項目説明
1アラート名A Jailbreak attempt on your Azure AI model deployment was blocked by Prompt Shields(脱獄の試行が Prompt Shields によってブロックされた)
2全般情報操作名、モデルとデプロイの名前、バージョン、ユーザー エージェント、認証の方法(AAD)
3関連エンティティアカウントが 2 つ(呼び出した ID と、エンドユーザーの ID)、Azure リソースが 1 つ、IP が 1 つ(エンドユーザーの送信元 IP)
4補強証拠イベント(プレビュー)「イベントを表示します」を押すと、要求ごとの証拠の表が開く
証拠の表。疑わしいプロンプトと、呼び出し元の IP アドレスと ID
番号項目説明
1Prompt Suspicious Segment送った脱獄の文が、そのまま載っていた
証拠の表の続き。エンドユーザーの IP アドレスと ID
番号項目説明
1End User IP Address、End User Azure AD user ID要求の本文に付けた送信元 IP と、エンドユーザーのオブジェクト ID

証拠の表には、次の列があった。

列入っていた値
Event Time要求の時刻
Prompt Suspicious Segment疑わしいプロンプトの文
Caller IP Address呼び出し元(手元の PC)の IP アドレス。末尾まで入っていた
Caller Azure AD user ID、Caller Authentication Type呼び出した ID のオブジェクト ID と、AAD
End User IP Address、End User Azure AD user ID本文に付けた送信元 IP と、エンドユーザーのオブジェクト ID
User-AgentWindowsPowerShell/5.1 を含む文字列
Application本文に付けたアプリ名(a10-demo-chat)
Azure AI Request ID要求の ID
Grounding Data Source Type、Grounding Data Source空

前回のリソース ログでは、呼び出し元の IP アドレスの末尾が *** になっていた。
アラートの証拠には、IP アドレスが末尾まで入っていた。

公式ドキュメント:
AI サービスのアラート | Microsoft Learn
AI アラートのアプリケーションとエンドユーザーのコンテキストを取得する | Microsoft Learn

⑥ くり返し送る、別のリソースにも送る

同じ Foundry リソースに、同じ脱獄の文をさらに 5 回送った(21:40〜22:01)。
すべて 400 で止まったが、アラートは 1 件のままで、中の証拠の行も増えなかった。

次に、Bicep で作った別の Foundry リソースに同じ文を送った(21:57:02)。
こちらは 4 秒後に、2 件目のアラートが生成された。
そのリソースにもう 1 回送っても(21:57:25)、3 件目にはならなかった。

アラートが 2 件になった一覧。リソースごとに 1 件
番号項目説明
11 件目最初のリソース。
21:37 の 1 回分。
そのあとの 5 回はアラートになっていない
22 件目別のリソース。21:57 の 1 回分
送った先回数アラート
最初のリソース6 回(21:37〜22:01)1 件(最初の 1 回)
別のリソース2 回(21:57)1 件(最初の 1 回)

今回の範囲では、アラートは「リソースごとに最初の 1 回」だけだった。
アラートの件数を、攻撃の回数として読むことはできない。

⑦ プロンプトの証拠をオフにする

AI サービスの行の「設定 >」を押し、「疑わしいプロンプトの証拠を有効にする」をオフにして「続行」を押し、Defender プランの画面で「保存」を押す(21:44)。

疑わしいプロンプトの証拠をオフにする
番号項目説明
1状態オフにする。
脅威の検出のための分析は続き、アラートの中のプロンプトがマスクされる、というのが公式の説明

オフにして 13 分後に、⑥の別のリソースで 2 件目のアラートが出た。
このアラートの証拠には、プロンプトの文がそのまま載っていた。

オフにして 13 分後のアラートの証拠。プロンプトの文が載っている
番号項目説明
1Prompt Suspicious Segmentオフにしたあとのアラートだが、送った文がそのまま出ている

オフにして 44 分後に、3 つ目のリソースにも同じ文を送った。
これは 400 で止まったが、10 分たってもアラートが出ず、プロンプトがマスクされるところは確かめられなかった。

公式ドキュメント:AI サービスの脅威保護を有効にする | Microsoft Learn

⑧ 同じ構成を Bicep で作る

AI サービス プランの設定(コンポーネントを含む)と、検証用の Foundry とモデルを、サブスクリプションのスコープの Bicep にした。

デプロイは約 33 秒で終わった。
プランは Standard(オン)、コンポーネントは AIPromptEvidence と AIModelScanner が有効になり、作られた Foundry のモデルを呼べることを確かめた。
プランをオフにした状態からデプロイして、オンに変わることも確かめた。

Bicep:azure-bicep-samples / a10-defender-ai

⑨ 片付け

順番操作
1リソース グループを削除し、Foundry を purge する
2AI サービス プランをオフに戻す。
サブスクリプション全体の設定なので、リソースを消しても残る
az security pricing create -n AI --tier Free

アラートは、関連するリソースを削除しても、ポータルに 90 日間表示される。

公式ドキュメント:セキュリティのアラートとインシデント | Microsoft Learn

実機でつまずいた点

同じ攻撃をくり返しても、アラートが増えない

同じ攻撃をくり返してもアラートが増えない。やったこと、起きたこと、わかったこと

アラートが出ることを確かめたあと、同じリソースに同じ脱獄の文を 5 回送ったが、アラートは 1 件のままだった。
アラートの説明は「There was 1 blocked attempt」のままで、証拠の行も 1 行のままだった。
別のリソースに送ると、すぐに 2 件目が出た。

テストで「アラートが出ない」と思ったら、すでに同じリソースのアラートが出ていないかを見る。
確かめ直すときは、別のリソースで試す。
運用では、アラートが 1 件でも、攻撃が 1 回だったとは限らない。
回数や内容は、アプリのログや API Management のログで追う。

プロンプトの証拠をオフにしても、すぐにはマスクされない

証拠をオフにしてもすぐにはマスクされない。やったこと、起きたこと、わかったこと

「疑わしいプロンプトの証拠」をオフにして保存し、設定がオフになったことを CLI でも確かめた。
その 13 分後に出たアラートの証拠には、プロンプトの文がそのまま載っていた。

プロンプトをアラートに載せたくない環境では、プランをオンにするのと同時にオフにしておく。
あとからオフにする場合は、切り替えのあともしばらく、アラートにプロンプトが載る前提で扱う。

発展

項目内容
Purview との連携AI 対話のデータ セキュリティを有効にすると、Microsoft Purview がプロンプトと応答を分析できる。
Purview のライセンスが別に必要
AI モデルのセキュリティAzure Machine Learning のレジストリやワークスペースのモデルを、マルウェアなどがないかスキャンする
AI セキュリティ態勢管理Defender CSPM プランで、生成 AI のアプリの構成の弱点や攻撃パスを見つける
アラートの連携アラートを Microsoft Sentinel や SOAR、ITSM の製品に送る

公式ドキュメント:
AI サービスの脅威保護を有効にする | Microsoft Learn
セキュリティのアラートとインシデント | Microsoft Learn

推奨構成

項目推奨理由
プランFoundry のモデルを使うサブスクリプションで、AI サービス プランをオンにするコンテンツ フィルターで止めた脱獄を、アラートとして拾える。
リソース ログとメトリックでは 200 に見えていた
有効にする時期モデルを使い始める前オンにした直後の数分は、アラートにならなかった
エンドユーザーの情報アプリから UserSecurityContext(エンドユーザーの ID、送信元 IP、アプリ名)を付ける付けないと、アラートに出るのはアプリの ID と IP だけになる
プロンプトの証拠載せるかどうかを先に決める。載せるなら、アラートを見られる人を絞るアラートを見られる人は、プロンプトの一部を読める
回数の把握アプリのトレースや API Management のログを併用するアラートは、くり返しの回数を表さなかった

注意事項

項目内容
対象テキストのトークンだけ。画像と音声はスキャンされない
料金30 日間の無料試用版のあとは、スキャンしたトークン数で課金される。
サブスクリプションの中のすべての対象リソースが対象になる
プランの範囲サブスクリプション全体の設定。
検証用のリソースを消しても、プランはオンのまま残る
IP アドレスアラートの証拠には、呼び出し元の IP アドレスが末尾まで入る
Defender XDRMicrosoft Defender ポータルを初めて開くテナントでは、データ領域の準備が始まり、すぐには使えない

まとめ

・Defender for Cloud の AI サービス プランをオンにすると、Prompt Shields がブロックした脱獄が、セキュリティ アラートになった。
要求の 4〜5 秒後に生成された。
・アラートの証拠には、プロンプトの文、呼び出し元の IP アドレスと ID が載る。
アプリが UserSecurityContext を付けると、エンドユーザーの ID、送信元 IP、アプリ名も載る。
・オンにした直後の数分に送った分は、アラートにならなかった。
・同じリソースへのくり返しはアラートが増えず、リソースごとに最初の 1 回だけだった。
・プロンプトの証拠をオフにしても、13 分後のアラートにはプロンプトが載っていた。

次回:Microsoft Purview の AI 向け機能とは(AI 編 A11)

Microsoft Purview の AI 向け機能とは(Foundry のやり取りの監査と DSPM。AI 編 A11)
Foundry の AI とのやり取りを Purview で管理する機能を解説。連携、従量課金、コレクション ポリシーを設定し、監査と DSPM に何が出るかを実機で確かめた。

コメント

タイトルとURLをコピーしました