V8. 監視と異常検出 (Monitoring and Anomaly Detection)

管理目標

LLM を搭載したアプリケーションの使用を継続的に監視して、セキュリティインシデントやシステムの悪用を示す可能性がある異常な振る舞いや出力を検出します。

#	要件	L1	L2	L3
8.1	使用量の予期しない急増や典型的な出力パターンからの逸脱など、セキュリティインシデントを示す可能性のある異常がないかどうか、LLM アプリケーションの使用パターンを継続的に監視します。		✓	✓
8.2	ログ内のカナリアトークン (5.7 を参照) や予期しない言語パターンの出現など、プロンプト漏洩を示唆する可能性があるイベントのログ記録とアラートのメカニズムを確立します。		✓	✓