📗
owasp-llm-verification-standard-ja
  • OWASP Large Language Model Security Verification Standard ja
  • OWASP 大規模言語モデルセキュリティ検証標準 0.1 日本語版
    • OWASP 大規模言語モデルセキュリティ検証標準
    • リーダー
    • V1. 安全な構成と保守 (Secure Configuration and Maintenance)
    • V2. モデルのライフサイクル (Model Lifecycle)
    • V3. リアルタイム学習 (Real Time Learning)
    • V4. モデルのメモリとストレージ (Model Memory and Storage)
    • V5. 安全な LLM 統合 (Secure LLM Integration)
    • V6. エージェントとプラグイン (Agents and Plugins)
    • V7. 依存関係とコンポーネント (Dependency and Component)
    • V8. 監視と異常検出 (Monitoring and Anomaly Detection)
    • V9. モデルコンテキストプロトコル (MCP) セキュリティ (Model Context Protocol (MCP) Security)
Powered by GitBook
On this page
  1. OWASP 大規模言語モデルセキュリティ検証標準 0.1 日本語版

V4. モデルのメモリとストレージ (Model Memory and Storage)

管理目標

トレーニングフェーズでは含まれていない「記憶 (memory)」や追加知識を可能にするメカニズムが安全に取り扱われることを確保します。

#
要件
L1
L2
L3

4.1

「会話記憶 (Conversational memory)」を実装するメカニズムが他のユーザーに対する以前のプロンプトを誤って混同しないように確保します。

✓

✓

✓

4.2

「長期 (long-term)」ストレージをサポートするメカニズムがユーザーデータを適切に分離して、他のユーザーに関するデータを取得したり、他のユーザーに虚偽の記録を注入したりできないようにすることを確保します。

✓

✓

✓

4.3

LLM への追加コンテキストとして提供される内部ナレッジベースからの機密データの漏洩を検出するためのコントロールが存在することを確保します。LLM にナレッジベースのコンテンツを漏洩するように強制することができないようにする必要があります。

✓

✓

4.4

ベクターデータベースやキャッシュなどの外部ストレージコンポーネントがコンシューマの認証を必要とすることを確保します。

✓

✓

✓

4.5

ベクターデータベースやキャッシュなどのプロダクションストレージコンポーネントへのアクセスには最小権限の原則を強制します。

✓

✓

4.6

ナレッジベース内の埋め込み (Embedding) を更新する際、敵対者がナレッジベースに任意のドキュメントを注入したり、虚偽の情報を挿入したりできないようにすることを確保します。

✓

✓

✓

PreviousV3. リアルタイム学習 (Real Time Learning)NextV5. 安全な LLM 統合 (Secure LLM Integration)

Last updated 1 year ago