OWASP 人工知能セキュリティ検証標準

この著作物は Creative Commons Attribution-ShareAlike 4.0 International License の下でライセンスされています。

はじめに

人工知能セキュリティ検証標準 (AISVS) は開発者、アーキテクト、セキュリティ専門家に、AI 駆動型アプリケーションのセキュリティと倫理的考慮事項を評価および検証するための構造化されたチェックリストを提供することに重点を置いています。既存の OWASP 標準 (ウェブアプリケーション向けの ASVS など) をモデルとした AISVS は、以下の領域における要件のカテゴリを定義します。

1. トレーニングデータガバナンスとバイアス管理 (Training Data Governance & Bias Management)

2. ユーザー入力バリデーション (User Input Validation)

3. モデルライフサイクル管理と変更管理 (Model Lifecycle Management & Change Control)

4. インフラストラクチャ、構成、デプロイメントセキュリティ (Infrastructure, Configuration & Deployment Security)

5. アクセス制御とアイデンティティ (Access Control & Identity)

6. モデル、フレームワーク、データのサプライチェーンセキュリティ (Supply Chain Security for Models, Frameworks & Data)

7. モデル動作、出力制御、安全保証 (Model Behavior, Output Control & Safety Assurance)

8. メモリ、エンベディング、ベクトルデータベースセキュリティ (Memory, Embeddings & Vector Database Security)

9. 自律オーケストレーションとエージェントアクションセキュリティ (Autonomous Orchestration & Agentic Action Security)

10. 敵対的堅牢性と攻撃耐性 (Adversarial Robustness & Attack Resistance)

11. プライバシー保護と個人データ管理 (Privacy Protection & Personal Data Management)

12. 監視、ログ記録、異常検出 (Monitoring, Logging & Anomaly Detection)

13. 人間による監視と信頼 (Human Oversight and Trust)

バグを見つけた場合やご意見がある場合には issue を記録 してください。その後、その issue での議論に基づいて プルリクエストを開く ようにお願いすることがあります。

プロジェクトリーダー

このプロジェクトは Jim Manico と Russ Memisyazici の二人のプロジェクトリーダーが主導しています。

ライセンス

本プロジェクトのすべてのコンテンツは Creative Commons Attribution-Share Alike v4.0 ライセンスの下にあります。