憲章
目的
AI をセキュリティの脅威から保護する方法に関する、専門家による、専門家のための、包括的なガイダンスとアラインメント。
OWASP AI Exchange の目標は、さまざまな分野にわたるグローバルな専門家の集合知を自主的に活用することで、AI のセキュリティ問題から社会を守ることです。この取り組みは、AI セキュリティの理解を促進し、グローバルな AI セキュリティガイドライン、標準、規制の策定を支援し、専門家と組織のために AI セキュリティドメインを簡素化することに重点を置いています。その目標は AI の脅威、リスク、緩和策、コントロールの包括的な概要を提供することです。この概要は EU AI 法、ISO/IEC 27090 (AI セキュリティ)、OWASP ML Top 10、OWASP LLM Top 10、OpenCRE などのグローバルな標準化イニシアチブと連携して取り組む必要があります。この連携はオープンソースの Github コラボレーションとワーキンググループとの連携を通じて実現しました。AI セキュリティインシデントによる被害につながる混乱や無知を防ぐには、連携は極めて重要です。Exchange の立場は利他的です。標準を設定することではなく、標準を推進することであり、AI セキュリティを扱う人々にとってトップのブックマークであり続けることです。
対象読者
この憲章は主にサイバーセキュリティ専門家、プライバシー/規制/法律の専門家、AI リーダー、開発者、データサイエンティストのニーズに対応しています。これらのグループに利用しやすいガイダンスとリソースを提供し、安全な AI システムを効果的に適用し、構築して維持できるようにします。
使命 / 目標
私たちの使命は、AI セキュリティを理解したい専門家が訪れる場所として OWASP AI Exchange を確立して、さまざまな AI イニシアチブ間の合意、調整、協調のための信頼できる情報源となることです。私たちは AI セキュリティの課題に対処するための統一的なアプローチを促進することを目指しています。
範囲と責任
AI に特化: AI に特化したトピックに焦点を当て、一般的なトピック (リスク分析など) を AI にどのように適用できるかを取り上げ、AI の注意点について説明します。
AI のセキュリティ: それがこの Exchange の目的であり、AI システムに対する脅威をカバーします。これらの脅威の中には AI システムの動作や可用性に影響を及ぼすものがあり、間接的に AI による脅威を生み出します。
説明と参照: Exchange では簡潔な説明でトピックを取り上げ、それを明確で直感的になるようにし、考慮すべき重要な点に言及し、読者に参考文献を紹介して、資料を超越します。「プロフェッショナルの超初心者のための AI セキュリティ」の説明を考えてみましょう。
AI の脅威、リスク、コントロール (緩和策) に関する 包括的なフレームワーク を開発します。AI セキュリティに関する共通の分類法と用語集を確立します。
関連法規 に関する洞察を作成します。
結果評価を伴う テストツールと手法 に関するガイダンスを提供します。
AI モデルやその他の関連機能を提供するサードパーティと協力するための 責任共有モデル を策定します。
サプライチェーンガイダンス と インシデント対応計画 を提供します。
AI Exchange は主に AI セキュリティに関する、個別のセクションを含めた、一つのまとまった出版物となることを目指しています。本当に必要でない限り、個別の出版物のセットとするべきではありません。
OWASP の他の取り組みや他の組織の取り組みとの関係
これらは OWASP の他の AI イニシアチブと AI Exchange との関係です。
OWASP AI セキュリティおよびプライバシーガイドは AI Exchange が設立された OWASP の公式プロジェクトです。このプロジェクトの成果物は AI Exchange コンテンツに加えて、AI プライバシーのガイダンスで構成しています。
OWASP LLM Top 10 は最も重要な LLM セキュリティ問題のリストに加えて、LLM AI セキュリティおよびガバナンスチェックリストなどの LLM セキュリティに焦点を当てた成果物を提供します。
OWASP ML Top 10 は最も重要な機械学習セキュリティ問題のリストを提供します。
OpenCRE.org は OWASP 統合標準プロジェクトの下で設立され、OWASP 内外のさまざまなセキュリティ標準にわたる共通要件のカタログを保持しています。計画では OpenCRE に新しい AI セキュリティコントロールも含ませることになっています。
ロードマップ
0.9 の準備: 内部の TODO テーブルにあるすべての TODO を終わらせます -> 0.9 をリリース
1.0 の準備: コミュニティと私たち自身によるレビュー -> 1.0 をリリース
Exchange 1.0 を少なくとも AI 法と ISO 27090 に供給します
読者がデプロイメントモデルを認識して、自分に関連するものだけを選択しやすくします
脅威モデルと攻撃ベクトルの詳細な図解
Mitre Atlas、NIST、LLM Top 10、ENISA の取り組み、AIAPP International Privacy Group とのさらなる連携
著作権
AI セキュリティコミュニティは CC0 1.0 でマークされており、帰属表示なしで任意の部分を自由に使用できることを意味します。可能であれば、読者がより多くの情報を見つけられるように、OWASP AI Exchange のクレジットやリンクをいれていただければ幸いです。
Last updated