OWASP Top 10 大規模言語モデルアプリケーション
OWASP Top 10 大規模言語モデルアプリケーションプロジェクトは大規模言語モデル (LLM) と生成 AI アプリケーションをデプロイおよび管理する際の潜在的なリスクについて、開発者、デザイナー、アーキテクト、マネージャー、組織を教育することを目的としています。このプロジェクトではさまざまなリソースを提供します。最も注目すべきは LLM アプリケーション向けの OWASP Top 10 リストで、LLM アプリケーションでよくみられる最も重大な脆弱性のトップ 10 をリストし、その潜在的な影響、悪用しやすさ、実世界のアプリケーションにおける普及度をハイライトしています。
脆弱性の例としては、プロンプトインジェクション、データ漏洩、不十分なサンドボックス化、認可されていないコード実行などがあります。目標はこれらの脆弱性に対する認識を高め、改善策を提案し、最終的に LLM アプリケーションのセキュリティ態勢を改善することです。
📢 2025 年のリストが利用可能になりました:
2025 年の LLM アプリケーション向け OWASP Top 10 リスト フルバージョン をダウンロードしてください。
私たちの ウェブサイト から以下の追加リソースをダウンロードしてください:
Security & Governance Checklist v1.0 生成 AI テクノロジのロールアウトを管理する CISO にとって必須のガイダンス。
ローカライズバージョンも利用可能です。
専門知識を貢献しませんか？参加してください。
OWASP Slack にワーキンググループチャネルがありますので、サインアップして #project-top10-for-llm チャネルに参加してください。
ワーキンググループは wiki で共同作業を行っています。
最新の進捗状況を定期的に知りたいですか？ ニュースレターを申し込み するか、 プロジェクトの LinkedIn ページをフォロー してください。
LLM セキュリティについて学びたい
LLM アプリケーションセキュリティは初めてですか？詳しくは リソースページ をご覧ください。
プロジェクトサポーターまたはスポンサーになる
私たちは非営利のオープンソースコミュニティ主導のプロジェクトです。もしあなたがリソースでプロジェクトをサポートしたり、スポンサーになることに興味があれば、私たちがコミュニティの取り組みを継続し続け、運営やアウトリーチのコストを相殺できるようにするための支援をしてください。私たちのウェブサイトの スポンサーセクション をご覧ください。
現在の スポンサーとサポーター に感謝いたします
Last updated