OWASP Top 10 大規模言語モデルアプリケーション
Last updated
Last updated
OWASP Top 10 大規模言語モデルアプリケーションプロジェクトは大規模言語モデル (LLM) と生成 AI アプリケーションをデプロイおよび管理する際の潜在的なリスクについて、開発者、デザイナー、アーキテクト、マネージャー、組織を教育することを目的としています。このプロジェクトではさまざまなリソースを提供します。最も注目すべきは LLM アプリケーション向けの OWASP Top 10 リストで、LLM アプリケーションでよくみられる最も重大な脆弱性のトップ 10 をリストし、その潜在的な影響、悪用しやすさ、実世界のアプリケーションにおける普及度をハイライトしています。
脆弱性の例としては、プロンプトインジェクション、データ漏洩、不十分なサンドボックス化、認可されていないコード実行などがあります。目標はこれらの脆弱性に対する認識を高め、改善策を提案し、最終的に LLM アプリケーションのセキュリティ態勢を改善することです。
2025 年の LLM アプリケーション向け OWASP Top 10 リスト をダウンロードしてください。
生成 AI テクノロジのロールアウトを管理する CISO にとって必須のガイダンス。
Security & Governance Checklist v1.0 - 現在 と でも利用できます。
にワーキンググループチャネルがありますので、サインアップして #project-top10-for-llm チャネルに参加してください。
ワーキンググループは で共同作業を行っています。
最新の進捗状況を定期的に知りたいですか？ するか、 してください。
LLM アプリケーションセキュリティは初めてですか？詳しくは をご覧ください。
私たちは非営利のオープンソースコミュニティ主導のプロジェクトです。もしあなたがリソースでプロジェクトをサポートしたり、スポンサーになることに興味があれば、私たちがコミュニティの取り組みを継続し続け、運営やアウトリーチのコストを相殺できるようにするための支援をしてください。私たちのウェブサイトの をご覧ください。