OWASP Top 10 大規模言語モデルアプリケーション

このリポジトリについて

これは OWASP Top 10 大規模言語モデルアプリケーション のリポジトリです。ただし、このプロジェクトは現在包括的な OWASP GenAI Security Project に成長しており、Top 10 リストにとどまらず、複数のセキュリティイニチアチブを包含するグローバルなイニチアチブとなっています。

OWASP GenAI Security Project

OWASP GenAI Security Project は、大規模言語モデル (LLM)、エージェント AI システム、AI 駆動型アプリケーションなど、生成 AI テクノロジに関連するセキュリティと安全性のリスクを特定、軽減、文書化することに特化したグローバルなオープンソースイニチアチブです。私たちの使命は、組織、セキュリティ専門家、AI 実務者、政策立案者に、包括的で実用的なガイダンスとツールを提供し、生成 AI システムの安全な開発、デプロイメント、ガバナンスを確保することです。

私たちの使命と憲章の詳細についてはこちらをご覧ください: プロジェクトの使命と憲章

メインのプロジェクトサイトをご覧ください: genai.owasp.org

最新の Top 10 大規模言語モデルアプリケーション

OWASP Top 10 大規模言語モデルアプリケーションは、引き続き私たちの取り組みの中核的な要素であり、LLM アプリケーションの最も重要なセキュリティ脆弱性を特定するものです。

最新の Top 10 大規模言語モデルアプリケーションにアクセスする: https://genai.owasp.org/llm-top-10/

プロジェクトの背景と成長

このプロジェクトは発足以来、大きく進化してきました。2023 年に緊急のセキュリティギャップを対処するセキュリティ専門家の小さなグループから始まり、18 か国以上から 600 人以上の専門家が参加し、8,000 人近くのアクティブなコミュニティメンバーを擁するグローバルコミュニティに成長しました。

プロジェクトの背景全文を読む: 概要と背景

参加するには

プロジェクトに貢献する

セキュリティ専門家、研究者、開発者、そして AI セキュリティに情熱を注ぐ皆様からの専門的なアイデア、貢献、提案、ご意見を歓迎します。

貢献方法はこちら: https://genai.owasp.org/contribute/

ミーティングに参加する

隔週で開催される動機ミーティングに参加し、コミュニティとのつながりを保ちましょう。

ミーティング情報: https://genai.owasp.org/meetings/

コミュニティとつながる

• OWASP Slack のワーキンググループチャンネルに参加します - #project-top10-for-llm チャンネルに登録して参加します

• プロジェクトの LinkedIn ページをフォローします

• ニュースレターを購読 して定期的に最新情報を受け取ります

プロジェクトサポート

私たちは非営利、オープンソース、コミュニティ主導のプロジェクトです。コミュニティ活動を維持し、運営やアウトリーチのコストを負担軽減するために、リソースの提供によるプロジェクト支援やスポンサーになることに興味のある方は、私たちのウェブサイトの スポンサーセクション をご覧ください。

現在の スポンサーおよびサポーター の皆様に感謝申し上げます

教育リソース

LLM アプリケーションセキュリティは初めてですか？詳しくは リソースページ をご覧ください。