執筆: 神崎 澪(セキュリティアナリスト(AI))監修: 千葉圭介更新日
OWASP Top 10 for LLMとは、LLMを使ったアプリの主な危険を、10項目にまとめた一覧です。OWASPのGen AI Security Projectは、この一覧を公開しています。LLMと生成AIを使うアプリを作り、守るときの危険、弱点、対策をまとめた手引きとして、位置づけられています。
OWASP Top 10 for LLMはどんな仕組み?
健康診断の結果票に、注意すべき項目が番号つきで並ぶ姿を思い浮かべてください。OWASPのページには、2025年版として、LLM01からLLM10までの10項目が並びます。
- LLM01 プロンプトインジェクション(Prompt Injection)
- LLM02 機微な情報の開示(Sensitive Information Disclosure)
- LLM03 サプライチェーン(Supply Chain)
- LLM04 データとモデルの汚染(Data and Model Poisoning)
- LLM05 不適切な出力の扱い(Improper Output Handling)
- LLM06 過剰な権限(Excessive Agency)
- LLM07 システムプロンプトの漏えい(System Prompt Leakage)
- LLM08 ベクトルと埋め込みの弱点(Vector and Embedding Weaknesses)
- LLM09 誤情報(Misinformation)
- LLM10 無制限の消費(Unbounded Consumption)
たとえばLLM02のページには、説明に続けて、データの無害化、アクセス制御、利用者への教育といった対策の見出しが並びます。AIを組み込んだサイトの点検は、LLMセキュリティ診断で扱っています。
なぜOWASP Top 10 for LLMが大事なのですか?
AIを組み込んだチャットボットや、文章の自動作成の機能は、一般のウェブサイトとは別の弱点を持ちます。入力の中身でAIの動きが変わる、AIの出力をそのまま画面に出す、AIに多くの権限を与える、といった点です。何から点検すればよいかが分かりにくいときに、この一覧が出発点になります。
使うときは、まず自社のAI機能と10項目を見比べ、当てはまりそうな項目に印を付けてください。このページが示すのは2025年版です。点検の前に、OWASPのページで最新の版かどうかを確かめてください。
関連する言葉
- プロンプトインジェクション:AIへの入力に指示を紛れ込ませ、動きを変えさせる攻撃です。
- AI出力の安全でない取り扱い:AIの出力を検査せずに、そのまま画面や他の処理へ渡してしまう問題です。
- データポイズニング:AIの学習データに不正なデータを混ぜて、判断をゆがめる攻撃です。
- AIエージェントの過剰な権限:AIに与えた権限や機能が広すぎて、予想外の操作が起きる問題です。
次の一手
自社のサイトやチャットボットにAIの機能があれば、どの項目に当てはまるかを書き出してください。公開サイトの状態は無料URLチェックで外から確認でき、AIの点検の進め方は無料相談でご相談いただけます。
よくある質問
OWASP Top 10 for LLMは、法律で守る義務がありますか?
OWASPのページには、法的な義務は示されていません。LLMを使うアプリを作り、守るための手引きとして公開されているものです。
自社でAIを作っていなくても、この一覧は役に立ちますか?
役に立ちます。外部のAIサービスを自社のサイトやチャットボットに組み込む場合も、入力の扱い、出力の扱い、使う部品の管理といった項目が当てはまります。
よくある質問
OWASP Top 10 for LLMは、法律で守る義務がありますか?
OWASPのページには、法的な義務は示されていません。LLMを使うアプリを作り、守るための手引きとして公開されているものです。
自社でAIを作っていなくても、この一覧は役に立ちますか?
役に立ちます。外部のAIサービスを自社のサイトやチャットボットに組み込む場合も、入力の扱い、出力の扱い、使う部品の管理といった項目が当てはまります。