執筆: 神崎 澪(セキュリティアナリスト(AI))監修: 千葉圭介更新日
LLMセキュリティ診断は、自社の業務に組み込んだ生成AIのアプリに、情報の漏えいや、AIの権限の持たせすぎといった穴が無いかを確かめる検査です。対象は、LLM(大規模言語モデル、文章を読み書きするAI)を使ったチャットボットや、社内文書を探して答える仕組みを動かしている会社です。AIエージェント(自分で道具を使って作業するAI)も含みます。まずは、AIが読める情報と、AIが実行できる操作を書き出してみてください。
Cyber Shield(サイバーシールド)は、OWASP が公開している10項目の観点で、構成を確認し、担当者が実際に操作して確かめます。費用は298,000円〜(税別)です。以下では、なぜ診断が必要になっているのか、何を調べ、何が手元に残るのか、いくらかかるのかを順に書きます。
なぜ生成AIのアプリに、専用の診断が必要なのか
生成AIは、従来のプログラムと違い、同じ入力でも毎回同じ答えを返すとは限りません。しかも、AIは「命令」と「読ませる文章」を区別するのが得意ではありません。そのため、外から届いた文章の中の指示に、AIが従ってしまう危険があります。
この状況は、公的な資料にも表れています。IPA の「情報セキュリティ10大脅威 2026」組織編では、「AIの利用をめぐるサイバーリスク」が3位に入りました。この脅威が選ばれたのは2026年が初めてです。さらに IPA は2026年7月に、生成AIとAIエージェントを安全に使うための手引書を公開しています。
従来のWebアプリの診断は、画面や通信の穴を調べます。生成AIのアプリには、それに加えて「AIが何を読み、何を実行するか」という新しい入口があります。画面を調べるだけでは、この入口は確かめきれません。
これから業務にAIを取り入れる段階なら、どの情報をAIに読ませてよいかを、導入の計画と一緒に決めておくと後の手直しが減ります。導入そのものの進め方は、社内のAI導入支援の案内も参考になります。
LLMセキュリティ診断では何を調べるのか
調べる観点の土台は、OWASP の「Top 10 for LLM Applications 2025」です。生成AIのアプリで重大になりやすいリスクを10に整理した文書で、2024年11月に公開されました。
次の表は、10項目を日常語に直し、当社が確かめる内容を添えたものです。攻撃に使う文章は公開しません。
| OWASP の項目 | 日常語での説明 | 当社が確かめること |
|---|---|---|
| プロンプトインジェクション | AIに読ませた文章の中の指示で、本来の役割を超えた動きをさせられる | 外から届く文章を、AIがどこまで信じて動くか |
| 機密情報の漏えい | AIの答えを通じて、見せてはいけない情報が出てしまう | 他の利用者の情報や社内文書が、答えに混ざらないか |
| サプライチェーン | 使っているモデルや部品が、信頼できない出所のものになっている | 外部のモデル、ライブラリ、拡張部品の出所と更新 |
| データとモデルの汚染 | 学習や参照に使うデータに、悪意のある内容が混ざる | 参照する文書を、誰がどう追加できるか |
| 出力の不適切な扱い | AIの答えを、検証せずに画面やシステムへ渡している | 答えをそのまま画面表示や命令に使っていないか |
| 過剰な権限 | AIに、業務に必要な以上の操作を任せている | AIが使える道具と、その権限の広さ |
| システムプロンプトの漏えい | AIへの内部の指示文に、秘密の情報が書かれている | 指示文に、鍵や内部の事情が入っていないか |
| ベクトル・埋め込みの弱点 | 文書検索の仕組みの設定ミスで、読めない文書まで読める | 検索の対象に、権限の境目が効いているか |
| 誤情報 | AIがもっともらしい誤りを答え、それを信じて動いてしまう | 誤りが業務の判断や実行に直結しない作りか |
| 無制限の消費 | 大量の利用で、費用が膨らむ、または止まる | 利用回数や入力量に、上限が設けられているか |
個別の脆弱性は、プロンプトインジェクション、LLM経由の情報漏えい、AIエージェントの過剰な権限のページで、仕組みと対策を説明しています。
診断の対象にしない範囲
診断は、お客様が管理するアプリと、その設定の範囲に限ります。AIの提供元が運営する基盤そのものへの検査は含みません。AIが使うAPIの窓口を単独で調べたい場合はAPI脆弱性診断、画面側の穴はWebアプリケーション脆弱性診断で承ります。
どのように確かめるのか
診断は、構成の確認、設定の確認、担当者による操作の確認の順に進めます。ツールで機械的に判定できる穴は多くありません。AIの答えは毎回変わるため、人が状況を作って、結果を読む作業が中心になります。
まず、AIが読める情報と、使える道具の一覧をうかがいます。次に、診断同意書で対象と期間を書面にしたうえで、その範囲で実際にアプリを操作します。たとえば、権限の無い利用者が、見られないはずの文書に触れられないかを確かめます。
見つかったものは、担当者が再現を確かめ、実際に起きる問題かどうかを判断します。そのうえで、権限を絞る、出力を確かめる、参照するデータを分けるといった、設定やつくりの直し方を示します。
なお、診断の前には秘密保持契約(NDA)を結びます。無断で他人のシステムを検査すると、不正アクセス禁止法に触れるおそれがあるため、対象は同意をいただいたものに限ります。
診断が終わると、何が手元に残るのか
成果は報告書です。見つかった穴ごとに、どの機能で起きるのか、なぜ問題なのか、どう直せばよいかを書いてお渡しします。AIに持たせる権限や、つなぐ先の見直しなど、優先して直す順番も示します。
修正のあとに再診断を1回、無料で行います。直したつもりの箇所が本当に塞がったかを確かめ、結果を報告書に反映します。
費用はいくらか。何で高くなるのか
生成AI・LLMアプリ診断の費用は、298,000円〜(税別)です。
| 項目 | 費用 | 備考 |
|---|---|---|
| 生成AI・LLMアプリ診断 | 298,000円〜 | 報告書付き |
| 脆弱性の個別修正 | 1件 10,000円〜 | 内容により見積もり |
| 修正後の再診断 | 無料 | 1回 |
金額が上がる要因は、主に3つです。1つ目は診断する機能の数で、チャットだけの場合と、検索や作業の実行まで任せる場合では、確かめる量が違います。2つ目はAIがつながる先の数で、社内システムや外部サービスが増えるほど、権限を調べる範囲が広がります。3つ目は参照するデータの種類と量です。
正式なお見積もりは、構成を拝見したうえで、無料診断のあとにお出しします。料金の全体は料金ページにまとめています。費用の目安を知りたいときは、無料相談か無料URLチェックからお気軽にどうぞ。
依頼から納品までの流れ
流れは、ご相談から納品後のサポートまでの流れと同じです。診断に関わる部分だけを書きます。
- 無料相談で、AIの使い方、つないでいるシステム、参照している情報をうかがいます。
- 診断や作業の前に、秘密保持契約(NDA)を結びます。NDA は無料で、すべての作業に先立って締結します。
- 診断同意書をいただいたうえで、無料診断(ツール検査と担当者の確認による簡易診断)を行い、課題レポートをお渡しします。
- 見つかった課題の修正費用を、お見積もりとしてご提示します。全体の作り直しが必要な場合は、別途お見積もりします。
- ご発注のあと、すべての項目を診断し、穴を塞ぎます。
- 納品の前に、何をどう直したかを PDF で共有します。
- お客様に、実際の画面で動作を確認していただきます。
- 納品します。納品後1か月は、無料でサポートします。
よくある疑問への答え
プロンプトインジェクションの対策は、AIに注意書きを足せば足りますか
足りません。AIへの指示文に「従うな」と書いても、それを破る文章が届く可能性は残ります。指示の工夫は、あくまで最初の一重です。
効くのは、破られても被害が広がらない作りです。AIに持たせる権限を必要な分だけにし、重要な操作の前に人が確かめ、答えをそのまま実行しないようにします。診断では、この重ね方に抜けが無いかを見ます。詳しくはプロンプトインジェクションのページをご覧ください。
外部のAIサービスを使っているだけなのに、自社の責任ですか
AIの提供元が守るのは、モデルと基盤の部分です。自社のアプリが、どの情報をAIに渡し、AIの答えで何を実行するかは、持ち主が決めた設計です。その設計に穴があれば、提供元の側では防げません。
顧客情報や社内文書をつなぐ前に、一度確かめておくと安心です。漏えいした場合の対応は、情報漏えい対策で整理しています。
まだ試験運用の段階ですが、診断は早すぎますか
早すぎることはありません。公開してから作り直すより、つなぐ先や権限を決める段階で見直すほうが、手戻りは小さく済みます。本番のデータをつなぐ前や、社外の人が使い始める前は、良い機会です。
診断で、本番のAIや業務が止まりませんか
対象と期間は診断同意書で決め、本番に影響するおそれのある操作は、扱いを事前に相談します。決済や削除のように心配な機能は、検証用の環境で行う進め方もあります。
診断を受ければ、安全になりますか
診断は、穴を見つける手段です。修正して初めて安全に近づきます。そして、診断の時点で穴が見つからなくても、将来にわたる安全までは約束できません。
モデルを入れ替えたときや、参照する文書を増やしたときは、構成が変わります。そのたびに、もう一度確かめることをお勧めします。
次の一手
AIアプリを診断する前に、Web側がいまどう見えているかを知りたい方は、無料URLチェックをお使いください。URL を1つ入力するだけで、外から誰でも見られる情報だけを確認します。攻撃にあたる検査は行いません。
AIがつなぐ先や、診断の範囲で迷うときは、無料相談へどうぞ。フォーム・電話・オンラインのどれでも承ります。NDA は無料で、診断の前に結びます。
よくある質問
LLMセキュリティ診断とは何ですか。
自社の業務に組み込んだチャットボット、社内文書の検索、AIエージェントなど、生成AIを使ったアプリに、情報の漏えいや過剰な権限といった穴が無いかを確かめる検査です。OWASP の10項目を観点に、構成の確認と、担当者による実際の操作で調べ、報告書にまとめます。
費用はいくらですか。
298
プロンプトインジェクションは、AIの設定だけで防げますか。
設定だけでは足りません。AIに渡す指示の工夫は役に立ちますが、それを破られる前提で、AIに持たせる権限とつなぐ先を絞り、出力を確かめる仕組みを重ねます。診断では、この重ね方に抜けが無いかを確かめます。
外部のAIサービスを使っているだけでも、診断は必要ですか。
必要になる場合があります。AIの提供元が守るのは基盤の部分です。自社のアプリが、どんな情報を渡し、AIの答えで何を実行するかは、持ち主の責任範囲です。社内文書や顧客情報をつなぐなら、確かめる価値があります。
診断を受ければ安全だと言えますか。
言えません。診断は、その時点の構成にある穴を知る手段です。モデルの入れ替え、参照する文書の追加、つなぐ道具の追加のたびに、リスクは変わります。構成を変えたときは、もう一度確かめてください。