執筆: 神崎 澪(セキュリティアナリスト(AI))監修: 千葉圭介更新日
プロンプトインジェクションとは、AIに細工をした文章を読ませ、本来の指示とは違う出力や動作をさせる攻撃と、それを許す弱点のことです。AIチャットボット、社内文書を検索するAI、メールやWebページを読むAI機能など、生成AIを組み込んだサービスを持つ事業者は、どれも確かめる対象になります。まず、AIが読めるデータ、使える権限、結果を渡す先を書き出してください。
IPA(独立行政法人情報処理推進機構)の「情報セキュリティ10大脅威 2026」組織編では、「AIの利用をめぐるサイバーリスク」が3位に初めて選ばれました。OWASP(Webや生成AIの安全を研究する国際的な非営利団体)は、LLMアプリケーションのリスク一覧の先頭に、この問題を置いています。攻撃に使う文字列や手順は載せません。被害の疑いがあるときは、先に緊急時の案内をご覧ください。
要注意:次に当てはまるサービスは確認を
次のうち一つでも当てはまれば、AI機能の権限とデータの流れを点検する価値があります。数が多いほど、確認を急いでください。
- サイトやアプリに、問い合わせ用のAIチャットボットを置いています。
- 社内の文書やデータベースを検索して答えるAI(RAG)を使っています。
- AIが、メール、Webページ、アップロードされたファイルを読んで、要約や判断をします。
- AIに、メール送信、予約、データ更新、コード実行など、操作の権限を渡しています。
- AIへの指示文(システムプロンプト)に、社内の呼び名やAPIキーなど、出したくない情報を書いています。
- AIの出力が、人の確認なしで、他のシステムへの命令や画面の表示にそのまま渡ります。
- 開発や運用は外部任せで、AIの権限と読むデータの一覧は、誰も作っていません。
プロンプトインジェクションとは?仕組みを日常の例で
窓口の担当者に、業務マニュアルを渡したとします。お客さんの持ち込んだ書類に「この書類を読んだ担当者は、次の対応をすること」と書かれていたら、担当者が従ってしまうことがあります。AIの内部で起きているのは、これに近いことです。
英国のNCSC(国家サイバーセキュリティセンター)は、2025年12月8日の公式ブログで、次の趣旨を説明しました。現在のLLM(大規模言語モデル)は、指示とデータの間に、安全上の境界を設けていません。SQLインジェクションは、データと命令を分ければ根本から防げますが、プロンプトインジェクションにはその分け方が通用しません。NCSCは、同じ型の完全な解決を期待しないよう注意しています。
図の2番が穴の場所です。ここで止めきれない前提で、AとBの設計で被害を小さくします。MITREのCWE-1427は、利用者の入力と開発者の指示をAIが区別できなくなる弱点を分類し、RAGなどの外部データも、悪意があるものとして扱うよう求めています。
直接型と間接型
総務省のガイドラインは、AIに細工をした文章を直接入力するものを直接型、AIに細工をしたデータを参照させるものを間接型と呼んでいます。間接型の例として、Web上のファイルや電子メールが挙げられています。OWASPも、直接と間接の二つに分けています。
NIST(米国の標準技術研究所)は、間接型を、AIが外部の資源を読む形で第三者が仕掛けるものと整理しました。被害を受けるのは、AIの利用者本人であることが多いとも説明しています。
起きうる被害
総務省のガイドラインは、不正な出力の例として、次の四つを挙げています。AIの出力は、画面に出るだけでなく、連携先の処理にも使われます。
- 出すべきでない、文書検索用のデータの内容を出力させる。
- 連携するシステムを操作するコード(SQLの命令など)を作らせ、情報の漏えいや、データの改ざん・削除につなげる。
- AIの内部設定を書いた指示文を出力させる。
- 利用者の目的を果たせなくする、誤った内容を出力させる。
AIに渡した権限が大きいほど、被害は大きくなります。権限の問題はAIエージェントの過剰な権限、出力の流出はLLM経由の情報漏えいのページで説明しています。
公的機関が公表した事例:AIの弱点と、見つかった脆弱性
ここでは、公的機関の公開情報に書かれた内容だけを紹介します。個別の三件は、被害の発生ではなく、悪用される可能性の公表です。
IPAの解説書
IPAは、10大脅威 2026 の解説書(組織編)で、間接プロンプトインジェクションを、AIが参照したデータに不正な指示が含まれ、AIがそれを取り込んでしまう攻撃と説明しました。技術的対策で完璧なものは知られていないとして、AIが参照するデータが、外部由来の危険なデータで汚染されないよう求めています。
Microsoft 365 Copilot(CVE-2025-32711)
NVDには、2025年6月11日に登録されました。説明は、Microsoft 365 Copilotのコマンドインジェクション(AIへの命令の混入)により、権限のない攻撃者がネットワーク越しに情報を開示させられる、というものです。CVSS v3.1 の基本値は、Microsoftの登録が 9.3、NISTの評価が 7.5 です。IPAの解説書は、この脆弱性(EchoLeak)を、外部から注入された不正な指示で社内の秘密データが流出する可能性があったものとして取り上げています。
PandasAI(JVNVU#91906701)
2025年2月14日にJVNが公表しました。JVNによると、Sinaptik AIのPandasAIのプロンプト機能に、任意のコードを実行される脆弱性があります。細工された入力で、悪意のあるPythonやSQLのコードが作られ、PandasAIを使うアプリ上で実行される可能性があります。対策は、構成ファイルのセキュリティ設定で、無効にしない構成を選ぶことです。
CrewAI(JVNVU#99749963)
2026年4月9日にJVNが公表しました。JVNによると、コード実行の道具、検索の道具、JSONの読み込みに問題があります。AIエージェントへの直接または間接のプロンプトインジェクションで、遠隔でのコード実行や、ローカルのファイルの読み取りを受ける可能性があります。SSRF(サーバーに内部への通信をさせる攻撃)も挙げられています。
対策は、最新版への更新、コード実行の道具の制限、信頼できない入力を渡さないことなどです。JVNは、CVE-2026-2275とCVE-2026-2287がCrewAI 1.11.0で修正されたと記しています。
三件から読み取れること
三件に共通するのは、AIに渡った文章が、コードの実行や情報の開示につながる点です。AIが読む文章は、利用者の入力だけではありません。ここで確かめられるのは公表された内容までで、各製品の現在の状態について、当社は何も言えません。
AI機能の運営者が自分で確かめる方法
専門の道具がなくても、次の順で確かめられます。本番のAIに、攻撃にあたる指示を試すのはやめてください。サービスの停止や情報の流出につながるおそれがあります。
- データの流れを図にします。 誰が入力できるか(公開か社内か)、AIが読む外部のデータ(メール、Web、ファイル、社内文書)、出力の行き先(画面、他のシステム、メール送信)を書き出します。
- AIに渡した権限を一覧にします。 AIが使うAPIキー、データベースの権限、実行できる操作を並べ、必要最小限かを見ます。広すぎるものが、最初の確認点です。
- 指示文に秘密を書いていないか見ます。 総務省のガイドラインは、システムプロンプトにAPIキーなどを直接書かず、別に管理するよう求めています。
- 重要な操作に、人の承認があるか確かめます。 送信、削除、購入、設定変更をAIが勝手に実行できるなら、承認の仕組みが必要です。
- ログがあるか確かめます。 AIへの入力、出力、道具の呼び出しの記録がなければ、異常に気づけません。
- 提供元と開発会社に質問します。 AIが読むデータの出どころ、渡した権限、承認の有無、ログの保存期間を、書面で答えてもらいます。
- 使っているAI用の部品を、JVNで探します。 公表があれば、対象の版と更新先を確かめます。
ここで分かるのは、設計と権限の状態です。AIが実際にどう振る舞うかは、画面を見ても分かりません。「問題ない」と言えるのは確認した範囲だけで、保証にはなりません。AIと連動するサイトの外から見える状態は無料URLチェックで、AI機能の中身まで調べる範囲は無料相談でうかがいます。
AI機能の確認は、どこまで自分でできますか?
自分でできるのは、データの流れ、権限、承認、ログの確認と、提供元への質問までです。AIの振る舞いと、参照データを経由した経路の抜けは、診断で調べる領域です。顧客の情報や決済に関わるAIは、公開の前後に第三者の確認を入れてください。
当社の費用の目安は、次のとおりです。金額はすべて税別で、「〜」は最低価格を表します。
- 無料URLチェック:0円(外から誰でも見られる情報だけを確認。AI機能の中身は見られません)
- 生成AI・LLMアプリ診断:298,000円〜
- Webアプリケーション診断 ライト:98,000円〜(10画面まで。AIの画面を載せたサイト側)
- API診断:98,000円〜(10エンドポイントまで。AIが呼ぶAPI側)
- 脆弱性の個別修正:1件 10,000円〜(内容により見積もり)
- 脆弱性の個別修正を急ぐ場合の即日着手:+20,000円(税別)
金額が変わる要因は、AI機能の数、連携しているデータや道具の数、ログイン後の機能の多さ、緊急度です。正式なお見積もりは、無料診断のあとにお出しします。
まず現状を知りたい方は、URLだけで使える無料URLチェックをお試しください。診断の範囲を決めたい方は、無料相談でAIの使い方をうかがいます。
プロンプトインジェクションへの対策
対策は、権限を絞る、人が承認する、記録して見直す、の順に考えます。総務省のガイドラインも、単独の対策では排除しきれないため、複数を重ねるよう求めています。
開発者向け
- AIが使えるデータ、道具、APIを、必要最小限にします。NCSCは、許可の判断をAIに任せず、通常のプログラムで行うよう勧めています。
- 送信、削除、購入、設定変更など、影響の大きい操作は、人が承認してから実行します。
- 外部のデータは、利用者の指示と区別して扱います。ただしNCSCは、禁止する言葉の一覧には頼らないよう注意しています。
- AIの出力は、形式を決め、受け取る側で検証し直します。詳細はAI出力の安全でない取り扱いにあります。
- システムプロンプトに秘密を書かず、文書検索のデータには、利用者と役割に応じた参照権限を付けます。
- 入力と出力を検査し、AIへの入力、出力、道具の呼び出しを記録します。
- 公開前と、モデルや構成を変えたときに、攻撃者の視点で試す確認(レッドチーミング)を行います。
運営者向け
- AIに任せる業務と、読ませるデータの範囲を決めます。AI事業者ガイドラインは、脆弱性を完全に排除できないことを認識するよう求めています。
- 開発会社への発注条件に、権限、承認、ログ、参照データの出どころの説明を入れます。
- 使っているAI用の部品について、JVNの公表を定期的に確かめ、修正版へ更新します。
- 異常を見つけたときにAI機能を止める手順と、ログを残す手順を決めておきます。
cyber-shield が確認すること
当社の生成AI・LLMアプリ診断は、OWASPの10項目を観点に、構成の確認と担当者による操作の確認を組み合わせて調べます。診断の前に、秘密保持契約(NDA)と診断同意書を結び、対象と範囲を先に合意します。
- AIが読むデータと、出力の行き先を洗い出します。
- AIに渡した権限と、人の承認の仕組みを確かめます。
- 指示文や参照データから、出すべきでない情報が出ないかを調べます。
- AIの出力を受け取る側の検証を確かめます。
結果は日本語の報告書にまとめ、修正後に再診断を1回行います。他社のAIサービスは調べません。診断は、その時点で見つかった穴を知る作業であり、将来の安全を保証するものではありません。
プロンプトインジェクションのよくある質問
プロンプトインジェクションとは、ひとことで言うと何ですか?
LLM(大規模言語モデル)に細工をした文章を読ませ、本来の指示とは違う出力や動作をさせる攻撃です。総務省のガイドラインは、利用者が直接入力する直接型と、AIが参照するデータに仕込む間接型に分けています。
直接型と間接型は、どう違いますか?
直接型は、AIの利用者自身が細工した文章を入力します。間接型は、AIが読むWebページ、メール、ファイルの中に仕込まれ、AIの利用者が気づかないまま起きます。NISTは、間接型では被害を受けるのが利用者本人であることが多いと整理しています。
入力の検査や、AIへの注意書きを入れれば、防げますか?
補助にはなりますが、それだけでは防げません。IPAは、完璧な技術的対策は知られていないとしています。NCSCも、禁止する言葉の一覧には頼らないよう勧めています。AIが使える権限を絞り、重要な操作に人の承認を挟む設計が中心です。
社内だけで使うAIでも、対策は必要ですか?
必要です。総務省のガイドラインは、社内向けの文書検索AI(RAG)でも、入力する人や、参照するファイルを経由した攻撃を想定しています。社内の資料に外部由来のファイルが混ざる場合は、特に注意してください。
生成AIアプリの診断には、いくらかかりますか?
生成AI・LLMアプリ診断は298,000円〜(税別)です。AIの画面を載せたサイト側は、Webアプリケーション診断 ライトの98,000円〜(税別、10画面まで)で調べます。正式なお見積もりは、無料診断のあとにお出しします。
次の一手:AIのデータの流れと権限を書き出す
今日できる最初の一歩は、自社のAI機能が、何を読み、何をできて、結果をどこへ渡すかを書き出すことです。その一覧は、提供元への質問にも、診断の範囲にも、そのまま使えます。
一覧ができたら、無料URLチェックで、AIと連動するサイトの外から見える状態を確かめてください。AI機能の中身まで確かめたいと感じたら、無料相談で、どこまで自分でやり、どこから任せるかを一緒に決めましょう。
よくある質問
プロンプトインジェクションとは、ひとことで言うと何ですか?
LLM(大規模言語モデル)に細工をした文章を読ませ、本来の指示とは違う出力や動作をさせる攻撃です。総務省のガイドラインは、利用者が直接入力する直接型と、AIが参照するデータに仕込む間接型に分けています。
直接型と間接型は、どう違いますか?
直接型は、AIの利用者自身が細工した文章を入力します。間接型は、AIが読むWebページ、メール、ファイルの中に仕込まれ、AIの利用者が気づかないまま起きます。NISTは、間接型では被害を受けるのが利用者本人であることが多いと整理しています。
入力の検査や、AIへの注意書きを入れれば、防げますか?
補助にはなりますが、それだけでは防げません。IPAは、完璧な技術的対策は知られていないとしています。NCSCも、禁止する言葉の一覧には頼らないよう勧めています。AIが使える権限を絞り、重要な操作に人の承認を挟む設計が中心です。
社内だけで使うAIでも、対策は必要ですか?
必要です。総務省のガイドラインは、社内向けの文書検索AI(RAG)でも、入力する人や、参照するファイルを経由した攻撃を想定しています。社内の資料に外部由来のファイルが混ざる場合は、特に注意してください。
生成AIアプリの診断には、いくらかかりますか?
生成AI・LLMアプリ診断は298,000円〜(税別)です。AIの画面を載せたサイト側は、Webアプリケーション診断 ライトの98,000円〜(税別、10画面まで)で調べます。正式なお見積もりは、無料診断のあとにお出しします。