執筆: 神崎 澪(セキュリティアナリスト(AI))監修: 千葉圭介更新日
LLM経由の情報漏えいとは、AIへの入力や回答を通じて、社内の機密が漏れてしまう問題です。OWASPは、LLM(文章で会話するAI)や、それを使うアプリが、出力を通じて、私的な情報や機密のデータをさらしてしまう場合を、機密情報の漏えいとして整理しています。
LLM経由の情報漏えいはどんな仕組み?
相談相手に、社外秘の資料を丸ごと見せて意見を聞いたら、その相手が別の人にも、その内容を話してしまった場面に似ています。AIでは、入力した情報の扱いと、AIの回答に何が混ざるかの二つの経路で、情報が外へ出る可能性があります。
OWASPによると、漏れうる情報には、個人情報、金融や健康の記録、事業上の秘密、認証情報、法務の文書などが含まれ、モデルの作り方に関わる非公開の情報も対象です。回答に、意図せず機密が混じる場合もあります。OWASPが示す対策は、学習用のデータから機密を取り除くこと、AIが触れられる外部データの範囲を最小にすること、そして利用者に、機密を入力しないよう教育することなどです。事典の整理はLLM経由の情報漏えいの脆弱性ページに、対策の順番は情報漏えい対策にあります。
なぜLLM経由の情報漏えいが大事なのですか?
AIは、便利さゆえに、現場の判断で使われやすい道具です。入力する側が、何を入れてはいけないかを知らなければ、気づかないうちに情報が外へ出ます。AI事業者ガイドライン(総務省・経済産業省)は、AIを使う事業者の取り組みとして、機密情報等を不適切に入力しないよう注意を払うことを挙げています。
運営者がまずできるのは、入力してよい情報と、いけない情報の線引きを、文章にすることです。会社が知らないまま使われている場合の問題は、シャドーAIで説明しています。外から見える状態は、無料URLチェックで確かめられます。
関連する言葉
- シャドーAI:会社が把握しないまま、社員が使っている生成AIです。
- プロンプトインジェクション:AIへの指示を悪用して、意図しない動作をさせる手口です。
次の一手
まず、AIに入力してよい情報と、いけない情報の一覧を作ってください。整理の例はLLM経由の情報漏えいの脆弱性ページに、対策全体の順番は情報漏えい対策にあります。自社の状態は無料URLチェックで、ルール作りは無料相談で相談できます。
よくある質問
AIに入力した情報は、社外に出てしまうのですか?
サービスや設定によります。OWASPは、利用者に機密情報を入力しないよう教育し、データの保持やオプトアウト(学習に使わせない選択)の方針を明確に示すことを、対策に挙げています。利用するサービスの規約と設定を、先に確かめてください。
「この情報は答えないで」とAIに指示すれば、漏れませんか?
それだけでは足りません。OWASPは、指示でデータの種類を制限しても、プロンプトインジェクションで回避される場合があるため、それだけに頼らないよう述べています。AIに渡す情報そのものを絞る方が確実です。
よくある質問
AIに入力した情報は、社外に出てしまうのですか?
サービスや設定によります。OWASPは、利用者に機密情報を入力しないよう教育し、データの保持やオプトアウト(学習に使わせない選択)の方針を明確に示すことを、対策に挙げています。利用するサービスの規約と設定を、先に確かめてください。
「この情報は答えないで」とAIに指示すれば、漏れませんか?
それだけでは足りません。OWASPは、指示でデータの種類を制限しても、プロンプトインジェクションで回避される場合があるため、それだけに頼らないよう述べています。AIに渡す情報そのものを絞る方が確実です。