執筆: 神崎 澪(セキュリティアナリスト(AI))監修: 千葉圭介更新日
RAG(検索拡張生成)とは、社内資料を検索してAIの回答に使う仕組みです。OWASPは、学習済みの言語モデルに、外部の知識源を組み合わせる調整の技法で、ベクトル(文章の特徴を表す数値)の仕組みを使うと説明しています。
RAGはどんな仕組み?
試験に、参考資料の持ち込みが許されている場面に似ています。質問を受けると、まず資料の棚から関連する箇所を探し、それを手元に置いてから答えを書きます。AIの記憶だけに頼るより、根拠のある答えを出しやすくなります。
OWASPによると、目的は、質問のときに外部の情報を与えて、LLM(文章で会話するAI)を使うアプリの回答の質と、文脈への合致を高めることです。AI事業者ガイドライン(総務省・経済産業省)は、AIが答えを導く推論のとき、RAGなどで外部の知識を補った情報を使うと説明しています。
便利な一方で、参考にする資料の置き場所が、新しい弱点になります。OWASPは、権限の確認が弱いと情報が漏れる危険や、複数の利用者が同じ保管場所を共有するときの混ざりを挙げています。資料が汚される問題は、データポイズニングにも関わります。
AIを組み込む機能の確認は、AI・LLM診断で扱います。資料が汚される危険の整理はデータポイズニングの脆弱性ページにあります。
なぜRAGが大事なのですか?
社内の規定や製品の資料をAIに読ませる機能は、問い合わせ対応などで広がっています。そのとき、AIが読める資料の範囲を、人の権限と合わせておかないと、見せてはいけない資料が、回答に出てしまいます。
OWASPが示す対策は、権限を細かく確かめる設計にして、データの置き場所を論理的に分けることです。資料の取り込みの流れを確かめ、出どころを認証し、汚れや隠された内容がないか点検することも挙げています。取り出しの記録を残す点も、対策に含まれます。
また、AI事業者ガイドラインは、RAGで回答が似たものに収束しやすくなる可能性があり、多様さや独創性が要る業務には向かない場合もあると注記しています。使う場面を選ぶ必要があります。外から見える状態は無料URLチェックで確かめられます。
関連する言葉
次の一手
AIに読ませる資料を一覧にして、見てよい人の範囲と、書き換えられる人を決めてください。整理はデータポイズニングの脆弱性ページに、機能の点検はAI・LLM診断にあります。外から見える状態は無料URLチェックで、設計の相談は無料相談で受け付けています。
よくある質問
RAGを使えば、AIの誤りはなくなりますか?
なくなるとは言えません。AI事業者ガイドラインは、RAGの活用などで、ハルシネーションの抑制や根拠の透明性向上が期待されるとしています。参考資料が誤っていれば、答えも誤ります。
RAGで、社内の秘密が漏れることはありますか?
あります。OWASPは、アクセス制御が弱いと、AIが個人情報や機密を取り出して答えてしまう危険を挙げています。資料ごとに、見てよい人の範囲を分ける設計が必要です。
よくある質問
RAGを使えば、AIの誤りはなくなりますか?
なくなるとは言えません。AI事業者ガイドラインは、RAGの活用などで、ハルシネーションの抑制や根拠の透明性向上が期待されるとしています。参考資料が誤っていれば、答えも誤ります。
RAGで、社内の秘密が漏れることはありますか?
あります。OWASPは、アクセス制御が弱いと、AIが個人情報や機密を取り出して答えてしまう危険を挙げています。資料ごとに、見てよい人の範囲を分ける設計が必要です。