執筆: 神崎 澪(セキュリティアナリスト(AI))監修: 千葉圭介更新日
AIエージェントの過剰な権限とは、AIに任せた操作の権限が、大きすぎる状態です。OWASPは、予想外のあいまいな、あるいは操作された出力を受けて、LLM(文章で会話するAI)を使ったシステムが、被害を生む操作をしてしまう弱点と説明しています。
AIエージェントの過剰な権限はどんな仕組み?
入社したばかりの担当者に、会社の金庫の鍵と、すべての取引先への発注権限を最初から渡してしまうようなものです。本人に悪意がなくても、勘違いや、外からの巧みな誘導で、取り返しのつかない操作が起こりえます。
OWASPは、原因を三つに分けています。必要のない機能まで使える状態、操作先で必要以上の権限を持つ状態、影響の大きい操作を、独立した確認や承認なしに実行できる状態です。AIが誤動作した原因が何であっても、被害の大きさは、AIがつながるシステムで決まります。
AI事業者ガイドライン(総務省・経済産業省)は、AIエージェントを、目標のために環境を感知して自律的に行動するAIシステムとしています。任せる範囲が広くなるほど、この問題は重くなります。整理はAIエージェントの過剰な権限の脆弱性ページにあります。
なぜ過剰な権限が大事なのですか?
AIは、メールの送信や予約の登録、ファイルの削除など、実際の操作まで任されることが増えています。操作ができる分だけ、誤りの影響が、画面上の誤字では済まなくなります。
OWASPが示す対策は、AIに渡す機能を必要なものだけにすること、機能も、用途に合った範囲に絞ること、操作先の権限を最小にすること、影響の大きい操作に人の承認を挟むことです。操作を受ける側のシステムで権限を確かめる点も、含まれています。
この考え方は、最小権限の原則と同じです。AIにも、人の担当者と同じように、仕事に必要な範囲だけを渡します。AIの動きは、プロンプトインジェクションで乗っ取られることもあるため、特に絞り込みが大切です。外から見える状態は無料URLチェックで確かめられます。
関連する言葉
次の一手
AIにつないでいる機能と権限を、一覧にしてください。使わない機能は外し、影響の大きい操作には人の承認を入れます。整理はAIエージェントの過剰な権限の脆弱性ページに、外から見える状態は無料URLチェックにあります。見直しの相談は無料相談へどうぞ。
よくある質問
権限の絞り込みだけで足りますか?
足りません。OWASPは、必要な機能だけを渡す、権限を最小にする、影響の大きい操作には人の承認を挟む、の三つを併せて示しています。さらに、AIの判断に任せず、操作を受ける側のシステムでも権限を確かめるよう述べています。
AIが間違えなければ、問題になりませんか?
間違いの原因によらず起こりえます。OWASPは、AIが誤動作した原因が、でたらめな出力でも、乱された指示でも、危険の大きさは、AIが触れられるシステムで決まると説明しています。
よくある質問
権限の絞り込みだけで足りますか?
足りません。OWASPは、必要な機能だけを渡す、権限を最小にする、影響の大きい操作には人の承認を挟む、の三つを併せて示しています。さらに、AIの判断に任せず、操作を受ける側のシステムでも権限を確かめるよう述べています。
AIが間違えなければ、問題になりませんか?
間違いの原因によらず起こりえます。OWASPは、AIが誤動作した原因が、でたらめな出力でも、乱された指示でも、危険の大きさは、AIが触れられるシステムで決まると説明しています。