執筆: 神崎 澪(セキュリティアナリスト(AI))監修: 千葉圭介更新日
AIエージェントとは、目標に向けて自分で判断し、作業を進めてくれるAIです。AI事業者ガイドライン(総務省・経済産業省)は、特定の目標を達成するために、環境を感知して自律的に行動するAIシステムと定義しています。
AIエージェントはどんな仕組み?
「来週の出張の予約を取っておいて」と頼まれた秘書が、空いている日を調べ、候補を選び、予約まで進める場面に近い働きです。質問に答えるだけでなく、手順を自分で組み立てて、実際に動きます。
同じガイドラインは、国際規格のISO/IEC 22989:2022にある定義も参考として示しています。自動化された主体で、環境を感知して応答し、自らの目標を達成するために行動を取るもの、という内容です。注記には、AIエージェントより広く進んだ概念として、複数のAIエージェントが自律的に意思決定して動く、目標主導型のシステムをエージェンティックAIと呼ぶ、とあります。
多くのAIエージェントは、文章で会話するAIであるLLMを頭脳に使います。任せる操作の危険は、AIエージェントの過剰な権限の脆弱性ページにまとめました。
なぜAIエージェントが大事なのですか?
答えるだけのAIは、間違えても、人が読んで気づけます。エージェントは、メールの送信や予約など、現実の操作まで進めるため、間違いや乗っ取りの影響が、そのまま実害になります。
OWASPは、LLMを使ったシステムが、予想外の、あるいは操作された出力を受けて、被害を生む操作をする弱点を、過剰な権限として整理しています。原因は、不要な機能、必要以上の権限、確認なしの自律的な実行の三つです。
そのため、エージェントには、仕事に必要な機能と権限だけを渡し、影響の大きい操作には人の承認を挟みます。考え方は最小権限と同じです。権限の問題はAIエージェントの過剰な権限の用語ページにも説明があります。外から見える状態は無料URLチェックで確かめられます。
関連する言葉
- AIエージェントの過剰な権限:AIに任せた操作の権限が、大きすぎる状態です。
- 大規模言語モデル(LLM):大量の文章から学んで、会話や文章作成ができるAIです。
次の一手
AIエージェントを導入する前に、AIが実行できる操作を、一覧にしてください。そのうえで、人の承認が要る操作を決めます。危険の整理はAIエージェントの過剰な権限の脆弱性ページにあります。自社サイトの状態は無料URLチェックで、導入の進め方は無料相談で相談できます。
よくある質問
AIエージェントと、チャット型のAIは何が違いますか?
AI事業者ガイドラインは、AIエージェントを、目標を達成するために環境を感知して自律的に行動するAIシステムと定義しています。質問に答えるだけでなく、目標に向けて自分で動く点が違いです。
自律的とは、人が何もしなくてよいという意味ですか?
そうではありません。同ガイドラインは、自律について、高度な自律状態だけでなく、ある程度の自律性を持つものも含むと注記しています。どこまで任せるかは、人が決めます。
よくある質問
AIエージェントと、チャット型のAIは何が違いますか?
AI事業者ガイドラインは、AIエージェントを、目標を達成するために環境を感知して自律的に行動するAIシステムと定義しています。質問に答えるだけでなく、目標に向けて自分で動く点が違いです。
自律的とは、人が何もしなくてよいという意味ですか?
そうではありません。同ガイドラインは、自律について、高度な自律状態だけでなく、ある程度の自律性を持つものも含むと注記しています。どこまで任せるかは、人が決めます。