AIエージェントとは

AIエージェントとは、目標に向けて自分で判断し、作業を進めてくれるAIです。AI事業者ガイドラインとOWASPの資料をもとに、従来のチャット型との違いと、任せる操作の範囲を決める大切さを、初めての方にも分かる言葉で、順を追って説明します。

執筆: 神崎 澪(セキュリティアナリスト(AI))監修: 千葉圭介更新日

AIエージェントとは、目標に向けて自分で判断し、作業を進めてくれるAIです。AI事業者ガイドライン(総務省・経済産業省)は、特定の目標を達成するために、環境を感知して自律的に行動するAIシステムと定義しています。

AIエージェントはどんな仕組み?

「来週の出張の予約を取っておいて」と頼まれた秘書が、空いている日を調べ、候補を選び、予約まで進める場面に近い働きです。質問に答えるだけでなく、手順を自分で組み立てて、実際に動きます。

同じガイドラインは、国際規格のISO/IEC 22989:2022にある定義も参考として示しています。自動化された主体で、環境を感知して応答し、自らの目標を達成するために行動を取るもの、という内容です。注記には、AIエージェントより広く進んだ概念として、複数のAIエージェントが自律的に意思決定して動く、目標主導型のシステムをエージェンティックAIと呼ぶ、とあります。

多くのAIエージェントは、文章で会話するAIであるLLMを頭脳に使います。任せる操作の危険は、AIエージェントの過剰な権限の脆弱性ページにまとめました。

なぜAIエージェントが大事なのですか?

答えるだけのAIは、間違えても、人が読んで気づけます。エージェントは、メールの送信や予約など、現実の操作まで進めるため、間違いや乗っ取りの影響が、そのまま実害になります。

OWASPは、LLMを使ったシステムが、予想外の、あるいは操作された出力を受けて、被害を生む操作をする弱点を、過剰な権限として整理しています。原因は、不要な機能、必要以上の権限、確認なしの自律的な実行の三つです。

そのため、エージェントには、仕事に必要な機能と権限だけを渡し、影響の大きい操作には人の承認を挟みます。考え方は最小権限と同じです。権限の問題はAIエージェントの過剰な権限の用語ページにも説明があります。外から見える状態は無料URLチェックで確かめられます。

関連する言葉

次の一手

AIエージェントを導入する前に、AIが実行できる操作を、一覧にしてください。そのうえで、人の承認が要る操作を決めます。危険の整理はAIエージェントの過剰な権限の脆弱性ページにあります。自社サイトの状態は無料URLチェックで、導入の進め方は無料相談で相談できます。

よくある質問

AIエージェントと、チャット型のAIは何が違いますか?

AI事業者ガイドラインは、AIエージェントを、目標を達成するために環境を感知して自律的に行動するAIシステムと定義しています。質問に答えるだけでなく、目標に向けて自分で動く点が違いです。

自律的とは、人が何もしなくてよいという意味ですか?

そうではありません。同ガイドラインは、自律について、高度な自律状態だけでなく、ある程度の自律性を持つものも含むと注記しています。どこまで任せるかは、人が決めます。

よくある質問

AIエージェントと、チャット型のAIは何が違いますか?

AI事業者ガイドラインは、AIエージェントを、目標を達成するために環境を感知して自律的に行動するAIシステムと定義しています。質問に答えるだけでなく、目標に向けて自分で動く点が違いです。

自律的とは、人が何もしなくてよいという意味ですか?

そうではありません。同ガイドラインは、自律について、高度な自律状態だけでなく、ある程度の自律性を持つものも含むと注記しています。どこまで任せるかは、人が決めます。

外から見える穴を、今日のうちに確かめませんか

無料のURLチェックは数十秒で結果が出ます。費用の見当や進め方は、無料相談でご説明します。