執筆: 神崎 澪(セキュリティアナリスト(AI))監修: 千葉圭介更新日
AIエージェントの過剰な権限(OWASPの用語では Excessive Agency)とは、AIに任せた道具、権限、自動実行の範囲が、仕事に必要な範囲を超えている状態です。AIにメールやファイル、社内システム、クラウドを操作させている会社と、コーディング支援のAIエージェントを使う開発チームが対象になります。まずは、AIに使わせている道具を一覧にして、読むだけで足りる道具に、書き込みや削除の権限が付いていないかを確かめてください。
AIの判断は、誤りや曖昧な依頼、外から届く文章で揺れることがあります。揺れても被害が出ないように、任せる範囲を設計の側で決めておくのが、この問題への備えです。このページでは、仕組み、公表された事例、自分で確かめる手順、直し方を順に説明します。
要注意:次に当てはまる使い方は確認を
次のうち一つでも当てはまるなら、AIに任せている範囲を見直す価値があります。試しに入れた道具が、そのまま本番につながっていないかも、あわせて見てください。
- 文書の検索やメールの要約など「読むだけ」のつもりの道具に、書き込み、削除、送信の機能も付いたままです。
- AIが使う道具が、全員分のデータに届く共用の管理者アカウントで動いています。
- 使っていない拡張機能や、試しに入れたMCPサーバーが、つなぎっぱなしになっています。
- AIがメールやWebページなど外から届く文章を読み、同じAIが送信や削除の操作もできます。
- メールの送信、ファイルの削除、支払いなどを、人の確認なしで実行できます。
- 本番のデータベースやクラウドの管理権限を、AIエージェントにそのまま渡しています。
- AIへの指示文に「危ない操作はしないで」と書いていますが、システム側には制限がありません。
AI事業者ガイドライン(総務省・経済産業省)は、AIエージェントを、環境を感知して自律的に行動するAIシステムと定義しています。IPAの「情報セキュリティ10大脅威 2026」でも、AIの利用をめぐるリスクが組織向けの3位に初めて入りました。
なぜ、AIに任せる範囲が広いと被害が大きくなるのか?
エージェントは、AIの答えをもとに道具を呼び出し、その結果を次の入力に戻して動き続ける仕組みです。NIST(米国標準技術研究所)は、道具にWebの閲覧やコードの実行があると説明しています。攻撃を受けると、任意のコードの実行や、環境からのデータの持ち出しにつながりうるとも書いています。
OWASPは、予想外の出力、曖昧な出力、細工された出力のどれに対しても、AIが有害な操作をしてしまう弱点を Excessive Agency と呼んでいます。きっかけは、AIの思い違い(ハルシネーション)でも、プロンプトインジェクションでも、拡張機能の乗っ取りでもかまいません。影響は、AIがつながる先の範囲で決まります。
OWASPは、範囲が広がる原因を三つに分けています。図の1から3に当たります。
機能が多すぎる
AIに渡した道具が、必要以上の機能を持っている状態です。OWASPは、読み取り専用のはずの文書の道具に、変更や削除の機能も付いている例を挙げています。使わなくなったのに外していない拡張機能や、実行する命令を絞っていない道具も、同じ問題です。
権限が広すぎる
道具が、つながる先のシステムで、必要以上の権限を持っている状態です。読むだけの道具が、書き込みと削除もできるアカウントで接続している例を、OWASPは挙げています。利用者ごとの処理なのに、全員分のデータに届く共用の高い権限のアカウントを使う例も同じです。
この点は、IAM権限の過剰付与と同じ考え方です。MITREのCWEでは、必要以上の権限で動かす弱点がCWE-250、権限の扱いの不備がCWE-269にあたります。
自動で動きすぎる
影響の大きい操作を、人の確認や、システム側の検証なしに実行できる状態です。OWASPは、確認を求めずにファイルを削除する道具の例を挙げています。
文章で頼むだけでは、足りない理由
英国のNCSCは、LLMには命令とデータを分ける確かな境目がないと指摘します。プロンプトインジェクションは、完全には解消しない可能性があるそうです。そのため、AIに頼らない仕組みで操作を制約し、道具とAPIへのアクセスを絞るよう勧めています。外から届く文章を処理するときは、AIの権限を、その文章の送り主と同じ程度まで下げるのが考え方です。
ただし、AIエージェント特有の脅威と対策は、まだ定まっていません。総務省のガイドライン(2026年3月)は、技術が急速に発展している途上にあるとして、AIエージェントを対象から外しています。NISTも、エージェントに絞った研究は初期の段階だと書いています。
公表された事例には、何があるのか?
ここで扱うのは、NVD(米国の脆弱性データベース)と、規格の公式ページで確認できる情報だけです。公開された記述に無い原因や被害は、書きません。
MCPのFilesystemサーバーの脆弱性(CVE-2025-53109、CVE-2025-53110)
NVDには、2025年7月2日に、MCPの参考実装の一つ「Filesystem」サーバーの脆弱性が登録されました。旧版は、許可したディレクトリの中のシンボリックリンクや、名前の前半が一致するディレクトリを経由して、意図しないファイルに届く場合があったと書かれています。修正版への更新が案内されています。
AIが使う道具の「許可する範囲」は、道具のコードが守るものです。そこに穴があると、設定した範囲が崩れます。道具の更新と、許可範囲の確認が必要な理由が分かる例です。
MCPの公式仕様が求めていること
MCPの仕様(2025-06-18版)は、ツールは任意のコード実行に当たり、注意して扱うべきだと書いています。ホストは、ツールを呼び出す前に、利用者の明示的な同意を得るものとされます。一方で、規格そのものは、これらの原則をプロトコルの層で強制できないと明記しています。守る仕組みは、使う側の製品や運用で作る必要があります。
AIに任せている範囲を、自分で確かめるには?
専門知識がなくても、次の手順で現状をつかめます。変更の前に、まず見るだけで一覧にしてください。
AIが使える道具を洗い出す
- AIを使っているツールを数えます。 チャットボット、コーディング支援、業務の自動化、メールやカレンダーとの連携、MCPサーバーや拡張機能が対象です。
- 各道具の「できること」を読みます。 読み取りだけか、書き込み、削除、送信、実行もできるかを、道具ごとに書き出します。
- 道具が裏で使うアカウントと鍵の権限を見ます。 管理者権限か、全員分のデータに届くかを確かめます。クラウドの画面での見方は、IAM権限の過剰付与のページにまとめています。
- 人の承認が要る操作と、自動で動く操作を分けます。 削除、送信、公開、支払いが、どちらに入っているかを見ます。
- 呼び出しの記録を探します。 AIがどの道具を、いつ、何のために呼んだかが、あとから追えるかを確かめます。
具体的な画面と設定
- Claude Codeでは、
/permissionsで、許可のルールの一覧と、各ルールの出どころの設定ファイルを開けます。公式文書によると、ルールは拒否、確認、許可の順に評価され、最初に当てはまったものが結果になります。 - MCPのFilesystemサーバーでは、許可しているディレクトリの一覧と、使っている版を確かめます。
- クラウドでは、AIが使うサービスアカウントやロールに付いた権限を、IAMの画面で見ます。
- MCPサーバーを一覧にして、出どころ、つながっている先、許可している範囲を並べます。公式の仕様は、ツールの説明文が、信頼できるサーバーから得たものでない限り、信頼してはいけないとしています。
安全に試す
本番ではなく、テスト用の環境とアカウントで確かめます。たとえば、読み取り専用のはずのAIに、テスト用のデータの削除を頼み、システム側の権限で拒否されるかを見ます。AIが断るかどうかではなく、システムが止めるかどうかが、見るべき点です。
外から届く文章を読むAIは、読んだ直後に、送信や削除を確認なしで実行しないかを、テスト環境で確かめます。結果の読み方や、直す順番に迷うときは、無料URLチェックで外から見える状態を確かめたうえで、無料相談で状況をお聞かせください。
AIに任せる範囲を絞る対策
対策は、AIの仕組みを作る側(開発者・システム管理者)と、AIを業務に入れる側(経営者・運営者)で分かれます。OWASPは、記録と回数の制限は被害を小さくする手段で、弱点そのものを防ぐものではないと整理しています。
開発者・システム管理者向け
- 渡す道具を、必要なものだけにします。使わなくなった拡張機能は外します。
- 道具の機能も絞ります。OWASPは、シェルの実行やURLの取得のような何でもできる道具より、目的を絞った道具を勧めています。
- 権限は、道具がつながる先の側で絞ります。読むだけなら、読み取り専用のアカウントで接続します。可能なら、使う本人の権限と範囲で動かします。
- 影響の大きい操作は、人が承認します。AI事業者ガイドラインは、承認する人が、理由や根拠を自分で考えてから承認するよう求めています。
- 認可は、業務システム側で要求のたびに確かめます。AIの判断を、そのまま信用しません。
- MCPを使う場合は、ツールの呼び出し前の利用者の同意を実装し、スコープは最小から始めます。ローカルのサーバーは、最小の権限の環境で動かします。
経営者・運営者向け
- AIに任せる業務の範囲を、文書で決めます。最初は、読むだけの仕事から始めます。
- 管理者権限や本番の鍵を、AIに渡しません。AI専用のアカウントを作り、権限の期間を決めます。
- 取り消しにくい操作(送金、削除、公開、一斉送信)は、人の最終確認を必須にします。
- 導入の前に、バックアップと、元に戻す手順を確かめます。
- 入れるAIツール、拡張機能、MCPサーバーの出どころと、更新の状況を確認します。見直しの日付も決めてください。
自分でできる範囲と、専門家に頼む境目
自分でできるのは、道具と権限の一覧づくり、使っていない道具の撤去、承認が必要な操作の線引き、テスト環境での簡単な試しです。ここまでで、手の届く範囲の穴は減ります。専門家に頼む目安は、次のいずれかに当てはまる場合です。
- AIが、本番のデータベース、クラウド、決済のいずれかに触れます。
- AIを、顧客や全社員が使えるように公開します。
- AIが外から届く文章を読み、送信や削除などの操作もできます。
- 複数のAIや道具をつなげて、自動で動かしています。
無料URLチェック(0円)は、外から見える情報だけを確認します。AIが使える道具と権限は外から見えないため、無料URLチェックでは分かりません。
費用の目安は、次のとおりです(すべて税別)。生成AI・LLMアプリ診断は298,000円〜で、報告書が付きます。金額は、診断する機能の数、AIがつながる先の数、参照するデータの種類と量、緊急度で変わります。
見つかった穴の対応は、脆弱性の個別修正が1件 10,000円〜(税別)で、修正後の再診断は1回無料です。AI用のアカウントがクラウド上にある場合は、権限そのものを調べるクラウド設定診断(98,000円〜、1アカウント)も選べます。正式なお見積もりは、無料診断のあとにお出しします。
まず現状を知りたい方は、無料URLチェックをお使いください。判断に迷う場合は、無料相談で状況をうかがいます。
cyber-shield が確認すること
当社の生成AI・LLMアプリ診断では、AIの答えは毎回変わるため、担当者がテスト用の状況を作って結果を読みます。過剰な権限に関しては、次の点を確かめます。
- AIが使える道具の一覧と、それぞれの機能の広さを確かめます。
- 道具が裏で使うアカウントと鍵の権限を調べ、読み取りで足りる所に書き込みや削除が付いていないかを見ます。
- 影響の大きい操作が、人の承認やシステム側の検証で止まるように作られているかを確かめます。
- 外から届く文章を読むAIが、情報や操作を外へ届ける道具を同時に持っていないかを調べます。
診断の対象は、お客様が管理するアプリと設定の範囲です。AIの提供元が運営する基盤そのものへの検査は含みません。診断は安全を保証するものではなく、見つかった穴を減らすための作業です。
よくある質問
AIエージェントは、普通のチャットボットと何が違いますか?
AI事業者ガイドラインは、AIエージェントを、環境を感知して自律的に行動するAIシステムと定義しています。NISTは、モデルの出力から関数を選んで呼び出し、その結果をモデルに戻す仕組みだと説明しています。文章を返すだけなら、誤りは読む人の判断で止まります。道具を使えるエージェントは、誤りがそのまま操作になります。
AIへの指示文に「危ない操作はしないで」と書けば防げますか?
防げません。英国のNCSCは、プロンプトインジェクションが完全には解消しない可能性を指摘し、AIに頼らない仕組みで操作を制約するよう勧めています。Claude Codeの公式文書も、許可のルールはモデルではなくアプリが強制し、プロンプトの指示は許可を変えないと説明しています。
操作の前に人が承認する仕組みがあれば、十分ですか?
十分とは限りません。OWASPは、影響の大きい操作に人の承認を挙げています。AI事業者ガイドラインは、AIの判断を人が承認するときは、承認する理由や根拠を人自身が考えてからにするよう求めています。承認の画面があるだけでは足りず、承認する人が中身を読む運用が要ります。
MCPを使うのは危険ですか?
MCPは、AIアプリが外部のデータや道具につながるための公開の規格です。公式の仕様は、ツールは任意のコード実行に当たると書き、ホストにはツールを呼ぶ前の利用者の同意を求めています。ただし、規格だけでは原則を強制できないと明記しています。接続するサーバーの出所、許可する範囲、更新を確かめてください。
AIに任せた範囲の確認にはいくらかかりますか?
無料URLチェック(0円)は外から見える情報だけを確認するため、AIが使える道具と権限は分かりません。生成AI・LLMアプリ診断は298,000円〜(税別)で、診断する機能の数、AIがつながる先の数、参照するデータの種類と量で変わります。修正後の再診断は1回無料です。
次の一手
今日できる作業は、AIに使わせている道具を一覧にすることと、削除や送信などの取り消しにくい操作が、人の承認なしに動いていないかを確かめることです。この二つで、揺れた判断が被害になる余地は小さくなります。AIに任せた範囲を第三者の目で確かめたい場合は、無料URLチェックで外から見える状態を確かめ、無料相談で診断の範囲を決めましょう。
よくある質問
AIエージェントは、普通のチャットボットと何が違いますか?
AI事業者ガイドラインは、AIエージェントを、環境を感知して自律的に行動するAIシステムと定義しています。NISTは、モデルの出力から関数を選んで呼び出し、その結果をモデルに戻す仕組みだと説明しています。文章を返すだけなら、誤りは読む人の判断で止まります。道具を使えるエージェントは、誤りがそのまま操作になります。
AIへの指示文に「危ない操作はしないで」と書けば防げますか?
防げません。英国のNCSCは、プロンプトインジェクションが完全には解消しない可能性を指摘し、AIに頼らない仕組みで操作を制約するよう勧めています。Claude Codeの公式文書も、許可のルールはモデルではなくアプリが強制し、プロンプトの指示は許可を変えないと説明しています。
操作の前に人が承認する仕組みがあれば、十分ですか?
十分とは限りません。OWASPは、影響の大きい操作に人の承認を挙げています。AI事業者ガイドラインは、AIの判断を人が承認するときは、承認する理由や根拠を人自身が考えてからにするよう求めています。承認の画面があるだけでは足りず、承認する人が中身を読む運用が要ります。
MCPを使うのは危険ですか?
MCPは、AIアプリが外部のデータや道具につながるための公開の規格です。公式の仕様は、ツールは任意のコード実行に当たると書き、ホストにはツールを呼ぶ前の利用者の同意を求めています。ただし、規格だけでは原則を強制できないと明記しています。接続するサーバーの出所、許可する範囲、更新を確かめてください。
AIに任せた範囲の確認にはいくらかかりますか?
無料URLチェック(0円)は外から見える情報だけを確認するため、AIが使える道具と権限は分かりません。生成AI・LLMアプリ診断は298,000円〜(税別)で、診断する機能の数、AIがつながる先の数、参照するデータの種類と量で変わります。修正後の再診断は1回無料です。