執筆: 神崎 澪(セキュリティアナリスト(AI))監修: 千葉圭介更新日
AIガバナンス(AI governance)とは、AIを安全に使うための、社内のルールと責任の体制です。総務省と経済産業省の「AI事業者ガイドライン」は、AIのリスクを関係者にとって受け入れられる水準で管理するための仕組みとして、その構築を位置づけています。同時に、AIから得られる便益を大きくすることも、目的に挙げています。
AIガバナンスはどんな仕組み?
会社の車の使い方に、運転できる人、使ってよい用途、事故のときの連絡先を決めておく場面にたとえられます。AIでも、使う範囲と責任者を決めておくと、判断のたびに迷わずに済みます。AI事業者ガイドラインは、その進め方を五つの段階で示しています。
最初に、AIがもたらす便益とリスクを分析します。次に、自社の方針(AIポリシーなど)を決め、それを守るための体制と手順を作って運用します。さらに、リスクの評価を含めて、運用が機能しているかを継続して確かめ、制度や技術などの外部環境が変わったときは、最初の分析からやり直します。AIを組み込んだ自社サイトを公開している場合、その入口の状態は無料URLチェックで外から確かめられます。
なぜAIガバナンスが大事なのですか?
AIを使う社員が増えても、使い方の決まりがないと、誰がどの情報を入力しているのかを会社が把握できません。決まりを作る負担は小さくありませんが、AI事業者ガイドラインは、これを単なる費用ではなく、会社の持続的な成長に向けた先行投資として捉えるよう求めています。経営層の責任が大きいことも、同じガイドラインに書かれています。
NISTのAIリスク管理フレームワーク(AI RMF 1.0)は、任意に使うことを想定した枠組みです。中核は、GOVERN、MAP、MEASURE、MANAGEの四つの機能です。AI RMF 1.0の文書は、GOVERNがAIのリスク管理の全段階に当てはまり、ほかの三つはAIシステムごとの場面や段階に当てはめられると説明しています。中小企業では、この種の指針を参考にしながら、自社の規模に合う範囲から始めてください。
関連する言葉
- シャドーAI:会社が把握していないところで、社員が使うAIサービスです。
- AIガードレール:AIの入力や出力に安全のための制限をかける仕組みです。
- AI事業者ガイドライン:国が示した、AIを開発・利用する事業者向けの指針です。
- AIレッドチーミング:攻撃者の立場でAIの弱点を探す、事前の点検です。
次の一手
まず、社内で使われているAIサービスを書き出し、入力してはいけない情報を一覧にしてください。公開サイトの状態は無料URLチェックで外から確かめられ、AIの利用ルールの整え方は無料相談でも受け付けています。
よくある質問
AIガバナンスは、大企業だけが必要なものですか?
AI事業者ガイドラインは、具体的な検討にあたって、各主体の資源の制約に配慮することが重要だと述べています。社員がAIを業務で使う会社であれば、規模にかかわらず、使ってよい範囲を決めるところから始められます。
AIガバナンスのルールは、一度決めれば終わりですか?
終わりではありません。AI事業者ガイドラインは、環境の分析、目標の設定、運用、評価を何度も回す考え方を示し、運用を始めた後も、制度などの外部環境が変わったときは分析からやり直すとしています。
よくある質問
AIガバナンスは、大企業だけが必要なものですか?
AI事業者ガイドラインは、具体的な検討にあたって、各主体の資源の制約に配慮することが重要だと述べています。社員がAIを業務で使う会社であれば、規模にかかわらず、使ってよい範囲を決めるところから始められます。
AIガバナンスのルールは、一度決めれば終わりですか?
終わりではありません。AI事業者ガイドラインは、環境の分析、目標の設定、運用、評価を何度も回す考え方を示し、運用を始めた後も、制度などの外部環境が変わったときは分析からやり直すとしています。