執筆: 神崎 澪(セキュリティアナリスト(AI))監修: 千葉圭介更新日
生成AIとは、文章や画像などを、新しく作り出してくれるAIです。AI事業者ガイドライン(総務省・経済産業省)は、予測や提案、決定にとどまらず、画像や文章などを生成するAIとして、生成AIが普及しつつあると述べています。
生成AIはどんな仕組み?
大量の見本を見て文章の書き方を覚えた下書き係に、「こういう案内文を書いて」と頼むと、自然な文章の案を出してくれる場面に似ています。下書き係は、見本の傾向から新しい文章を作ります。事実を調べて確かめているわけではない点が、人の担当者とは違います。
NISTの資料は、米国の大統領令による定義を引いて、生成AIを、入力データの構造や特徴をまねて、新しい合成コンテンツを作るAIの種類としています。画像、動画、音声、文章などが含まれます。
合成コンテンツには、本物と見分けにくい偽の映像や音声も含まれ、NISTは危険の一つとして整理しています。個別の話はディープフェイクに、文章型の中核技術はLLMにまとめました。AIを組み込む機能の点検はAI・LLM診断で扱います。
なぜ生成AIが大事なのですか?
便利な反面、扱いを決めずに使い始めると、情報の流出や誤りの混入が起きやすくなります。IPAの「情報セキュリティ10大脅威 2026」では、「AIの利用をめぐるサイバーリスク」が、組織向けの第3位に初めて入りました。
AI事業者ガイドラインは、生成AIによって、内容が真実のように装った情報を誰でも作れるようになり、偽情報や誤情報が社会を混乱させる危険が高まっていることを認識するよう求めています。出力の利用では、人の判断を介在させる対策も示されています。
会社として決めておきたいのは、入力してよい情報の範囲と、出力を確かめる担当です。社員が会社の知らないところで使う場合の問題はシャドーAIで説明しています。外から見える状態は無料URLチェックで確かめられます。
関連する言葉
- 大規模言語モデル(LLM):大量の文章から学んで、会話や文章作成ができるAIです。
- ハルシネーション:AIがもっともらしい嘘を答えてしまう現象です。
次の一手
社内で使われている生成AIを洗い出し、入力してよい情報と、出力の確認者を決めてください。確認の観点はAI・LLM診断に、自社サイトの外から見える状態は無料URLチェックにあります。ルール作りで迷う点は無料相談へどうぞ。
よくある質問
生成AIは、常に正しい答えを返しますか?
返しません。NISTは、自信ありげに述べられた誤った内容を、利用者が信じてしまうことが危険の一つと説明しています。重要な用途では、出力を人が確かめてから使います。
生成AIに、お客様の情報を入力してもよいですか?
入力の前に、取り扱いの方針を決めてください。AI事業者ガイドラインは、AIを利用する事業者が取り組む事項として、機密情報等を不適切に入力しないよう注意を払うことを挙げています。
よくある質問
生成AIは、常に正しい答えを返しますか?
返しません。NISTは、自信ありげに述べられた誤った内容を、利用者が信じてしまうことが危険の一つと説明しています。重要な用途では、出力を人が確かめてから使います。
生成AIに、お客様の情報を入力してもよいですか?
入力の前に、取り扱いの方針を決めてください。AI事業者ガイドラインは、AIを利用する事業者が取り組む事項として、機密情報等を不適切に入力しないよう注意を払うことを挙げています。