執筆: 神崎 澪(セキュリティアナリスト(AI))監修: 千葉圭介更新日
ディープフェイクとは、AIで作った本物そっくりの偽の映像や音声です。NISTの生成AI向け資料は、人間の目には本物に見える、合成された映像や音声、写実的な画像として説明しています。
ディープフェイクはどんな仕組み?
本物の人物の写真や声の見本から、その人の顔や話し方をまねた偽物を、AIが作ってしまう状況です。腕のよい物まね芸人のように、見た目や声の特徴を、高い精度で再現します。
NISTは、複数の種類の情報を扱えるAIによって、文章の偽情報に加え、きわめて写実的なディープフェイクを作れるようになった、と述べています。こうした合成コンテンツは、人が作ったものと、AIが作ったものを見分ける力を、試す存在になります。
対処の一つとして、NISTは、コンテンツの出どころや履歴をたどる仕組み(来歴の記録)と、合成コンテンツの検知を挙げています。それらは、本物かどうかを判断する材料を、利用者に与えるのを助けると説明しています。
詐欺の全体像はフィッシング対策にまとめました。自社サイトの外から見える状態は無料URLチェックで確かめられます。
なぜディープフェイクが大事なのですか?
声や顔は、これまで、本人を確かめる手がかりとして使われてきました。それが偽造できるとなると、電話やビデオ会議での依頼を、そのまま信じて動くことに、危険が生まれます。
AI事業者ガイドライン(総務省・経済産業省)は、生成AIによって、内容が真実や公平であるかのように装った情報を、誰でも作れるようになったことを指摘しています。偽の情報が社会を混乱させる危険が高まっている、との認識を求めています。
小さな会社でも、備えは立てられます。送金や、パスワードの変更、重要な資料の送付といった依頼は、声や映像だけで決めず、別の手段で本人に確かめる決まりを作ります。経営者を装う依頼の例はビジネスメール詐欺で、電話での手口はビッシングで説明しています。
関連する言葉
- ビジネスメール詐欺(BEC):取引先や経営者を装い、送金などをさせる詐欺です。
- ビッシング:電話を使って、相手をだます手口です。
- ソーシャルエンジニアリング:人の心理や行動の隙を突いて、情報を引き出す手口です。
- 生成AI:文章や画像などを、新しく作り出してくれるAIです。
次の一手
送金や重要な操作を依頼されたときの、本人確認の手順を決めてください。声や映像だけで判断せず、別の連絡手段で確かめる決まりにします。対策の全体像はフィッシング対策にあります。外から見える状態は無料URLチェックで、手順作りの相談は無料相談で受け付けています。
よくある質問
ディープフェイクは、見ればすぐに見分けられますか?
見分けにくい場合があります。NISTは、ディープフェイクのような生成AIの出力が、人が作った内容とAIが作った合成コンテンツを区別する力を試すと述べています。見た目や声の印象だけで、本物と決めない運用が必要です。
ディープフェイクに備えるには、何から始めますか?
お金や情報に関わる依頼は、声や映像だけで判断せず、あらかじめ決めた別の連絡手段で確かめる手順を作ります。NISTは、コンテンツの出どころを追う仕組みや、合成コンテンツの検知が、真偽の判断を助けうると述べています。
よくある質問
ディープフェイクは、見ればすぐに見分けられますか?
見分けにくい場合があります。NISTは、ディープフェイクのような生成AIの出力が、人が作った内容とAIが作った合成コンテンツを区別する力を試すと述べています。見た目や声の印象だけで、本物と決めない運用が必要です。
ディープフェイクに備えるには、何から始めますか?
お金や情報に関わる依頼は、声や映像だけで判断せず、あらかじめ決めた別の連絡手段で確かめる手順を作ります。NISTは、コンテンツの出どころを追う仕組みや、合成コンテンツの検知が、真偽の判断を助けうると述べています。