ディープフェイクとは？
ディープフェイクとは、ディープラーニングを使って作られた、本物そっくりの偽の画像・動画・音声のことです。「ディープラーニング」と「フェイク（偽物）」を組み合わせた言葉で、実在する人物が言っていないことを話す動画や、起きていない出来事の写真などを、簡単に作れてしまいます。
何が問題になっている？
- 詐欺：家族や上司の声・顔をまねた電話やビデオ通話による送金詐欺
- 偽情報：政治家の偽演説や災害の偽映像による世論操作・混乱
- 名誉毀損：本人の同意なく作られた偽の画像・動画による人格権の侵害
- 証拠の信頼性：「本物の映像すら『AIでは？』と疑われる」という社会全体への影響
動画生成AIの進化で作成のハードルが下がり、専門知識がなくても精巧な偽物を作れるようになったことが、問題を深刻にしています。日本でも偽の有名人広告を使った投資詐欺などの被害が実際に起きています。
見破れる？だまされないためには
かつては「手の形が不自然」「まばたきが少ない」などの見分け方が語られましたが、技術の進化でこうした粗は減り、目視での判別はどんどん難しくなっています。そのため、映像そのものより「情報の出どころ」で判断することが大切です。
具体的には、公式発表や複数の信頼できる報道で確認する、お金や個人情報が絡む連絡は別の手段で本人確認する、拡散する前に一呼吸置く、といった習慣が有効です。AI製コンテンツに電子的な印を埋め込む対策技術の標準化も進んでいます。
技術自体は中立
同じ技術は、映画の吹き替えや俳優の若返り、病気で声を失った人の音声再現など、良い目的にも使われています。「技術は中立、問われるのは使い方」の代表例として、AIリテラシーの文脈でもよく取り上げられる言葉です。
日本でも、生成AIによる偽情報対策の議論や、悪質な事例の摘発が進んでいます。「AIで作った偽物が存在し得る」という前提を持つこと自体が、これからの情報社会の基本装備になりつつあります。