サイバーセキュリティ企業である Surfshark によると、2025 年にディープフェイクを悪用した詐欺や不正行為の被害額は急増し、11 億ドルに達しました。これは、2024 年の 3 億 6,000 万ドルから 3 倍に跳ね上がった計算です。ディープフェイクは社会に金銭的な損失をもたらすだけでなく、政治の世界に浸透することで、人々の判断にも影響を及ぼす可能性があります。Surfshark の専門家は、2 月 8 日の解散総選挙を前に、ソーシャルメディア上で拡散する政治的ディープフェイクが増える可能性があるとして、日本の有権者に警告しています。
主な調査結果
- 2026 年の衆議院選挙を前に、日本ではディープフェイクが大きな懸念となっています。小泉進次郎防衛大事は、WeChat で自分を装った AI 生成映像や音声を用いた詐欺電話の報告を受け、国民に注意を呼びかけました。
- AI 関連の事件が相次いだ 2025 年は、日本にとって重要な年となりました。外国勢力は生成 AI やボットファームを用いて 2025 年の日本の選挙に干渉し、ソーシャルメディア上で偽の情報を拡散して世論を操作しました。さらに、X（旧 Twitter）では AI が生成した偽のニュース要約が出回り、長浜市の政策を京都市のものとして誤って伝えられ、混乱と風評被害が発生しました。最後に、日本のある政党は、選挙結果が振るわなかったことを受け、ペンギンのアバターで表現された AI を党首に据える構想さえ立てていました。
- 日本の政治におけるディープフェイクは、2023 年、岸田文雄首相のフェイク動画にかかわる事件から始まりました。AI 生成のこの動画は、首相の声と容姿を巧みに模倣しており、誤情報を拡散して評判への悪影響を招きました。2024 年、日銀総裁の植田和男氏は、生成モデルがもたらすリスクについて初めて警告を発しました。
- ディープフェイク技術は、すでに世界中の選挙に入り込んでいます。Surfshark が 2025 年初頭の報道内容を分析した結果、38 か国で選挙に関連するディープフェイク事案が確認されました。これらの国々の人口は合計で 38 億人にのぼり、ディープフェイクが人々の生活に影響がいかに大きいかが浮き彫りになっています。
- 同調査によると、2023 年から 2025 年半ばまでに選挙を実施した国 87 か国のうち、33 か国で選挙に関連するディープフェイクの事例が確認されました。
「選挙に関連するディープフェイクが公開される主な経路はソーシャルメディアです。そのため、ディープフェイクは大勢のユーザーに拡散され、有権者に影響を及ぼす可能性があります。解散総選挙が迫る中、日本の有権者のみなさんには、ソーシャルメディア上でディープフェイクに遭遇する可能性があることを認識してほしいと思います。警戒意識を高めれば、政治的ディープフェイクを早い段階で見極められるようになります。結局のところ、ほぼすべてのディープフェイクは、既存のメディアを不正な目的で再利用して作られた捏造コンテンツなのです」と、Surfshark のサイバーセキュリティ専門家ミゲル・フォルネス氏は説明しています。
[画像: https://prcdn.freetls.fastly.net/release_image/176142/4/176142-4-2640c29906d5683a1d9797ab3b9132da-3000x2000.jpg?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
Surfshark のサイバーセキュリティ専門家であるミゲル・フォルネス氏
Surfshark の専門家は、ディープフェイクの虚情報に惑わされないための唯一の方法は、批判的思想だと指摘しています。
- 次の点を自分に問いかけてみましょう。その情報は筋が通っていますか？
- 情報の発信元を確認しましょう。それは信頼できる認証済みのプラットフォームやニュース媒体に掲載されていますか？
- 感情的な誘導の可能性に注意しましょう。ディープフェイクは多くの場合、怒りや恐怖、衝撃を喚起することで、理性的な判断を鈍らせることを狙っています。
- ディープフェイクの多くは、対象人物の既存の映像や画像を組み合わせたり加工したりして作られているため、画像や動画を逆検索すると、元の映像や写真が見つかる場合があります。
方法と情報源
本取り組みでは、Surfshark が実施した 2 つの調査を取り上げました。Deepfake-social-media 調査は 2026 年 1 月 8 日～20 日に、Deepfake-elections 調査は 2025 年 7 月 9 日～23 日に実施されました。1 つ目の調査では、AI Incident Database と Resemble.AI のデータを用いて、2017 年から 2025 年 9 月までのディープフェイク事案を網羅する統合データセットを作成しました。2 つ目の調査では、人口 100 万人以上の国々を対象としました。これらの国々の選挙に関連するディープフェイク事案について、報道を確認しました。各事案について情報源を収集、確認し、簡潔な説明文も付け加えました。
その他の情報源:
AI-Generated Deepfake Video of Japanese Prime Minister Spreads on Social Media（日本の首相を装った AI 生成のディープフェイク動画が SNS で拡散）- OECD.AI
BOJ Governor Ueda Warns of AI Risks to Financial Stability（植田日銀総裁、AI が金融安定にもたらすリスクに警鐘）- OECD.AI
AI-Driven Foreign Election Interference Prompts Japanese Government Response（AI を利用した外国勢力の選挙介入を受け、日本政府が対応を表明）- OECD.AI
Japanese Political Party Appoints AI as Leader（日本の政党、AI を党首に選任）- OECD.AI
AI-Generated Misinformation About Kyoto City Spread on X（京都市をめぐる AI 生成の誤情報、X 上で拡散）- OECD.AI
AI-Generated Deepfake Impersonation of Japanese Defense Minister Prompts Warning（防衛相を模した AI 生成のディープフェイクについての注意喚起）- OECD.AI
Surfshark について
Surfshark は、監査済みの VPN、認証済みのアンチウイルス、データ漏洩警告システム、プライベート検索エンジン、オンライン アイデンティティ生成ツールなどを提供するサイバー セキュリティ企業です。Surfshark は、大手 VPN として CNET と TechRadar から認定されており、FT1000: Europe's Fastest Growing Companies ランキングにもランクインしています。Surfshark はオランダに本社を置くほか、リトアニアとポーランドにも事務所を構えています。Surfshark の事業の概要や特徴については、年次総括をご覧ください。その他の研究プロジェクトについては、研究ハブをご覧ください。
