韓国の選挙で、とんでもないことが起きている。
2024年の国会議員選挙で確認された違法ディープフェイク選挙素材は388件。翌年の大統領選挙では10,510件。27倍に爆増した。
候補者が拘置所にいる映像、候補者が妻を罵倒する映像、ニュースキャスターが特定候補の落選を呼びかける映像。すべてAIが生成した偽物だ。
（参考：Korea Herald – Deepfakes surge in Korean elections）
388件→10,510件。たった1年で何が起きたか
2024年4月の韓国総選挙で確認されたディープフェイク選挙素材は388件。それでも当時は「深刻な事態だ」と言われていた。
ところが2025年の大統領選挙では10,510件。選挙管理委員会が5月30日までに出した削除要請だけで9,818件。もはや手作業で対応できる数ではない。
具体的にどんなディープフェイクが出回ったか。
- 候補者が拘置所にいる映像（完全な捏造）
- 候補者が妻に暴言を吐く映像（音声も顔も合成）
- 候補者が戒厳令を宣言する映像（実際にはしていない）
- 女性ニュースキャスターのディープフェイク（特定候補の落選を呼びかける内容）
韓国は2023年12月に公職選挙法を改正し、ディープフェイクの選挙利用に最大懲役7年の罰則を設けた。それでも10,000件超え。法律だけでは止まらない。
（参考：Nikkei Asia – South Korea battles deepfake surge）
誰が、なぜディープフェイクを作っているのか
ディープフェイクの数が爆増しているのは分かった。では、誰が、どんな目的で作っているのか。世界各国の実例を見ると、パターンが見えてくる。
ケース1：政治コンサルタントによる投票妨害（アメリカ）
2024年1月、ニューハンプシャー州の予備選の2日前。バイデン大統領の声をAIで合成したロボコールが5,000〜25,000人の有権者に送りつけられた。「予備選で投票すると本選で投票できなくなる」という嘘の内容。
犯人は政治コンサルタントのSteve Kramer。対立候補の陣営で働いていた人物だ。13件の重罪（投票妨害）で起訴され、FCCから600万ドルの罰金を科された。
（参考：NBC News）
ケース2：ロシアの組織的情報工作（ドイツ）
ロシアのGRU（軍情報機関）が支援する「Storm-1516」というネットワーク。2025年のドイツ連邦選挙に向けて、100以上の偽ニュースサイトを立ち上げ、ドイツの政治家を標的にしたディープフェイク動画を大量に制作した。
緑の党のRobert Habeck候補への性的虐待の捏造、外務大臣への偽スキャンダル映像など。目的は選挙結果を操作するため。
（参考：EDMO）
ケース3：政党による故人の「復活」（インドネシア）
2024年のインドネシア大統領選で、与党ゴルカル党が2008年に死去したスハルト元独裁者をAIで「復活」させた。バティックシャツを着たスハルトがゴルカル党への投票を呼びかけるディープフェイク動画。450万回以上再生された。
目的はノスタルジアの利用により、かつての指導者のカリスマ性を選挙に流用することだ。
（参考：CNN）
ケース4：政党ぐるみのAIコンテンツ大量生産（インド）
2024年のインド総選挙では、各政党がAI生成コンテンツに推定5,000万ドル（約75億円）を投じた。有権者の75%以上が政治的ディープフェイクに接触し、4人に1人がAI生成コンテンツを本物だと信じた。
与党BJPはAIによる個人向けWhatsApp動画、野党はモディ首相の声を合成した替え歌動画を制作。政党公認でAIを「武器化」する段階に入っている。
（参考：PBS News）
パターンまとめ
| 目的 | 誰が | 手法 |
|---|---|---|
| 投票妨害 | 政治コンサルタント | 偽音声ロボコールで嘘の情報を拡散 |
| 対立候補の信用失墜 | 野党・反対勢力 | 候補者の偽スキャンダル映像を制作 |
| 外国からの選挙介入 | 国家情報機関 | 偽ニュースサイト＋大量のフェイク動画 |
| ノスタルジアの政治利用 | 政党 | 故人をAIで復活させて投票を呼びかけ |
| 大規模世論操作 | 複数政党 | 数十億円規模のAIコンテンツ大量生産 |
個人のいたずらではない。組織的に、戦略的に、資金を投じて行われている。だからこそ法律だけでは止まらず、AIによる検出技術が必要になっている。
韓国政府が「AIで検出する」と動いた
2026年3月10日、韓国の行政安全部が発表した。6月3日の統一地方選挙に向けて、AIディープフェイク検出モデルを本格運用する。
国立科学捜査研究院と共同開発したこのモデルは、映像・音声の改ざんを92%の精度で検出する。
仕組みは2段階。
- グローバル分析：映像全体の流れや動きの矛盾を検出（時間的パターンの不自然さ）
- ローカル分析：顔の特徴、唇の動き、肌のテクスチャなど、人間の目では見えない微細な合成痕跡を検出
開発には「ディープフェイク犯罪対応AI検出モデルコンペティション」で268チーム・1,077人が参加。上位5モデルを統合して作られている。
尹鎬重（ユン・ホジュン）行政安全部長官はこう言った。「AIとディープフェイクによるフェイクニュースが選挙民主主義を深刻に脅かしている」
（参考：Seoul Economic Daily）
同じ日、YouTubeも動いた
偶然か必然か、同じ3月10日にYouTubeも発表を出した。
AIディープフェイク検出技術の対象を、政治家・政府高官・ジャーナリストに拡大する。
出典：YouTube Official Blog
YouTubeの「Likeness Detection」は、Content IDの顔版のようなもの。新しくアップロードされた動画を自動スキャンし、登録者の顔が無断で使われていないかをチェックする。
これまでYouTubeパートナープログラムのクリエイター（約400万人）が対象だったが、これを政治家やジャーナリストにも広げる。
対象者は本人確認（政府発行ID＋生体認証動画セルフィー）を行い、専用ダッシュボードで自分のディープフェイクを発見→削除リクエストができるようになる。
（参考：TechCrunch）
「AI対AI」の攻防。これは選挙だけの話ではない
ディープフェイクを作るAIと、それを検出するAI。「AI対AI」の攻防が、選挙の現場で始まっている。
韓国だけの問題ではない。Surfsharkの調査によると、2021年以降38カ国の選挙でディープフェイク事案が確認されている。影響を受けた人口は38億人。
アメリカではバイデン大統領の偽音声ロボコールが予備選直前にばらまかれた。インドでは有権者の75%以上が政治的ディープフェイクに接触した。インドネシアではスハルト元独裁者がAIで「復活」して政党のイベントに登場した。
日本も例外ではない。次の選挙で同じことが起きる可能性は十分にある。
（すでにホリエモンのディープフェイク動画はガンガン流れている。）
韓国が法律（最大懲役7年）を作っても止まらなかった。結局、AIで作られた偽物は、AIで検出するしかない。韓国の92%検出モデルとYouTubeのLikeness Detectionは、その最前線にいる。
ディープフェイクの問題はこれからもっと深刻になる。でも同時に、検出技術も進んでいる。AIが作る問題を、AIが解決する。そういう時代に入ったということだ。
AI LIFEコミュニティでは、AIの最新動向や社会への影響について日々情報を共有しています。
AI LIFEコミュニティに参加する
