#1本物そっくりの偽物「ディープフェイク」

今日のテーマは「AIの悪用」…なんか重そう!

…まずディープフェイク。AIで作ったり加工したりした、本物そっくりの偽の映像や音声。
実在する人や出来事に似せて、AIで作ったり加工したりした画像・音声・動画のうち、本物だと誤解させるもの
deep fake ── EUのAI法の定義を、やさしく言いかえたもの

好きな人の声で「好きだよ」って言わせられるの…? ちょっと欲しいかも♡

それ、本人の許可なくやったらダメなやつ!

…実際の被害もある。2024年、香港で、会社の社員が偽のビデオ会議にだまされた。

…画面の上司も同僚も、ディープフェイク。言われるまま約2,500万ドルを送金した。

え、待って。会議の全員が偽物!? ホラーじゃん!
#2偽の情報は、一瞬で広がる

…日本でも2023年11月、首相が話しているように見せた偽動画がSNSで広がった。

…テレビ局のニュース番組のロゴまで付いていて、その局が注意を呼びかけた。

ロゴがあったら、本物のニュースだと思っちゃう!

…それが「フェイクニュース」。本物っぽい偽の情報。

…2023年5月には、米国防総省の近くで爆発、という偽画像が出回り、株価が一時下がった。

うそのうわさで、みんなが慌てちゃうのね…♡ 恋のうわさと同じなの

規模がちがいすぎる!
#3同じ意見ばかり見える部屋

でも、わたしのタイムライン、わたしと同じ意見ばっかりだよ? 平和!

…それも注意。AIのおすすめが、見たいものばかり見せると起きる。
| フィルターバブル | エコーチェンバー | |
|---|---|---|
| どんな状態? | 見たい情報だけの泡に包まれる | 同じ意見が反響して強まる |
| きっかけ | 検索・クリック履歴の分析 | 似た考えの人どうしで集まる |
| こわいところ | ちがう意見が見えなくなる | 極端な考えが当たり前になる |

…社会がバラバラに分かれて、民主主義にも影響すると心配されている。

ルナ、毎日「かわいい」しか聞こえない部屋に住みたいの♡

…それが、エコーチェンバー。
#4技術・ルール・リテラシーで守る

じゃあ、どうやって身を守ればいいの?
| どんな対策? | 例 | |
|---|---|---|
| 技術 | 偽物を見つける・出どころを示す | 偽物の検出AI・OP技術 |
| ルール | 法律で事業者に対応させる | 情報流通プラットフォーム対処法 |
| リテラシー | 自分で確かめる力をつける | 出どころを調べる・すぐ広めない |

…記事を誰が出したか確かめられる技術もある。日本で開発中のOriginator Profile、略してOP。

…日本では2025年4月、大きなSNSに削除の申し出への素早い対応などを求める法律が施行された。

…EUのAI法も、ディープフェイクには「AIで作った」と示すよう義務づけている。

最後は、わたしたちが「それ本当?」って立ち止まることだね!

「好き」って言われても、まず出どころを確認するの♡

そこは信じてあげて!
ミコのメモ(自分あて)
- ディープフェイク=本物と誤解させるAI製の画像・音声・動画既読
- フェイクニュース=本物っぽい偽の情報。株価や選挙にも影響既読
- フィルターバブル=見たい情報だけの泡に包まれる既読
- エコーチェンバー=同じ意見が反響して強まる既読
- 対策は技術・ルール・メディアリテラシーの組み合わせ既読
試験デンデン! 1問だけ
SNSなどで、自分と似た考えの人の意見ばかりが返ってくるため、その考えが反響するように強まり、正しいと思いこみやすくなる現象はどれ?
エコーチェンバーは、閉じた空間で声が反響するように、似た意見ばかりが返ってきて考えが強まる現象。フィルターバブルは、アルゴリズムが好みに合う情報を優先して表示し、ちがう情報から切り離される状態で、よく似ているが「見える情報が選ばれる」ことに重心がある。ディープフェイクはAIで作った本物そっくりの偽の映像・音声、ハルシネーションは生成AIがもっともらしい誤りを出すこと。
※ 出題範囲を参考にしたオリジナル問題です
この記事の出典
- CNN「Arup revealed as victim of $25 million deepfake scam involving Hong Kong employee」(2024年5月16日)
- ITmedia NEWS「岸田首相のフェイク動画が拡散」(2023年11月14日)
- NPR「Fake viral images of an explosion at the Pentagon were probably created by AI」(2023年5月22日)
- 総務省「AI事業者ガイドライン」第1.2版 本編(2026年3月31日公表。フィルターバブル・エコーチェンバーの説明)
- 総務省「令和7年版 情報通信白書」情報流通プラットフォーム対処法の施行
- EU AI Act 第50条(透明性の義務)
- Originator Profile 技術研究組合「Originator Profile とは」
2026年10月時点の情報です。ペンタゴンの偽画像は、AIで作られた可能性が高いと報じられましたが、確定はしていません。2023年11月の首相の偽動画は、生成AIがどの部分に使われたかは報道でも詳しく分かっていません。EUのAI法の透明性の義務は2026年8月から適用されています。
G検定(JDLA ジェネラリスト検定)のシラバス2024(第1.4版)をもとにした非公式の学習コンテンツです。JDLAとは関係ありません。 登場人物は架空のキャラクターです。