G検定 第8章|AIの法律と倫理

AI技術の悪用(ディープフェイクとフェイクニュース)

その動画、本物? AIの悪用ってどんなこと?

会話で読んで3分

ディープフェイクフェイクニュースエコーチェンバーフィルターバブルメディアリテラシー

#1本物そっくりの偽物「ディープフェイク」

ミコ

今日のテーマは「AIの悪用」…なんか重そう!

シオン

…まずディープフェイク。AIで作ったり加工したりした、本物そっくりの偽の映像や音声。

ディープフェイク

実在する人や出来事に似せて、AIで作ったり加工したりした画像・音声・動画のうち、本物だと誤解させるもの

deep fake ── EUのAI法の定義を、やさしく言いかえたもの

ルナ

好きな人の声で「好きだよ」って言わせられるの…? ちょっと欲しいかも♡

ミコ

それ、本人の許可なくやったらダメなやつ!

シオン

…実際の被害もある。2024年、香港で、会社の社員が偽のビデオ会議にだまされた。

シオン

…画面の上司も同僚も、ディープフェイク。言われるまま約2,500万ドルを送金した。

ミコ

え、待って。会議の全員が偽物!? ホラーじゃん!

#2偽の情報は、一瞬で広がる

シオン

…日本でも2023年11月、首相が話しているように見せた偽動画がSNSで広がった。

シオン

…テレビ局のニュース番組のロゴまで付いていて、その局が注意を呼びかけた。

ミコ

ロゴがあったら、本物のニュースだと思っちゃう!

シオン

…それが「フェイクニュース」。本物っぽい偽の情報。

シオン

…2023年5月には、米国防総省の近くで爆発、という偽画像が出回り、株価が一時下がった。

ルナ

うそのうわさで、みんなが慌てちゃうのね…♡ 恋のうわさと同じなの

ミコ

規模がちがいすぎる!

#3同じ意見ばかり見える部屋

ミコ

でも、わたしのタイムライン、わたしと同じ意見ばっかりだよ? 平和!

シオン

…それも注意。AIのおすすめが、見たいものばかり見せると起きる。

似ているけど、ちがう2つ
フィルターバブルエコーチェンバー
どんな状態?見たい情報だけの泡に包まれる同じ意見が反響して強まる
きっかけ検索・クリック履歴の分析似た考えの人どうしで集まる
こわいところちがう意見が見えなくなる極端な考えが当たり前になる
シオン

…社会がバラバラに分かれて、民主主義にも影響すると心配されている。

ルナ

ルナ、毎日「かわいい」しか聞こえない部屋に住みたいの♡

シオン

…それが、エコーチェンバー。

#4技術・ルール・リテラシーで守る

ミコ

じゃあ、どうやって身を守ればいいの?

悪用への主な対策
どんな対策?例
技術偽物を見つける・出どころを示す偽物の検出AI・OP技術
ルール法律で事業者に対応させる情報流通プラットフォーム対処法
リテラシー自分で確かめる力をつける出どころを調べる・すぐ広めない
シオン

…記事を誰が出したか確かめられる技術もある。日本で開発中のOriginator Profile、略してOP。

シオン

…日本では2025年4月、大きなSNSに削除の申し出への素早い対応などを求める法律が施行された。

シオン

…EUのAI法も、ディープフェイクには「AIで作った」と示すよう義務づけている。

ミコ

最後は、わたしたちが「それ本当?」って立ち止まることだね!

ルナ

「好き」って言われても、まず出どころを確認するの♡

ミコ

そこは信じてあげて!

ミコのメモ(自分あて)

試験デンデン! 1問だけ

SNSなどで、自分と似た考えの人の意見ばかりが返ってくるため、その考えが反響するように強まり、正しいと思いこみやすくなる現象はどれ?

※ 出題範囲を参考にしたオリジナル問題です

この記事の出典

2026年10月時点の情報です。ペンタゴンの偽画像は、AIで作られた可能性が高いと報じられましたが、確定はしていません。2023年11月の首相の偽動画は、生成AIがどの部分に使われたかは報道でも詳しく分かっていません。EUのAI法の透明性の義務は2026年8月から適用されています。

G検定(JDLA ジェネラリスト検定)のシラバス2024(第1.4版)をもとにした非公式の学習コンテンツです。JDLAとは関係ありません。 登場人物は架空のキャラクターです。

第8章のレッスン

  1. 個人情報保護法
  2. 仮名加工情報・匿名加工情報とGDPR
  3. 著作権法とAI(学習・生成・AI生成物)
  4. 特許法と不正競争防止法(営業秘密・限定提供データ)
  5. 独占禁止法とAI開発契約
  6. AI倫理・AIガバナンスと国内外のガイドライン
  7. AIの公平性
  8. AIの安全性とセキュリティ
  9. AIとプライバシー
  10. AI技術の悪用(ディープフェイクとフェイクニュース)
  11. AIの透明性と説明可能性
  12. 環境保護・労働政策・その他の重要な価値
  13. AIガバナンスの実践