G検定 第8章|AIの法律と倫理

AIの公平性

AIは感情がないのに、なぜ差別しちゃうの?

会話で読んで4分

公平性の定義アルゴリズムバイアスサンプリングバイアスセンシティブ属性代理変数データの偏り

#1AIが不公平になるのはなぜ?

ミコ

AIって感情がないから、人間より公平じゃないの?

シオン

…そうとは限らない。AIは、過去のデータのくせをそのまま学ぶ。

シオン

…過去の判断に偏見があれば、AIもそれをくり返す。広げることさえある。

ルナ

過去の恋をずっと引きずるのと同じなのね…♡

シオン

…AIは、引きずるのが仕事。だから、データを選ぶ人の責任。

アルゴリズムバイアス

AIの出力が、性別・人種などの属性によって特定の人や集団に不当にかたよること。原因は学習データ・モデルの作り方・使い方など、いろいろな段階にある

Algorithmic bias

#2原因は3つの「偏り」

シオン

…1つめは「データの偏り」。社会にある不公平が、そのまま記録に残っている。

シオン

…2つめは「サンプリングバイアス」。集め方がかたよって、一部の人のデータが少ない。

ミコ

3つめは?

シオン

…「代理変数」。性別や人種を入れていなくても、それと強く関係する別の項目から結果がかたよる。

ミコ

たとえば?

シオン

…住んでいる地域が、特定の人種の多さと強く結びついていると、住所が人種の代わりになってしまう。

公平性をゆがめる原因
何が起きる?例
データの偏り過去の偏見を学ぶ男性中心だった採用記録
サンプリングバイアス一部の人のデータが少ない肌の明るい人が多い顔写真
代理変数別の項目が属性の代わりに住所・出身校・趣味
ルナ

直接聞かなくても、まわりの情報でバレちゃう…探偵みたい♡

#3実際に起きたこと

シオン

…有名な例が3つ。まずAmazonの採用AI。2018年にロイターが報じた。

シオン

…過去10年の、男性が多い履歴書で学習。「women's」を含む履歴書の評価を下げた。開発チームは解散した。

ミコ

女子のチェス部のキャプテン、とかで下がっちゃうの!? ひどい!

シオン

…次は米国の再犯予測ツール「COMPAS」。2016年、報道機関ProPublicaが分析した。

シオン

…再犯しなかった人が「高リスク」と誤判定された割合は、黒人で約45%、白人で約23%。

ルナ

人生がかかってるのに、そんなにちがうなんて…

シオン

…最後は顔画像の性別判定。2018年のGender Shades研究。肌の暗い女性で誤り率は最大34.7%、肌の明るい男性は最大0.8%。

ミコ

学習データに肌の明るい人が多かったから…サンプリングバイアスだ!

#4「公平」の定義は1つじゃない

ミコ

じゃあ、男女で合格率をぴったり同じにすれば公平!

シオン

…それも1つの定義。ほかに「まちがえる割合をそろえる」「同じスコアなら同じ確率で当たる」などがある。

シオン

…しかも、特別な場合を除いて、いくつかの定義は同時には満たせないことが数学的に示されている。

ルナ

全員を同時に幸せにはできない…恋愛と同じ♡

ミコ

そこは珍しく合ってる!

シオン

…だから、何を公平とするかを、目的に合わせて人が決めて、説明する。

#5どう対策する?

ミコ

性別や人種の列を消せば、解決じゃない?

シオン

…それだけでは足りない。代理変数があるから。性別・人種などの「センシティブ属性」は、むしろ偏りを測るのに使う。

公平性への主な対策
  1. 1どこにバイアスが入りうるか、データ・モデル・使い方を洗い出す
  2. 2データの偏りを見直し、足りない集団のデータを集める
  3. 3公平性の指標を決めて、集団ごとの結果を数値で確かめる
  4. 4大事な判断はAIだけに任せず、人の判断をはさむ
  5. 5運用後も監視し、多様なメンバーで見直す
ルナ

作ったあとも、ずっと見守るのね♡

シオン

…そう。社会もデータも変わるから。

ミコのメモ(自分あて)

試験デンデン! 1問だけ

融資審査AIの入力から「人種」の項目を消したのに、特定の人種の人が不利になる結果が残った。最も考えられる原因はどれ?

※ 出題範囲を参考にしたオリジナル問題です

この記事の出典

COMPASの分析結果には開発元が反論しており、どの公平性の定義を使うかで評価が変わることも議論されています。住所が人種の代わりになる例は説明のためのイメージです。

G検定(JDLA ジェネラリスト検定)のシラバス2024(第1.4版)をもとにした非公式の学習コンテンツです。JDLAとは関係ありません。 登場人物は架空のキャラクターです。

第8章のレッスン

  1. 個人情報保護法
  2. 仮名加工情報・匿名加工情報とGDPR
  3. 著作権法とAI(学習・生成・AI生成物)
  4. 特許法と不正競争防止法(営業秘密・限定提供データ)
  5. 独占禁止法とAI開発契約
  6. AI倫理・AIガバナンスと国内外のガイドライン
  7. AIの公平性
  8. AIの安全性とセキュリティ
  9. AIとプライバシー
  10. AI技術の悪用(ディープフェイクとフェイクニュース)
  11. AIの透明性と説明可能性
  12. 環境保護・労働政策・その他の重要な価値
  13. AIガバナンスの実践