G検定 第8章|AIの法律と倫理

AIの透明性と説明可能性

AIは、なぜその答えにしたのか説明できるの?

会話で読んで3分

ブラックボックス説明可能性透明性XAIデータの来歴

#1答えは出るのに、理由が見えない

ミコ

AIって答えは教えてくれるけど、理由はよく分かんないことない?

シオン

…ある。特にディープラーニングは、何百万もの数字が絡みあって答えを出す。

シオン

…入力と出力は見えるのに、途中が人には読めない。だから「ブラックボックス」。

ルナ

「なんで好きなの?」って聞いても「なんとなく」しか返ってこない感じ…♡

ミコ

それはそれで、ちょっとうれしいやつ!

シオン

…恋なら許される。融資の審査なら、許されない。

#2透明性と説明可能性はちがう

ミコ

透明性と説明可能性って、同じ意味じゃないの?

似ているけど、ちがう2つ
透明性説明可能性
答える問い何が起きた? 何を使ってる?なぜその判断になった?
例AIを使っている事実・データの集め方「借入額が年収に比べて大きい」
相手利用者・社会・規制当局判断を受けた本人・担当者
シオン

…透明性は、AIについて必要な情報を開くこと。使っている事実、データ、能力と限界。

シオン

…説明可能性は、その判断がどうやって出たのかを、人が分かる形で示せること。

ミコ

しくみを見せるのが透明性、理由を言えるのが説明可能性!

シオン

…ただし、ソースコードを全部公開しろ、という意味ではない。国のガイドラインもそう書いている。

ルナ

全部は見せなくていいなら、ルナのひみつも守れるのね♡

ミコ

AIの話だってば!

#3どうして説明が必要なの?

ミコ

でも、当たってるなら理由はいらなくない?

シオン

…融資を断られた人は、理由が分からないと直しようがない。不公平かどうかも確かめられない。

シオン

…医療でも、AIの結果を医師が確かめて、患者さんに説明する必要がある。

ルナ

理由を言ってくれないお別れは、いちばんつらいの…♡

ミコ

ルナ、今日はめずらしく本質ついてる!

シオン

…EUでは法律にもある。GDPRの第22条や、AI法の第86条。日本は主にガイドラインで求めている。

#4AIの中をのぞく技術「XAI」

ミコ

じゃあ、ブラックボックスの中は、どうやってのぞくの?

シオン

…それが説明可能なAI、XAI。判断の根拠を、人が分かる形で示す技術。

説明可能性を高める代表的な技術
  • LIME(2016年):1件の予測のまわりを、簡単なモデルでまねて説明
  • SHAP(2017年):どの特徴がどれだけ効いたかを数値で示す
  • Grad-CAM(2016年):画像のどこを見て判断したかを色で示す
シオン

…LIMEとSHAPは、表のデータにも画像にも使える。Grad-CAMは画像のCNN向け。

ミコ

猫の画像なら「耳のあたりを見て猫と判断しました」って色で出るんだ!

シオン

…それと「データの来歴」。どこから来た、どんなデータで学んだかの記録。

データの来歴

学習や評価に使ったデータの出どころ・集め方・加工の経緯の記録。偏りや権利の問題をあとからたどれるようにする

data provenance ── 判断の記録を追えるようにする「トレーサビリティ」とセットで求められる

ルナ

ルナの元カレ遍歴も、来歴として全部記録してあるの♡

シオン

…それは、見せなくていい。

ミコのメモ(自分あて)

試験デンデン! 1問だけ

画像を分類するニューラルネットワークについて、判断のときに画像のどの部分に注目したかをヒートマップで示す手法はどれ?

※ 出題範囲を参考にしたオリジナル問題です

この記事の出典

2026年10月時点の情報です。融資審査の「借入額が年収に比べて大きい」は説明のためのイメージです。EUのAI法第86条は高リスクAIによる判断が対象で、高リスクAIの義務の適用は2027年12月以降に延期されています。

G検定(JDLA ジェネラリスト検定)のシラバス2024(第1.4版)をもとにした非公式の学習コンテンツです。JDLAとは関係ありません。 登場人物は架空のキャラクターです。

第8章のレッスン

  1. 個人情報保護法
  2. 仮名加工情報・匿名加工情報とGDPR
  3. 著作権法とAI(学習・生成・AI生成物)
  4. 特許法と不正競争防止法(営業秘密・限定提供データ)
  5. 独占禁止法とAI開発契約
  6. AI倫理・AIガバナンスと国内外のガイドライン
  7. AIの公平性
  8. AIの安全性とセキュリティ
  9. AIとプライバシー
  10. AI技術の悪用(ディープフェイクとフェイクニュース)
  11. AIの透明性と説明可能性
  12. 環境保護・労働政策・その他の重要な価値
  13. AIガバナンスの実践