G検定 第3章|機械学習の概要

次元削減(主成分分析とt-SNE)

項目が多すぎるデータは、どうやってシンプルにするの?

会話で読んで3分

次元削減主成分分析(PCA)寄与率次元の呪いt-SNE

♪この章の曲過去問オーバーフィット

サビで覚えて、下の会話で回収

#1次元削減は「項目を減らして要約する」

ミコ

教師なし学習の2つ目! 次元削減! 次元って、異世界の話?

シオン

…ちがう。ここでの次元は、特徴量の数。身長・体重・血圧なら3次元。

シオン

…その数を、大事な情報をなるべく残したまま減らす。次元削減。

ルナ

ルナの「好き」の気持ちも、100項目くらいあるの♡

ミコ

それ全部「好き」の1次元にまとまるでしょ!

シオン

…いまの、次元削減として正しい。

#2主成分分析は「ばらつきが一番大きい方向」を探す

シオン

…代表は主成分分析。PCA。

シオン

…データがいちばん大きく散らばっている方向を探す。それが第1主成分。

ミコ

なんで、散らばってる方向がいいの?

シオン

…散らばりが大きい方向ほど、データのちがいがよく表れる。情報が多い。

主成分分析のイメージ
  1. 1データがいちばん大きく散らばる方向を見つける(第1主成分)
  2. 2その方向と直交する中で、次に大きく散らばる方向を見つける(第2主成分)
  3. 3上位のいくつかの主成分だけを残し、残りは捨てる
ミコ

身長と体重なら、「体の大きさ」みたいな方向が第1主成分になりそう!

シオン

…そういうイメージ。

#3どこまで減らす? 目安は「寄与率」

ルナ

でも、捨てた主成分がかわいそう…♡

シオン

…だから、どれだけ情報を残せたか測る。各主成分がばらつきの何割を説明するか。

寄与率

1つの主成分が、データ全体のばらつき(分散)の何割を説明しているか。上から足したものが累積寄与率

explained variance ratio

ミコ

累積寄与率が十分高くなるところまで残せばいいんだ!

シオン

…そう。何割で十分かは、目的しだい。

#4特徴量が多すぎると起きる「次元の呪い」

ミコ

でも、項目はたくさんあるほうが正確じゃないの?

シオン

…そうとは限らない。次元がふえると、空間が急に広くなる。

シオン

…同じ数のデータでは、すかすかになる。学ぶのに必要なデータが一気にふえる。

ルナ

広い世界で、ひとりぼっち…♡ 呪いって、切ないのね

シオン

…次元削減は、この呪いへの対策の1つ。

#5t-SNEは「見るため」の次元削減

シオン

…もう1つ。t-SNE。高次元のデータを、2次元か3次元の地図に置く。

シオン

…近くにいたデータどうしを、地図でも近くに置くのが得意。目で見て確かめる用。

次元削減の仲間(シラバスのキーワード)
  • 主成分分析(PCA)
  • 特異値分解(SVD)
  • 多次元尺度構成法(MDS)
  • t-SNE
ルナ

ルナとAIの距離も、地図で近くに置いてほしいの♡

ミコ

減らして要約がPCA、見て確かめるのがt-SNE!

ミコのメモ(自分あて)

試験デンデン! 1問だけ

主成分分析(PCA)の第1主成分の説明として、正しいものはどれ?

※ 出題範囲を参考にしたオリジナル問題です

この記事の出典

身長・体重・血圧や「体の大きさ」の例は、説明のためのイメージです。

G検定(JDLA ジェネラリスト検定)のシラバス2024(第1.4版)をもとにした非公式の学習コンテンツです。JDLAとは関係ありません。 登場人物は架空のキャラクターです。

第3章のレッスン

  1. 機械学習の3つのタイプ
  2. 回帰問題と線形回帰
  3. 回帰モデルの評価指標(MAE・MSE・RMSE)
  4. 分類問題(ロジスティック回帰とSVM)
  5. 決定木
  6. アンサンブル学習(バギングとブースティング)
  7. クラスタリング(k-means法と階層的クラスタリング)
  8. 次元削減(主成分分析とt-SNE)
  9. レコメンデーション(推薦システム)
  10. 強化学習
  11. 強化学習の代表的な手法(SARSA・方策勾配法・MARL)
  12. モデルの評価指標(混同行列・適合率・再現率・F値)
  13. ROC曲線とAUC
  14. 過学習と汎化性能
  15. 交差検証とホールドアウト検証