G検定 第3章|機械学習の概要

回帰問題と線形回帰

家賃みたいな「数値」は、どうやって予測するの?

会話で読んで3分

回帰問題線形回帰単回帰分析重回帰分析自己回帰モデル(ARモデル)

♪この章の曲過去問オーバーフィット

サビで覚えて、下の会話で回収

#1数値を当てるのが「回帰問題」

ミコ

今日は教師あり学習の1つ目! 数字を予測するやつ!

シオン

…家賃、気温、売上。連続した数値を当てる問題を「回帰問題」と呼ぶ。

ルナ

ルナ、彼の気持ちを数値で当てたいの♡

シオン

…気持ちの正解ラベル、どこにあるの。

ミコ

教師あり学習だから、答えつきのデータがいるんだよね!

シオン

…そう。「広さ」と「実際の家賃」のペアを、たくさん集める。

#2線形回帰は「いちばん合う直線」を引く

シオン

…点を並べて、その真ん中を通る直線を1本引く。これが線形回帰。

ミコ

えいやって、てきとうに引くの?

シオン

…ちがう。点と直線のズレを2乗して足す。その合計が一番小さい線を選ぶ。

シオン

…このやり方を「最小二乗法」と呼ぶ。

単回帰の式

家賃(予測) = a × 広さ + b

a は「広さが1増えると家賃がどれだけ増えるか」(傾き)、b は切片。a と b を、ズレの2乗の合計が最小になるように決める(最小二乗法)

ルナ

直線って、まっすぐでステキ…♡ ルナの愛みたい

ミコ

ルナの愛、けっこう曲がってるよ!

#3変数が1つなら単回帰、2つ以上なら重回帰

ミコ

でも、家賃って広さだけじゃ決まらなくない? 駅からの距離とか!

シオン

…いい。説明に使う変数が1つなら単回帰分析。

シオン

…広さ・駅からの距離・築年数のように、2つ以上なら重回帰分析。

単回帰分析と重回帰分析
単回帰分析重回帰分析
説明する変数1つ2つ以上
式の形y = a × x + by=a1x1+a2x2+…+b
家賃の例広さだけ広さ・駅距離・築年数
ルナ

条件がふえるほど、本命がしぼれるのね♡

シオン

…ただ、変数どうしが似すぎていると、係数が不安定になる。注意。

ミコ

「広さ」と「部屋の数」みたいに、ほぼ同じ意味の変数とか?

シオン

…そう。これを「多重共線性」と呼ぶ。

#4過去の自分から未来を当てる「ARモデル」

ミコ

来月の売上みたいに、時間で変わる数字は?

シオン

…その変数自身の過去の値で予測する。自己回帰モデル、ARモデル。

ミコ

自分の過去が、自分の未来を決める…深い!

シオン

…複数の変数がおたがいに影響し合うなら、ベクトル自己回帰モデル、VARモデル。

回帰の仲間(シラバスのキーワード)
  • 線形回帰
  • 単回帰分析
  • 重回帰分析
  • 自己回帰モデル(AR)
  • ベクトル自己回帰モデル(VAR)
ルナ

ルナの過去の恋から、次の恋も予測できちゃう?♡

シオン

…できる。たぶん同じパターン。

ミコのメモ(自分あて)

試験デンデン! 1問だけ

マンションの家賃を「広さ」「駅からの距離」「築年数」の3つの変数から予測する線形のモデルを何という?

※ 出題範囲を参考にしたオリジナル問題です

この記事の出典

家賃と広さ・駅からの距離の例は、説明のためのイメージです。

G検定(JDLA ジェネラリスト検定)のシラバス2024(第1.4版)をもとにした非公式の学習コンテンツです。JDLAとは関係ありません。 登場人物は架空のキャラクターです。

第3章のレッスン

  1. 機械学習の3つのタイプ
  2. 回帰問題と線形回帰
  3. 回帰モデルの評価指標(MAE・MSE・RMSE)
  4. 分類問題(ロジスティック回帰とSVM)
  5. 決定木
  6. アンサンブル学習(バギングとブースティング)
  7. クラスタリング(k-means法と階層的クラスタリング)
  8. 次元削減(主成分分析とt-SNE)
  9. レコメンデーション(推薦システム)
  10. 強化学習
  11. 強化学習の代表的な手法(SARSA・方策勾配法・MARL)
  12. モデルの評価指標(混同行列・適合率・再現率・F値)
  13. ROC曲線とAUC
  14. 過学習と汎化性能
  15. 交差検証とホールドアウト検証