♪この章の曲過去問オーバーフィット
サビで覚えて、下の会話で回収
#1数値を当てるのが「回帰問題」

今日は教師あり学習の1つ目! 数字を予測するやつ!

…家賃、気温、売上。連続した数値を当てる問題を「回帰問題」と呼ぶ。

ルナ、彼の気持ちを数値で当てたいの♡

…気持ちの正解ラベル、どこにあるの。

教師あり学習だから、答えつきのデータがいるんだよね!

…そう。「広さ」と「実際の家賃」のペアを、たくさん集める。
#2線形回帰は「いちばん合う直線」を引く

…点を並べて、その真ん中を通る直線を1本引く。これが線形回帰。

えいやって、てきとうに引くの?

…ちがう。点と直線のズレを2乗して足す。その合計が一番小さい線を選ぶ。

…このやり方を「最小二乗法」と呼ぶ。
家賃(予測) = a × 広さ + b
a は「広さが1増えると家賃がどれだけ増えるか」(傾き)、b は切片。a と b を、ズレの2乗の合計が最小になるように決める(最小二乗法)

直線って、まっすぐでステキ…♡ ルナの愛みたい

ルナの愛、けっこう曲がってるよ!
#3変数が1つなら単回帰、2つ以上なら重回帰

でも、家賃って広さだけじゃ決まらなくない? 駅からの距離とか!

…いい。説明に使う変数が1つなら単回帰分析。

…広さ・駅からの距離・築年数のように、2つ以上なら重回帰分析。
| 単回帰分析 | 重回帰分析 | |
|---|---|---|
| 説明する変数 | 1つ | 2つ以上 |
| 式の形 | y = a × x + b | y=a1x1+a2x2+…+b |
| 家賃の例 | 広さだけ | 広さ・駅距離・築年数 |

条件がふえるほど、本命がしぼれるのね♡

…ただ、変数どうしが似すぎていると、係数が不安定になる。注意。

「広さ」と「部屋の数」みたいに、ほぼ同じ意味の変数とか?

…そう。これを「多重共線性」と呼ぶ。
#4過去の自分から未来を当てる「ARモデル」

来月の売上みたいに、時間で変わる数字は?

…その変数自身の過去の値で予測する。自己回帰モデル、ARモデル。

自分の過去が、自分の未来を決める…深い!

…複数の変数がおたがいに影響し合うなら、ベクトル自己回帰モデル、VARモデル。
- 線形回帰
- 単回帰分析
- 重回帰分析
- 自己回帰モデル(AR)
- ベクトル自己回帰モデル(VAR)

ルナの過去の恋から、次の恋も予測できちゃう?♡

…できる。たぶん同じパターン。
ミコのメモ(自分あて)
- 回帰問題=連続した数値を予測する(教師あり)既読
- 線形回帰はズレの2乗の合計が最小の直線(最小二乗法)既読
- 説明変数1つ=単回帰分析、2つ以上=重回帰分析既読
- ARモデル=その変数自身の過去の値で予測既読
試験デンデン! 1問だけ
マンションの家賃を「広さ」「駅からの距離」「築年数」の3つの変数から予測する線形のモデルを何という?
説明に使う変数が2つ以上ある線形回帰は重回帰分析。単回帰分析は変数が1つのとき、ARモデルはその変数自身の過去の値で予測する時系列のモデル、ロジスティック回帰は名前に「回帰」が付くが、クラスに入る確率を出す分類の手法。
※ 出題範囲を参考にしたオリジナル問題です
この記事の出典
- scikit-learn User Guide「Linear Models(Ordinary Least Squares)」
- Hyndman & Athanasopoulos『Forecasting: Principles and Practice』第3版 7.1 The linear model
- 同 9.3 Autoregressive models
- 同 12.3 Vector autoregressions
- IBM「機械学習とは」(回帰と分類)
- JDLA「G検定とは」(シラバス)
家賃と広さ・駅からの距離の例は、説明のためのイメージです。
G検定(JDLA ジェネラリスト検定)のシラバス2024(第1.4版)をもとにした非公式の学習コンテンツです。JDLAとは関係ありません。 登場人物は架空のキャラクターです。