G検定 第5章|ディープラーニングの要素技術

畳み込み層(CNN)

画像認識で使う「畳み込み」って、なにをしてるの?

会話で読んで3分

畳み込みニューラルネットワーク(CNN)フィルタ(カーネル)特徴マップストライドパディングDilated Convolution

♪この章の曲ねえ、覚えてる?

サビで覚えて、下の会話で回収

#1畳み込み層って、なにをしてるの?

ミコ

第5章スタート! 今日は画像認識の主役、「畳み込み層」!

ルナ

たたみこみ…? ルナ、洗濯物をたたむのは得意なの♡

シオン

…それは、たたむ。こっちは、小さな窓を画像の上ですべらせる計算。

ミコ

窓? 画像に窓をつけるの?

シオン

…3×3くらいの数字の表。「フィルタ」、または「カーネル」と呼ぶ。

畳み込み操作の流れ
  1. 1画像の左上に、3×3などのフィルタを重ねる
  2. 2重なったマスどうしを掛けて、ぜんぶ足す(1つの数になる)
  3. 3フィルタを少しずらして、同じ計算をくり返す
  4. 4出てきた数を並べたものが「特徴マップ」
ミコ

フィルタの数字しだいで、反応するものが変わるってこと?

シオン

…そう。縦線に反応するもの、横線に反応するもの。数字は学習で決まる。

ルナ

結果の地図が「特徴マップ」なのね♡ 好きな人の居場所が分かる地図…

ミコ

人じゃなくて、線とか模様の居場所ね!

#2全結合層より、なぜ軽いの?

ミコ

でも、全結合層でも画像は読めるんじゃないの?

シオン

…読める。でも重い。100万画素を1000個の出力につなぐと、重みは10億個。

ミコ

10億!? 覚えきれないじゃん!

シオン

…畳み込みは、同じフィルタを画像全体で使い回す。重みはフィルタの分だけ。

ミコ

しかも見るのは近くのマスだけ! 全部とつながる全結合層より、ずっと軽いんだ!

畳み込み層のパラメータ数

パラメータ数 = フィルタ縦 × 横 × 入力チャンネル数 × フィルタ枚数 + バイアス(フィルタ枚数ぶん)

例:3×3のフィルタを、RGB(3チャンネル)の画像に16枚使うと、3×3×3×16+16=448個。画像の大きさには関係しない

ルナ

1枚のフィルタを、どこでもずっと使う…一途なのね♡

シオン

…一途じゃない。ただの節約。

#3ストライドとパディングで、大きさが決まる

ミコ

フィルタをずらすとき、何マスずつ動かすの?

シオン

…その歩幅が「ストライド」。2なら1つ飛ばし。出力は小さくなる。

ミコ

あと端っこ! フィルタがはみ出しちゃうじゃん!

シオン

…だから外側に0などを足して広げる。「パディング」。出力の大きさを保てる。

出力の大きさ(1辺)

出力 =(入力 + 2 × パディング − フィルタ)÷ ストライド + 1

割り切れないときは切り捨て。例:入力32・フィルタ3・パディング1・ストライド1なら、出力も32

ルナ

端っこの子にも、座布団を敷いてあげるのね♡ やさしい世界

ミコ

座布団じゃなくて、0の列ね!

#4変わり種の畳み込みも、名前で出る

シオン

…変わり種を2つ。まず「Dilated Convolution」。「Atrous Convolution」とも言う。

ミコ

名前が2つあるの、ずるくない!?

シオン

…フィルタのマスの間をあけて、広い範囲を見る。パラメータは増えない。

ミコ

もう1つは?

シオン

…「Depthwise Separable Convolution」。チャンネルごとの畳み込みと、1×1の畳み込みに分ける。

試験に出る変わり種の畳み込み
Dilated(Atrous)Depthwise Separable
しくみフィルタのマスの間をあけるチャンネルごと+1×1に分ける
うれしいこと広い範囲を見られる計算とパラメータが減る
使われた例DeepLab(領域分割)Xception・MobileNet
ルナ

分けたら軽くなるのね…ルナの重い愛も、分割すれば…♡

シオン

…たぶん、それは減らない。

ミコ

ところで畳み込みって、画像専用?

シオン

…近いものどうしに意味があるデータ向き。音声や時系列にも使う。

ミコのメモ(自分あて)

試験デンデン! 1問だけ

フィルタのマスとマスの間をあけることで、パラメータ数を増やさずに広い範囲を見られるようにした畳み込みは?

※ 出題範囲を参考にしたオリジナル問題です

この記事の出典

「100万画素を1000個の出力につなぐと重みは10億個」は、教科書(Dive into Deep Learning)の説明に合わせた計算例です。

G検定(JDLA ジェネラリスト検定)のシラバス2024(第1.4版)をもとにした非公式の学習コンテンツです。JDLAとは関係ありません。 登場人物は架空のキャラクターです。

第5章のレッスン

  1. 畳み込み層(CNN)
  2. プーリング層
  3. スキップ結合(ResNet)
  4. 正規化層
  5. 回帰結合層(RNN)
  6. LSTMとGRU
  7. AttentionとTransformer
  8. オートエンコーダ
  9. データ拡張