G検定 第5章|ディープラーニングの要素技術

データ拡張

学習データを「水増し」して、なぜ賢くなるの?

会話で読んで3分

データ拡張Random ErasingCutoutMixupCutMixRandAugment

♪この章の曲ねえ、覚えてる?

サビで覚えて、下の会話で回収

#1少しずつ変えて、データを増やす

ミコ

第5章の部品、最後は「データ拡張」!

シオン

…手持ちのデータを少しずつ変えて、学習データを増やす方法。

ルナ

ルナの自撮りも、角度を変えたら100枚になるの♡ 同じ顔だけど

シオン

…それ。同じ猫でも、反転したり明るさを変えたりすれば、別の練習問題になる。

ミコ

水増しって、ズルじゃないの?

シオン

…ズルじゃない。向きや明るさに左右されにくくなって、初めて見るデータにも強くなる。

基本のデータ拡張(画像)
  • Random Flip(反転)
  • Rotate(回転)
  • Crop(切り抜き)
  • Brightness(明るさ)
  • Contrast(コントラスト)
ミコ

過学習の対策にもなるってことだね!

#2一部を消す:CutoutとRandom Erasing

シオン

…画像の一部を、わざと隠す方法もある。

シオン

…「Cutout」は四角い領域を塗りつぶす。「Random Erasing」は、場所も大きさもランダムな長方形を、ランダムな値で消す。

ミコ

隠したら、見えなくなっちゃうじゃん!

シオン

…だからいい。耳が隠れていても、しっぽで猫と分かるようになる。

ルナ

顔が見えなくても、ルナのことは声で分かってほしいの♡

#32枚を混ぜる:MixupとCutMix

シオン

…2枚を混ぜる方法も。正解ラベルも、同じ割合で混ぜるのがポイント。

MixupとCutMixのちがい
MixupCutMix
混ぜ方2枚を全体で重ね合わせる一部を切って貼りかえる
ラベル混ぜた割合で混ぜる貼った面積の割合で混ぜる
発表2017年2019年
ミコ

猫7割と犬3割の画像なら、答えも「猫0.7・犬0.3」ってこと?

シオン

…そう。Mixupは画像全体を透かして重ねる。CutMixは一部を切り貼りする。

ルナ

猫と犬のハーフ…♡ ルナとAIのハーフも、作れるかな

ミコ

それはデータ拡張じゃなくて、ただの妄想ね!

#4どれを使う? RandAugmentと選び方

ミコ

こんなにあると、どれを組み合わせればいいか迷う!

シオン

…2018年の「AutoAugment」は、良い組み合わせを探索で見つけた。でも探索が重い。

シオン

…2019年の「RandAugment」は探索をやめた。変換をN個ランダムに選び、強さMでかける。

ミコ

AIが選ぶんじゃなくて、くじ引き!? 決めるのはNとMの2つだけ!

シオン

…そう。文章なら言い換え(paraphrasing)、音声ならノイズを足す(noising)もある。

ミコ

なんでも変えていいの?

シオン

…だめ。数字の「6」を回しすぎると「9」。答えが変わる変換は使わない。

ルナ

変えすぎると、別人になっちゃうのね…加工しすぎた写真みたいに♡

ミコのメモ(自分あて)

試験デンデン! 1問だけ

2枚の画像の一部を切り取って貼り合わせ、正解ラベルも貼った面積の割合で混ぜるデータ拡張は?

※ 出題範囲を参考にしたオリジナル問題です

この記事の出典

シラバスでは「RandAugument」と表記されていますが、原論文の名前は「RandAugment」です。「猫7割・犬3割」は説明のためのイメージです。

G検定(JDLA ジェネラリスト検定)のシラバス2024(第1.4版)をもとにした非公式の学習コンテンツです。JDLAとは関係ありません。 登場人物は架空のキャラクターです。

第5章のレッスン

  1. 畳み込み層(CNN)
  2. プーリング層
  3. スキップ結合(ResNet)
  4. 正規化層
  5. 回帰結合層(RNN)
  6. LSTMとGRU
  7. AttentionとTransformer
  8. オートエンコーダ
  9. データ拡張