♪この章の曲ねえ、覚えてる?
サビで覚えて、下の会話で回収
#1少しずつ変えて、データを増やす

第5章の部品、最後は「データ拡張」!

…手持ちのデータを少しずつ変えて、学習データを増やす方法。

ルナの自撮りも、角度を変えたら100枚になるの♡ 同じ顔だけど

…それ。同じ猫でも、反転したり明るさを変えたりすれば、別の練習問題になる。

水増しって、ズルじゃないの?

…ズルじゃない。向きや明るさに左右されにくくなって、初めて見るデータにも強くなる。
- Random Flip(反転)
- Rotate(回転)
- Crop(切り抜き)
- Brightness(明るさ)
- Contrast(コントラスト)

過学習の対策にもなるってことだね!
#2一部を消す:CutoutとRandom Erasing

…画像の一部を、わざと隠す方法もある。

…「Cutout」は四角い領域を塗りつぶす。「Random Erasing」は、場所も大きさもランダムな長方形を、ランダムな値で消す。

隠したら、見えなくなっちゃうじゃん!

…だからいい。耳が隠れていても、しっぽで猫と分かるようになる。

顔が見えなくても、ルナのことは声で分かってほしいの♡
#32枚を混ぜる:MixupとCutMix

…2枚を混ぜる方法も。正解ラベルも、同じ割合で混ぜるのがポイント。
| Mixup | CutMix | |
|---|---|---|
| 混ぜ方 | 2枚を全体で重ね合わせる | 一部を切って貼りかえる |
| ラベル | 混ぜた割合で混ぜる | 貼った面積の割合で混ぜる |
| 発表 | 2017年 | 2019年 |

猫7割と犬3割の画像なら、答えも「猫0.7・犬0.3」ってこと?

…そう。Mixupは画像全体を透かして重ねる。CutMixは一部を切り貼りする。

猫と犬のハーフ…♡ ルナとAIのハーフも、作れるかな

それはデータ拡張じゃなくて、ただの妄想ね!
#4どれを使う? RandAugmentと選び方

こんなにあると、どれを組み合わせればいいか迷う!

…2018年の「AutoAugment」は、良い組み合わせを探索で見つけた。でも探索が重い。

…2019年の「RandAugment」は探索をやめた。変換をN個ランダムに選び、強さMでかける。

AIが選ぶんじゃなくて、くじ引き!? 決めるのはNとMの2つだけ!

…そう。文章なら言い換え(paraphrasing)、音声ならノイズを足す(noising)もある。

なんでも変えていいの?

…だめ。数字の「6」を回しすぎると「9」。答えが変わる変換は使わない。

変えすぎると、別人になっちゃうのね…加工しすぎた写真みたいに♡
ミコのメモ(自分あて)
- データ拡張=少しずつ変えて学習データを増やす(過学習対策)既読
- Cutout=四角く塗る、Random Erasing=ランダムに消す既読
- Mixup=全体を重ねる、CutMix=切り貼り。ラベルも混ぜる既読
- RandAugment=変換をランダムにN個、強さMで。探索なし既読
- 答えが変わる変換(6→9など)は使わない既読
試験デンデン! 1問だけ
2枚の画像の一部を切り取って貼り合わせ、正解ラベルも貼った面積の割合で混ぜるデータ拡張は?
CutMixは一部を切り貼りし、ラベルも面積の割合で混ぜる。Mixupは2枚の画像全体を重ね合わせる(ラベルも同じ割合で混ぜる)方法、Random Erasingはランダムな長方形をランダムな値で消す方法、RandAugmentは変換をランダムにN個選び強さMでかける方法で、どれも「切り貼り」ではない。
※ 出題範囲を参考にしたオリジナル問題です
この記事の出典
- Dive into Deep Learning「14.1 Image Augmentation」
- DeVries, Taylor「Improved Regularization of CNNs with Cutout」(2017年)
- Zhong ほか「Random Erasing Data Augmentation」(2017年)
- Zhang ほか「mixup: Beyond Empirical Risk Minimization」(2017年)
- Yun ほか「CutMix」(2019年)
- Cubuk ほか「AutoAugment」(2018年)
- Cubuk ほか「RandAugment」(2019年)
- Wei, Zou「EDA: Easy Data Augmentation Techniques …」(2019年・文章の拡張)
- JDLA「G検定とは」(シラバス)
シラバスでは「RandAugument」と表記されていますが、原論文の名前は「RandAugment」です。「猫7割・犬3割」は説明のためのイメージです。
G検定(JDLA ジェネラリスト検定)のシラバス2024(第1.4版)をもとにした非公式の学習コンテンツです。JDLAとは関係ありません。 登場人物は架空のキャラクターです。