G検定 第7章|AIの社会実装に向けて

AIの運用とMLOps

AIは作ったら終わり、じゃないの?

会話で読んで3分

MLOpsDockerWeb APIクラウドJupyter NotebookPython

#1AIは、出したあとに弱っていく

ミコ

モデルができた! テストの点もいい! これで完成!

シオン

…まだ半分。世の中のデータは変わる。モデルは、学んだ時のまま。

シオン

…だからAIは、ふつうのソフトより多くの形で、性能が落ちていく。

ミコ

え、待って。プログラムは変えてないのに、悪くなるの!?

シオン

…通販のおすすめ。冬のデータで学んだモデルは、夏にもコートをすすめる。

ルナ

付き合った頃のままのルナを好きでいてくれるの…♡ それはそれで、さみしい

ドリフト

運用中に、入ってくるデータの分布や、入力と答えの関係が学習した時から変わってしまうこと

データの分布の変化はデータドリフト、入力と答えの関係の変化はコンセプトドリフトと呼ばれる

#2MLOpsは、作るチームと動かすチームをつなぐ

シオン

…そこで「MLOps」。機械学習(ML)と運用(Operations)を合わせた言葉。

シオン

…作る、出す、見張る、学び直す。これを、できるだけ自動で回すための考え方としくみ。

ミコ

ソフト開発のDevOpsの、機械学習版ってこと!

MLOpsで自動にしたい3つ
ふつうのソフト機械学習で増えるもの
CI(継続的インテグレーション)コードを試験してまとめるデータとモデルも検証する
CD(継続的デリバリー)ソフトを自動で届ける予測サービスを自動で届ける
CT(継続的トレーニング)なし新しいデータで自動で再学習
シオン

…CTは機械学習ならでは。Googleの解説では、手作業だけの段階を「レベル0」と呼ぶ。

ルナ

ルナの気持ちも、毎日自動で学び直してるの♡ 継続的トレーニング

ミコ

それはただの気分屋!

#3AIの健康診断「ヘルスモニタリング」

ミコ

弱ってきたのは、どうやって気づくの?

シオン

…運用中のモデルを見張る。予測の当たり具合、入ってくるデータの分布、反応の速さ。

運用のサイクル(ライフサイクル管理)
  1. 1学習してモデルを作り、バージョンを記録する
  2. 2サービスとして公開する(デプロイ)
  3. 3性能とデータの変化を見張る(モニタリング)
  4. 4落ちてきたら、新しいデータで再学習
  5. 5検証して問題なければ、新しい版に入れかえる
ミコ

モデルにも、健康診断と通院があるんだ!

シオン

…それと、どの版のモデルを、どのデータで作ったか。記録しておかないと、戻せない。

ルナ

前のカレに戻りたくなっても、記録がないと戻れないのね…♡

シオン

…あなたは、記録があっても戻らないで。

#4AIを世に出すための道具たち

ミコ

MLOpsで使う道具も、試験に出るって聞いた!

よく出てくる道具
なにをする?どの場面?
Python機械学習で広く使われる言語モデルづくり全般
Jupyter Notebookコードと結果を並べて試す分析・試作
Docker動く環境ごと箱に詰めるどこでも同じに動かす
Web APIネット経由の呼び出し窓口アプリから予測を使う
クラウド計算機や保存場所を借りる学習・公開の土台
シオン

…Dockerのコンテナは、アプリと、動くのに必要なファイルをまとめて分けた入れ物。

ミコ

わたしのパソコンでは動いたのに、が起きにくくなるんだ!

シオン

…2015年のGoogleの論文は、機械学習のコードはシステム全体のごく一部だと指摘した。

シオン

…まわりの運用を軽く見ると、あとで大きな保守の負担になる。「隠れた技術的負債」。

ルナ

ツケはあとから来るのね…♡ ルナのカード払いと同じ

ミコ

それは今すぐ運用見直して!

ミコのメモ(自分あて)

試験デンデン! 1問だけ

運用中のAIモデルで、季節の変化などにより入力データの分布が学習時から変わって性能が落ちていないかを、継続的に確認する取り組みを何という?

※ 出題範囲を参考にしたオリジナル問題です

この記事の出典

「冬のデータで学んだモデルが夏にもコートをすすめる」は、ドリフトを説明するためのイメージです。

G検定(JDLA ジェネラリスト検定)のシラバス2024(第1.4版)をもとにした非公式の学習コンテンツです。JDLAとは関係ありません。 登場人物は架空のキャラクターです。

第7章のレッスン

  1. AIプロジェクトの進め方
  2. データの収集・加工・分析・学習
  3. AIの運用とMLOps