「.NET 開発基盤部会 Wiki」は、「Open棟梁Project」,「OSSコンソーシアム .NET開発基盤部会」によって運営されています。
目次 †
概要 †
詳細 †
転移学習 †
学習済みモデルには手を加えず（、重みを固定し）、
追加の出力層だけを新たに学習させモデルを作成する。
概要 †
- 人が過去の経験を活かして新しい物事を習得する流れと似ている。
- 大量の犬の画像データと少量の猫の画像データがあり、
犬の種類判別モデルと猫の種類判別モデルを作成する場合、
犬の種類判別の課題から得られた知識を猫の種類判別モデルに適応させ判別精度の向上を図る。
詳細 †
- 具体的には、学習済みモデルの最終出力層だけを付け替えて、
データを学習させ出力層のパラメタだけ変更して新しいモデルを作成する。
- メリット・デメリット
- メリット
- 限られたデータから高精度なモデルを作成できる
- 少ないデータでの学習のため学習時間を短縮できる
- デメリット
- 精度の改善ではなく悪化をもたらす場合がある（負の転移（negative transfer））
- 負の転移は、転移元と転移先の関連性が低い、転移の方法が適切でないなどが考えられる。
ファイン・チューニング †
学習済みモデルにも手を加えて（、重みを初期値とし、）、
追加の出力層以外も新たに再度学習させモデルを作成する。
概要 †
詳細 †
- 学習済みモデルの最終出力層を付け替え、
出力層だけでなく入力層に近い部分のパラメタも変更して新しいモデルを作成する。
参考 †
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
