メタ学習

Meta-Learning

メタ学習(Meta-Learning / Learning to Learn)とは、「学習方法そのものを学習する」手法です。多数の異なるタスクから学習プロセスを学び、新しいタスクに少量のデータで素早く適応できる能力を獲得します。

Few-shot学習との関係

メタ学習は少数のサンプル(Few-shot)で新しいタスクを学習する「Few-shot学習」の主要なアプローチです。1-shot(1サンプル)や5-shot(5サンプル)でのタスク学習を目指します。

表:メタ学習の要点まとめ
ひとことで言うと「学習のしかた」自体を学ばせて、少ないデータでも早く適応できるようにする手法。
どこで使う数枚の画像だけで新しい分類を覚えるFew-shot学習、ロボットの新環境への適応。
注意点研究段階の要素が強く、実装や評価の難易度が高い。

代表的な手法

MAML(Model-Agnostic Meta-Learning)は少数のグラジエントステップで新しいタスクに適応できる初期パラメータを学習します。Prototypical Networksはクラスのプロトタイプ(中心)を学習し距離ベースで分類します。

図:メタ学習の考え方
1多数のタスクを用意小さな課題をたくさん
▶
2共通のコツを学ぶどう適応すれば速いか
▶
3良い初期値を獲得どのタスクにも近い状態
▶
4新タスクに数件で適応すぐ使えるようになる

応用分野

ロボット制御の迅速な適応、薬物発見(少数の実験データからの予測)、個人化されたレコメンデーション、自然言語処理のFew-shot応用など、データが希少な場面で特に有用です。