対照学習(Contrastive Learning)とは、類似するデータペア(正例ペア)の表現を近づけ、異なるデータペア(負例ペア)の表現を遠ざけるように学習する自己教師あり学習の手法です。ラベルなしで高品質な特徴表現を学習できます。
正例ペアと負例ペアの構成
同じ画像に異なるデータ拡張(回転、色変換等)を適用した2つのビューを正例ペアとし、異なる画像のビューを負例ペアとします。モデルは正例ペアを近く、負例ペアを遠くに配置する表現空間を学習します。
代表的な手法
SimCLR(大量の負例を使用)、MoCo(モメンタムエンコーダーを使用)、BYOL(負例不要)、Barlow Twins(冗長性削減)、VICReg(分散・不変性・共分散の正則化)などがあります。
下流タスクへの応用
対照学習で獲得した表現は、少量のラベル付きデータでのファインチューニングにより、分類・検出・セグメンテーションなどの下流タスクで高い性能を達成します。