対照学習

対照学習の仕組み

このプロセスには通常、以下のステップが含まれる：

1. データの拡張：ラベルのないデータ（画像など）から始める。このデータポイントの2つ以上の拡張バージョンを作成する。これらの拡張バージョンは、同じソースに由来し、類似しているとみなされるため、「正のペア」を形成する。一般的なデータ補強技術には、ランダムな切り抜き、カラー・ジッター、回転、ノイズの追加などがある。
2. ネガティブ・サンプリング：データセット（または現在のバッチ）から、元のデータ点とは異なる他のデータ点を選択する。これらは、元のデータポイントのオーグメントと「負のペア」を形成する。
3. エンコード： エンコーダー・ニューラル・ネットワーク（NN）、画像なら畳み込みニューラルネットワーク（CNN）、テキストや画像ならトランスフォーマー（ヴィジョン・トランスフォーマー：ViT）に、正負両方のサンプルを通す。このネットワークは入力データをエンベッディングと呼ばれる低次元の表現に変換する。
4. 損失計算：InfoNCE (Noise Contrastive Estimation)やTriplet Lossのような対比的損失関数を適用する。この関数は、埋め込み間の距離に基づいてスコアを計算します。これは、正のペアの埋め込みが近い（距離が低い/類似度が高い）ことを促し、負のペアの埋め込みが離れている（距離が高い/類似度が低い）ことを促します。
5. 最適化： 確率的勾配降下法（SGD）やAdamのような最適化アルゴリズムを使って、計算された損失に基づいてエンコーダーの重みを更新し、バックプロパゲーションによって学習された表現の質を繰り返し向上させる。

対照学習と関連用語

対照学習は他のMLパラダイムとは異なる：

• 教師あり学習：各データ・ポイントに明示的なラベルが必要（例：'cat'、'dog'）。対照学習は主にラベルのないデータを使用し、正負のペアリングによって独自の教師信号を生成する。
• 教師なし学習（クラスタリング）： K-Meansのような方法は、固有の構造に基づいてデータをグループ化する。対照学習は、モデルを明示的に訓練して、類似性が正負のペアによって定義される表現空間を作成し、識別特徴の学習に焦点を当てる。
• 生成モデル： GANや 拡散モデルのようなモデルは、学習データに似た新しいデータを生成するように学習する。対照学習は、データを生成するのではなく、識別可能な表現を学習することに重点を置く。

実世界での応用

対照学習は、他のタスクにうまく移行する表現を学習することに優れている：

• コンピュータビジョンの事前トレーニング： SimCLRや MoCoのようなモデルは、ラベル付けされていない大規模な画像データセット（ImageNetなど）で事前学習されます。学習された特徴は、画像分類や 物体検出などのタスクのためにモデルを微調整する際に、パフォーマンスを大幅に向上させます。 Ultralytics YOLO11やセマンティック・セグメンテーションのようなタスクのためにモデルを微調整する場合、学習された特徴によって性能が大幅に向上する。例えば、一般的な画像に対してコントラスト学習で事前に訓練されたモデルは、ラベル付けされたデータが少ない医療画像解析や 衛星画像解析のような特殊なタスクに対して効果的に微調整することができる。
• 自然言語処理（NLP）：高品質の文や文書の埋め込みを学習するために使用される。例えば、同じ概念を説明する2つの異なる単語の文（正のペア）は類似した埋め込みを持つべきであり、無関係な意味を持つ文（負のペア）は非類似の埋め込みを持つべきであると認識するようにモデルを学習することができる。これは意味検索、質問応答、テキストクラスタリングに有用である。CLIPモデルは特に、テキスト表現と画像表現を橋渡しするために対照学習を用いる。
• 推薦システム：インタラクションパターンに基づくユーザとアイテムの埋め込み学習。
• 異常値の検出：正常なデータが密集している表現を学習することで、異常なデータ点を特定し、異常値を見つけやすくする。

メリットと課題

メリット

• ラベル依存性の低減：膨大な量のラベルなしデータを活用することで、高価で時間のかかるデータ・ラベリングの必要性を低減。
• 頑健な表現：多くの場合、純粋に教師ありの手法と比較して、厄介な変動に対してより不変な特徴を学習する。
• 効果的な事前学習：特にラベル付けされたデータが限られている場合（数ショット学習）、より良いパフォーマンスにつながることが多い。

課題だ：

• 陰性サンプルの選択：成績は陰性サンプルの数と質に影響されやすい。情報量の多い陰性サンプルの選択は非常に重要ですが、困難です。
• オーグメンテーション戦略：データ補強手法の選択は、モデルがどのような不変性を学習するかに大きく影響する。
• 計算コスト：効果的なトレーニングのためには、多くの場合、大規模なバッチサイズと大規模な計算リソース（GPU）を必要とするが、これを軽減するための研究が進行中である。Ultralytics HUBのようなプラットフォームは、これらのモデルの管理とトレーニングを容易にします。フレームワーク PyTorch(公式サイト）や TensorFlow(公式サイト）のようなフレームワークは、対照学習手法を実装するためのツールを提供している。