Self-Supervised Learning

自己教師あり学習（SSL）は、外部の人間が提供するラベルに頼るのではなく、データそのものから独自の教師信号を生成することでシステムがデータを理解する機械学習のパラダイムです。従来の**教師あり学習では、モデルに膨大な手動アノテーション済みデータ（「猫」や「犬」とラベル付けされた画像など）が必要となり、その作成には多大なコストと時間がかかります。SSLはこのボトルネックを回避し、モデルが入力データの隠された部分や欠落した部分を予測する「事前タスク」を作成することで、物体検出**や分類といった複雑なタスクに必要な基礎構造と特徴を自律的に学習させます。

Link to this section自己教師あり学習の主要な仕組み#

SSLの根本的な考え方は、データの一部をマスクまたは隠し、**ニューラルネットワーク（NN）**にその復元や、同じデータの異なるビュー間の関係予測を強制することにあります。このプロセスを通じて、後で特定のダウンストリームアプリケーション向けにファインチューニング可能な、豊富で汎用性の高い表現が生成されます。

SSLには主に2つのアプローチがあります。

• 生成的手法： モデルが画素や単語を生成して空欄を埋める学習を行います。**自然言語処理（NLP）における古典的な例として、文中の次の単語を予測するタスクが挙げられます。コンピュータビジョンでは、Masked Autoencoders (MAE)**のような手法が画像のランダムなパッチを隠し、欠落した画素を復元するタスクをモデルに課すことで、視覚的なコンテキストを「理解」するように強制します。
• 対照学習： この手法は、類似したデータポイントと類似していないデータポイントを区別するようにモデルを訓練します。画像に対してクロッピング、カラージッター、回転といった**データ拡張技術を適用することで、モデルはこれらの修正バージョンが同一のオブジェクトを表していることを学習し（ポジティブペア）、他の画像を異なるオブジェクトとして扱います（ネガティブペア）。SimCLR**などの一般的なフレームワークは、この原則を強力に活用しています。

Link to this section実社会での応用#

自己教師あり学習は、さまざまな分野で強力な**基盤モデル**を構築するための礎となっています。膨大なラベルなしデータを活用できるその能力は、高いスケーラビリティを実現します。

• 医療画像診断： 専門家がラベル付けした医療スキャンデータを取得することは困難であり、高コストです。SSLを使用すると、数千件のラベルなしX線やMRIスキャンでモデルを事前学習させ、一般的な解剖学的特徴を習得させることが可能です。この事前学習済みモデルを少数のラベル付きデータでファインチューニングすることで、**腫瘍検出**や疾患診断において高い精度を達成できます。
• 自動運転： 自動運転車は毎日テラバイト単位のビデオデータを生成します。SSLは、フレームごとのアノテーションなしで、生の映像から時間的ダイナミクスや空間的理解をシステムに学習させます。これにより、将来のフレームや物体の動きを予測することで、**車線検出**や障害物回避の精度が向上します。

Link to this section関連用語とSSLの違い#

SSLと**教師なし学習を区別することは重要です。どちらの手法もラベルなしデータを利用しますが、教師なし学習は通常、特定の予測タスクなしで隠れたパターンやグループ分け（クラスタリング）を見つけることに重点を置いています。対照的にSSLは、データ構造自体からラベルを自動生成する教師ありタスクとして学習プロセスを構成します。さらに、半教師あり学習**は少量のラベル付きデータと大量のラベルなしデータを組み合わせるのに対し、純粋なSSLはファインチューニングの前にラベルなしデータセットから完全に独自のラベルを作成します。

Link to this sectionUltralyticsにおける事前学習済みウェイトの活用#

Ultralyticsエコシステムにおいて、**YOLO26などのモデルは、ImageNetやCOCO**といった巨大なデータセットでの事前学習フェーズ中にSSLに近い原則を組み込んだ高度な学習戦略から大きな恩恵を受けています。これにより、ユーザーが特定のタスクのためにモデルを展開する際、特徴抽出器がすでに堅牢な状態であることが保証されます。

ユーザーは、**Ultralytics Platform**を使用して、これらの強力な事前学習済み表現を活用し、独自のカスタムデータセットでモデルをファインチューニングできます。

以下は、事前学習済みYOLO26モデルをロードし、初期の大規模学習で学習した特徴を活用して新しいデータセットでファインチューニングを開始する方法の簡潔な例です：

from ultralytics import YOLO

# Load a pre-trained YOLO26 model (weights learned from large-scale data)
model = YOLO("yolo26n.pt")

# Fine-tune the model on a specific dataset (e.g., COCO8)
# This leverages the robust feature representations learned during pre-training
results = model.train(data="coco8.yaml", epochs=50, imgsz=640)

Link to this sectionSSLの未来#

**Meta AIやGoogle DeepMindのような主要な研究室の研究者がこれらの技術を改良し続ける中で、SSLは生成AIとコンピュータビジョンの可能性の境界を広げています。ラベル付きデータへの依存度を減らすことで、SSLは高性能AIへのアクセスを民主化し、小規模なチームでも野生生物保護や産業検査**といったニッチなアプリケーション向けに洗練されたモデルを構築できるようにしています。