Kendi Kendine Denetimli Öğrenme

Self-Supervised Learning (SSL) (Kendi Kendine Denetimli Öğrenme), modellerin büyük miktarlarda etiketlenmemiş veriden öğrenmesini sağlayan bir makine öğrenimi tekniğidir. İnsan tarafından sağlanan etiketlere güvenmek yerine, SSL, bir "ön görev (pretext task)" oluşturup çözerek verilerden otomatik olarak etiketler üretir. Bu süreç, modeli görüntüdeki dokular ve şekiller veya metindeki dilbilgisel yapılar gibi verilerin anlamlı temel örüntülerini ve özelliklerini öğrenmeye zorlar. Bu öğrenilen özellikler, modelin ince ayar (fine-tuning) aşamasında çok daha az etiketli veriyle alt görevlerde olağanüstü iyi performans göstermesini sağlayan güçlü bir temel oluşturur. SSL, veri açlığı çeken tam denetimli öğrenme (supervised learning) ile daha az yönlendirilebilen tamamen denetimsiz öğrenme (unsupervised learning) arasındaki boşluğu doldurur.

Kendi Kendine Denetimli Öğrenme Nasıl Çalışır

SSL'nin ardındaki temel fikir, modelin çözmesi gereken kendi kendine oluşturulmuş bir sorun olan ön görevdir. Bu görev için etiketler doğrudan girdi verilerinden türetilir. Sinir ağı, ön görevi çözerek verilerin temel özelliklerini yakalayan değerli temsiller veya gömmeler öğrenir.

Bilgisayarlı görüde yaygın ön görevler şunları içerir:

• Görüntü Döndürmeyi Tahmin Etme: Modele rastgele döndürülmüş (örneğin, 0, 90, 180 veya 270 derece) bir görüntü gösterilir ve dönüş açısını tahmin etmesi gerekir. Bunu doğru bir şekilde yapmak için, nesnenin orijinal yönünü tanıması gerekir.
• Görüntü Tamamlama: Bir görüntünün bir kısmı maskelenir veya kaldırılır ve modelin eksik yamayı tahmin etmesi gerekir. Bu, modeli görüntülerin bağlamı ve dokusu hakkında bilgi edinmeye teşvik eder.
• Zıtlık Öğrenimi (Contrastive Learning): Modele, benzer (artırılmış) görüntülerin temsillerini birbirine yaklaştırması ve farklı görüntülerin temsillerini birbirinden uzaklaştırması öğretilir. SimCLR gibi çerçeveler, bu yaklaşımın popüler örnekleridir.

Etiketlenmemiş veriler üzerinde yapılan bu ön eğitim, daha spesifik görevler için bir başlangıç noktası olarak kullanılabilecek sağlam model ağırlıkları ile sonuçlanır.

SSL ve Diğer Öğrenme Paradigmaları

SSL'yi ilgili makine öğrenimi paradigmalarından ayırmak çok önemlidir:

• Denetimli Öğrenme: Tamamen etiketli verilere dayanır; burada her girdi doğru bir çıktıyla eşleştirilir. SSL ise, verilerden kendi etiketlerini oluşturarak manuel veri etiketleme ihtiyacını önemli ölçüde azaltır.
• Gözetimsiz Öğrenme: Önceden tanımlanmış görevler olmadan etiketlenmemiş verilerde kalıpları (kümeleme gibi) bulmayı veya boyutu azaltmayı amaçlar. SSL, gözetimsiz öğrenme gibi etiketlenmemiş verileri kullanırken, temsili öğrenmeyi yönlendirmek için ön görevler aracılığıyla açık denetim sinyalleri oluşturarak farklılık gösterir.
• Semi-Supervised Learning (Yarı Denetimli Öğrenme): Az miktarda etiketli veri ve çok miktarda etiketsiz verinin bir kombinasyonunu kullanır. SSL ön eğitimi genellikle yarı denetimli ince ayardan önce gelen bir ön adım olabilir.
• Aktif Öğrenme: İnsan tarafından etiketlenmek üzere, etiketlenmemiş bir havuzdan en bilgilendirici veri noktalarını akıllıca seçmeye odaklanır. SSL, döngüde insan müdahalesi olmadan tüm etiketlenmemiş verilerden öğrenir. Bu iki yöntem, bir veri merkezli yapay zeka iş akışında birbirini tamamlayıcı olabilir.

Gerçek Dünya Uygulamaları

SSL, çeşitli alanlarda Yapay Zeka (AI) yeteneklerini önemli ölçüde geliştirmiştir:

1. Bilgisayarla Görü Modellerini Geliştirme: SSL ön eğitimi, Ultralytics YOLO gibi modellerin, otonom araçlarda nesne algılama veya tıbbi görüntü analizi gibi görevler için ince ayar yapılmadan önce büyük, etiketlenmemiş görüntü veri kümelerinden sağlam görsel özellikler öğrenmesini sağlar. SSL'den türetilen önceden eğitilmiş ağırlıkların kullanılması, genellikle model eğitimi sırasında daha iyi performansa ve daha hızlı yakınsamaya yol açar.
2. Büyük Dil Modellerini (LLM'ler) Güçlendirme: GPT-4 ve BERT gibi temel modeller, geniş metin derlemlerinde ön eğitim aşamalarında SSL ön görevlerine (maskelenmiş dil modelleme gibi) büyük ölçüde güvenir. Bu, karmaşık sohbet robotlarından ve makine çevirisinden metin özetlemeye kadar uzanan uygulamaları güçlendirerek dil yapısını, gramerini ve bağlamını anlamalarını sağlar.

SSL, pahalı etiketli veri kümelerine olan bağımlılığı önemli ölçüde azaltarak, güçlü AI modellerinin geliştirilmesini demokratikleştirir. PyTorch ve TensorFlow gibi araçlar, Ultralytics HUB gibi platformlarla birlikte, SSL tekniklerini kullanarak son teknoloji AI çözümleri oluşturmak ve dağıtmak için ortamlar sağlar. SSL ile ilgili en son araştırmaları NeurIPS ve ICML gibi önde gelen AI konferanslarında bulabilirsiniz.