Prompt Tuning

Prompt ayarlama, tüm ağı yeniden eğitmenin hesaplama maliyetine katlanmadan önceden eğitilmiş temel modelleri belirli alt görevlere uyarlamak için kullanılan, kaynak açısından verimli bir tekniktir. Geleneksel ince ayarlamanın aksine, bir modelin parametrelerinin tamamını veya çoğunu güncelleyen bu yaklaşımda, önceden eğitilmiş model ağırlıkları dondurulur ve yalnızca giriş verilerinin başına eklenen, "yumuşak promptlar" adı verilen küçük bir dizi öğrenilebilir vektör optimize edilir. Bu yaklaşım, tek ve büyük bir omurganın aynı anda birden fazla uzmanlaşmış uygulamaya hizmet etmesini sağlar; depolama gereksinimlerini ve çıkarım gecikmesi kaynaklı geçiş maliyetlerini önemli ölçüde azaltır.

Prompt Ayarlamanın Mekanizması#

Standart makine öğrenimi (ML) iş akışlarında metin veya görüntü gibi girdiler, gömme vektörleri olarak bilinen sayısal temsillere dönüştürülür. Prompt ayarlama, bu giriş dizisine ek, eğitilebilir gömme vektörleri ekler. Eğitim aşamasında sistem, gradyanları hesaplamak için geri yayılımı kullanır; ancak optimizasyon algoritması yalnızca yumuşak promptların değerlerini günceller ve büyük model yapısını değiştirmeden bırakır.

Bu yöntem, Parametre Verimli İnce Ayarlamanın (PEFT) bir biçimidir. Model, bu sürekli vektörleri öğrenerek istenen çıktıya doğru "yönlendirilir". Bu kavram Doğal Dil İşleme (NLP) alanında ortaya çıkmış olsa da Bilgisayarlı Görü (CV) görevlerine de başarıyla uyarlanmış ve çoğunlukla Görsel Prompt Ayarlama (VPT) olarak adlandırılmıştır.

İlişkili Kavramları Ayırt Etme#

Prompt ayarlamanın faydasını anlamak için onu yapay zekâ alanındaki benzer terimlerden ayırmak önemlidir:

• Prompt Mühendisliği: Bu yaklaşım, bir üretken yapay zekâ modelini yönlendirmek amacıyla insanların okuyabileceği metin talimatlarının (sert promptların) elle oluşturulmasını içerir. Kodlama veya eğitim gerektirmez. Buna karşılık prompt ayarlama, doğal dildeki kelimelere karşılık gelmeyebilecek en uygun sayısal gömme vektörlerini bulmak için otomatik denetimli öğrenmeyi kullanır.
• Tam İnce Ayarlama: Geleneksel yöntemler tüm sinir ağını günceller ve bu da çoğu zaman özgün eğitimin "felaket niteliğinde unutulmasına" yol açar. Prompt ayarlama, modelin özgün yeteneklerini koruyarak ayrık görevler arasında transfer öğrenmeden yararlanmayı kolaylaştırır.
• Az Örnekli Öğrenme: Bu terim genellikle bir LLM modelinin bağlam penceresine birkaç örnek sağlanmasını ifade eder. Prompt ayarlama ise geçici bağlam sağlamak yerine kaydedilip yeniden kullanılan parametreleri kalıcı olarak öğrendiği için bundan farklıdır.

Gerçek Dünya Uygulamaları#

Prompt ayarlama, kaynakları kısıtlı ortamlarda yapay zekânın ölçeklenebilir şekilde dağıtılmasını sağlar; bu, model yönetimi için Ultralytics Platformu tarafından da paylaşılan temel bir felsefedir.

1. Çok Dilli Müşteri Desteği: Küresel bir kuruluş, merkezi ve dondurulmuş tek bir dil modeli kullanabilir. İspanyolca, Japonca ve Almanca için hafif yumuşak promptlar eğitilerek sistem diller arasında anında geçiş yapabilir. Böylece gigabayt boyutundaki üç ayrı modeli barındırmanın yüksek maliyetinden kaçınılır; bunun yerine kilobayt boyutundaki prompt dosyalarına güvenilir.

2. Sağlık Hizmetlerinde Yapay Zekâ: Tıbbi görüntüleme çoğu zaman veri azlığından olumsuz etkilenir. Araştırmacılar genel amaçlı bir görsel omurga (örneğin bir Görsel Transformer) alıp retina hastalıkları veya tümörler gibi belirli anomalileri tespit edecek şekilde uyarlamak için prompt ayarlamayı kullanabilir. Bu yaklaşım, hasta verilerinin gizliliğini korur ve modelin tamamını yeniden eğitmeden yeni tıbbi ekipmanlara hızla uyarlanmayı sağlar.

Uygulama Örneği#

Aşağıdaki PyTorch örneği, bir modelin ana katmanlarını dondurup çıktıyı etkileyecek şekilde optimize edilen ayrı, eğitilebilir bir parametre ("yumuşak prompt") oluşturma şeklindeki temel mekanik kavramı gösterir.

import torch
import torch.nn as nn

# 1. Define a dummy backbone (e.g., a pre-trained layer)
backbone = nn.Linear(10, 5)

# 2. Freeze the backbone weights (crucial for prompt tuning)
for param in backbone.parameters():
    param.requires_grad = False

# 3. Create a 'soft prompt' vector that IS trainable
# This represents the learnable embeddings prepended to inputs
soft_prompt = nn.Parameter(torch.randn(1, 10), requires_grad=True)

# 4. Initialize an optimizer that targets ONLY the soft prompt
optimizer = torch.optim.SGD([soft_prompt], lr=0.1)

# Verify that only the prompt is being trained
trainable_params = sum(p.numel() for p in [soft_prompt] if p.requires_grad)
print(f"Optimizing {trainable_params} parameters (Soft Prompt only)")

Modern Uç Yapay Zekâ ile İlgisi#

Modeller büyüdükçe onları düşük maliyetle uyarlayabilme yeteneği kritik hâle gelir. YOLO26 gibi mimariler verimlilik için zaten yüksek düzeyde optimize edilmiş olsa da omurgaları dondurma ve verimli uyarlama ilkeleri, Uç Yapay Zekânın geleceği açısından temeldir. Prompt ayarlamaya benzer teknikler, sınırlı belleğe sahip cihazların büyük sinir ağlarını yeniden yüklemek yerine küçük yapılandırma dosyalarını değiştirerek nesne tespitinden segmentasyona kadar çeşitli görevleri gerçekleştirmesine olanak tanır.

Verimli bir şekilde eğitim ve dağıtım yapmak isteyen geliştiriciler için Ultralytics Platformu gibi araçlardan yararlanmak, modern MLOps en iyi uygulamalarından faydalanarak modellerin hedef donanımlarına özel olarak optimize edilmesini sağlar.