İstemi Ayarlama

İstem Ayarlama, Büyük Dil Modelleri (LLM'ler) gibi önceden eğitilmiş büyük modelleri, orijinal modelin ağırlıklarını değiştirmeden yeni görevlere uyarlamak için güçlü ve verimli bir tekniktir. Temel modeldeki milyarlarca parametreyi sabit tutan ve bunun yerine göreve özgü küçük bir "yumuşak istemler" kümesi öğrenen bir Parametre Verimli İnce Ayar (PEFT) biçimidir. Bu yumuşak yönlendirmeler insan tarafından okunabilir metinler değil, girdiye eklenen ve dondurulmuş modeli belirli bir alt görev için istenen çıktıyı üretmeye yönlendiren öğrenilebilir katıştırmalardır. Bu yaklaşım, orijinal Google AI araştırma makalesinde belgelendiği gibi, göreve özgü uyarlama için gereken hesaplama maliyetini ve depolama alanını önemli ölçüde azaltır.

Temel fikir, milyarlarca parametreye sahip olabilecek tüm modeli yeniden eğitmek veya ince ayar yapmak yerine, görev başına yalnızca birkaç bin veya milyon ekstra parametreyi (yumuşak istem) eğitmektir. Bu, tam model kopyaları oluşturmadan, önceden eğitilmiş tek bir model için her biri farklı bir göreve göre uyarlanmış birçok özel "istem modülü" oluşturmayı mümkün kılar. Bu yöntem ayrıca, bir modelin yeni bir görev üzerinde eğitildiğinde önceden öğrenilen bilgileri unuttuğu felaket unutmayı azaltmaya da yardımcı olur.

Gerçek Dünya Uygulamaları

Prompt Tuning, çok çeşitli özel uygulamalar için güçlü temel modellerin özelleştirilmesini sağlar.

• Özelleştirilmiş Duygu Analizi: Bir şirket, belirli ürünleri için müşteri geri bildirimlerini analiz etmek istiyor. Genel amaçlı bir duyarlılık analizi modeli sektöre özgü jargonu anlamayabilir. İpucu ayarlama özelliğini kullanarak şirket, BERT gibi büyük bir modeli, kendi etiketlenmiş müşteri incelemeleri üzerinde küçük bir yumuşak ipucu kümesini eğiterek uyarlayabilir. Ortaya çıkan model, tam model eğitimine gerek kalmadan geri bildirimleri doğru bir şekilde sınıflandırabilir ve daha incelikli içgörüler sağlayabilir.
• Uzmanlaşmış Tıbbi Chatbotlar: Bir sağlık kuruluşu, hastaların belirli tıbbi durumlarla ilgili sorularını yanıtlayan bir chatbot oluşturmayı hedefliyor. Büyük bir tıbbi LLM'yi tamamen eğitmek yoğun kaynak gerektirir. Bunun yerine, GPT-4 gibi önceden eğitilmiş bir model üzerinde istem ayarlamayı kullanabilirler. Sohbet robotu, seçilmiş bir tıbbi veri kümesi üzerinde göreve özel bir ipucunu eğiterek söz konusu etki alanı için doğru, bağlama duyarlı yanıtlar vermeyi öğrenir ve sağlık hizmetlerinde güçlü yapay zekayı daha erişilebilir hale getirir.

İstemi Ayarlama ve İlgili Kavramlar

Prompt Tuning'i benzer tekniklerden ayırmak önemlidir:

• İnce ayar: Bu yöntem, önceden eğitilmiş bir modelin parametrelerinin büyük bir kısmını veya hatta tamamını yeni bir veri kümesi üzerinde günceller. Hesaplama açısından daha yoğundur ancak bazen modelin dahili temsillerini derinlemesine uyarlayarak daha yüksek performans elde edebilir. Model eğitimi ipuçları genellikle ince ayarın yönlerini kapsar.
• Hızlı Mühendislik: Bu, önceden eğitilmiş donmuş bir modeli yönlendirmek için etkili metin tabanlı istemleri (zor istemler) manuel olarak tasarlamaya odaklanır. Girdi metninin kendi içinde talimatların ve örneklerin oluşturulmasını içerir ve herhangi bir yeni parametrenin eğitilmesini içermez. Düşünce zinciri yönlendir mesi gibi teknikler bu kategoriye girer.
• İstemi Zenginleştirme: Bu teknik, örneğin Retrieval-Augmented Generation (RAG) kullanarak bir kullanıcının sorgusunu yapay zeka modeline gönderilmeden önce bağlam ekleyerek otomatik olarak geliştirir. Komut istemi ayarlamasının aksine, yeni parametreleri eğitmeden giriş sorgusunu iyileştirir.
• LoRA (Düşük Sıralı Adaptasyon): Önceden eğitilmiş modelin mevcut katmanlarına ( dikkat mekanizması gibi) küçük, eğitilebilir düşük rütbeli matrisler enjekte eden başka bir PEFT tekniği. Yalnızca girdi katıştırmalarına odaklanan Prompt Tuning ile karşılaştırıldığında modelin farklı bölümlerini günceller. Her ikisi de genellikle Hugging Face PEFT kütüphanesi gibi kütüphanelerde bulunur.

Prompt Tuning ağırlıklı olarak Doğal Dil İşleme (NLP) alanındaki LLM'lere uygulanırken, verimli adaptasyonun temel prensibi Yapay Zeka (AI) genelinde geçerlidir. Bilgisayarla Görme (CV) alanında, Ultralytics YOLO gibi modellerin özel veri kümeleri üzerinde tam ince ayarı nesne algılama gibi görevler için yaygın olsa da, PEFT yöntemleri özellikle büyük çok modlu modeller için ilgi görmektedir. Ultralytics HUB gibi platformlar, gelecekte bu tür verimli teknikleri potansiyel olarak dahil ederek çeşitli yapay zeka modellerini eğitme ve dağıtma sürecini kolaylaştırır.