Generative AI

Üretken yapay zekâ, modellerin eğitim verilerinin olasılık dağılımını öğrendiği ve bu dağılımdan metin, görüntü, ses, video, kod, 3B sahneler veya moleküler yapılar gibi yeni veriler örneklediği yapay zekâ (AI) dalıdır. Ayırt edici bir model, girdi verildiğinde etiket olasılığını, yani p(etiket | girdi) değerini öğrenirken üretici bir model p(girdi) değerini veya p(girdi | istem) değerini öğrenir ve böylece daha önce hiç var olmamış girdiler üretebilir. Bu terim, OpenAI'nin 30 Kasım 2022'de ChatGPT'yi yayımlamasının ardından gündelik kullanıma girdi, ancak yöntemler daha eskidir: Diederik Kingma ve Max Welling 2013'te değişkenli otomatik kodlayıcıyı, Ian Goodfellow ve çalışma arkadaşları ise 2014'te üretici çekişmeli ağları tanıttı.

Üretken Modeller Nasıl Çalışır?#

Günümüzdeki üretken yapay zekânın çoğunu derin öğrenme modellerinin dört ailesi üretir ve GPT türündeki her büyük dil modeli (LLM) ilk aileye girer:

• Otoregresif transformer'lar: Metin, kod, konuşma ve belirteçlere dönüştürülmüş görüntüler için, her adımda o ana kadar yazılmış her şeye bağlı olarak diziyi bir belirteç seferde üretir.
• Difüzyon modelleri: Eğitim örneklerine gürültü ekler ve bu gürültüyü adım adım gidermeyi öğrenir; böylece üretim saf gürültüyle başlar ve bu gürültü giderilerek bir örneğe dönüştürülür. Ağustos 2022'de yayımlanan Stable Diffusion, bu süreci sıkıştırılmış bir gizil uzayda yürütür.
• Üretici çekişmeli ağlar (GAN'ler): Gerçek örnekleri üretilmiş örneklerden ayırmaya çalışan bir ayırt ediciye karşı bir üreticiyi eğitir; bu da tek bir ileri geçişte üreticinin gerçekçi çıktılar üretmesini sağlar.
• Değişkenli otomatik kodlayıcılar (VAE'ler): Verileri bilinen bir dağılıma sahip gizil uzaya kodlar ve bu dağılımdan örneklenen verilerin kodunu çözer. Gizil difüzyon modelleri, gürültü giderme işleminden önce görüntüleri sıkıştırmak için bir VAE kullanır.

Temel fikir birkaç satırda anlatılabilir. Bir Gauss karışım modeli, Iris veri kümesindeki 150 çiçeğin dağılımını öğrenip yeni çiçekler örnekler; aynı verilerle eğitilmiş ayırt edici bir sınıflandırıcı ise çiçekleri etiketler:

from sklearn.datasets import load_iris
from sklearn.linear_model import LogisticRegression
from sklearn.mixture import GaussianMixture

iris = load_iris()  # 150 çiçek: çanak yaprak ve taç yaprak uzunluğu ile genişliği, cm cinsinden

# Ayırt edici model: p(tür | ölçümler) değerini öğrenir; bu nedenle yalnızca çiçekleri etiketleyebilir
classifier = LogisticRegression(max_iter=1000).fit(iris.data, iris.target)

# Üretici model: p(ölçümler) değerini öğrenir; bu nedenle yeni çiçekler örnekleyebilir
generator = GaussianMixture(n_components=3, random_state=0).fit(iris.data)
new_flowers, _ = generator.sample(3)

# Ayırt edici model, üretilen örnekleri etiketler
for flower, species in zip(new_flowers.round(1), classifier.predict(new_flowers)):
    print(flower, iris.target_names[species])

Örneklenen üç çiçek (örneğin çanak yaprakları 4,7 cm, taç yaprakları 1,4 cm olan biri) daha önce hiç ölçülmemişti; buna rağmen sınıflandırıcı bunları sırasıyla versicolor, setosa ve virginica olarak sınıflandırıyor, çünkü karışımdaki üç küme üç türle örtüşüyor. Bir metin veya görüntü üreticisi, üç Gauss dağılımının yerine milyarlarca parametreli bir sinir ağı; ölçümlerin yerine de belirteçler veya pikseller kullanır.

Üretici ve Ayırt Edici Modeller Bir Arada#

Görüntü sınıflandırma ve nesne algılama, ayırt edici görevlerdir: YOLO26, bir görüntüyü kutulara ve sınıflara dönüştürür; ancak görüntü çizemez. İki model türü genellikle art arda çalışır. Ultralytics Platform'un sınıf istemli akıllı anotasyon özelliği, bir veri kümesinin sınıf adları için kutular çizmek üzere üretken görsel-dil modelleri (VLM'ler) kullanır; varsayılan model Moondream 3.1'dir. İncelenmiş bu kutular, bir YOLO26 algılayıcısını eğitmek için etiketlere dönüşür.

Üreticiler ayrıca, alışılmadık kusurlar veya yol tehlikeleri gibi fotoğraflanması pahalı ya da tehlikeli olan nadir olaylar için sentetik veriler oluşturur; sentetik veri üretimi işlem hatları da eğitimde bu görüntüleri gerçek görüntülerle harmanlar. Tersi yöndeki kullanım da yaygındır: Algılayıcılar ve sınıflandırıcılar, üretilen görüntülerin kalitesini puanlar veya güvenli olmayan içerikleri işaretler.

Uygulamalar#

• Metin üretimi: Sohbet asistanları, özetleme ve çeviri LLM'lerle çalışır; kodlama asistanları ise bir açıklamadan yazılım yazar ve yazılımı test eder.
• Metinden görüntüye: Stable Diffusion gibi modeller istemlerden görüntüler oluşturur ve aynı modeller bir fotoğrafın maskelenmiş bölgelerini doldurur veya değiştirir.
• Metinden videoya: Şubat 2024'te ön izlemesi sunulan OpenAI'nin Sora'sı gibi modeller, bir açıklamadan video klipleri üretir.
• Moleküler yapı: Google DeepMind ve Isomorphic Labs'ın Mayıs 2024'te yayımladığı AlphaFold 3, atom koordinatları üreten difüzyon tabanlı bir modülle protein komplekslerinin yapılarını tahmin eder.

Riskler ve Sınırlamalar#

Dil üreticileri akıcı ama yanlış ifadeler uydurur; görüntü ve ses üreticileri deepfake üretimini mümkün kılar; web verileri üzerinde eğitim yapmak ise telif hakkı ve rıza konularını gündeme getirir. Yapay zekâ filigranları ve C2PA içerik kimlik bilgileri, daha sonra tanımlanabilmeleri için üretilmiş medyaları işaretler. Üretilen içerik eğitim verilerine de geri beslenir: Ilia Shumailov ve çalışma arkadaşları, 2024'te Nature'da yayımlanan The Curse of Recursion çalışmasında, kendi çıktıları üzerinde yinelemeli biçimde eğitilen modellerin özgün dağılımdaki seyrek kuyrukları kaybettiğini gösterdi; bu başarısızlığa model çökmesi adını verdiler.