Constitutional AI

Anayasal Yapay Zekâ, yalnızca tek tek çıktılar hakkında kapsamlı insan geri bildirimine güvenmek yerine, yapay zekâ sistemlerine bir dizi üst düzey ilke—bir "anayasa"—sağlayarak onları insan değerleriyle uyumlu hâle getirmek üzere eğiten bir yöntemdir. Bu yaklaşım, yapay zekâ modeline "yardımcı ol," "zarar verme" ve "ayrımcılıktan kaçın" gibi önceden tanımlanmış bir dizi kurala dayanarak kendi davranışını eleştirmeyi ve gözden geçirmeyi öğretir. Geliştiriciler, bu etik kuralları doğrudan eğitim sürecine yerleştirerek manuel İnsan Geri Bildiriminden Pekiştirmeli Öğrenmeye (RLHF) dayanan sistemlere kıyasla daha güvenli, daha şeffaf ve ölçeklenmesi daha kolay sistemler oluşturabilir.

Anayasal Yapay Zekânın Mekanizması#

Anayasal Yapay Zekânın temel yeniliği, modellerin hizalanmasını otomatikleştiren iki aşamalı eğitim sürecinde yatar. İnsanların her doğru yanıtı etiketlemesi gereken geleneksel denetimli öğrenmenin aksine Anayasal Yapay Zekâ, eğitim verilerini oluşturmak için modelin kendisini kullanır.

1. Denetimli Öğrenme Aşaması: Model, istemlere yanıtlar üretir ve ardından anayasal ilkelere dayanarak kendi çıktısını eleştirir. Yanıtı, kurallarla daha iyi uyum sağlayacak şekilde gözden geçirir. Bu iyileştirilmiş veri kümesi daha sonra modele ince ayar yapmak için kullanılır ve modelin yönergeleri özünde takip etmesi öğretilir.

2. Pekiştirmeli Öğrenme Aşaması: Genellikle Yapay Zekâ Geri Bildiriminden Pekiştirmeli Öğrenme (RLAIF) olarak adlandırılan bu aşamada insan etiketleyicinin yerini yapay zekâ alır. Yapay zekâ, yanıt çiftleri oluşturur ve anayasaya en iyi şekilde uyan yanıtı seçer. Bu tercih verileri, daha sonra standart pekiştirmeli öğrenme teknikleri aracılığıyla istenen davranışları güçlendiren bir ödül modelini eğitir.

Bilgisayarlı Görü ile İlişkisi#

Anayasal Yapay Zekâ, Anthropic gibi kuruluşlar tarafından geliştirilen Büyük Dil Modelleri (LLM) bağlamında ortaya çıkmış olsa da ilkeleri, Bilgisayarlı Görü (CV) dâhil olmak üzere daha geniş makine öğrenmesi görevleri için giderek daha fazla önem kazanmaktadır.

• Etik Görüntü Üretimi: Görüntü oluşturmak için kullanılan Üretken Yapay Zekâ araçları, şiddet içeren, nefret uyandıran veya telif hakkıyla korunan görüntüler oluşturacak istemleri reddetmek üzere "anayasal" ilkelerle eğitilebilir. Bu, model ağırlıklarının kendilerinin güvenlik kısıtlamalarını kodlamasını sağlayarak zararlı görsel içeriğin oluşturulmasını önler.
• Güvenlik Açısından Kritik Görü Sistemleri: Otonom araçlarda "anayasal" bir yaklaşım, karar verme için hiyerarşik kurallar tanımlayabilir. Örneğin, "insan güvenliği trafik verimliliğine üstün gelir" kuralı, karmaşık yol sahnelerini analiz ederken modele yol gösterebilir ve nesne algılama sonuçlarının güvenliği öncelik alacak şekilde yorumlanmasını sağlayabilir.

Görü Yapay Zekâsında Politika Denetimlerini Uygulama#

Tam kapsamlı Anayasal Yapay Zekâ eğitimi karmaşık geri bildirim döngüleri içerse de geliştiriciler, güvenlik politikalarına göre çıktıları filtrelemek için çıkarım sırasında "anayasal denetimler" kavramını uygulayabilir. Aşağıdaki örnekte, nesneleri algılamak için Ultralytics YOLO26 kullanılması ve güvenilirlik anayasasını taklit edecek şekilde düşük güvenli algılamaları filtrelemek üzere bir güvenlik kuralı uygulanması gösterilmektedir.

from ultralytics import YOLO

# Load the YOLO26 model (latest stable Ultralytics release)
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")

# Apply a "constitutional" safety check: Only accept high-confidence detections
for result in results:
    # Filter boxes with confidence > 0.5 to ensure reliability
    safe_boxes = [box for box in result.boxes if box.conf > 0.5]

    print(f"Safety Check Passed: {len(safe_boxes)} reliable objects detected.")
    # Further processing would only use 'safe_boxes'

Anayasal Yapay Zekâ ve Geleneksel RLHF Karşılaştırması#

Anayasal Yapay Zekâyı standart İnsan Geri Bildiriminden Pekiştirmeli Öğrenmeden (RLHF) ayırt etmek önemlidir.

• Ölçeklenebilirlik: RLHF, model çıktılarını değerlendirmek için büyük miktarda insan emeği gerektirir; bu da pahalı ve yavaştır. Anayasal Yapay Zekâ, bunu yapay zekâ aracıları ile otomatikleştirerek yüksek düzeyde ölçeklenebilir hâle getirir.
• Şeffaflık: RLHF'de model, opak bir "ödül sinyalinden" (bir puandan) öğrenir ve bu da bir davranışın neden tercih edildiğini anlamayı zorlaştırır. Anayasal Yapay Zekâda eleştiri aşamasında kullanılan düşünce zinciri istemi, akıl yürütmeyi açık hâle getirir ve belirli yazılı ilkelere kadar izlenebilmesini sağlar.
• Tutarlılık: İnsan değerlendiriciler tutarsız veya taraflı olabilir. Yazılı bir anayasa, yapay zekâ etiği için istikrarlı bir temel sağlayarak hizalama sürecindeki öznelliği azaltır.

Hizalamanın Geleceği#

Modeller Yapay Genel Zekâya (AGI) doğru geliştikçe Anayasal Yapay Zekâ gibi sağlam hizalama stratejilerinin önemi de artar. Bu yöntemler, NIST Yapay Zekâ Güvenliği Enstitüsü gibi kuruluşlar tarafından geliştirilen yeni standartlara uyum sağlamak için gereklidir.

Ultralytics Platformu, veri yönetişimini ve model izlemeyi yönetmek için araçlar sunarak sorumlu yapay zekâ sistemlerinin oluşturulmasını kolaylaştırır. Kuruluşlar, bu etik değerlendirmeleri yapay zekâ geliştirme yaşam döngüsüne—veri toplama aşamasından model dağıtımına kadar—entegre ederek riskleri azaltabilir ve teknolojilerinin topluma olumlu katkıda bulunmasını sağlayabilir.