Doğrulama Zinciri (CoVe)

Doğrulama Zinciri (CoVe), Büyük Dil Modellerinin (LLM) çıktılarındaki yanlışlıkları ve gerçek hataları azaltmak için tasarlanmış gelişmiş bir komut istemi mühendisliği tekniğidir. Yapay zeka sistemleri daha karmaşık hale geldikçe, yanlış bilgi üretme eğilimleri ( LLM halüsinasyonu olarak bilinen bir olgu) önemli bir sorun olmaya devam etmektedir. CoVe, modeli kullanıcıya nihai bir yanıt sunmadan önce kendi ilk yanıtlarını sistematik olarak doğrulamaya zorlayarak bu sorunu ele alır. Bu kendi kendini düzeltme mekanizması, çeşitli sektörlerdeki üretken yapay zeka uygulamalarının güvenilirliğini önemli ölçüde artırır.

Doğrulama Süreci Nasıl İşler?

CoVe metodolojisi, üretim sürecini dört ayrı, ardışık adıma ayırır. Bu yapılandırılmış yaklaşım, insan doğrulama iş akışlarını yansıtır ve yapay zeka güvenliğini ve uyumunu iyileştirmek için önde gelen yapay zeka kuruluşları tarafından aktif olarak araştırılmaktadır.

• İlk Yanıt Taslağı Oluşturma : Model, kullanıcının sorgusuna temel bir yanıt üretir. Bu taslak, doğrulanmamış veya hayali iddialar içerebilir.
• Plan Doğrulama Soruları : Model kendi taslağını analiz eder ve ilk metinde yapılan olgusal iddiaları doğrulamak için tasarlanmış, belirli ve hedefli sorulardan oluşan bir liste oluşturur.
• Bağımsız Doğrulama İşlemleri Gerçekleştirme : Model, orijinal taslağın bağlamına bağlı kalmadan, doğrulama sorularını bağımsız olarak yanıtlar. Bu, modelin kendi önyargılarını veya önceki hatalarını doğrulamasını engeller.
• Son Doğrulanmış Çıktıyı Oluşturma : Model, yeni doğrulanmış gerçekleri kullanarak ilk taslağı gözden geçirir, yanlışlıkları giderir ve daha rafine, gerçeğe uygun bir yanıt sunar.

CoVe'yi Benzer Tekniklerden Ayırt Etme

CoVe sıklıkla Düşünce Zinciri Tetikleme ile karşılaştırılsa da, ikisinin amacı farklıdır. Düşünce Zinciri, karmaşık mantıksal akıl yürütmeyi adım adım bileşenlere ayırarak bir modeli "çalışmasını göstermeye" teşvik eder. Buna karşılık, Doğrulama Zinciri, taslak oluşturulduktan sonra iddiaları denetleyerek ve revize ederek özellikle olgusal doğruluğu hedefler. Ek olarak, CoVe, doğrulama adımının yalnızca modelin dahili ağırlıklarına güvenmek yerine harici bir vektör veritabanından gerçek verileri çektiği Geri Alma Destekli Üretim (RAG) işlem hatlarıyla eşleştirilebilir.

Gerçek Dünya Uygulamaları

CoVe, olgusal doğruluğun kritik olduğu alanlarda son derece faydalıdır. Bu kendi kendini kontrol eden döngüyü entegre ederek, geliştiriciler yapay zeka sistemlerine daha yüksek riskli görevlerde güvenebilirler.

• Tıbbi ve Sağlık Asistanları : Bir yapay zeka hastanın semptomlarını veya tıbbi literatürü özetlediğinde, CoVe, önerilerde bulunmadan önce sistemin ilaç etkileşimlerini, dozajları ve tanı kriterlerini yerleşik tıbbi bilgilerle doğrulamasını sağlar.
• Otomatik Endüstriyel Raporlama : Akıllı fabrikalarda, bir LLM (Dilsel Öğrenme Modeli), görsel inceleme kayıtlarına dayanarak özet bir rapor oluşturabilir. CoVe'yi bilgisayar görüşü modelleriyle birleştirerek, dil modeli, günlük bakım raporunu tamamlamadan önce, belirli bir hatanın montaj hattında gerçekten tespit edilip edilmediğini doğrulamak için görüş sistemini sorgulayabilir.

Görsel Modellerle Topraklama Doğrulaması

CoVe'nin "Yürütme" adımını geliştirmek için geliştiriciler, gerçek veriler için yetkili makine öğrenimi modellerini sorgulayabilirler. Örneğin, nesne tespiti için Ultralytics YOLO26 kullanılarak, bir LLM bir görüntü hakkındaki fiziksel iddiaları doğrulayabilir. Ekipler, sezgisel Ultralytics Platformunu kullanarak bu veri kümelerini verimli bir şekilde yönetebilir ve bu görüntü işleme modellerini dağıtabilirler.

Aşağıdaki Python örneği, aşağıdakilerin nasıl kullanılacağını göstermektedir ultralytics Doğrulanmış nesnelerin listesini çıkarmak için kullanılan paket; bu liste, Doğrulama Zinciri adımını yürüten bir LLM için olgusal bir temel kaynağı olarak işlev görebilir.

from ultralytics import YOLO

# Load the YOLO26n model to act as a factual verification source
model = YOLO("yolo26n.pt")

# Run inference on an image to get ground-truth detections
results = model("https://ultralytics.com/images/bus.jpg")

# Extract the class names of actually detected objects for CoVe grounding
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]

# Pass this factual list to the LLM during its verification execution step
print(f"CoVe Ground Truth Facts: {detected_objects}")
# Output example: ['bus', 'person', 'person', 'person', 'person']

PyTorch gibi yüksek performanslı görüntü işleme çerçevelerinden gelen deterministik çıktıları CoVe işlem hattına entegre ederek, geliştiriciler üretken hataları önemli ölçüde azaltabilir ve sağlam, güvenilir çok modlu yapay zeka uygulamaları oluşturabilirler.