Retrieval Augmented Generation (RAG)

Retrieval Augmented Generation (RAG), yapay zeka alanında, eğitim verilerinin dışındaki güvenilir bir bilgi tabanına başvurarak bir Large Language Model (LLM) çıktısını optimize eden gelişmiş bir tekniktir. Geleneksel üretken modeller, yalnızca ilk eğitimleri sırasında öğrenilen statik bilgilere güvenir; bu durum, güncelliğini yitirmiş yanıtlara veya halüsinasyonlar olarak bilinen emin görünen yanlışlıklara yol açabilir. RAG, şirket veritabanları, güncel haberler veya teknik kılavuzlar gibi harici kaynaklardan ilgili, güncel bilgileri alıp bir yanıt oluşturulmadan önce modele bağlam olarak sunarak bu boşluğu doldurur. Bu süreç, yapay zekanın çıktılarının yalnızca dilbilimsel olarak tutarlı olmasını değil, aynı zamanda olgusal açıdan doğru ve belirli verilere dayanmasını sağlar.

RAG Sistemleri Nasıl Çalışır?#

Bir RAG sisteminin mimarisi tipik olarak iki ana aşamayı içerir: getirme (retrieval) ve üretme (generation). Bu iş akışı, geliştiricilerin sık sık yeniden eğitim yapma maliyetine katlanmadan bir foundation model sürdürmesine olanak tanır.

1. Getirme (Retrieval): Bir kullanıcı bir sorgu gönderdiğinde sistem öncelikle vector database adı verilen özel bir depolama sisteminde semantic search gerçekleştirir. Bu veritabanı, sistemin yalnızca anahtar kelimeleri eşleştirmek yerine kavramsal olarak benzer bilgileri bulmasını sağlayan, embeddings adı verilen sayısal gösterimlere dönüştürülmüş verileri içerir.

2. Üretme (Generation): Getirme sırasında bulunan ilgili belgeler veya veri parçacıkları, kullanıcının orijinal sorusuyla birleştirilir. Bu zenginleştirilmiş komut istemi daha sonra üretken modele gönderilir. Model, yanıtın getirilen olgulara dayanmasını sağlamak için bir yanıt sentezlemek üzere sağlanan bu bağlamı kullanır. Mekaniğe daha derinlemesine bir dalış için IBM, RAG iş akışları hakkında kapsamlı bir kılavuz sunmaktadır.

Görsel RAG: Bilgisayarlı Görü Entegrasyonu#

RAG geleneksel olarak metin tabanlı olsa da multi-modal learning yükselişi "Görsel RAG" kavramını ortaya çıkarmıştır. Bu senaryoda computer vision modelleri getirme mekanizması olarak görev yapar. Bu modeller, görsel sahne hakkındaki soruları yanıtlamak üzere bir LLM'e beslenen nesne adları, sayıları veya etkinlikleri gibi yapılandırılmış metinsel verileri çıkarmak için görüntüleri veya video akışlarını analiz eder.

Örneğin bir geliştirici, bir görüntüdeki nesneleri tespit etmek ve açıklayıcı bir rapor oluşturmak üzere bu nesne listesini bir metin modeline iletmek için YOLO26 kullanabilir.

from ultralytics import YOLO

# Load the YOLO26 model for state-of-the-art detection
model = YOLO("yolo26n.pt")

# Perform inference to 'retrieve' visual facts from an image
results = model("https://ultralytics.com/images/bus.jpg")

# Extract class names to build a text context for an LLM
detected_classes = [model.names[int(c)] for c in results[0].boxes.cls]
context_string = f"The scene contains: {', '.join(detected_classes)}."

print(context_string)
# Output example: "The scene contains: bus, person, person, person."

Gerçek Dünya Uygulamaları#

RAG, AI agents tescilli veya gerçek zamanlı verilere güvenli bir şekilde erişmesini sağlayarak sektörleri dönüştürüyor.

• Kurumsal Bilgi Tabanları: Şirketler, çalışanların İK politikaları veya teknik belgeler hakkındaki sorularını yanıtlayan dahili sohbet botları oluşturmak için RAG kullanır. Bir LLM canlı bir belge havuzuna bağlanarak sistemin güncelliğini yitirmiş politika bilgileri sağlaması önlenir. Kurumsal uygulamalar hakkında daha fazla bilgi için Google Cloud'un Vertex AI'da RAG genel bakışına göz atın.
• AI in healthcare alanında RAG sistemleri, doktorlara teşhiste yardımcı olmak üzere hasta geçmişini ve son tıbbi araştırma makalelerini alarak tavsiyenin en son klinik çalışmaları dikkate almasını sağlayabilir.
• AI in retail kullanan uygulamalar, canlı envanter veritabanlarını kontrol etmek için RAG'den yararlanır. Bir müşteri sohbet botuna "Bu koşu ayakkabısının 10 numara bedeni var mı?" diye sorarsa model, yanıtlamadan önce gerçek zamanlı stok seviyelerini alarak stokta olmayan ürünler nedeniyle yaşanacak hayal kırıklığını önler.

RAG ve İnce Ayar (Fine-Tuning) Karşılaştırması#

RAG'i fine-tuning ayırmak çok önemlidir, çünkü bunlar farklı sorunları çözer.

• RAG (Retrieval Augmented Generation): Dinamik, sık değişen verilere (örneğin hisse senedi fiyatları, haberler) veya halka açık eğitim setinde bulunmayan özel verilere erişim için en iyisidir. Çalışma zamanında yeni bilgiler sağlamaya odaklanır.
• İnce Ayar (Fine-Tuning): Modelin davranışını, tarzını veya terminolojisini uyarlamak için en iyisidir. Belirli bir veri kümesi üzerinde model weights güncellemeyi içerir. İnce ayar, bir modelin belirli bir dil kalıbını (tıbbi jargon gibi) öğrenmesine yardımcı olurken, gerçek zamanlı gerçeklere erişim sağlama. Karar verme çerçeveleri için OpenAI'ın ince ayar ve RAG kılavuzuna bakın.

İlgili Kavramlar#

• LangChain: Getiricileri ve LLM'leri birbirine bağlayarak RAG uygulamalarının oluşturulmasını basitleştirmek için özel olarak tasarlanmış popüler bir açık kaynaklı çerçeve.
• Knowledge Graph: Basit vektör benzerliğinden daha zengin bağlamsal ilişkiler sunan, bir getirme kaynağı olarak kullanılabilen yapılandırılmış bir veri temsil yolu.
• Prompt Engineering: Modeli yönlendirmek için girdiler oluşturma sanatı. RAG, "komut isteminin" programatik olarak alınan verilerle zenginleştirildiği, komut istemi mühendisliğinin aslında otomatikleştirişmiş bir biçimidir.
• Ultralytics Platform: RAG metin oluşturma tarafını yönetirken, bunun gibi platformlar multimodal RAG boru hatlarına görsel veri besleyen vizyon modellerinin data preprocessing ve eğitimini yönetmek için gereklidir.