Retrieval Augmented Generation (RAG)

Bilgi Getirmeli Üretim (RAG), eğitim verilerinin dışında yer alan güvenilir bir bilgi tabanına başvurarak bir Büyük Dil Modeli (LLM) çıktısını optimize eden, yapay zekâ alanında kullanılan gelişmiş bir tekniktir. Geleneksel üretken modeller yalnızca ilk eğitimleri sırasında öğrendikleri statik bilgilere dayanır; bu da güncelliğini yitirmiş yanıtlara veya halüsinasyonlar olarak bilinen, kendinden emin bir şekilde sunulan yanlışlıklara yol açabilir. RAG; şirket veritabanları, güncel haberler veya teknik kılavuzlar gibi harici kaynaklardan ilgili ve güncel bilgileri alıp yanıt oluşturulmadan önce bağlam olarak modele aktararak bu boşluğu kapatır. Bu süreç, yapay zekâ çıktılarının yalnızca dilbilgisel açıdan tutarlı değil, aynı zamanda olgusal olarak doğru ve belirli verilere dayalı olmasını sağlar.

RAG Sistemleri Nasıl Çalışır#

Bir RAG sisteminin mimarisi genellikle iki ana aşamadan oluşur: bilgi getirme ve üretim. Bu iş akışı, geliştiricilerin sık ve maliyetli yeniden eğitim gerektirmeden bir temel modeli korumasını sağlar.

1. Bilgi getirme: Bir kullanıcı sorgu gönderdiğinde sistem, önce vektör veritabanı adı verilen özel bir depolama sistemi üzerinde anlamsal arama gerçekleştirir. Bu veritabanı, gömme vektörleri olarak bilinen sayısal temsillere dönüştürülmüş veriler içerir; böylece sistem yalnızca anahtar kelimeleri eşleştirmek yerine kavramsal olarak benzer bilgileri bulabilir.

2. Üretim: Bilgi getirme sırasında bulunan ilgili belgeler veya veri parçacıkları, kullanıcının özgün sorusuyla birleştirilir. Bu zenginleştirilmiş istem daha sonra üretken modele gönderilir. Model, bir yanıt oluşturmak için sağlanan bu bağlamı kullanır ve yanıtın getirilen gerçeklere dayanmasını sağlar. Mekanizmaları daha ayrıntılı incelemek için IBM'nin RAG iş akışları hakkındaki kapsamlı kılavuzuna göz atabilirsin.

Görsel RAG: Bilgisayarlı Görünün Entegrasyonu#

RAG geleneksel olarak metin tabanlı olsa da çok modlu öğrenmenin yükselişi, "Görsel RAG" kavramını ortaya çıkardı. Bu senaryoda bilgisayarlı görü modelleri bilgi getirme mekanizması olarak görev yapar. Bu modeller, yapılandırılmış metin verilerini (nesne adları, sayıları veya etkinlikler gibi) çıkarmak için görüntüleri ya da video akışlarını analiz eder; ardından bu veriler, görsel sahne hakkındaki soruları yanıtlamak üzere bir LLM'ye aktarılır.

Örneğin bir geliştirici, bir görüntüdeki nesneleri tespit etmek ve bu nesne listesini açıklayıcı bir rapor oluşturması için bir metin modeline aktarmak üzere YOLO26 kullanabilir.

from ultralytics import YOLO

# Load the YOLO26 model for state-of-the-art detection
model = YOLO("yolo26n.pt")

# Perform inference to 'retrieve' visual facts from an image
results = model("https://ultralytics.com/images/bus.jpg")

# Extract class names to build a text context for an LLM
detected_classes = [model.names[int(c)] for c in results[0].boxes.cls]
context_string = f"The scene contains: {', '.join(detected_classes)}."

print(context_string)
# Output example: "The scene contains: bus, person, person, person."

Gerçek Dünya Uygulamaları#

RAG, yapay zekâ aracılarına özel veya gerçek zamanlı verilere güvenli bir şekilde erişme olanağı sağlayarak sektörleri dönüştürüyor.

• Kurumsal bilgi tabanları: Şirketler, çalışanların İK politikaları veya teknik belgeler hakkındaki sorularını yanıtlayan kurum içi sohbet botları oluşturmak için RAG kullanır. Bir LLM'yi canlı bir belge deposuna bağlayan sistem, güncelliğini yitirmiş politika bilgileri sunmaktan kaçınır. Kurumsal uygulamalar hakkında daha fazla bilgi için Google Cloud'un Vertex AI'da RAG genel bakışına göz atabilirsin.
• Klinik karar desteği: Sağlık hizmetlerinde yapay zekâ alanında RAG sistemleri, doktorlara tanı koymada yardımcı olmak üzere hasta geçmişini ve yakın tarihli tıbbi araştırma makalelerini getirebilir; böylece önerilerin en güncel klinik çalışmaları dikkate alması sağlanır.
• Akıllı perakende asistanları: Perakendede yapay zekâ kullanan uygulamalar, canlı envanter veritabanlarını kontrol etmek için RAG'den yararlanır. Bir müşteri sohbet botuna "Bu koşu ayakkabılarının 10 numarası var mı?" diye sorduğunda model, yanıt vermeden önce gerçek zamanlı stok seviyelerini getirerek stokta olmayan ürünler nedeniyle yaşanabilecek hayal kırıklığını önler.

RAG ve İnce Ayar Karşılaştırması#

Farklı sorunları çözdükleri için RAG ile ince ayarı birbirinden ayırmak çok önemlidir.

• RAG (Bilgi Getirmeli Üretim): Dinamik, sık değişen verilere (ör. hisse senedi fiyatları, haberler) veya herkese açık eğitim veri kümesinde bulunmayan özel verilere erişmek için en uygunudur. Çalışma zamanında yeni bilgiler sağlamaya odaklanır.
• İnce ayar: Modelin davranışını, üslubunu veya terminolojisini uyarlamak için en uygunudur. Belirli bir veri kümesi üzerinde model ağırlıklarının güncellenmesini içerir. İnce ayar, bir modelin belirli bir dil kalıbını (tıbbi jargon gibi) öğrenmesine yardımcı olsa da modele gerçek zamanlı bilgilere erişim sağlamaz. Karar verme çerçeveleri için OpenAI'nin ince ayar ve RAG karşılaştırma kılavuzuna göz atabilirsin.

İlgili Kavramlar#

• LangChain: Getiricileri ve LLM'leri birbirine zincirleyerek RAG uygulamalarının oluşturulmasını kolaylaştırmak için özel olarak tasarlanmış popüler bir açık kaynak çerçevesidir.
• Bilgi Grafiği: Basit vektör benzerliğine kıyasla bağlam açısından daha zengin ilişkiler sunan ve bilgi getirme kaynağı olarak kullanılabilen yapılandırılmış bir veri temsil yöntemidir.
• İstem Mühendisliği: Modeli yönlendirmek için girdiler oluşturma sanatıdır. RAG, "istemin" program aracılığıyla getirilen verilerle zenginleştirildiği, temelde otomatikleştirilmiş bir istem mühendisliği biçimidir.
• Ultralytics Platformu: RAG metin üretimi tarafını yönetirken bunun gibi platformlar, görsel verileri çok modlu RAG işlem hatlarına aktaran görü modellerinin veri ön işleme ve eğitim süreçlerini yönetmek için gereklidir.