Retrieval Augmented Generation (RAG)

Retrieval Augmented Generation (RAG), yapay zeka alanında Large Language Model (LLM) çıktısını eğitim verilerinin dışındaki yetkili bir bilgi tabanına başvurarak optimize eden gelişmiş bir tekniktir. Geleneksel üretken modeller, yalnızca ilk eğitimleri sırasında öğrenilen statik bilgilere güvenirler; bu da güncelliğini yitirmiş cevaplara veya hallucinations olarak bilinen kendinden emin yanlışlıklara yol açabilir. RAG, şirket veritabanları, güncel haberler veya teknik kılavuzlar gibi harici kaynaklardan ilgili, güncel bilgileri getirip bir yanıt oluşturulmadan önce modele bağlam olarak sunarak bu boşluğu doldurur. Bu süreç, yapay zekanın çıktılarının yalnızca dilbilimsel olarak tutarlı olmasını değil, aynı zamanda olgusal olarak doğru ve belirli verilere dayalı olmasını da sağlar.

Link to this sectionRAG Sistemleri Nasıl Çalışır?#

Bir RAG sisteminin mimarisi genellikle iki ana aşamayı içerir: getirme (retrieval) ve oluşturma (generation). Bu iş akışı, geliştiricilerin sık sık yeniden eğitim alma gibi maliyetli bir gereksinim olmadan bir foundation model sürdürmelerine olanak tanır.

1. Retrieval: When a user submits a query, the system first performs a semantic search across a specialized storage system called a vector database. This database contains data that has been converted into numerical representations known as embeddings, allowing the system to find conceptually similar information rather than just matching keywords.

2. Oluşturma (Generation): Getirme aşamasında bulunan ilgili belgeler veya veri parçaları, kullanıcının orijinal sorusuyla birleştirilir. Bu zenginleştirilmiş komut istemi (prompt) daha sonra üretken modele gönderilir. Model, sağlanan bu bağlamı kullanarak bir yanıt sentezler ve yanıtın getirilen gerçeklere dayanmasını sağlar. Mekanizma hakkında daha derinlemesine bir inceleme için IBM provides a comprehensive guide on RAG workflows kısmına bakabilirsin.

Link to this sectionGörsel RAG: Bilgisayarlı Görü Entegrasyonu#

RAG geleneksel olarak metin tabanlı olsa da, multi-modal learning alanındaki yükseliş "Görsel RAG" kavramını ortaya çıkarmıştır. Bu senaryoda, computer vision modelleri getirme mekanizması görevi görür. Bu modeller, nesne isimleri, sayıları veya aktiviteleri gibi yapılandırılmış metinsel verileri çıkarmak için görüntüleri veya video akışlarını analiz eder ve ardından bu veriler, görsel sahne hakkındaki soruları yanıtlamak için bir LLM'e beslenir.

Örneğin, bir geliştirici görüntüdeki nesneleri tespit etmek için YOLO26 kullanabilir ve bu nesne listesini tanımlayıcı bir rapor oluşturması için bir metin modeline iletebilir.

from ultralytics import YOLO

# Load the YOLO26 model for state-of-the-art detection
model = YOLO("yolo26n.pt")

# Perform inference to 'retrieve' visual facts from an image
results = model("https://ultralytics.com/images/bus.jpg")

# Extract class names to build a text context for an LLM
detected_classes = [model.names[int(c)] for c in results[0].boxes.cls]
context_string = f"The scene contains: {', '.join(detected_classes)}."

print(context_string)
# Output example: "The scene contains: bus, person, person, person."

Link to this sectionGerçek Dünya Uygulamaları#

RAG, AI agents araçlarının tescilli veya gerçek zamanlı verilere güvenli bir şekilde erişmesini sağlayarak endüstrileri dönüştürüyor.

• Kurumsal Bilgi Tabanları: Şirketler, çalışanların İK politikaları veya teknik belgeler hakkındaki sorularını yanıtlayan dahili sohbet robotları oluşturmak için RAG kullanır. Bir LLM'i canlı bir belge deposuna bağlayarak, sistemin eski politika bilgilerini sunması önlenmiş olur. Kurumsal uygulamalar hakkında daha fazla bilgi için Google Cloud's overview of RAG in Vertex AI kısmına göz atabilirsin.
• Klinik Karar Destek: AI in healthcare alanında RAG sistemleri, doktorların tanı koymasına yardımcı olmak için hasta geçmişini ve son tıbbi araştırma makalelerini getirebilir, böylece tavsiyenin en son klinik çalışmaları dikkate aldığından emin olunur.
• Akıllı Perakende Asistanları: AI in retail kullanan uygulamalar, canlı envanter veritabanlarını kontrol etmek için RAG'den yararlanır. Bir müşteri bir sohbet robotuna "Bu koşu ayakkabısının 10 numarasını stoklarınızda bulunduruyor musunuz?" diye sorarsa, model yanıt vermeden önce gerçek zamanlı stok seviyelerini getirir ve stokta olmayan ürünlerin yarattığı hayal kırıklığını önler.

Link to this sectionRAG ve İnce Ayar (Fine-Tuning) Karşılaştırması#

Farklı sorunları çözdükleri için RAG ile fine-tuning arasındaki ayrımı yapmak çok önemlidir.

• RAG (Retrieval Augmented Generation): Dinamik, sık değişen verilere (örneğin hisse senedi fiyatları, haberler) veya halka açık eğitim setinde bulunmayan özel verilere erişim için en iyisidir. Çalışma zamanında yeni bilgiler sağlamaya odaklanır.
• İnce Ayar (Fine-Tuning): Modelin davranışını, stilini veya terminolojisini uyarlamak için en iyisidir. Belirli bir veri kümesi üzerinde model weights güncellemesi yapmayı içerir. İnce ayar, modelin belirli bir dil kalıbını (tıbbi jargon gibi) öğrenmesine yardımcı olsa da, gerçek zamanlı gerçeklere erişim sağlamaz. Karar verme çerçeveleri için OpenAI's guide on fine-tuning vs. RAG kısmına bakabilirsin.

Link to this sectionİlgili Kavramlar#

• LangChain: Getiricileri (retrievers) ve LLM'leri birbirine bağlayarak RAG uygulamalarının oluşturulmasını basitleştirmek için özel olarak tasarlanmış popüler bir açık kaynak çerçevesi.
• Knowledge Graph: Basit vektör benzerliğinden daha bağlamsal olarak zengin ilişkiler sunarak bir getirme kaynağı olarak kullanılabilen, verileri temsil etmenin yapılandırılmış bir yolu.
• Prompt Engineering: Modeli yönlendirmek için girişler hazırlama sanatı. RAG, temelinde "prompt"un getirilen verilerle programatik olarak zenginleştirildiği otomatik bir prompt mühendisliği biçimidir.
• Ultralytics Platform: RAG metin oluşturma tarafını hallederken, bunun gibi platformlar, görsel verileri çok modlu RAG boru hatlarına besleyen görüntü modellerinin data preprocessing ve eğitimini yönetmek için gereklidir.