İstemi Zenginleştirme

İstem zenginleştirme, bir yapay zeka modeline, özellikle de bir Büyük Dil Modeline (LLM) gönderilmeden önce bir kullanıcının ilk istemine programlı olarak ilgili bağlam veya bilgi ekleme işlemidir. Amaç, basit veya belirsiz bir kullanıcı sorgusunu ayrıntılı, spesifik ve bağlama duyarlı bir talimata dönüştürmektir. Bu ön işleme adımı, YZ modelinin kullanıcının amacını daha iyi anlamasına yardımcı olarak modelin kendisini değiştirmeden önemli ölçüde daha doğru, kişiselleştirilmiş ve kullanışlı yanıtlar vermesini sağlar.

İstemli Zenginleştirme Nasıl Çalışır?

İstem zenginleştirme, akıllı bir ara katman olarak işlev görür. Bir kullanıcı bir sorgu gönderdiğinde, otomatik bir sistem bunu yakalar. Bu sistem daha sonra kullanıcı profilleri, konuşma geçmişi, oturum verileri (cihaz türü veya konum gibi) veya harici veritabanları gibi çeşitli kaynaklardan bağlamsal veriler toplar. Daha sonra bu bilgileri orijinal komut istemine dinamik olarak enjekte eder. Sonuçta ortaya çıkan ve artık hem kullanıcının sorgusunu hem de eklenen bağlamı içeren "zenginleştirilmiş" istem, son olarak işlenmek üzere LLM'ye aktarılır. Bu, modelin karmaşık Doğal Dil Anlama (NLU) görevlerini yerine getirme yeteneğini geliştirir.

Gerçek Dünya Uygulamaları

1. Kişiselleştirilmiş Müşteri Desteği: Bir kullanıcı bir e-ticaret chatbotu ile etkileşime girer ve "Paketim nerede?" diye sorar. Bilgi istemi zenginleştirme sistemi, kullanıcının hesap bilgilerini ve en son sipariş numarasını bir CRM veritabanından otomatik olarak alabilir. Modele gönderilen komut istemi şöyle olur: "Müşteri Kimliği 98765, en son siparişi olan #ABC-12345'in durumunu soruyor. Kullanıcının orijinal sorgusu: 'Paketim nerede?" Bu, yapay zeka güdümlü müşteri hizmetleri temsilcisinin açıklayıcı bilgi istemek yerine anında, spesifik bir güncelleme sağlamasına olanak tanır.
2. Daha Akıllı İçerik Önerisi: Bir yayın hizmeti kullanıcısı "Bir film öner" diyor. Bu, iyi bir öneri için çok belirsizdir. Zenginleştirme süreci bu istemi kullanıcının izleme geçmişi, belirttiği tür tercihleri ve günün saati gibi verilerle artırabilir. Son istem şöyle görünebilir: "Kullanıcı son zamanlarda bilim kurgu gerilim filmlerinden ve tarihi dramalardan hoşlanıyor. Bugün Cumartesi gecesi. Bu kriterlere uyan bir film önerin." Bu, öneri sisteminin daha alakalı bir öneri sunmasını sağlar ve kişiselleştirme yoluyla kullanıcı deneyimini iyileştirir.

Zenginleştirme ve İlgili Kavramlar İstemi

Hızlı zenginleştirmeyi benzer terimlerden ayırt etmek önemlidir:

• Hızlı Mühendislik: Bu, etkili istemler tasarlamanın geniş disiplinidir. İstem zenginleştirme, kullanıcının girdisine dinamik bağlam eklemeye odaklanan istem mühendisliği içinde özel, otomatik bir tekniktir.
• Geri Alım-Artırılmış Üretim (RAG): RAG, güçlü ve özel bir istem zenginleştirme türüdür. Modelin çıktısını temellendirmek ve halüsinasyonları önlemek için harici bir bilgi tabanından olgusal bilgi alma konusunda uzmanlaşmıştır. RAG bir zenginleştirme biçimi olsa da, zenginleştirme, statik bir bilgi tabanının parçası olmayan kullanıcı oturum verileri gibi diğer bağlam kaynaklarını da kullanabilir.
• İstemli Zincirleme: Bu teknik, bir görevi birden fazla, birbirine bağlı istemler dizisine böler ve bir istemin çıktısı diğerini besler. Buna karşın zenginleştirme, işlenmeden önce tek bir istemi değiştirir. Bir istem zenginleştirme adımı, genellikle ilk adım olarak daha büyük bir zincirin parçası olabilir. Düşünce Zinciri (CoT) İstemi gibi diğer teknikler, tek bir etkileşim içinde muhakemeyi geliştirmeye odaklanır.
• İstemi Ayarlama: Bu bir model eğitim yöntemidir. Bir parametre-etkin ince ayar (PEFT) tekniği olarak, küçük bir dizi yeni parametreyi eğiterek bir modelin davranışını uyarlar. İstemi zenginleştirme, giriş sorgusunu manipüle eden ve modelin ağırlıklarını değiştirmeyen bir çıkarım zamanı tekniğidir.

En çok Doğal Dil İşleme (NLP) alanında yaygın olsa da, temel fikir makine öğrenimi genelinde uygulanabilir. Bilgisayarla görmede, benzer bir kavram, Ultralytics YOLO11 gibi bir modelin nesne algılama görevindeki performansını artırmak için bir görüntüye meta veri (örneğin, konum, zaman) eklemeyi içerebilir. Ultralytics HUB gibi MLOps platformları, zenginleştirme ve LangChain veya LlamaIndex gibi çerçeveler kullanan sofistike girdi işlem hatlarının uygulanabileceği sağlam model dağıtımı için gereken altyapıyı sağlar.