Chatbot

Sohbet robotu, insanlarla metin veya ses yoluyla doğal dilde konuşan bir bilgisayar programıdır. MIT'de yazılan ve 1966'da yayımlanan Joseph Weizenbaum'ın ELIZA programı genellikle ilk sohbet robotu kabul edilir: DOCTOR betiği, anahtar sözcükleri eşleştirip kullanıcının ifadelerini sorulara dönüştürerek bir psikoterapisti taklit ediyordu ve Weizenbaum, kendi sekreteri de dahil olmak üzere kullanıcıların, program onları anlıyormuş gibi ona içini döktüğünü görünce rahatsız olmuştu. Sohbet robotları o zamandan beri kural tabanlı betiklerden niyet tabanlı botlara, oradan da büyük dil modellerine (LLM'ler) uzanan üç nesilden geçti. OpenAI'ın 30 Kasım 2022'de kullanıma sunduğu ChatGPT, üçüncü nesli yaygınlaştırdı ve bugün "sohbet robotu" genellikle ChatGPT, Claude veya Gemini gibi bir LLM'ye yönelik sohbet arayüzü anlamına geliyor.

Sohbet Botları Nasıl Çalışır#

• Kural tabanlı sohbet robotları: Kullanıcının sözlerini elle yazılmış kalıplarla eşleştirir ve şablonlardan yanıt verir. Tahmin edilebilir ve ucuzdurlar; ancak yazarlarının öngörmediği her ifade biçiminde başarısız olurlar.
• Niyet tabanlı sohbet robotları: Bir doğal dil anlama (NLU) sınıflandırıcısı, her mesajı bakiye sorgulama gibi bir niyetle eşleştirir ve hesap veya tarih gibi ayrıntıları çıkarır; ardından tasarımcıların diyalog akışları verilecek yanıtı belirler. Bankalar, hava yolu şirketleri ve telekom şirketleri, her yanıt önceden incelenebildiği için müşteri hizmetleri botlarını bu şekilde geliştirdi.
• LLM sohbet robotları: O ana kadarki konuşmaya dayanarak her yanıtı bir seferde bir belirteç üreterek oluşturur. Sistem istemi botun rolünü ve kurallarını belirler; model ise kimsenin öngörmediği ifade biçimlerini ele alır.

Bir LLM sohbet robotunun arkasındaki model, diyalog için Transformer mimarisi üzerine kuruludur ve talimat ince ayarı ile insan geri bildiriminden pekiştirmeli öğrenme (RLHF) kullanılarak eğitilir; modelin çağrılar arasında belleği yoktur. Uygulama konuşmayı depolar ve her yeni mesajla birlikte, modelin sohbet şablonuna göre biçimlendirilmiş konuşmanın tamamını gönderir:

from transformers import AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("HuggingFaceTB/SmolLM2-135M-Instruct")

# # Sohbet robotu konuşmayı depolar ve her yeni turda tamamını gönderir
messages = [
    {"role": "system", "content": "You are a support assistant for an online store."},
    {"role": "user", "content": "Where is my order?"},
    {"role": "assistant", "content": "Could you share your order number?"},
    {"role": "user", "content": "It's 4417."},
]

# # Sohbet şablonu, geçmişi modelin devam ettireceği tek bir isteme dönüştürür
prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
print(prompt)

Yazdırılan istem, her turu rolüyle birlikte <|im_start|> ve <|im_end|> işaretçileri içine alır ve açık bir <|im_start|>assistant satırıyla biter; böylece modelin sonraki belirteçleri yanıtı oluşturur ve "4417" yanıtı ancak önceki soru aynı istemde bulunduğu için anlam kazanır. Her tur istemi uzatır; bu nedenle uzun konuşmalar, bağlam penceresini aşmadan önce kısaltılır veya özetlenir ve istem önbelleğe alma, her turda değişmeyen geçmişin yeniden işlenmesini önler.

Temellendirme, Araçlar ve Görseller#

Yalnızca eğitim verilerinden yanıt veren bir destek sohbet robotu, yanlış politikaları kendinden emin biçimde aktarır; bu nedenle üretim ortamındaki botlar önce bilgi getirim destekli üretim (RAG) ile ilgili belgeleri ve hesap verilerini getirir, girdileri ve taslakları yapay zekâ koruma kurallarıyla denetler ve bir yanıtı destekleyemediğinde işi bir çalışana devreder:

Sipariş sorgulama gibi işler için işlev çağırma yoluyla araçları kullanan sohbet robotları yapay zekâ aracılarına dönüşüyor; çok kipli sohbet robotları ise bir tur içinde görsel-dil modelleri (VLM'ler) aracılığıyla fotoğraf ve ekran görüntülerini kabul ediyor. Ultralytics LLM arayüzü, istemi, görseli veya tüm mesaj geçmişini OpenAI uyumlu herhangi bir sohbet modeline gönderir ve sağlayıcının kendi yanıt nesnesini döndürür; böylece YOLO26 işlem hattı, yalnızca algılama bir kişiyi bulduktan sonra çok kipli bir modelden sahneyi açıklamasını isteyebilir.

Riskler#

Bir işletme sohbet robotunu devreye aldığında halüsinasyonlar hukuki sonuçlar doğurabilir. Şubat 2024'te karara bağlanan Moffatt - Air Canada davasında, hava yolu şirketinin web sitesindeki sohbet robotu yas tutan bir yolcuya, seyahatten sonra yakınını kaybetme indirimi talep edebileceğini söyledi; bu, hava yolu şirketinin gerçek politikasıyla çelişiyordu. Britanya Kolumbiyası Sivil Çözüm Mahkemesi, sohbet robotunun kendi ifadelerinden sorumlu olduğu yönündeki Air Canada savunmasını reddetti ve hava yolu şirketinin aradaki farkı ödemesine hükmetti. Sohbet robotları ayrıca istem enjeksiyonu ve jailbreak girişimlerine maruz kalır; kullanıcıları memnun etmek üzere ayarlanan modeller, yanlış iddiaları düzeltmek yerine kabul ederek yapay zekâ dalkavukluğuna kayabilir.

Sohbet Robotları ve İlgili Terimler#

• Sanal asistan: Siri veya Alexa gibi uygulamalar ve cihazlar arasında istekleri yerine getiren yazılım. Sohbet robotu genellikle tek bir web sitesinde, uygulamada veya mesajlaşma kanalında bulunur ve konuşmaya odaklanır.
• Yapay zekâ aracısı: Çoğu zaman bir insanın müdahalesi olmadan birçok adım boyunca eylemler seçip uygulayarak bir hedefe ulaşan sistem. Sohbet robotu, yanıt vermenin yanı sıra araçlar aracılığıyla eyleme geçtiğinde aracıya dönüşür.
• Diyaloğa dayalı yapay zekâ: Sohbet robotlarının ve asistanların arkasındaki teknolojilerin daha geniş alanıdır; konuşma tanıma, NLU, diyalog yönetimi ve metinden konuşmaya gibi konuları kapsar.