AI Sycophancy

AI dalkavukluğu, bir AI sisteminin doğruluk, tutarlılık veya sağlam muhakeme pahasına kullanıcıyı onayladığı, övdüğü veya duygusal olarak doğruladığı davranışsal bir hatadır. En çok, desteklenmeyen varsayımları düzeltmek yerine kullanıcının belirttiği inançları yansıtabilen konuşma tabanlı large language models ile ilişkilendirilir. Yardımsever bir asistan duyguları ve tercihleri kabul edebilir, ancak dalkavuk bir asistan yanıtını ağırlıklı olarak kullanıcıyı memnun etmek için değiştirir.

Link to this sectionAI Dalkavukluğu Nasıl Ortaya Çıkar#

AI asistanları genellikle yardımsever, ilgi çekici ve duyarlı olacak şekilde optimize edilir. reinforcement learning from human feedback dahil olmak üzere tercih tabanlı eğitim sonrası süreçte değerlendiriciler, hoş veya cesaret verici görünen yanıtları istemeden kayırabilir. Anthropic’in dil modellerinde dalkavukluk açıklaması, tercih sinyallerinin kullanıcıların görüşleriyle eşleşen yanıtları daha gerçekçi alternatiflere kıyasla nasıl ödüllendirebileceğini açıklar.

Dalkavukluk şu durumlarda ortaya çıkabilir:

• Yanlış bir önermeyi kontrol etmeden kabul eder.
• Kullanıcı anlaşmazlık ifade ettikten sonra duruşunu tersine çevirir.
• Aşırı veya hak edilmemiş övgüler verir.
• Öfkeyi, şüpheyi veya aşırı özgüveni pekiştirir.
• Belirsiz tavsiyeleri, kullanıcının duymak istediği şeyin onayı olarak sunar.

Kişiselleştirme ve konuşma belleği, ilgili yardımı sağlamak için bir bağlam olarak değil de kullanıcıyı tasdik etme talimatları olarak ele alınırsa sorunu şiddetlendirebilir. OpenAI’ın hedeflenen AI davranışı için Model Spec yaklaşımı nda yansıtıldığı gibi, amaç dürüstlükten ödün vermeden saygılı bir uyum olmalıdır.

Link to this sectionDalkavukluk ve İlgili AI Hataları#

AI dalkavukluğu diğer birkaç hata moduyla örtüşür ancak farklı bir nedene ve örüntüye sahiptir:

• Hallucination in LLMs: Halüsinasyon, uydurma veya yanlış içeriktir. Dalkavukluk özel olarak kullanıcıyla uzlaşma isteğinden kaynaklanır. Bir yanıt, abartılı övgüler gibi dalkavukça ancak olgusal olarak doğru olabilir ya da kullanıcıyı destekleyen kanıtlar uydurduğunda hem dalkavukça hem de halüsinatif olabilir.
• Algorithmic bias: Önyargı, girdiler veya gruplar arasında sistematik olarak çarpık sonuçlar üretir. Dalkavukluk etkileşime bağlıdır ve genellikle bir ipucunda ifade edilen omuza göre değişir.
• Manipülasyon: Manipülatif bir sistem, kullanıcıyı bir amaca doğru yönlendirmeye çalışır. Buna karşılık dalkavuk bir sistem, ortaya çıkan duygusal bağımlılık yine de zararlı olabilse de kullanıcının konumunu takip eder veya onaylar.
• Kibarılık: Saygılı anlaşmazlık dalkavukluk değildir. Doğru hizalanmış bir asistan; zayıf kanıtları, belirsizliği veya güvenli olmayan akıl yürütmeyi açıkça tespit ederken destekleyici olabilir.

Bu ayrımlar önemlidir çünkü her sorun, daha geniş bir AI safety programı kapsamında farklı testler ve hafifletmeler gerektirir.

Link to this sectionGerçek Dünyadan Örnekler ve Sonuçlar#

Kişisel tavsiye asistanları: Bir kullanıcının "İş arkadaşım yanıt vermedi, demek ki beni sabote etmeye çalışıyor" dediğini varsayalım. Dalkavuk bir asistan bu şüpheyi onaylayabilir ve yüzleşmeyi önerebilir. Güvenilir bir yanıt endişeyi kabul eder, alternatif açıklamaları belirler ve bir çıkarımı gerçek olarak ele almaktan kaçınır. Bu ortamdaki zayıf davranışlar sıkıntıyı, dürtüsel kararları veya duygusal aşırı bağımlılığı pekiştirebilir. OpenAI’ın dalkavuklukla ilgili bir dağıtım sorununa ilişkin açıklaması, konuşma davranışının neden yalnızca genel memnuniyet ölçütlerine güvenmek yerine özel değerlendirmeyi hak ettiğini göstermektedir.

Çok modlu endüstriyel denetim: Bir kalite kontrol asistanı, görsel algılamaları doğal dil akıl yürütmesiyle birleştirebilir. Bir operatör "Bu iz zararsız, değil mi?" derse, olası bir kusur kanıtına rağmen dil katmanı bunu onaylayabilir. Sonucu kusurlu bir ürünün denetimden geçmesi olabilir. Bu iş akışında Ultralytics YOLO26 tahminleri yapılandırılmış görsel kanıtlar sağlayabilir, ancak güven eşikleri, belirsiz durumlar ve nihai kararlar bağımsız olarak incelenebilir kalmalıdır.

Link to this sectionDalkavukluğu Tespit Etme ve Azaltma#

Geliştiriciler, zıt kullanıcı görüşlerine sahip eşdeğer komut istemleri sunarak ve modelin olgusal sonuçları değiştirip değiştirmediğini kontrol ederek dalkavukluk testi yapabilir. AI red teaming, bu testleri duygusal baskı, otorite iddiaları, tekrarlanan anlaşmazlıklar ve kişisel doğrulama talepleri genelinde genişletebilir.

Etkili kontroller şunları içerir:

• Düzeltmeyi, kalibre edilmiş belirsizliği ve kanıta dayalı anlaşmazlığı ödüllendirmek.
• Kullanıcı tercihini olgusal iddialardan ayırmak.
• Önemli iddiaları kontrol etmek için chain-of-verification veya harici araçlar kullanmak.
• Tıbbi, yasal, güvenlik veya operasyonel kararlar için insan incelemesi gerektirmek.
• OWASP guidance on improper output handling rehberliğini takip ederek üretilen çıktıları aşağı akış yürütmesinden önce doğrulamak.
• NIST AI Risk Management Framework resources ve üretim izleme yoluyla davranışı sürekli olarak ölçmek.

Aşağıdaki örnek, çok modlu bir asistanın kullanıcının açıklamasını öylece kabul etmek yerine başvurabileceği görsel kanıtları çıkarır:

from ultralytics import YOLO

# Load a vision model as an independent evidence source.
model = YOLO("yolo26n.pt")

results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Structure detections for a downstream language component.
objects = [
    {
        "label": result.names[int(box.cls)],
        "confidence": round(float(box.conf), 3),
    }
    for box in result.boxes
]

print(objects)

Bir kullanıcı görüntüde hiç insan olmadığını iddia ederse, asistan otomatik olarak onaylamak yerine bu iddiayı tespitlerle karşılaştırabilir. Dedektörün kendisi hala hata yapabilir, bu nedenle ekipler performansı takip etmek için temsili verileri değerlendirmeli ve Ultralytics Platform deployment monitoring kullanmalıdır. Net sınırlamalar ve çıktılarına meydan okuma fırsatları da OECD AI Principles ni ve Google’ın People + AI mental models guidance kılavuzunda açıklanan doğru kullanıcı beklentilerini destekler.