Large Concept Models (LCMs)

Büyük Kavram Modelleri (LCMs), bilgileri her seferinde tek bir metin belirtecini tahmin etmek yerine daha üst düzey anlamsal birimler veya “kavramlar” olarak işleyen ve üreten yapay zekâ modelleridir. Tipik bir LCM'de kavram, bir cümlenin, ifadenin, olayın veya eylemin anlamını sayısal bir vektör olarak temsil edebilir. Bu kavram düzeyindeki yaklaşım, bir modelin uzun dizileri düzenlemesine, anlamı diller arasında aktarmasına ve her dahili adımı belirli bir ifadeye bağlamadan fikirler üzerinde akıl yürütmesine yardımcı olabilir.

Büyük Kavram Modelleri Nasıl Çalışır?#

Geleneksel bir büyük dil modeli, metni sözcükler, alt sözcükler veya noktalama işaretleri gibi belirteçlere ayırır. Ardından model, bir sonraki belirteci tekrar tekrar tahmin eder. TensorFlow belirteçleştirme kılavuzu, metnin bu küçük birimlere nasıl bölünebileceğini gösterir.

Bir LCM, temel modelleme adımını daha üst bir düzeye taşır:

1. Bir kodlayıcı, bir cümleyi veya başka bir anlamlı birimi bir gömme—anlamının yoğun sayısal temsiline—dönüştürür.
2. Model, bir kavram gömmeleri dizisini inceler ve bir sonraki kavramın temsilini tahmin eder.
3. Bir kod çözücü, tahmin edilen temsili doğal dile, konuşmaya veya başka bir çıktı biçimine dönüştürür.

Bu tasarımda, benzer anlamlara sahip cümlelerin modelin gizli uzayında birbirine yakın bölgelerde bulunması gerekir. Google gömmelerine genel bakış, bu vektör uzaylarının ilişkileri nasıl yakaladığını açıklar; gömmeler arasındaki benzerliği ölçme kılavuzu ise kosinüs benzerliği gibi yöntemleri ele alır.

Cümle, bir kavram için pratik bir yaklaşıktır; evrensel bir tanım değildir. Tek bir cümle birkaç fikir içerebilirken önemli bir kavram birden fazla cümleye yayılabilir.

LCMs ile İlgili Modellerin Karşılaştırılması#

LCMs, temel olarak dahili tahminlerinin ayrıntı düzeyi ve yapısı bakımından farklılık gösterir.

• LCMs ile büyük dil modelleri karşılaştırması: LLM'ler genellikle doğrudan belirteçleri tahmin eder. LCM'ler ise daha üst düzey anlamsal temsilleri tahmin eder ve bu temsilleri dile bağlamak için ayrı kodlayıcılara ve kod çözücülere dayanır.
• LCMs ile görsel-dil modelleri karşılaştırması: VLM'ler görsel ve dilsel bilgileri birleştirir. Bir LCM görsel kavram gömmelerini kabul edebilir; ancak kavram düzeyinde tahmin yapmak bir modeli kendiliğinden çok modlu hâle getirmez.
• LCMs ile kavram darboğazı modelleri karşılaştırması: Kavram darboğazı modelleri, “kanatları var” gibi açık ve genellikle insanlar tarafından etiketlenmiş öznitelikleri kullanır. LCM kavramları genellikle öğrenilmiş vektörlerdir ve adlandırılmış özniteliklerle net bir şekilde eşleşmeyebilir.
• LCMs ile gizli tutarlılık modelleri karşılaştırması: Her ikisi de LCM kısaltmasını kullanır; ancak gizli tutarlılık modelleri üretici difüzyon iş akışlarını hızlandırır. Bunların büyük kavram modelleriyle ilgisi yoktur.

LCMs yine de bir Transformer mimarisi ve dikkat mekanizmaları kullanabilir; temel değişiklik, dizi öğelerinin neyi temsil ettiğidir. PyTorch Transformer belgeleri, farklı temsil türleri üzerinde çalışabilen genel dizi işleme yapısını açıklar.

Gerçek Dünya Uygulamaları#

Çok dilli özetleme: Küresel bir destek sistemi, İspanyolca, Japonca ve İngilizce yazılmış raporları ortak bir anlamsal uzaya kodlayabilir, ana fikirlerini düzenleyebilir ve İngilizce bir özet oluşturabilir. Meta'nın çok dilli cümle gömme uzayları açıklamasında gösterildiği üzere, paylaşılan çok dilli temsiller, yüzeydeki ifadeleri farklı olsa bile eşdeğer anlamları birbirine yaklaştırabilir. Bu, her ara akıl yürütme adımını çevirme gereksinimini azaltabilir.

Uzun biçimli planlama ve üretim: Bir raporu kelime kelime taslak hâline getirmek yerine LCM, önce problem, kanıt, analiz ve öneri gibi bir diziyi modelleyebilir. Ardından tahmin edilen her kavram bir veya daha fazla cümleye dönüştürülür. Bu yaklaşım, yazmadan önce taslak planı oluşturmaya benzer ve Microsoft'un metin ve konuşma özetleme kılavuzunda açıklanan belge veya konuşma özetleme görevlerinde tutarlılığı artırabilir.

Kavram Modellerini Bilgisayarlı Görü ile Birleştirme#

Kavram odaklı bir sistem, LCM tarzı akıl yürütmeyi nesne algılama ile birleştirebilir. Bir görme modeli, anlamlı sahne öğelerini belirler ve sonraki bir model, daha büyük bir dizinin parçası olarak bu öğeler üzerinde akıl yürütür.

from ultralytics import YOLO

# Load a pretrained visual detector
model = YOLO("yolo26n.pt")

# Extract visual information from an image
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Convert detected classes into simple visual concepts
class_ids = result.boxes.cls.int().tolist()
visual_concepts = sorted({result.names[index] for index in class_ids})

print(visual_concepts)

Bu YOLO26 iş akışı, “otobüs” ve “insan” gibi etiketler üretir. YOLO'yu bir LCM'ye dönüştürmez; bunun yerine bilgisayarlı görünün kavram düzeyinde bir akıl yürütme sistemine yapılandırılmış görsel kanıtı nasıl sağlayabileceğini gösterir. Ekipler, bu algılama bileşenlerine görsel veri kümeleri açıklamak, modelleri eğitmek, bunları dağıtmak ve izlemek için Ultralytics Platform kullanabilir.

Avantajlar, Sınırlamalar ve Değerlendirme#

Kavram düzeyindeki diziler, belirteç dizilerinden daha kısa olabilir, diller arası bilgi aktarımını destekleyebilir ve anlamsal planlamayı yüzeydeki ifadelerden ayırabilir. Ancak bir cümleyi tek bir vektöre sıkıştırmak; adları, sayıları, olumsuzluğu, uzamsal ayrıntıları veya ince nitelemeleri gözden çıkarabilir. Kod çözücü hataları da tahmin edilen kavramla tam olarak eşleşmeyen akıcı bir dil üretebilir.

Bu nedenle pratik değerlendirme, hem anlamsal kaliteyi hem de nihai çıktı doğruluğunu test etmelidir. Ekipler çok dilli tutarlılığı, olgusal bilgilerin korunmasını, uzun bağlam tutarlılığını, gecikmeyi ve belirsiz girdilerdeki davranışı ölçmelidir. Etkisi yüksek dağıtımlar, uygulamaya uygun insan incelemesi ve izlemeyle birlikte NIST Yapay Zekâ Risk Yönetimi Çerçevesi gibi yapılandırılmış bir yönetişim sürecini de izlemelidir.