Compound AI Systems

Bileşik yapay zekâ sistemleri, tek bir model yerine birden fazla etkileşimli bileşenden oluşturulan yapay zekâ uygulamalarıdır. Bir sistem; modelleri, getirme hizmetlerini, veritabanlarını, deterministik kuralları, harici araçları ve insan incelemesini tek bir koordineli iş akışında bir araya getirebilir. Örneğin bilgisayarlı görüde bir model nesneleri algılarken izleme yazılımı kimlikleri koruyabilir, iş kuralları olayları yorumlayabilir ve izleme hizmetleri üretim performansını gözlemleyebilir. Belirleyici özellik bileşimdir: sistem düzeyindeki davranış, parçaların bilgi alışverişi yapma ve karar verme biçimlerinden ortaya çıkar.

Bileşik Yapay Zekâ Sistemleri Nasıl Çalışır?#

Bileşik bir sistem, daha büyük bir görevi uzmanlaşmış aşamalara böler. Tipik bileşenler arasında veri ön işleme, bir veya daha fazla yapay zekâ modeli, depolama, doğrulama mantığı, uygulama programlama arayüzleri ve bir orkestrasyon katmanı bulunur. OpenAPI Spesifikasyonu ile tanımlananlar gibi açık sözleşmeler, her hizmetin kabul ettiği ve döndürdüğü verileri tanımlar.

Denetim deterministik olabilir; bu durumda geleneksel kod, bileşenleri sabit bir sırayla çağırır. Ya da dinamik olabilir; bu durumda bir yapay zekâ aracısı orkestrasyonu katmanı, çalışma zamanında araçları ve rotaları seçer. Yapay zekâ orkestrasyonu, uygulama genelindeki bağımlılıkları, yeniden denemeleri, kaynakları ve veri akışını koordine eder.

Yaygın örüntüler arasında, getirme işleminin bir dil modeline bağlam sağladığı getirmeyle zenginleştirilmiş üretim ve kameraları, radarı veya diğer girdileri birleştiren sensör füzyonu işlem hatları bulunur. Yalıtılmış modellerden entegre sistemlere doğru gerçekleşen daha geniş kapsamlı değişim, Berkeley AI Research'ün bileşik yapay zekâ sistemleri hakkındaki genel bakışında açıklanır. (bair.berkeley.edu)

Bileşik Sistemler Neden Önemlidir?#

Bileşim, geliştiricilerin tek bir devasa modeli yeniden eğitmeden uygulamayı iyileştirmesine olanak tanır. Uzmanlaşmış bir bileşen, iş akışının geri kalanı kararlı kalırken değiştirilebilir, ölçeklendirilebilir veya optimize edilebilir. Kurallar ve doğrulama aşamaları, tamamen olasılıksal model çıktısına güvenmeye kıyasla daha fazla denetim de sağlayabilir.

Bu avantajlar, sistem düzeyinde bazı ödünleşimleri beraberinde getirir:

• Hataların yayılması: Hatalı bir algılama, başarısız bir getirme işlemi veya kullanılamayan bir API, sonraki tüm kararları etkileyebilir.
• Gecikme ve maliyet: Her model çağrısı, ağ isteği ve doğrulama aşaması toplam yanıt bütçesinin bir bölümünü tüketir.
• Arayüz değişimi: Bir hizmetin güncellenmesi, çıktı biçimini veya varsayımlarını değiştirebilir ve başka bir bileşeni fark edilmeden bozabilir.
• Zorlu değerlendirme: Güçlü bir bileşen, uçtan uca güçlü bir sonucu garanti etmez.

Sonuç olarak makine öğrenimi operasyonları tüm iş akışını kapsamalıdır. OpenTelemetry gözlemlenebilirlik kılavuzu, izlerin, ölçümlerin ve günlüklerin dağıtık hizmetler genelinde neler olduğunu nasıl ortaya çıkardığını açıklar. MLflow deneme takibi ise model yapılandırmalarını ve değerlendirme sonuçlarını kaydedebilir. (opentelemetry.io)

İlgili Kavramlar ve Temel Farklar#

Bileşik bir yapay zekâ sistemi, karmaşık bir modelin yalnızca başka bir adı değildir.

Bir model topluluğu, genellikle oylama, ortalama alma veya istifleme yoluyla birden fazla modelin tahminlerini birleştirir. Bir topluluk, bileşik bir sistemin içindeki tek bir bileşen olabilir; ancak genellikle veritabanlarından, araçlardan, iş akışı mantığından ve operasyonel hizmetlerden yoksundur.

Ajan tabanlı bir iş akışı, modellerin eylemleri veya araçları otonom olarak seçmesine olanak tanır. Bileşik sistemler daha kapsamlıdır: Birçoğu otonom aracılar kullanmadan sabit işlem hatlarından, olay güdümlü hizmetlerden veya insan onayından yararlanır.

Benzer şekilde RAG, getirme ve üretimi içeren belirli bir bileşik örüntüdür. Bileşik yapay zekâ; bir dil modeli kullanmadan bilgisayarlı görü, tahmin, optimizasyon, robotik ve geleneksel yazılımları da koordine edebilir.

Gerçek Dünya Uygulamaları#

• Üretimde görsel denetim: Bir kamera ürünleri görüntüler, bir Ultralytics YOLO26 modeli kusurları algılar, kural tabanlı mantık önem derecesini ve konumu denetler ve bir üretim sistemi her ürünü reddeder veya onaylar. Belirsiz durumlar bir insan denetçiye yönlendirilebilir; depolanan görüntüler ise daha sonra yeniden eğitimi destekler.

• Trafik ve park analitiği: Algılama araçları tespit eder, çoklu nesne takibi kareler arasındaki kimlikleri korur, geometrik mantık şerit veya park bölgesi doluluğunu belirler ve panolar sayıları ve uyarıları toplar. Hatalar yinelenen sayımlara, gözden kaçan yoğunluk olaylarına veya hatalı kullanılabilirlik tahminlerine yol açabilir; bu nedenle her aşama birlikte test edilmelidir.

Aşağıdaki basitleştirilmiş örnek, algılamanın deterministik karar mantığına veri sağlamasını gösterir:

from ultralytics import YOLO

# Perception component
model = YOLO("yolo26n.pt")
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Policy component
person_class = next(i for i, name in result.names.items() if name == "person")
person_count = int((result.boxes.cls == person_class).sum())
decision = "review" if person_count >= 4 else "continue"

print({"people_detected": person_count, "next_step": decision})
result.save(filename="compound_system_input.jpg")

Burada YOLO, yapılandırılmış gözlemler üretirken ayrı politika mantığı sonraki eylemi belirler. Bir üretim sistemi depolama, bildirimler, erişim denetimleri veya insan incelemesi ekleyebilir.

Pratik Tasarım Rehberi#

Ölçülebilir bir uçtan uca hedefle başla ve ardından her bileşene tek bir net sorumluluk ata. Her sınırda şemaları ve zaman aşımlarını tanımla, bileşenleri bağımsız olarak test et ve yalnızca model doğruluğunu değil, gerçekçi iş akışlarını değerlendir.

Tek tek istekleri izlemek için izlerden yararlan, gecikme ve maliyet bütçeleri belirle ve kullanılamayan hizmetler için yeniden denemeler veya güvenli geri dönüş seçenekleri sun. Kubernetes sistem durumu yoklamaları, dağıtılan hizmetlerin hazırlık ve canlılık sinyallerini nasıl sunabileceğini gösterir.

Risk denetimleri; veri erişimi, harici araçlar, insan müdahaleleri ve sonraki etkiler dâhil olmak üzere tüm sistemi ele almalıdır. NIST Yapay Zekâ Risk Yönetimi Çerçevesi, bu risklerin yönetilmesi, ölçülmesi ve ele alınması için yaşam döngüsü odaklı kılavuz sunar. Ekipler, daha geniş bir bileşik uygulama içindeki görü bileşenleri için veri kümesi açıklamasını, eğitimi, dağıtımı ve üretim izlemeyi birbirine bağlamak üzere Ultralytics Platform kullanabilir. (nist.gov)