Compound AI Systems

Bileşik yapay zeka sistemleri, tek bir modelden ziyade birden fazla etkileşimli bileşenden oluşan yapay zeka uygulamalarıdır. Bir sistem; modelleri, getirme (retrieval) servislerini, veritabanlarını, belirleyici (deterministik) kuralları, harici araçları ve insan incelemesini koordine edilmiş tek bir iş akışında birleştirebilir. Örneğin bilgisayarlı görüde bir model nesneleri tespit edebilirken, izleme yazılımı kimlikleri korur, iş kuralları olayları yorumlar ve izleme servisleri üretim performansını gözlemler. Belirleyici özellik kompozisyondur: sistem düzeyindeki davranış, parçaların bilgi alışverişinde bulunma ve karar verme biçiminden ortaya çıkar.

Bileşik Yapay Zeka Sistemleri Nasıl Çalışır?#

Bileşik bir sistem, daha büyük bir görevi uzmanlaşmış aşamalara ayırır. Tipik bileşenler arasında veri ön işleme, bir veya daha fazla yapay zeka modeli, depolama, doğrulama mantığı, uygulama programlama arayüzleri ve bir düzenleme (orchestration) katmanı yer alır. OpenAPI Specification tarafından tanımlananlar gibi net sözleşmeler, her servisin kabul ettiği ve döndürdüğü verileri tanımlar.

Kontrol, geleneksel kodun bileşenleri sabit bir sırada çağırdığı deterministik olabilir veya çalışma zamanında araçları ve rotaları seçen bir AI agent orchestration katmanıyla dinamik olabilir. AI orchestration, uygulama genelindeki bağımlılıkları, yeniden denemeleri, kaynakları ve veri akışını koordine eder.

Yaygın kalıplar arasında, getirmenin bir dil modeline bağlam sağladığı retrieval-augmented generation ve kameraları, radarları veya diğer girdileri birleştiren sensör füzyon hatları yer alır. İzole edilmiş modellerden entegre sistemlere doğru olan daha geniş geçiş, Berkeley AI Research overview of compound AI systems içinde açıklanmaktadır. (bair.berkeley.edu)

Bileşik Sistemler Neden Önemlidir?#

Kompozisyon, geliştiricilerin devasa tek bir modeli yeniden eğitmeden bir uygulamayı geliştirmesine olanak tanır. İş akışının geri kalanı sabit kalırken özelleştirilmiş bir bileşen değiştirilebilir, ölçeklenebilir veya optimize edilebilir. Kurallar ve doğrulama aşamaları da tamamen olasılıksal model çıktısına güvenmekten daha fazla kontrol sağlayabilir.

Bu avantajlar, sistem düzeyindeki ödünleşimleri beraberinde getirir:

• Hata yayılımı: Yanlış bir algılama, başarısız bir getirme işlemi veya kullanılamayan bir API, akıştaki her kararı etkileyebilir.
• Gecikme ve maliyet: Her model çağrısı, ağ isteği ve doğrulama aşaması, toplam yanıt bütçesinin bir kısmını tüketir.
• Arayüz sapması: Bir servisi güncellemek, çıktı formatını veya varsayımlarını değiştirebilir ve başka bir bileşeni sessizce bozabilir.
• Zor değerlendirme: Güçlü bir bileşen, uçtan uca güçlü bir sonucu garanti etmez.

Sonuç olarak, machine learning operations tüm iş akışını kapsamalıdır. OpenTelemetry observability guidance, izlemelerin, metriklerin ve günlüklerin dağınık servisler genelinde ne olduğunu nasıl ortaya koyduğunu açıklarken, MLflow experiment tracking model yapılandırmalarını ve değerlendirme sonuçlarını kaydedebilir. (opentelemetry.io)

İlgili Kavramlar ve Temel Farklar#

Bileşik bir yapay zeka sistemi, karmaşık bir modelin sadece başka bir adı değildir.

Bir model ensemble, çoğunlukla oylama, ortalama alma veya yığma yoluyla birden fazla modelin tahminlerini birleştirir. Bir topluluk, bileşik sistem içinde tek bir bileşen olabilir, ancak genellikle veritabanlarından, araçlardan, iş akışı mantığından ve operasyonel servislerden yoksundur.

Ajansal bir iş akışı, modellerin eylemleri veya araçları özerk bir şekilde seçmesine olanak tanır. Bileşik sistemler daha kapsamlıdır: birçoğu özerk ajanlar olmadan sabit boru hatları (pipelines), olay odaklı servisler veya insan onayı kullanır.

Benzer şekilde RAG, getirme ve üretmeyi içeren belirli bir bileşik kalıptır. Bileşik yapay zeka ayrıca bir dil modeli kullanmadan bilgisayarlı görü, tahmin, optimizasyon, robotik ve geleneksel yazılımları koordine edebilir.

Gerçek Dünya Uygulamaları#

• Manufacturing visual inspection: Bir kamera ürünleri yakalar, bir Ultralytics YOLO26 model kusurları tespit eder, kural tabanlı mantık ciddiyeti ve konumu kontrol eder ve bir üretim sistemi her öğeyi reddeder veya onaylar. Belirsiz durumlar insan bir denetçiye yönlendirilebilirken, depolanan görüntüler daha sonraki yeniden eğitimi destekler.

• Traffic and parking analytics: Algılama araçları tanımlar, multi-object tracking kareler arasında kimlikleri korur, geometrik mantık şerit veya park bölgesi doluluğunu belirler ve panolar sayıları ve uyarıları toplar. Hatalar yinelenen sayımlara, kaçırılan yoğunluk olaylarına veya yanlış kullanılabilirlik tahminlerine neden olabilir, bu nedenle her aşama birlikte test edilmelidir.

Aşağıdaki basitleştirilmiş örnek, algının deterministik karar mantığını beslediğini göstermektedir:

from ultralytics import YOLO

# Perception component
model = YOLO("yolo26n.pt")
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Policy component
person_class = next(i for i, name in result.names.items() if name == "person")
person_count = int((result.boxes.cls == person_class).sum())
decision = "review" if person_count >= 4 else "continue"

print({"people_detected": person_count, "next_step": decision})
result.save(filename="compound_system_input.jpg")

Burada YOLO yapılandırılmış gözlemler üretirken, ayrı politika mantığı sonraki eylemi belirler. Bir üretim sistemi depolama, bildirimler, erişim kontrolleri veya insan incelemesi ekleyebilir.

Pratik Tasarım Rehberliği#

Ölçülebilir uçtan uca bir hevesle başlayın, ardından her bileşene net bir sorumluluk atayın. Her sınırda şemaları ve zaman aşımlarını tanımlayın, bileşenleri bağımsız olarak test edin ve yalnızca model doğruluğunu değil gerçekçi iş akışlarını değerlendirin.

Bireysel istekleri takip etmek için izlemeleri kullanın, gecikme ve maliyet bütçeleri belirleyin ve kullanılamayan servisler için yeniden denemeler veya güvenli yedekler sağlayın. Kubernetes health probes, dağıtılan servislerin hazırlık ve canlılık sinyallerini nasıl ortaya çıkarabileceğini gösterir.

Risk kontrolleri; veri erişimi, harici araçlar, insan müdahaleleri ve aşağı yönlü sonuçlar dahil olmak üzere tüm sistemi ele almalıdır. NIST AI Risk Management Framework, bu riskleri yönetmek, ölçmek ve ele almak için yaşam döngüsü odaklı rehberlik sağlar. Ekipler, daha geniş bir bileşik uygulama içinde görü bileşenleri için veri seti etiketleme, eğitim, dağıtım ve üretim izlemeyi birbirine bağlamak üzere Ultralytics Platform kullanabilir. (nist.gov)