Scalability

Ölçeklenebilirlik, bir sistemin, ağın veya sürecin kaynak ekleyerek artan miktardaki işi yönetebilme yeteneğini ifade eder. Yapay Zeka (AI) ve Makine Öğrenimi (ML) bağlamında ölçeklenebilirlik, bir modelin veya altyapının talep arttıkça performans seviyelerini koruma becerisini tanımlar. Bu talep genellikle eğitim sırasında daha büyük veri kümeleri, çıkarım sırasında daha yüksek kullanıcı trafiği veya hesaplama görevlerinde artan karmaşıklık şeklinde kendini gösterir. Ölçeklenebilir bir mimari, ister tek bir gömülü cihaza bir bilgisayarlı görü modeli dağıtın ister bulut kümeleri aracılığıyla milyonlarca API isteğine hizmet verin, kesintisiz genişlemeye olanak tanır ve yoğun yük altında bile çıkarım gecikmesinin düşük kalmasını sağlar.

Link to this sectionYapay Zekada Ölçeklenebilirliğin Önemi#

Ölçeklenebilirlik için tasarım yapmak, başarılı Makine Öğrenimi Operasyonlarının (MLOps) kritik bir bileşenidir. Kontrollü bir araştırma ortamında mükemmel şekilde çalışan bir model, üretimdeki yüksek hızlı veri akışlarına maruz kaldığında başarısız olabilir. Büyük Veriyi etkili bir şekilde yönetmek, yatay olarak (bir kümeye daha fazla makine ekleyerek) veya dikey olarak (mevcut makinelere RAM veya GPU gibi daha fazla güç ekleyerek) ölçeklenebilen sistemler gerektirir.

Ölçeklenebilir yapay zeka sistemlerinin temel avantajları şunlardır:

• Güvenilirlik: Ölçeklenebilir sistemler, beklenmedik trafik artışlarında tutarlı hizmet çalışma süresi sağlayarak kritik uygulamalardaki çökmeleri önler.
• Cost-Efficiency: Dynamic scaling allows resources to scale down during low usage periods, a feature often managed by cloud computing platforms like AWS or Google Cloud.
• Geleceğe Hazırlık: Ölçeklenebilir bir altyapı, donanım ekosisteminde köklü bir değişiklik yapmaya gerek kalmadan görüntü transformer modelleri (ViT) gibi daha yeni ve karmaşık algoritmaları barındırabilir.

Link to this sectionÖlçeklenebilirliğe Ulaşma Stratejileri#

Ölçeklenebilir yapay zeka çözümleri oluşturmak, hem model mimarisinin hem de dağıtım altyapısının optimize edilmesini gerektirir.

• Dağıtık Eğitim: Eğitim veri kümeleri tek bir işlemci için çok büyüdüğünde, dağıtık eğitim iş yükünü birden fazla Grafik İşlem Birimi (GPU) arasına böler. PyTorch Distributed gibi çerçeveler, geliştiricilerin hesaplamaları paralelleştirmesine olanak tanıyarak temel modelleri eğitmek için gereken süreyi önemli ölçüde azaltır. Ultralytics Platform gibi araçlar, bulut eğitim kaynaklarını otomatik olarak yöneterek bu süreci basitleştirir.
• Verimli Model Mimarileri: Doğru model mimarisini seçmek verimlilik için çok önemlidir. En yeni Ultralytics YOLO26, önceki sürümlerinden daha küçük ve daha hızlı olacak şekilde tasarlanmıştır, bu da onu uç yapay zeka cihazlarından devasa sunucu çiftliklerine kadar çeşitli donanımlarda doğal olarak ölçeklenebilir kılar.
• Konteynerleştirme ve Orkestrasyon: Uygulamaları Docker ile paketlemek, farklı ortamlarda tutarlı bir şekilde çalışmalarını sağlar. Büyük konteyner kümelerini yönetmek için Kubernetes, konteynerleştirilmiş uygulamaların dağıtımını, ölçeklendirilmesini ve yönetimini otomatikleştirir.
• Model Optimizasyonu: Model niceleme ve budama gibi teknikler, bir modelin bellek ayak izini ve hesaplama maliyetini azaltır. NVIDIA TensorRT gibi araçlar, çıkarım hızlarını daha da artırarak mevcut donanım üzerinde daha yüksek verimlilik sağlayabilir.

Link to this sectionKod Örneği: Ölçeklenebilir Toplu Çıkarım#

Çıkarım sırasında ölçeklenebilirliği artırmanın etkili bir yolu, girdileri sıralı olarak değil toplu (batch) olarak işlemektir. Bu, GPU kullanımını en üst düzeye çıkarır ve genel verimliliği artırır.

from ultralytics import YOLO

# Load a scalable YOLO26 model (smaller 'n' version for speed)
model = YOLO("yolo26n.pt")

# Define a batch of images (URLs or local paths)
# Processing multiple images at once leverages parallel computation
batch_images = ["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"]

# Run inference on the batch
results = model(batch_images)

# Print the number of detections for the first image
print(f"Detected {len(results[0].boxes)} objects in the first image.")

Link to this sectionGerçek Dünya Uygulamaları#

Ölçeklenebilirlik, yapay zeka teknolojilerinin teorik araştırmalardan küresel endüstriyel araçlara geçişini sağlar.

• Akıllı Üretim: Üretimde yapay zeka alanında, otomatik denetim sistemleri yüksek hızlı montaj hatlarında saatte binlerce bileşeni analiz etmelidir. Ölçeklenebilir bir nesne algılama sistemi, üretim hızları arttıkça kalite kontrol sürecinin bir darboğaz haline gelmeden yüksek doğruluk seviyesini korumasını sağlar.
• Perakende Öneri Motorları: Büyük e-ticaret platformları, milyonlarca kişiselleştirilmiş ürün önerisini anında sunmak için öneri sistemlerinden yararlanır. Ölçeklenebilir altyapı, bu platformların Microsoft Azure veya benzeri sağlayıcılar aracılığıyla ek sunucu düğümlerini dinamik olarak tedarik ederek, trafiğin 100 kat artabildiği Kara Cuma gibi devasa etkinlikleri yönetmesine olanak tanır.

Link to this sectionÖlçeklenebilirlik ve İlgili Kavramlar#

Sıklıkla birbirinin yerine kullanılsa da, ölçeklenebilirlik performans ve verimlilikten farklıdır.

• Ölçeklenebilirlik ve Performans: Performans, genellikle bir sistemin belirli bir andaki hızını veya doğruluğunu (örneğin, saniyedeki kare sayısı) ifade eder. Ölçeklenebilirlik ise sistemin iş yükü arttıkça bu performansı koruma becerisini tanımlar.
• Ölçeklenebilirlik ve Verimlilik: Verimlilik, belirli bir görevi tamamlamak için kullanılan kaynakları (örneğin, çıkarım başına enerji tüketimi) ölçer. Bir sistem verimli olabilir ancak ölçeklenebilir olmayabilir (paralel görevleri yönetemiyorsa) veya ölçeklenebilir olabilir ancak verimsiz olabilir (büyümeyi yönetmek için aşırı kaynak kullanıyorsa).
• Ölçeklenebilirlik ve Esneklik: Esneklik, bir sistemin farklı türdeki görevleri yerine getirmesine olanak tanır; örneğin YOLO11 ile algılama, segmentasyon ve poz tahmini yapabilmek gibi. Ölçeklenebilirlik ise özellikle aynı görevin daha fazlasını yönetmeye odaklanır.