Sunucusuz Hesaplama

Sunucusuz bilgi işlem, geliştiricilerin altyapı yönetiminin karmaşıklığı olmadan uygulamalar oluşturup çalıştırabilmelerini sağlayan bir bulut yürütme modelidir. Bu paradigmada, bulut sağlayıcı sunucuların tahsisini ve sağlanmasını dinamik olarak yönetir ve altta yatan donanım ve işletim sistemlerini kullanıcıdan uzaklaştırır. Kod, HTTP isteği, veritabanı değişikliği veya dosya yükleme gibi belirli olaylar tarafından tetiklenen durum bilgisi içermeyen kapsayıcılarda yürütülür. Bu yaklaşım, kuruluşların yalnızca tükettikleri hesaplama süresi için ödeme yapmalarını ve trafik talebine göre sıfırdan binlerce örneğe kadar genişleyerek ölçeklenebilirlik gereksinimlerine otomatik olarak uymalarını sağladığından, modern bulut bilişim stratejileriyle son derece ilgilidir. Bu yaklaşım, kuruluşların yalnızca tükettikleri hesaplama süresi için ödeme yapmalarını ve trafik talebine göre sıfırdan binlerce örneğe kadar genişleyerek ölçeklenebilirlik gereksinimlerine otomatik olarak uymalarını sağladığından, modern bulut bilişim stratejileriyle son derece ilgilidir.

AI için Sunucusuzun Mekanizması

Sunucusuz bilgi işlemin temelinde, uygulamaların ayrı görevleri yerine getiren bireysel işlevlere bölündüğü Function-as-a-Service (FaaS) kavramı yer alır. Makine öğrenimi (ML) alanında çalışanlar için bu, model dağıtımı için kolaylaştırılmış bir yol sunar. Trafiğin az olduğu dönemlerde atıl durumda kalan özel bir sunucuyu bakımlamak yerine, sunucusuz bir işlev, verileri işlemek için istek üzerine devreye girebilir ve işlemden hemen sonra kapatılabilir.

Ancak, bu mimaride önemli bir husus, bir fonksiyonun ilk kez veya bir süre kullanılmadıklarından sonra çağrıldığında ortaya çıkan gecikme olan "soğuk başlatma"dır. Bunu azaltmak için, geliştiriciler genellikle YOLO26 gibi hafif mimariler veya model niceleme gibi teknikler kullanarak hızlı yükleme süreleri sağlarlar. Bu, düşük çıkarım gecikmesini korumak için çok önemlidir. .

Makine Öğreniminde Gerçek Dünya Uygulamaları

Sunucusuz mimariler, olay odaklı bilgisayar görme (CV) iş akışları ve veri boru hatları için özellikle etkilidir.

• Otomatik Veri Ön İşleme: Bir kullanıcı ham veri setini Amazon S3 gibi bir depolama hizmetine yüklediğinde, sunucusuz bir işlevi tetikleyerek anında veri ön işleme gerçekleştirebilir. Bu işlev, veriler eğitim veri boru hattına girmeden önce görüntülerin boyutunu değiştirebilir, piksel değerlerini normalleştirebilir veya dosya formatlarını doğrulayabilir, böylece manuel müdahaleye gerek kalmadan tutarlılığı sağlayabilir.
• İsteğe Bağlı Akıllı Gözetim: Güvenlikte Yapay Zeka'da, bir hareket sensörü kamerayı bir kareyi yakalaması için tetikleyebilir. Bu olay, bir nesne algılama modelini barındıran bir bulut işlevini çağırır. Model, görüntüyü analiz ederek zararsız bir hayvan ile potansiyel bir davetsiz misafiri ayırt eder ve yalnızca gerekli olduğunda bir uyarı gönderir. Bu, sürekli akışa kıyasla bant genişliği ve depolama maliyetlerini önemli ölçüde azaltır.

Python Örneği: Sunucusuz Çıkarım İşleyicisi

Aşağıdaki kod, kavramsal bir sunucusuz işleyiciyi göstermektedir. "Sıcak başlatma"nın (konteynerin istekler arasında aktif kalması) avantajından yararlanmak için küresel bir model örneğini başlatır ve gelen görüntü yolunu işler.

from ultralytics import YOLO

# Initialize the model outside the handler to cache it for subsequent requests
# YOLO26n is ideal for serverless due to its compact size and speed
model = YOLO("yolo26n.pt")


def lambda_handler(event, context):
    """Simulates a serverless function handler triggered by an event. 'event' represents the input payload containing
    the image source.
    """
    image_source = event.get("url", "https://ultralytics.com/images/bus.jpg")

    # Perform inference
    results = model(image_source)

    # Return prediction summary
    return {
        "statusCode": 200,
        "body": {
            "objects_detected": len(results[0].boxes),
            "top_class": results[0].names[int(results[0].boxes.cls[0])] if len(results[0].boxes) > 0 else "None",
        },
    }

İlgili Teknolojileri Ayırt Etme

Sunucusuz bilgi işlem kavramını anlamak için, MLOps'ta sıklıkla kullanılan diğer altyapı modellerinden ayırt etmek gerekir. MLOps.

• Sunucusuz ve Kenar Bilişim: Her ikisi de verimliliği optimize etmeyi amaçlasa da, farklı yerlerde çalışırlar. Kenar bilişim, ağ seyahat süresini en aza indirmek için verileri cihazda (örneğin, akıllı kamera veya IoT cihazı) yerel olarak işler. Sunucusuz bilişim, merkezi bir kamu bulutunda gerçekleşir. Hibrit çözümler genellikle ilk verileri kenarda işler ve daha derin tıbbi görüntü analizi veya adli inceleme için karmaşık anomalileri sunucusuz bulut işlevlerine gönderir.
• Sunucusuz ve Kubernetes: Kubernetes, geliştiricilere küme ortamı, ağ ve podlar üzerinde ayrıntılı kontrol sağlayan konteynerleştirme için bir düzenleme platformudur. Güçlü olmasına rağmen, önemli ölçüde yönetim yükü gerektirir. Google Functions veya Azure Functions gibi sunucusuz platformlar, bu düzenlemeyi tamamen soyutlayarak ekiplerin düğümlerin sağlığı yerine yalnızca kod mantığına odaklanmalarını sağlar.
• Sunucusuz ve IaaS: Hizmet Olarak Altyapı (IaaS) , Amazon EC2 gibi internet üzerinden sanallaştırılmış bilgi işlem kaynakları sağlar. IaaS ile kullanıcı, işletim sistemine yama uygulamak ve ara yazılımı yönetmekten sorumludur. Buna karşılık, sunucusuz bilgi işlem bu operasyonel sorumlulukları ortadan kaldırarak, geliştiricilerin görüntü sınıflandırma doğruluğunu iyileştirmek gibi daha üst düzey görevlere odaklanmalarını sağlar. .

Sunucusuz mimarilerden yararlanarak, geliştiriciler, Ultralytics gibi araçları kullanarak, dağıtımdan önce model eğitimi ve yönetim sürecini kolaylaştırarak, öngörülemeyen iş yüklerini yönetebilen ve uygun maliyetli sağlam AI çözümleri dağıtabilirler.