Serverless Computing

Sunucusuz bilişim, geliştiricilerin altyapıyı yönetmenin karmaşıklığıyla uğraşmadan uygulamalar oluşturup çalıştırmasını sağlayan bir bulut yürütme modelidir. Bu paradig­mada bulut sağlayıcısı, sunucuların tahsisini ve hazırlamasını dinamik olarak yöneterek altta yatan donanımı ve işletim sistemlerini kullanıcıdan soyutlar. Kod; HTTP isteği, veritabanı değişikliği veya dosya yükleme gibi belirli olaylarla tetiklenen durum bilgisi olmayan kapsayıcılarda yürütülür. Bu yaklaşım, modern bulut bilişim stratejileriyle oldukça ilgilidir; kuruluşların yalnızca tükettikleri işlem süresi kadar ödeme yapmasını ve trafik talebine bağlı olarak sıfırdan binlerce örneğe otomatik şekilde ölçeklenerek ölçeklenebilirlik gereksinimlerine uymasını sağlar.

Yapay Zekâ için Sunucusuz Bilişimin İşleyişi#

Sunucusuz bilişimin temelinde, uygulamaların belirli görevleri gerçekleştiren bağımsız fonksiyonlara ayrıldığı Hizmet Olarak Fonksiyon (FaaS) kavramı yer alır. Makine Öğrenimi (ML) uygulayıcıları için bu yaklaşım, model dağıtımı konusunda daha yalın bir yol sunar. Düşük trafik dönemlerinde boşta kalan özel bir sunucuyu sürdürmek yerine, sunucusuz bir fonksiyon verileri işlemek için isteğe bağlı olarak başlatılabilir ve hemen ardından kapatılabilir.

Ancak bu mimaride önemli bir husus, bir fonksiyon ilk kez çağrıldığında veya bir süre etkin olmadıktan sonra oluşan gecikme olan "soğuk başlatma"dır. Bunu azaltmak için geliştiriciler, hızlı yükleme süreleri sağlamak amacıyla genellikle YOLO26 gibi hafif mimarilerden veya model niceleme gibi tekniklerden yararlanır; bu da düşük çıkarım gecikmesini korumak için gereklidir.

Makine Öğreniminde Gerçek Dünya Uygulamaları#

Sunucusuz mimariler, özellikle olay odaklı bilgisayarlı görü (CV) iş akışları ve veri işlem hatları için etkilidir.

• Otomatik Veri Ön İşleme: Bir kullanıcı Amazon S3 gibi bir depolama hizmetine ham bir veri kümesi yüklediğinde, bu işlem anında veri ön işlemeyi gerçekleştirecek bir sunucusuz fonksiyonu tetikleyebilir. Fonksiyon, veriler bir eğitim verisi işlem hattına girmeden önce görüntüleri yeniden boyutlandırabilir, piksel değerlerini normalleştirebilir veya dosya biçimlerini doğrulayabilir; böylece manuel müdahale olmadan tutarlılık sağlanır.
• İsteğe Bağlı Akıllı Gözetim: Güvenlikte AI kapsamında bir hareket sensörü, kamerayı bir kare yakalayacak şekilde tetikleyebilir. Bu olay, bir nesne algılama modelini barındıran bir bulut fonksiyonunu çağırır. Model, zararsız bir hayvan ile olası bir izinsiz giriş yapan kişi arasında ayrım yapmak için görüntüyü analiz eder ve yalnızca gerektiğinde uyarı gönderir. Bu, sürekli akışa kıyasla bant genişliği ve depolama maliyetlerini büyük ölçüde azaltır.

Python Örneği: Sunucusuz Çıkarım İşleyicisi#

Aşağıdaki kod, kavramsal bir sunucusuz işleyiciyi gösterir. "Sıcak başlatmalardan" yararlanmak için (kapsayıcının istekler arasında etkin kalması), global bir model örneği başlatır ve gelen bir görüntü yolunu işler.

from ultralytics import YOLO

# Initialize the model outside the handler to cache it for subsequent requests
# YOLO26n is ideal for serverless due to its compact size and speed
model = YOLO("yolo26n.pt")


def lambda_handler(event, context):
    """Simulates a serverless function handler triggered by an event. 'event' represents the input payload containing
    the image source.
    """
    image_source = event.get("url", "https://ultralytics.com/images/bus.jpg")

    # Perform inference
    results = model(image_source)

    # Return prediction summary
    return {
        "statusCode": 200,
        "body": {
            "objects_detected": len(results[0].boxes),
            "top_class": results[0].names[int(results[0].boxes.cls[0])] if len(results[0].boxes) > 0 else "None",
        },
    }

İlgili Teknolojileri Ayırt Etme#

Sunucusuz bilişimi anlamak, onu MLOps kapsamında sıklıkla kullanılan diğer altyapı modellerinden ayırt etmeyi gerektirir.

• Sunucusuz Bilişim ve Uç Bilişim: Her ikisi de verimliliği artırmayı amaçlasa da farklı konumlarda çalışır. Uç bilişim, ağ üzerinden aktarım süresini en aza indirmek için verileri cihaz üzerinde yerel olarak (ör. akıllı bir kamera veya IoT cihazı) işler. Sunucusuz bilişim ise merkezi bir genel bulutta gerçekleşir. Hibrit çözümler genellikle ilk verileri uçta işler ve karmaşık anormallikleri daha kapsamlı tıbbi görüntü analizleri veya adli inceleme için sunucusuz bulut fonksiyonlarına gönderir.
• Sunucusuz Bilişim ve Kubernetes: Kubernetes, geliştiricilere küme ortamı, ağ iletişimi ve pod'lar üzerinde ayrıntılı denetim sağlayan bir kapsayıcılaştırma orkestrasyon platformudur. Güçlü olmasına rağmen önemli bir yönetim yükü gerektirir. Google Cloud Functions veya Azure Functions gibi sunucusuz platformlar bu orkestrasyonu tamamen soyutlayarak ekiplerin düğümlerin durumuna değil, yalnızca kod mantığına odaklanmasını sağlar.
• Sunucusuz Bilişim ve IaaS: Hizmet Olarak Altyapı (IaaS), Amazon EC2 gibi internet üzerinden sanallaştırılmış bilişim kaynakları sağlar. IaaS ile işletim sistemine yama uygulamak ve ara yazılımı yönetmek kullanıcının sorumluluğundadır. Buna karşılık sunucusuz bilişim bu operasyonel sorumlulukları ortadan kaldırarak geliştiricilerin görüntü sınıflandırma doğruluğunu artırmak gibi daha üst düzey görevlere odaklanmasını sağlar.

Geliştiriciler, sunucusuz mimarilerden yararlanarak maliyet açısından verimli ve öngörülemeyen iş yüklerini yönetebilen güçlü AI çözümleri dağıtabilir; dağıtımdan önce model eğitimi ve yönetimi sürecini kolaylaştırmak için Ultralytics Platform gibi araçları kullanabilir.