Serverless Computing

Sunucusuz bilişim, geliştiricilerin altyapı yönetimi karmaşıklığı olmadan uygulamalar oluşturmasını ve çalıştırmasını sağlayan bir bulut yürütme modelidir. Bu paradigmatikte, bulut sağlayıcısı sunucuların tahsisini ve sağlanmasını dinamik olarak yöneterek alttaki donanımı ve işletim sistemlerini kullanıcıdan soyutlar. Kod; bir HTTP isteği, bir veritabanı değişikliği veya bir dosya yüklemesi gibi belirli olaylar tarafından tetiklenen durumsuz kapsayıcılarda yürütülür. Bu yaklaşım modern cloud computing stratejileriyle son derece ilişkilidir çünkü kuruluşların yalnızca tüketilen bilişim süresi için ödeme yapmasına olanak tanır ve trafik talebine bağlı olarak sıfırdan binlerce örneğe ölçeklenerek scalability gereksinimlerini otomatik olarak karşılar.

Yapay Zeka İçin Sunucusuz Bilişimin Mekanikleri#

Sunucusuz bilişimin özünde, uygulamaların ayrı görevleri yerine getiren ayrı işlevlere bölündüğü Function-as-a-Service (FaaS) kavramı yatar. Machine Learning (ML) uygulayıcıları için bu durum model deployment için kolaylaştırılmış bir yol sunar. Düşük trafik dönemlerinde boşta kalan özel bir sunucuyu korumak yerine, sunucusuz bir işlev verileri işlemek için talep üzerine çalışmaya başlayabilir ve hemen sonrasında kapanabilir.

Bununla birlikte, bu mimarideki önemli bir husus "soğuk başlangıç"tır (cold start)—bir işlev ilk kez veya uzun bir etkinliksizlik döneminden sonra çağrıldığında oluşan gecikme. Bunu hafifletmek için geliştiriciler, düşük inference latency değerini korumak için kritik önem taşıyan hızlı yükleme süreleri sağlamak amacıyla YOLO26 gibi hafif mimariler veya model quantization gibi teknikler kullanır.

Makine Öğreniminde Gerçek Dünya Uygulamaları#

Sunucusuz mimariler, olay odaklı computer vision (CV) iş akışları ve veri hatları için özellikle etkilidir.

• Otomatik Veri Ön İşleme: Bir kullanıcı Amazon S3 gibi bir depolama hizmetine ham bir veri kümesi yüklediğinde, bu durum anında data preprocessing gerçekleştirmek için sunucusuz bir işlevi tetikleyebilir. Bu işlev, veriler bir training data boru hattına girmeden önce görüntüleri yeniden boyutlandırabilir, piksel değerlerini normalleştirebilir veya dosya biçimlerini doğrulayarak manuel müdahale olmaksızın tutarlılık sağlayabilir.
• Talep Üzerine Akıllı Gözetim: AI in Security alanında, bir hareket sensörü bir kamerayı bir kare yakalaması için tetikleyebilir. Bu olay, bir object detection modeli barındıran bir bulut işlevini çağırır. Model, zararsız bir hayvan ile potansiyel bir davetsiz misafiri ayırt etmek için görüntüyü analiz eder ve yalnızca gerektiğinde bir uyarı gönderir. Bu, sürekli akışa kıyasla bant genişliğini ve depolama maliyetlerini büyük ölçüde azaltır.

Python Örneği: Sunucusuz Çıkarım İşleyicisi#

Aşağıdaki kod, kavramsal bir sunucusuz işleyiciyi göstermektedir. "Sıcak başlangıçlardan" (konteynerin istekler arasında aktif kaldığı durum) yararlanmak için küresel bir model örneğini başlatır ve gelen bir görüntü yolunu işler.

from ultralytics import YOLO

# Initialize the model outside the handler to cache it for subsequent requests
# YOLO26n is ideal for serverless due to its compact size and speed
model = YOLO("yolo26n.pt")


def lambda_handler(event, context):
    """Simulates a serverless function handler triggered by an event. 'event' represents the input payload containing
    the image source.
    """
    image_source = event.get("url", "https://ultralytics.com/images/bus.jpg")

    # Perform inference
    results = model(image_source)

    # Return prediction summary
    return {
        "statusCode": 200,
        "body": {
            "objects_detected": len(results[0].boxes),
            "top_class": results[0].names[int(results[0].boxes.cls[0])] if len(results[0].boxes) > 0 else "None",
        },
    }

İlgili Teknolojileri Ayırt Etme#

Sunucusuz bilişimi anlamak, onu MLOps içinde sıklıkla kullanılan diğer altyapı modellerinden ayırmayı gerektirir.

• Sunucusuz ve Uç Bilişim: Her ikisi de verimliliği optimize etmeyi amaçlasa da farklı konumlarda çalışırlar. Edge computing, ağ seyahat süresini en aza indirmek için verileri yerel olarak cihazda (ör. akıllı kamera veya IoT device) işler. Sunucusuz bilişim ise merkezi bir ortak bulutta gerçekleşir. Hibrit çözümler genellikle ilk verileri uçta işler ve daha derin medical image analysis veya adli inceleme için karmaşık anormallikleri sunucusuz bulut işlevlerine gönderir.
• Sunucusuz ve Kubernetes: Kubernetes, geliştiricilere küme ortamı, ağ ve pod'lar üzerinde ayrıntılı kontrol sağlayan bir containerization düzenleme platformudur. Güçlü olmasına rağmen önemli düzeyde yönetim yükü gerektirir. Google Cloud Functions veya Azure Functions gibi sunucusuz platformlar bu düzenlemeyi tamamen soyutlayarak ekiplerin düğümlerin sağlığı yerine yalnızca kod mantığına odaklanmasını sağlar.
• Sunucusuz ve IaaS: Infrastructure-as-a-Service (IaaS), internet üzerinden Amazon EC2 gibi sanallaştırılmış bilgi işlem kaynakları sağlar. IaaS ile kullanıcı, işletim sistemine yama yapmaktan ve ara yazılımı yönetmekten sorumludur. Buna karşılık sunucusuz bilişim bu operasyonel sorumlulukları ortadan kaldırarak geliştiricilerin image classification doğrulamasını iyileştirme gibi üst düzey görevlere odaklanmasını sağlar.

Sunucusuz mimarilerden yararlanarak geliştiriciler; maliyet açısından uygun olan ve öngörülemeyen iş yüklerini işleyebilen güçlü yapay zeka çözümleri dağıtabilir, dağıtımdan önce model eğitimi ve yönetim sürecini kolaylaştırmak için Ultralytics Platform gibi araçları kullanabilir.