Serverless Computing

Serverless Computing ist ein Cloud-Ausführungsmodell, das es Entwicklern ermöglicht, Anwendungen zu erstellen und auszuführen, ohne sich mit der Komplexität der Infrastrukturverwaltung auseinandersetzen zu müssen. In diesem Paradigma verwaltet der Cloud-Anbieter dynamisch die Zuweisung und Bereitstellung von Servern und abstrahiert die zugrunde liegende Hardware sowie die Betriebssysteme vom Benutzer. Code wird in zustandslosen Containern ausgeführt, die durch spezifische Ereignisse wie eine HTTP-Anfrage, eine Datenbankänderung oder einen Datei-Upload ausgelöst werden. Dieser Ansatz ist für moderne Cloud Computing-Strategien von hoher Relevanz, da er es Unternehmen ermöglicht, nur für die tatsächlich verbrauchte Rechenzeit zu zahlen und automatisch Skalierbarkeit-Anforderungen zu erfüllen, indem je nach Verkehrsaufkommen von null auf tausende Instanzen skaliert wird.

Link to this sectionDie Mechanik von Serverless für KI#

Der Kern des Serverless Computing ist das Konzept von Function-as-a-Service (FaaS), bei dem Anwendungen in einzelne Funktionen unterteilt werden, die diskrete Aufgaben ausführen. Für Praktiker im Bereich Machine Learning (ML) bietet dies einen optimierten Weg für das Model Deployment. Anstatt einen dedizierten Server zu unterhalten, der während verkehrsarmen Zeiten im Leerlauf ist, kann eine Serverless-Funktion bei Bedarf hochfahren, um Daten zu verarbeiten, und unmittelbar danach wieder herunterfahren.

Ein wesentlicher Aspekt bei dieser Architektur ist jedoch der „Kaltstart“ – die Latenz, die entsteht, wenn eine Funktion zum ersten Mal oder nach einer Phase der Inaktivität aufgerufen wird. Um dies abzumildern, verwenden Entwickler häufig leichtgewichtige Architekturen wie YOLO26 oder Techniken wie Model Quantization, um schnelle Ladezeiten zu gewährleisten, was für die Aufrechterhaltung einer niedrigen Inference Latency entscheidend ist.

Link to this sectionPraxisanwendungen im Machine Learning#

Serverless-Architekturen sind besonders effektiv für ereignisgesteuerte Computer Vision (CV)-Workflows und Datenpipelines.

• Automatisierte Datenvorverarbeitung: Wenn ein Benutzer einen Rohdatensatz auf einen Speicherdienst wie Amazon S3 hochlädt, kann dies eine Serverless-Funktion auslösen, um eine unmittelbare Datenvorverarbeitung durchzuführen. Die Funktion könnte Bilder skalieren, Pixelwerte normalisieren oder Dateiformate validieren, bevor die Daten in eine Training Data-Pipeline gelangen, wodurch Konsistenz ohne manuelles Eingreifen gewährleistet wird.
• On-Demand intelligente Überwachung: Im Bereich KI in der Sicherheit kann ein Bewegungssensor eine Kamera auslösen, um einen Frame aufzunehmen. Dieses Ereignis ruft eine Cloud-Funktion auf, die ein Objekterkennung-Modell hostet. Das Modell analysiert das Bild, um zwischen einem harmlosen Tier und einem potenziellen Eindringling zu unterscheiden, und sendet nur bei Bedarf einen Alarm. Dies reduziert Bandbreiten- und Speicherkosten im Vergleich zum kontinuierlichen Streaming drastisch.

Link to this sectionPython-Beispiel: Serverless Inference Handler#

Der folgende Code demonstriert einen konzeptionellen Serverless-Handler. Er initialisiert eine globale Modellinstanz, um von „Warmstarts“ (bei denen der Container zwischen Anfragen aktiv bleibt) zu profitieren, und verarbeitet einen eingehenden Bildpfad.

from ultralytics import YOLO

# Initialize the model outside the handler to cache it for subsequent requests
# YOLO26n is ideal for serverless due to its compact size and speed
model = YOLO("yolo26n.pt")


def lambda_handler(event, context):
    """Simulates a serverless function handler triggered by an event. 'event' represents the input payload containing
    the image source.
    """
    image_source = event.get("url", "https://ultralytics.com/images/bus.jpg")

    # Perform inference
    results = model(image_source)

    # Return prediction summary
    return {
        "statusCode": 200,
        "body": {
            "objects_detected": len(results[0].boxes),
            "top_class": results[0].names[int(results[0].boxes.cls[0])] if len(results[0].boxes) > 0 else "None",
        },
    }

Link to this sectionUnterscheidung verwandter Technologien#

Um Serverless Computing zu verstehen, muss man es von anderen Infrastrukturmodellen unterscheiden, die häufig in MLOps verwendet werden.

• Serverless vs. Edge Computing: Obwohl beide darauf abzielen, die Effizienz zu optimieren, arbeiten sie an unterschiedlichen Orten. Edge Computing verarbeitet Daten lokal auf dem Gerät (z. B. einer intelligenten Kamera oder einem IoT-Gerät), um die Netzwerkübertragungszeit zu minimieren. Serverless Computing findet in einer zentralisierten Public Cloud statt. Hybride Lösungen verarbeiten oft initiale Daten an der Edge und senden komplexe Anomalien an Serverless-Cloud-Funktionen für tiefgehendere medizinische Bildanalyse oder forensische Überprüfungen.
• Serverless vs. Kubernetes: Kubernetes ist eine Orchestrierungsplattform für Containerisierung, die Entwicklern eine granulare Kontrolle über die Cluster-Umgebung, das Netzwerk und die Pods gibt. Obwohl leistungsstark, erfordert es einen erheblichen Verwaltungsaufwand. Serverless-Plattformen, wie Google Cloud Functions oder Azure Functions, abstrahieren diese Orchestrierung vollständig, sodass sich Teams ausschließlich auf die Codelogik konzentrieren können, anstatt auf den Zustand der Knoten.
• Serverless vs. IaaS: Infrastructure-as-a-Service (IaaS) stellt virtualisierte Rechenressourcen über das Internet bereit, wie etwa Amazon EC2. Bei IaaS ist der Benutzer für das Patchen des Betriebssystems und die Verwaltung der Middleware verantwortlich. Im Gegensatz dazu entfernt Serverless Computing diese operativen Verantwortlichkeiten und ermöglicht es Entwicklern, sich auf höherwertige Aufgaben wie die Verbesserung der Bildklassifizierungs-Genauigkeit zu konzentrieren.

Durch die Nutzung von Serverless-Architekturen können Entwickler robuste KI-Lösungen bereitstellen, die kosteneffizient sind und unvorhersehbare Workloads bewältigen können, wobei sie Tools wie die Ultralytics Platform nutzen, um den Modelltrainings- und Managementprozess vor der Bereitstellung zu optimieren.