Serverless Computing (Serverloses Rechnen)

Serverless Computing ist ein Cloud-Ausführungsmodell, bei dem der Cloud-Anbieter die Zuweisung und Bereitstellung von Servern dynamisch verwaltet. Dieser Ansatz ermöglicht es Entwicklern, Anwendungen und Dienste zu erstellen und auszuführen, ohne über die zugrunde liegende Serverinfrastruktur nachdenken zu müssen. Anstatt Server bereitzustellen und zu verwalten, stellen Entwickler ihren Code in Form von Funktionen bereit. Diese Funktionen werden vom Anbieter bei Bedarf ausgeführt und skalieren automatisch von wenigen Anfragen pro Tag auf Tausende pro Sekunde. Dieses Pay-per-Use-Modell macht es hocheffizient für Workloads mit variablem oder unvorhersehbarem Traffic, einem häufigen Szenario in Machine-Learning (ML)-Anwendungen.

Wie Serverless Computing funktioniert

Der Kern des Serverless Computing ist das Function-as-a-Service (FaaS)-Modell. Bei diesem Setup wird die Anwendungslogik in kleine, zweckgebundene Funktionen unterteilt, die durch bestimmte Ereignisse ausgelöst werden. Ein Ereignis kann eine HTTP-Anfrage von einer Webanwendung, eine neue Nachricht in einer Warteschlange oder eine in Cloud-Speicher hochgeladene Datei sein.

Wenn ein Trigger-Ereignis eintritt, führt die Cloud-Plattform sofort die entsprechende Funktion aus. Die Plattform übernimmt alle Aspekte des Ressourcenmanagements, einschließlich der Bereitstellung der Compute-Instanz, der Verwaltung des Betriebssystems und der Gewährleistung hoher Verfügbarkeit und Skalierbarkeit. Sobald die Funktion ausgeführt wurde, werden die Ressourcen freigegeben. Dadurch entfällt die Leerlaufzeit des Servers und es wird sichergestellt, dass Sie nur für die exakten Computerressourcen bezahlen, die Ihre Anwendung verbraucht. Dies ist ein grundlegendes Prinzip von modernem MLOps.

Anwendungen in KI und maschinellem Lernen

Die Serverless-Architektur eignet sich besonders gut für verschiedene Phasen des AI/ML-Lebenszyklus, insbesondere für die Modellinferenz.

• Automatisierte Datenpipelines: Serverlose Funktionen können Datenvorverarbeitungs-Aufgaben automatisieren. Beispielsweise kann eine Funktion jedes Mal ausgelöst werden, wenn ein neues Bild in einen Speicherdienst wie Amazon S3 hochgeladen wird. Die Funktion kann dann das Bild automatisch in der Größe ändern, Pixelwerte normalisieren und es in einem Format speichern, das für das Modelltraining bereit ist.
• Kosteneffizientes Model Serving: Viele KI-Anwendungen erfordern keine konstante Verarbeitung mit hohem Volumen. Ein Serverless-Endpunkt für ein Computer Vision-Modell ermöglicht es Ihnen, Modelle wie Ultralytics YOLO bereitzustellen, ohne einen ständig laufenden und oft teuren Server zu unterhalten. Die Funktion wird bei Bedarf hochgefahren, um eine Anfrage zu bearbeiten, und anschließend wieder heruntergefahren, wodurch die Betriebskosten erheblich gesenkt werden. Dieser Ansatz vereinfacht die Modelldistribution für Anwendungen mit intermittierenden Nutzungsmustern.

Beispiele aus der Praxis

1. On-Demand Bildanalyse: Eine mobile App ermöglicht es Benutzern, Fotos von Pflanzen zur Identifizierung hochzuladen. Jeder Foto-Upload löst eine Serverless-Funktion über ein API-Gateway aus. Die Funktion lädt ein Bildklassifizierungsmodell, analysiert das Foto, um die Pflanzenart zu identifizieren, und gibt das Ergebnis an die App des Benutzers zurück. Dieser gesamte Prozess geschieht in Sekundenschnelle ohne dedizierten Server.
2. Echtzeit-Chatbot-Verarbeitung: In einem Kundenservice-Chatbot ist jede Benutzernachricht ein Ereignis, das eine serverlose Funktion auslöst. Die Funktion ruft ein Natural Language Processing (NLP)-Modell auf, um die Absicht des Benutzers zu verstehen. Basierend auf der Analyse kann eine andere Funktion ausgelöst werden, um eine Datenbank abzufragen oder eine andere API aufzurufen, wobei eine ereignisgesteuerte Architektur befolgt wird.

Serverless vs. verwandte Konzepte

Es ist wichtig, Serverless Computing von verwandten Technologien zu unterscheiden:

• Cloud Computing vs. Serverless: Cloud Computing ist die umfassende Bereitstellung von Computing-Diensten über das Internet. Serverless ist ein spezifisches Ausführungsmodell innerhalb des Cloud Computing, das die automatische Ressourcenverwaltung betont und die Serververwaltung vollständig abstrahiert. Andere Cloud-Modelle wie Infrastructure as a Service (IaaS) erfordern weiterhin, dass Benutzer virtuelle Maschinen bereitstellen und verwalten.
• Containerisierung vs. Serverless: Containerisierungs-Tools wie Docker packen Anwendungen und ihre Abhängigkeiten. Orchestrierungsplattformen wie Kubernetes automatisieren die Bereitstellung und Skalierung dieser Container. Dies reduziert zwar die operative Belastung, aber Sie verwalten weiterhin die zugrunde liegende Cluster-Infrastruktur. Serverless-Plattformen abstrahieren diese Schicht vollständig; Sie verwalten nur den Funktionscode. Sehen Sie, wie Sie Docker mit Ultralytics verwenden.
• Edge Computing vs. Serverless: Edge Computing beinhaltet die lokale Verarbeitung von Daten auf Geräten in der Nähe der Datenquelle. Im Gegensatz dazu führt Serverless Computing Funktionen in zentralen Cloud-Rechenzentren aus. Die beiden können sich ergänzen; ein Edge-KI-Gerät (wie eines, das auf einem NVIDIA Jetson läuft) könnte eine erste Filterung durchführen und dann eine Serverless-Funktion in der Cloud für eine intensivere Analyse auslösen.

Zu den führenden Serverless-Plattformen gehören AWS Lambda, Google Cloud Functions und Azure Functions. Diese Dienste bieten die Infrastruktur, um Serverless-KI/ML-Anwendungen effektiv zu erstellen und auszuführen. Plattformen wie Ultralytics HUB können die Bereitstellung und Verwaltung von Modellen innerhalb verschiedener Architekturen, einschließlich Serverless-Setups, weiter optimieren.