Glossar

Serverloses Rechnen

Entdecken Sie, wie serverloses Computing die KI/ML mit Skalierbarkeit, Kosteneffizienz und schneller Bereitstellung revolutioniert. Bauen Sie noch heute intelligenter und schneller!

Serverloses Computing ist ein Cloud-Ausführungsmodell, bei dem der Cloud-Anbieter die Zuweisung und Bereitstellung von Servern dynamisch verwaltet. Dieser Ansatz ermöglicht es Entwicklern, Anwendungen und Dienste zu erstellen und auszuführen, ohne sich Gedanken über die zugrunde liegende Serverinfrastruktur zu machen. Anstatt Server bereitzustellen und zu verwalten, stellen Entwickler ihren Code in Form von Funktionen bereit. Diese Funktionen werden vom Anbieter nach Bedarf ausgeführt und skalieren automatisch von einigen wenigen Anfragen pro Tag bis zu Tausenden pro Sekunde. Dieses Pay-per-Use-Modell ist äußerst effizient für Arbeitslasten mit variablem oder unvorhersehbarem Datenverkehr, ein häufiges Szenario bei Anwendungen für maschinelles Lernen (ML).

Wie Serverless Computing funktioniert

Der Kern des Serverless Computing ist das Function-as-a-Service-Modell (FaaS). In diesem Setup wird die Anwendungslogik in kleine Einzweckfunktionen aufgeteilt, die durch bestimmte Ereignisse ausgelöst werden. Ein Ereignis kann eine HTTP-Anforderung von einer Webanwendung sein, eine neue Nachricht in einer Warteschlange oder eine Datei, die in einen Cloud-Speicher hochgeladen wird.

Wenn ein auslösendes Ereignis eintritt, führt die Cloud-Plattform sofort die entsprechende Funktion aus. Die Plattform kümmert sich um alle Aspekte der Ressourcenverwaltung, einschließlich der Bereitstellung der Recheninstanz, der Verwaltung des Betriebssystems und der Gewährleistung hoher Verfügbarkeit und Skalierbarkeit. Sobald die Funktion ausgeführt wurde, werden die Ressourcen wieder freigegeben. Auf diese Weise wird ungenutzte Serverzeit vermieden und sichergestellt, dass Sie nur für genau die Rechenressourcen zahlen, die Ihre Anwendung verbraucht. Dies ist ein Grundprinzip des modernen MLOps.

Anwendungen in AI und maschinellem Lernen

Die serverlose Architektur eignet sich besonders gut für verschiedene Phasen des KI/ML-Lebenszyklus, insbesondere für die Modellinferenz.

  • Automatisierte Daten-Pipelines: Serverlose Funktionen können Datenvorverarbeitungsaufgaben automatisieren. Zum Beispiel kann eine Funktion jedes Mal ausgelöst werden, wenn ein neues Bild in einen Speicherdienst wie Amazon S3 hochgeladen wird. Die Funktion kann dann automatisch die Größe des Bildes ändern, die Pixelwerte normalisieren und es in einem Format speichern, das für das Modelltraining bereit ist.
  • Kosteneffiziente Modellwartung: Viele KI-Anwendungen erfordern keine konstante Verarbeitung großer Datenmengen. Mit einem serverlosen Endpunkt für ein Computer-Vision-Modell können Sie Modelle wie Ultralytics YOLO bereitstellen, ohne einen ständig laufenden und oft teuren Server zu unterhalten. Die Funktion wird bei Bedarf hochgefahren, um eine Anfrage zu verarbeiten, und danach wieder heruntergefahren, was die Betriebskosten erheblich senkt. Dieser Ansatz vereinfacht die Modellbereitstellung für Anwendungen mit unregelmäßigen Nutzungsmustern.

Beispiele aus der Praxis

  1. On-Demand-Bildanalyse: Mit einer mobilen App können Nutzer Fotos von Pflanzen zur Identifizierung hochladen. Jeder Foto-Upload löst eine serverlose Funktion über ein API-Gateway aus. Die Funktion lädt ein Bildklassifizierungsmodell, analysiert das Foto, um die Pflanzenart zu identifizieren, und gibt das Ergebnis an die App des Benutzers zurück. Dieser gesamte Prozess läuft in Sekundenschnelle ohne einen dedizierten Server ab.
  2. Chatbot-Verarbeitung in Echtzeit: In einem Chatbot für den Kundendienst ist jede Benutzernachricht ein Ereignis, das eine serverlose Funktion auslöst. Die Funktion ruft ein Natural Language Processing (NLP) -Modell auf, um die Absicht des Benutzers zu verstehen. Auf der Grundlage der Analyse kann eine weitere Funktion ausgelöst werden, um eine Datenbank abzufragen oder eine andere API aufzurufen, was einer ereignisgesteuerten Architektur entspricht.

Serverlose Konzepte im Vergleich zu verwandten Konzepten

Es ist wichtig, Serverless Computing von verwandten Technologien zu unterscheiden:

  • Cloud Computing vs. Serverless: Cloud Computing ist die umfassende Bereitstellung von Rechendiensten über das Internet. Serverless ist ein spezielles Ausführungsmodell innerhalb des Cloud Computing, bei dem die automatische Ressourcenverwaltung im Vordergrund steht und die Serververwaltung vollständig abstrahiert wird. Bei anderen Cloud-Modellen wie Infrastructure as a Service (IaaS) müssen die Nutzer weiterhin virtuelle Maschinen bereitstellen und verwalten.
  • Containerisierung vs. Serverless: Containerisierungstools wie Docker verpacken Anwendungen und ihre Abhängigkeiten. Orchestrierungsplattformen wie Kubernetes automatisieren die Bereitstellung und Skalierung dieser Container. Dadurch verringert sich zwar der operative Aufwand, aber die zugrunde liegende Cluster-Infrastruktur muss weiterhin verwaltet werden. Serverlose Plattformen abstrahieren diese Schicht vollständig; Sie verwalten nur den Funktionscode. Sehen Sie, wie Sie Docker mit Ultralytics verwenden können.
  • Edge Computing vs. Serverless: Beim Edge Computing werden Daten lokal auf Geräten in der Nähe der Datenquelle verarbeitet. Im Gegensatz dazu werden beim serverlosen Computing Funktionen in zentralisierten Cloud-Rechenzentren ausgeführt. Beide können sich ergänzen: Ein Edge-KI-Gerät (z. B. auf einem NVIDIA Jetson) kann eine erste Filterung vornehmen und dann eine serverlose Funktion in der Cloud für eine intensivere Analyse auslösen.

Zu den führenden serverlosen Plattformen gehören AWS Lambda, Google Cloud Functions und Azure Functions. Diese Dienste bieten die Infrastruktur, um serverlose KI/ML-Anwendungen effektiv zu erstellen und auszuführen. Plattformen wie Ultralytics HUB können die Bereitstellung und Verwaltung von Modellen in verschiedenen Architekturen, einschließlich serverloser Setups, weiter optimieren.

Werden Sie Mitglied der Ultralytics-Gemeinschaft

Beteiligen Sie sich an der Zukunft der KI. Vernetzen Sie sich, arbeiten Sie zusammen und wachsen Sie mit globalen Innovatoren

Jetzt beitreten
Link in die Zwischenablage kopiert