Yolo Vision Shenzhen
Shenzhen
Jetzt beitreten
Glossar

Serverless Computing (Serverloses Rechnen)

Entdecken Sie, wie Serverless Computing KI/ML mit Skalierbarkeit, Kosteneffizienz und schneller Bereitstellung revolutioniert. Bauen Sie noch heute intelligenter und schneller!

Serverless Computing ist ein Cloud-Ausführungsmodell, bei dem der Cloud-Anbieter die Zuweisung und Bereitstellung von Servern dynamisch verwaltet. Bereitstellung von Servern verwaltet, so dass Entwickler Anwendungen erstellen und ausführen können, ohne die zugrunde liegende Infrastruktur zu verwalten. In dieser Architektur wird der Code in zustandslosen Containern ausgeführt, die durch bestimmte Ereignisse ausgelöst werden, Die Skalierung erfolgt automatisch von null auf tausende von Anfragen in kürzester Zeit. Dieses Pay-per-Use-Modell ist äußerst effizient für für Arbeitslasten mit variablem Datenverkehr, was es zu einem Eckpfeiler der modernen Anwendungsentwicklung für maschinelles Lernen (ML) und Cloud-Computing-Strategien.

Die Mechanik von Serverless

Das Herzstück des serverlosen Computings ist das Function-as-a-Service (FaaS) -Paradigma. Anstatt eine monolithische monolithischen Anwendung zu implementieren, wird die Logik in einzelne Funktionen aufgeteilt, die einzelne Aufgaben ausführen. Diese Funktionen sind ereignisgesteuert, d. h. sie werden nur ausgeführt, wenn sie durch eine Aktion ausgelöst werden, z. B. eine HTTP-Anfrage über ein API-Gateway, ein Datei-Upload zu Speicherdiensten wie Amazon S3, oder eine Datenbankaktualisierung.

Der Cloud-Anbieter kümmert sich um den gesamten betrieblichen Aufwand, einschließlich Betriebssystemwartung, Kapazitätsbereitstellung und Skalierbarkeit. Kapazitätsbereitstellung und Skalierbarkeit. Diese Abstraktion ermöglicht Teams, sich ganz auf das Schreiben von Code für Computer Vision oder Datenanalyse konzentrieren und beschleunigt den durch die bewährten MLOps-Praktiken definierten Entwicklungszyklus MLOps Best Practices definiert ist.

Serverlos in KI und maschinellem Lernen

Serverlose Architekturen sind besonders vorteilhaft für den Einsatz von KI-Modellen, da sie in der Lage sind "stoßweise" Datenverkehrsmuster zu bewältigen, ohne dass die Kosten für ungenutzte Server anfallen.

  • On-Demand-Inferenz: Das Hosten eines Modells für Echtzeit-Inferenz auf einem dedizierten Server kann teuer werden, wenn die Anfragen sporadisch sind. Serverlose Funktionen können ein Modell laden wie YOLO11 nur dann laden, wenn ein Nutzer eine Anfrage stellt, das Bild verarbeiten Bild verarbeiten und Vorhersagen kostengünstig zurückgeben.
  • Pipelines für die Datenvorverarbeitung: Serverlose Funktionen sind ideal für Datenvorverarbeitungsaufgaben. Zum Beispiel können Das Hochladen eines Rohdatensatzes kann Funktionen zur Größenänderung von Bildern, zur Normalisierung von Pixelwerten oder zur Konvertierung von Dateiformaten auslösen, um sie für das Modelltraining vorzubereiten.
  • Modellumschulung: In einem ereignisgesteuerten Arbeitsablauf werden signifikante Modellleistung, die von Überwachungs Überwachungstools festgestellte signifikante Leistungsabfälle des Modells automatisch eine Neutrainings-Pipeline mit frischen Daten auslösen.

Python : Serverloser Inferenz-Handler

Der folgende Code veranschaulicht eine konzeptionelle Handler-Funktion, die ein leichtgewichtiges Ultralytics lädt, um die Objekterkennung an einem von einem Ereignisauslöser bereitgestellten Bildpfad Ereignisauslöser bereitgestellt wird.

from ultralytics import YOLO

# Initialize the model outside the handler to cache it for warm starts
# YOLO11n is chosen for its small size and speed, ideal for serverless environments
model = YOLO("yolo11n.pt")


def lambda_handler(event, context):
    """Simulated serverless handler for performing inference. 'event' contains the input data, e.g., path to an image.
    """
    image_path = event.get("image_path", "data/images/bus.jpg")

    # Run inference
    results = model(image_path)

    # Return the count of detected objects
    return {"status": "success", "objects_detected": len(results[0].boxes)}

Anwendungsfälle in der Praxis

  1. Intelligente Sicherheitssysteme: Haussicherheitskameras können mit Edge AI nutzen, um Bewegungen detect und einen Schnappschuss in die Cloud hochladen. Dieses Upload-Ereignis löst eine serverlose Funktion aus (z. B. auf AWS Lambda oder Google Cloud Functions), die ein genaueres Erkennungsmodell ausführt um festzustellen, ob die Bewegung von einer Person oder einem Haustier verursacht wurde, wodurch Fehlalarme reduziert werden.
  2. Landwirtschaftliche Analyse: In KI in der Landwirtschaft können Drohnen, die Feld Daten in einen zentralen Bucket hochladen. Dies löst parallele serverlose Funktionen aus, die den Gesundheitszustand der Pflanzen analysieren von Tausenden von Bildern gleichzeitig zu analysieren, wobei die massive Parallelität der Cloud genutzt wird, um die Arbeit in Minuten statt Stunden.

Unterscheidung von verwandten Konzepten

Um zu verstehen, wo Serverless passt, muss man es von ähnlichen Technologien unterscheiden:

  • Serverlos vs. Containerisierung: Während Serverless oft Container unter der Haube verwendet, Containerisierungstechnologien wie Docker und Orchestrierungsplattformen wie Kubernetes erfordern, dass der Benutzer den Lebenszyklus der Container Lebenszyklus und die Cluster-Ressourcen zu verwalten. Serverless abstrahiert dies vollständig.
  • Serverlos vs. Edge Computing: Edge Computing verarbeitet Daten lokal auf dem Gerät (z. B. einem eingebetteten System oder IoT-Sensor), um die Latenzzeit zu minimieren. Serverless findet in einer zentralisierten Cloud Umgebung. Hybride Ansätze verwenden oft Edge-Geräte für die unmittelbare Filterung und Serverless für die anspruchsvolle Deep-Learning-Analyse.
  • Serverless vs. PaaS: Plattform-as-a-Service (PaaS) bietet einen Rahmen für die Erstellung von Anwendungen, erfordert aber oft mehr Konfiguration hinsichtlich der Anzahl der Instanzen oder Laufzeitumgebungen im Vergleich zu der rein ereignisgesteuerten Natur von Serverless.

Durch den Einsatz von Serverless Computing können Unternehmen robuste Computer-Vision-Anwendungen einsetzen, die sowohl kosteneffizient und global skalierbar sind und die Infrastrukturausgaben direkt mit dem Geschäftswert in Einklang bringen.

Werden Sie Mitglied der Ultralytics

Gestalten Sie die Zukunft der KI mit. Vernetzen Sie sich, arbeiten Sie zusammen und wachsen Sie mit globalen Innovatoren

Jetzt beitreten