Yolo Vision Shenzhen
Shenzhen
Jetzt beitreten

Kompilieren und Quantisieren von Ultralytics YOLOv5 für bessere Leistung mit Deci

Ultralytics

4 Min. Lesezeit

26. Oktober 2022

Optimieren Sie Ultralytics YOLOv5 mit der Deci-Plattform und steigern Sie die Leistung um das bis zu 10-fache. Starten Sie kostenlos und nutzen Sie die automatische Modelloptimierung.

Bei Ultralytics gehen wir kommerzielle Partnerschaften mit anderen Start-ups ein, um die Forschung und Entwicklung unserer großartigen Open-Source-Tools wie YOLOv5 zu finanzieren, damit sie für alle kostenlos bleiben. Dieser Artikel kann Affiliate-Links zu diesen Partnern enthalten.

Die Deci-Plattform enthält kostenlose Tools zur einfachen Verwaltung, Optimierung und Bereitstellung Ihrer YOLOv5 Modelle in jeder Produktionsumgebung. Deci unterstützt alle gängigen DL-Frameworks, wie TensorFlow, PyTorch, Keras und ONNX. Alles, was Sie brauchen, ist unsere webbasierte Plattform oder unser Python , um sie in Ihrem Code auszuführen.

Warum Deci?

Sie können Deci nicht nur zum Exportieren, sondern auch zum Beschneiden und Quantisieren des Modells verwenden!

Deci bietet eine ansprechende Oberfläche für den Export in beliebigen Formaten und den Leistungsvergleich zwischen den Original- und konvertierten Modellen. Benutzer können ihre Modelle durch Quantisierung weiter optimieren.

Mit Deci können Sie:

Verbesserung der Inferenzleistung um bis zu 10x

Kompilieren und quantisieren Sie Ihre Modelle automatisch und bewerten Sie verschiedene Produktionseinstellungen, um eine bessere Latenz, einen besseren Durchsatz und eine Reduzierung der Modellgröße und des Speicherbedarfs auf Ihrer Hardware zu erreichen.

Finden Sie die beste Inferenz-Hardware für Ihre Anwendung

Messen Sie die Leistung Ihres Modells auf verschiedenen Hardwaregeräten (einschließlich Edge) mit einem Knopfdruck. Eliminieren Sie die Notwendigkeit, mehrere Hardware- und Produktionseinstellungen manuell einzurichten und zu testen.

Bereitstellung mit wenigen Codezeilen

NutzenSie Decis python Inferenzmaschine. Kompatibel mit mehreren Frameworks und Hardwaretypen.

Für weitere Informationen über die Deci-Plattform besuchen Sie bitte die Website von Deci.

Ersteinrichtung

Schritt 1

Eröffnen Sie Ihr kostenloses Konto.

Beginnen Sie mit Deci und Ultralytics YOLOv5

Schritt 2

Um mit der Optimierung Ihres vortrainierten YOLOv5 zu beginnen, müssen Sie es in das ONNX konvertieren. Siehe YOLOv5 für Anweisungen zur Konvertierung Ihres Modells in das ONNX .

Schritt 3

Gehen Sie zur Registerkarte "Labor" und klicken Sie auf die Schaltfläche "Neues Modell" oben rechts auf dem Bildschirm, um Ihr YOLOv5 ONNX hochzuladen.

Konvertierung von Ultralytics YOLOv5 in ONNX für die künftige Verwendung mit Deci

Folgen Sie den Schritten des Modell-Upload-Assistenten, um Ihre Zielhardware sowie die gewünschte Batch-Größe und den Quantisierungsgrad für die Modellkompilierung auszuwählen.

Ultralytics YOLOv5 für den Einsatz mit Deci

Nachdem Sie die relevanten Informationen eingegeben haben, klicken Sie auf "Start". Die Deci-Plattform wird automatisch eine Laufzeitoptimierung Ihres YOLOv5 für die von Ihnen gewählte Hardware durchführen und Ihr Modell auf verschiedenen Hardwaretypen testen. Dieser Vorgang dauert etwa 10 Minuten.

Sobald dies geschehen ist, erscheint eine neue Zeile auf Ihrem Bildschirm unterhalb des zuvor hochgeladenen Basismodells. Hier sehen Sie die optimierte Version Ihres vortrainierten YOLOv5 .

Ultralytics YOLOv5 optimiertes Modell für den Einsatz mit Deci

Wie geht es weiter?

Anschließend können Sie Ihr optimiertes Modell herunterladen, indem Sie auf die Schaltfläche "Deploy" klicken.

Ultralytics YOLOv5 bereit für den Einsatz mit Deci

Sie werden dann aufgefordert, Ihr Modell herunterzuladen und Anweisungen zur Installation und Verwendung von Infery - Deci's Runtime Inference Engine - zu erhalten.

Die Verwendung von Infery ist optional. Sie können die python erhalten und sie mit jeder anderen Inferenzmaschine Ihrer Wahl verwenden.

Verwendung von Deci Infery zur Bereitstellung von Ultralytics YOLOv5

Entdecken Sie die Optimierungs- und Benchmark-Ergebnisse auf der Registerkarte "Insights".

Optimierung mit Deci von Ultralytics YOLOv5

Bereit für den Einstieg?

Bevor wir zum Schluss kommen, wollen wir einige der Vorteile von Deci besprechen:

  • Optimieren Sie den Inferenzdurchsatz und die Latenz Ihres Modells, ohne die Genauigkeit zu beeinträchtigen.
  • Ermöglicht Ihnen die Optimierung von Modellen aus allen gängigen Frameworks
  • Unterstützt Modelle, die auf Deep-Learning-Aufgaben ausgerichtet sind
  • Unterstützt den Einsatz auf gängigen CPU und GPU
  • Bewertet die Eignung Ihres Modells auf verschiedenen Hardware-Hosts und Cloud-Anbietern
  • Bereitet hochgeladene Modelle für Serving, Inferenz und Deployment vor

Wie Sie gerade gesehen haben, können Sie die Leistung eines YOLOv5 in insgesamt 15 Minuten verdoppeln. Die Deci-Plattform ist super einfach und intuitiv zu bedienen.

Haben Sie Fragen? Treten Sie unserer Community bei und stellen Sie Ihre Frage noch heute!

Lasst uns gemeinsam die Zukunft
der KI gestalten!

Beginnen Sie Ihre Reise mit der Zukunft des maschinellen Lernens

Kostenlos starten