26. Oktober 2022
Optimieren und stellen Sie Ultralytics YOLOv5-Modelle mit der Plattform von Deci bereit und verbessern Sie die Leistung um bis zu 10x. Beginnen Sie kostenlos und nutzen Sie die automatische Modelloptimierung.
Wir bei Ultralytics arbeiten kommerziell mit anderen Startups zusammen, um die Forschung und Entwicklung unserer großartigen Open-Source-Tools wie YOLOv5 zu finanzieren, damit diese für alle kostenlos bleiben. Dieser Artikel kann Affiliate-Links zu diesen Partnern enthalten.
Die Deci-Plattform enthält kostenlose Tools zur einfachen Verwaltung, Optimierung und Bereitstellung Ihrer YOLOv5-Modelle in jeder Produktionsumgebung. Deci unterstützt alle gängigen DL-Frameworks wie TensorFlow, PyTorch, Keras und ONNX. Alles, was Sie brauchen, ist unsere webbasierte Plattform oder unser Python-Client, um sie von Ihrem Code aus auszuführen.
Sie können Deci nicht nur zum Exportieren, sondern auch zum Beschneiden und Quantisieren des Modells verwenden!
Deci bietet eine ansprechende Oberfläche für den Export in beliebigen Formaten und den Leistungsvergleich zwischen den Original- und konvertierten Modellen. Benutzer können ihre Modelle durch Quantisierung weiter optimieren.
Kompilieren und quantisieren Sie Ihre Modelle automatisch und bewerten Sie verschiedene Produktionseinstellungen, um eine bessere Latenz, einen besseren Durchsatz und eine Reduzierung der Modellgröße und des Speicherbedarfs auf Ihrer Hardware zu erreichen.
Messen Sie die Leistung Ihres Modells auf verschiedenen Hardwaregeräten (einschließlich Edge) mit einem Knopfdruck. Eliminieren Sie die Notwendigkeit, mehrere Hardware- und Produktionseinstellungen manuell einzurichten und zu testen.
Nutzen Sie die Python-basierte Inferenz-Engine von Deci. Kompatibel mit mehreren Frameworks und Hardwaretypen.
Für weitere Informationen über die Deci-Plattform besuchen Sie bitte die Website von Deci.
Eröffnen Sie Ihr kostenloses Konto.
Um mit der Optimierung Ihres vortrainierten YOLOv5-Modells zu beginnen, müssen Sie es in das ONNX-Format konvertieren. Im YOLOv5 Export Tutorial finden Sie Anweisungen zum Konvertieren Ihres Modells in das ONNX-Format.
Gehen Sie zur Registerkarte „Lab“ und klicken Sie auf die Schaltfläche „Neues Modell“ im oberen rechten Teil des Bildschirms, um Ihr YOLOv5-ONNX-Modell hochzuladen.
Folgen Sie den Schritten des Modell-Upload-Assistenten, um Ihre Zielhardware sowie die gewünschte Batch-Größe und den Quantisierungsgrad für die Modellkompilierung auszuwählen.
Nachdem Sie die relevanten Informationen eingegeben haben, klicken Sie auf "Start". Die Deci-Plattform führt automatisch eine Laufzeitoptimierung Ihres YOLOv5-Modells für die von Ihnen ausgewählte Hardware durch und führt ein Benchmarking Ihres Modells auf verschiedenen Hardwaretypen durch. Dieser Vorgang dauert etwa 10 Minuten.
Sobald dies geschehen ist, erscheint eine neue Zeile auf Ihrem Bildschirm unterhalb des Basismodells, das Sie zuvor hochgeladen haben. Hier können Sie die optimierte Version Ihres vortrainierten YOLOv5-Modells sehen.
Anschließend können Sie Ihr optimiertes Modell herunterladen, indem Sie auf die Schaltfläche "Deploy" klicken.
Sie werden dann aufgefordert, Ihr Modell herunterzuladen und Anweisungen zur Installation und Verwendung von Infery - Deci's Runtime Inference Engine - zu erhalten.
Die Verwendung von Infery ist optional. Sie können die Python-Quelldateien erhalten und diese mit einer anderen Inference Engine Ihrer Wahl verwenden.
Entdecken Sie die Optimierungs- und Benchmark-Ergebnisse auf der Registerkarte "Insights".
Bevor wir zum Schluss kommen, wollen wir einige der Vorteile von Deci besprechen:
Wie Sie gerade gesehen haben, können Sie die Leistung eines YOLOv5-Modells in insgesamt 15 Minuten verdoppeln. Die Deci-Plattform ist super einfach und intuitiv zu bedienen.
Haben Sie Fragen? Treten Sie unserer Community bei und stellen Sie Ihre Frage noch heute!
.webp)
