利用 Deci 平台优化和部署 Ultralytics YOLOv5 模型,最高可将性能提高 10 倍。免费开始使用并利用自动模型优化。

利用 Deci 平台优化和部署 Ultralytics YOLOv5 模型,最高可将性能提高 10 倍。免费开始使用并利用自动模型优化。
在 Ultralytics,我们经常与其他初创公司合作,帮助我们为研发 YOLOv5 等优秀的开源工具提供资金支持,使这些工具能够免费提供给所有人使用。本文可能包含这些合作伙伴的关联链接。
Deci 平台包含免费工具,可在任何生产环境中轻松管理、优化和部署YOLOv5模型。Deci 支持所有流行的 DL 框架,如 TensorFlow、PyTorch、Keras 和 ONNX。您所需要的只是我们基于 Web 的平台或我们的 Python 客户端,以便从您的代码中运行它。
使用 Deci 不仅可以导出模型,还可以对模型进行剪枝和量化!
Deci 提供了一个很好的界面,可以导出任何格式的数据,并对原始模型和转换后的模型进行性能比较。用户可以选择通过量化进一步优化模型。
自动编译和量化模型,并评估不同的制作设置,以获得更好的延迟、贯穿性,并减少模型大小和硬件内存占用。
只需一个按钮,即可在各种硬件(包括边缘)设备上对机型性能进行基准测试。无需手动设置和测试多种硬件和生产设置。
开设免费账户
要开始优化预训练的 YOLOv5 模型,您需要将其转换为 ONNX 格式。有关如何将模型转换为 ONNX 格式的说明,请参阅YOLOv5 导出教程。
转到 "实验室 "选项卡,点击屏幕右上方的 "新建模型 "按钮,上传您的YOLOv5ONNX 模型。
按照模型上传向导的步骤选择目标硬件以及所需的批量大小和模型编译的量化级别。
填写相关信息后,点击 "Start(开始)"。德西平台将自动针对您选择的硬件对您的 YOLOv5 模型进行运行优化,并在各种硬件类型上对您的模型进行基准测试。此过程大约需要 10 分钟。
完成后,屏幕上将出现一行新内容,位于您之前上传的基线模型下方。在这里,您可以看到预训练 YOLOv5 模型的优化版本。
然后,您可以点击 "部署 "按钮下载优化后的模型。
然后,系统会提示您下载您的模型,并向您提供如何安装和使用 Infery 的说明--Infery 是 Deci 的运行时推理引擎。
Infery 的使用是可选的。您可以获取 python 原始文件,并将其用于您选择的任何其他推理引擎。
在 "洞察 "选项卡上查看优化和基准结果。
在结束之前,让我们来讨论一下德西提供的一些优势:
正如您刚才看到的,您可以在 15 分钟内将 YOLOv5 型号的性能提高一倍。德西平台使用起来超级简单直观。
有问题吗?现在就加入我们的社区,留下您的问题!