使用 Deci 编译与量化 Ultralytics YOLOv5 以获得更好性能
利用 Deci 平台优化和部署 Ultralytics YOLOv5 模型，性能提升可达 10 倍。免费开始使用并利用自动模型优化。
在 Ultralytics，我们与其他初创公司进行商业合作，以帮助资助我们出色的开源工具（如 YOLOv5）的研发，从而让所有人都能免费使用它们。本文可能包含指向这些合作伙伴的联盟链接。
Deci 平台包含免费工具，可让你在任何生产环境中轻松管理、优化和部署你的 YOLOv5 模型。Deci 支持所有主流深度学习框架，例如 TensorFlow、PyTorch、Keras 和 ONNX。你只需要使用我们的网页平台或 Python 客户端即可从代码中运行它。
为什么选择 Deci？#
你不仅可以使用 Deci 导出模型，还可以对其进行剪枝和量化！
Deci 提供了一个出色的界面，用于导出各种格式，并比较原始模型与转换后模型的性能。用户可以选择通过量化进一步优化其模型。
使用 Deci，你可以：#
将推理性能提升高达 10 倍#
自动编译和量化模型，并评估不同的生产设置，以在你的硬件上实现更好的延迟、吞吐量，并减少模型大小和内存占用。
为你的应用寻找最佳推理硬件#
一键测试你的模型在各种硬件（包括边缘设备）上的性能。无需手动设置和测试多种硬件及生产环境。
只需几行代码即可部署#
利用 Deci 基于 Python 的推理引擎。兼容多种框架和硬件类型。
有关 Deci 平台的更多信息，请访问 Deci 的网站。
首次设置#
第 1 步#
注册你的免费账户。
第 2 步#
要开始优化你的预训练 YOLOv5 模型，你需要将其转换为 ONNX 格式。有关如何将模型转换为 ONNX 格式的说明，请参阅YOLOv5 导出教程。
第 3 步#
转到“Lab”标签页并点击屏幕右上角的“New Model”按钮，以上传你的 YOLOv5 ONNX 模型。
按照模型上传向导的步骤，选择目标硬件以及模型编译所需的批处理大小和量化级别。
填写相关信息后，点击“开始”。Deci 平台将自动对你选择的硬件进行 Ultralytics YOLOv5 模型运行时优化，并在各种硬件类型上对模型进行基准测试。此过程大约需要 10 分钟。
完成后，屏幕上你之前上传的基准模型下方将出现一行新数据。在这里你可以看到预训练 Ultralytics YOLOv5 模型的优化版本。
接下来做什么？#
你可以通过点击“Deploy”按钮下载优化后的模型。
随后系统会提示你下载模型，并获取有关如何安装和使用 Infery（Deci 的运行时推理引擎）的说明。
使用 Infery 是可选的。你可以获取 Python 原始文件，并将它们与你选择的任何其他推理引擎一起使用。
在“Insights”选项卡上探索优化和基准测试结果。
准备好开始了吗？#
在结束之前，我们来讨论一下 Deci 提供的一些优势：
- 在不牺牲准确性的前提下优化模型的推理吞吐量和延迟
- 允许你优化来自所有主流框架的模型
- 支持针对任何深度学习任务的模型
- 支持在主流 CPU 和 GPU 机器上进行部署
- 对模型在不同硬件主机和云服务商上的适应性进行基准测试
- 让上传的模型为服务、推理和部署做好准备
正如你刚才所看到的，总共只需 15 分钟，你就能将 Ultralytics YOLOv5 模型的性能提升一倍。Deci 平台超级简单且直观易用。
有任何疑问吗？快来加入我们的社区，今天就留下你的问题吧！
