使用 Deci 编译与量化 Ultralytics YOLOv5 以获得更好性能
利用 Deci 平台优化和部署 Ultralytics YOLOv5 模型，性能提升可达 10 倍。免费开始使用并利用自动模型优化。
在 Ultralytics，我们与其他初创公司进行商业合作，以帮助资助我们出色的开源工具（如 YOLOv5）的研发，从而让所有人都能免费使用它们。本文可能包含指向这些合作伙伴的联盟链接。
Deci 平台 包含多种免费工具，可助你轻松管理、优化并在任何生产环境中部署 YOLOv5 模型。Deci 支持所有主流 DL 框架，例如 TensorFlow、PyTorch、Keras 和 ONNX。你只需通过我们的网页端平台或 Python 客户端即可从代码中运行它。
Link to this section为什么选择 Deci？#
你不仅可以使用 Deci 导出模型，还可以对其进行剪枝和量化！
Deci 提供了一个出色的界面，用于导出各种格式，并比较原始模型与转换后模型的性能。用户可以选择通过量化进一步优化其模型。
Link to this section使用 Deci，你可以：#
Link to this section将推理性能提升高达 10 倍#
自动编译和量化模型，并评估不同的生产设置，以在你的硬件上实现更好的延迟、吞吐量，并减少模型大小和内存占用。
Link to this section为你的应用寻找最佳推理硬件#
一键测试你的模型在各种硬件（包括边缘设备）上的性能。无需手动设置和测试多种硬件及生产环境。
Link to this section只需几行代码即可部署#
利用 Deci 基于 Python 的推理引擎。兼容多种框架和硬件类型。
如需了解关于 Deci 平台的更多信息，请访问 Deci 网站。
Link to this section首次设置#
Link to this section第 1 步#
注册你的免费账户。
Link to this section第 2 步#
要开始优化预训练的 YOLOv5 模型，你需要将其转换为 ONNX 格式。有关如何将模型转换为 ONNX 格式的说明，请参阅 YOLOv5 导出教程。
Link to this section第 3 步#
前往“Lab”选项卡，点击屏幕右上角的“New Model”按钮，上传你的 YOLOv5 ONNX 模型。
按照模型上传向导的步骤，选择目标硬件以及模型编译所需的批处理大小和量化级别。
填写相关信息后，点击“Start”。Deci 平台将自动对你选定的硬件执行 YOLOv5 模型的运行时优化，并在各种硬件类型上对你的模型进行基准测试。此过程大约需要 10 分钟。
完成后，屏幕上你之前上传的基准模型下方会出现一行新内容。你可以在此处看到预训练 YOLOv5 模型的优化版本。
Link to this section接下来做什么？#
你可以通过点击“Deploy”按钮下载优化后的模型。
随后系统会提示你下载模型，并获取有关如何安装和使用 Infery（Deci 的运行时推理引擎）的说明。
使用 Infery 是可选的。你可以获取 Python 原始文件，并将它们与你选择的任何其他推理引擎一起使用。
在“Insights”选项卡上探索优化和基准测试结果。
Link to this section准备好开始了吗？#
在结束之前，我们来讨论一下 Deci 提供的一些优势：
- 在不牺牲准确性的前提下优化模型的推理吞吐量和延迟
- 允许你优化来自所有主流框架的模型
- 支持针对任何深度学习任务的模型
- 支持在主流 CPU 和 GPU 机器上进行部署
- 对模型在不同硬件主机和云服务商上的适应性进行基准测试
- 让上传的模型为服务、推理和部署做好准备
正如你所见，你可以在总共 15 分钟内将 YOLOv5 模型的性能翻倍。Deci 平台非常易于使用且直观。
有问题吗？加入我们的 社区 并在今天留下你的问题！
