使用 Deci 编译和量化 Ultralytics YOLOv5 以提升性能
使用 Deci 平台优化并部署 Ultralytics YOLOv5 模型，性能最高提升 10 倍。免费开始使用，充分利用自动模型优化。
Ultralytics 会与其他初创公司开展商业合作，帮助我们为 YOLOv5 等优秀的开源工具的研发提供资金支持，让它们能够继续免费提供给所有人。本文可能包含指向这些合作伙伴的联盟链接。
Deci 平台提供免费工具，让你能够在任何生产环境中轻松管理、优化和部署你的 YOLOv5模型。Deci 支持所有主流深度学习框架，例如 TensorFlow、PyTorch、Keras 和 ONNX。你只需使用我们的网页平台或 Python 客户端，即可从代码中运行这些工具。
为什么选择 Deci？#
你不仅可以使用 Deci 导出模型，还可以对模型进行剪枝和量化！
Deci 提供了便捷的界面，支持以任意格式导出模型，并比较原始模型和转换后模型的性能。用户可以通过量化进一步优化模型。
使用 Deci，你可以：#
将推理性能提升至最高 10 倍#
自动编译和量化模型，并评估不同的生产配置，从而在你的硬件上实现更低的延迟、更高的吞吐量，以及更小的模型大小和内存占用。
为你的应用找到最佳推理硬件#
只需点击一下，即可在各种硬件（包括边缘设备）上对模型性能进行基准测试。无需再手动设置和测试多个硬件及生产配置。
仅用几行代码即可部署#
利用 Deci 基于 Python 的推理引擎。兼容多种框架和硬件类型。
如需详细了解 Deci 平台，请访问 Deci 的网站。
首次设置#
步骤 1#
创建你的免费账户。
步骤 2#
要开始优化预训练的 YOLOv5 模型，你需要先将其转换为 ONNX 格式。请参阅 YOLOv5 导出教程，了解如何将模型转换为 ONNX 格式。
步骤 3#
转到“Lab”选项卡，然后点击屏幕右上方的“New Model”按钮，上传你的 YOLOv5 ONNX 模型。
按照模型上传向导中的步骤，选择目标硬件，以及模型编译所需的批量大小和量化级别。
填写相关信息后，点击“Start”。Deci 平台将自动针对你所选的硬件对 Ultralytics YOLOv5 模型进行运行时优化，并在各种硬件类型上对模型进行基准测试。此过程大约需要 10 分钟。
完成后，你将在之前上传的基线模型下方看到屏幕上出现一个新行。在这里，你可以查看预训练 Ultralytics YOLOv5 模型的优化版本。
接下来是什么？#
然后，你可以点击“Deploy”按钮下载优化后的模型。
随后，系统会提示你下载模型，并提供有关如何安装和使用 Infery（Deci 的运行时推理引擎）的说明。
使用 Infery 并非强制要求。你可以获取 Python 原始文件，并将其与任意其他推理引擎结合使用。
在“Insights”选项卡中查看优化和基准测试结果。
准备好开始了吗？#
在结束之前，我们来讨论一下 Deci 提供的一些优势：
- 优化模型的推理吞吐量和延迟，同时不影响准确率
- 支持优化来自所有主流框架的模型
- 支持面向任何深度学习任务的模型
- 支持在常用的 CPU 和 GPU 机器上部署
- 在不同的硬件主机和云服务提供商上对模型的适用性进行基准测试
- 让上传的模型准备好用于服务、推理和部署
正如你刚才所看到的，使用 Ultralytics YOLOv5 模型总共只需 15 分钟，就可以将性能提升一倍。Deci 平台使用起来非常简单直观。
有任何问题吗？加入我们的社区，今天就留下你的问题吧！
