STMicroelectronics 在 MCU 上运行 Ultralytics YOLO，每次推理仅需 9.4 mJ
了解 STMicroelectronics 如何高效地在低功耗微控制器上部署 Ultralytics YOLO 模型，以在边缘侧实现精确的实时推理。
随着 AI 在各行各业的普及，市场对能够在边缘端进行实时推理的高性能、低功耗解决方案的需求日益增长。为了满足这一技术需求，STMicroelectronics 推出了 STM32N6 微控制器，该控制器集成了专为嵌入式 AI 工作负载设计的神经处理单元 (NPU)。
通过在 STM32N6 上运行 Ultralytics YOLO models，意法半导体证明了在微控制器上实现准确且高效的嵌入式 Vision AI 是完全可行的，这为智能城市、医疗保健和消费电子等领域的规模化端侧智能开辟了新的机遇。
探索面向边缘低功耗设备的 Vision AI#
STMicroelectronics 是半导体技术的全球领导者，在全球拥有超过 50,000 名员工和 200,000 多家客户。他们设计并制造的芯片支持从电动汽车和工业设备到智能家居设备和消费电子产品的各类应用。
随着越来越多的行业转向人工智能以使设备变得更聪明、响应更快，意法半导体一直致力于将这些功能直接带到边缘端。例如，他们的 STM32N6 微控制器是一款功能强大且节能的芯片，能够处理诸如 computer vision 之类的端侧 AI 任务。
为了帮助开发者在 STM32N6 上构建嵌入式视觉应用，STMicroelectronics 寻找能够高效运行在微控制器上的灵活且高性能的模型。Ultralytics YOLO 模型被证明是一个绝佳选择，它提供了速度、准确性和易于集成的可靠组合。
实现 AI 驱动的嵌入式系统的限制#
在边缘 AI 概念被广泛接受之前，计算机视觉模型通常被开发用于在云服务器或 GPU（图形处理单元）等大型集中式系统上运行。这些平台提供了训练和部署大型模型所需的计算能力，但也带来了高能耗、网络依赖性、延迟和运营成本增加等局限性。
随着医疗保健、消费电子和智能城市等行业对实现更智能的 real-time applications 的兴趣日益增长，人们逐渐意识到，将 AI 处理推向数据生成的地方（即设备本身）既是技术上的必要，也是战略上的机遇。
然而，在低功耗微控制器上运行 AI 模型可能极具挑战。这些设备通常在内存、计算能力和能量容量方面受到限制，因此难以在不牺牲性能或准确性的情况下部署复杂的视觉模型。
STMicroelectronics 需要确定一套足够通用的模型系列，以便为其 STM32N6 微控制器带来可靠的实时计算机视觉功能，且无需开发者大幅简化其模型或工作流程。他们的目标是在严格的嵌入式系统限制内实现有意义的设备端 AI。
简化微控制器上的 YOLO 模型部署#
为了在低功耗嵌入式设备上实现先进的 AI，STMicroelectronics 推出了 STM32N6，这是一款配备了 Neural-ART Accelerator™ 的高性能微控制器。它是专为边缘 AI 工作负载构建的内部神经处理单元 (NPU)。这项技术使开发者能够直接在设备上运行 AI 推理，从而减少对云计算的依赖，同时提高速度、响应能力和能效。
STMicroelectronics 与 Ultralytics 合作，通过在微控制器上运行 Ultralytics YOLO 模型来评估和展示 STM32N6 的能力。Ultralytics YOLO 模型以其速度与准确性的平衡而闻名，非常适合资源受限的环境和嵌入式部署。
Fig 1。在 STM32N6 上运行 Ultralytics YOLO 模型的一个示例。
通过直接在 STM32N6 上运行各种 YOLO 模型变体，意法半导体得以展示一系列 Vision AI 用例，例如 object detection、分类和跟踪，所有这些都在微控制器的功耗和内存限制之内。这一合作为开发者提供了一个可靠的选择，让他们能够使用可扩展、可用于生产的视觉模型来部署实时、由 AI 驱动的嵌入式系统。
为何选择 Ultralytics YOLO 模型？#
Ultralytics YOLO 模型为 STMicroelectronics 提供了 AI 驱动嵌入式系统所需的准确性、效率和多功能性的完美结合。这些模型轻量级，足以运行在像 STM32N6 这样的低功耗微控制器上，同时又足够强大，能够提供实时的对象检测和实例分割性能。
例如，当在 STM32N6 上以 256x256 分辨率运行 Ultralytics YOLOv8n 模型时，系统达到了每秒 34 帧的速度，每次推理耗时约 29 毫秒。功率测量显示，每次推理仅消耗 9.4 millijoules per inference，这使其非常适合低功耗设备上的实时视觉任务。
由于支持多种 YOLO 模型变体，开发者可以根据应用的限制灵活地调整速度、尺寸或准确性。易于集成的架构，加上强大的社区和文档支持，使得 Ultralytics YOLO 成为 STMicroelectronics 加速 Vision AI 在广泛嵌入式用例中采用这一目标的自然选择。
通过 Ultralytics Enterprise license，意法半导体为客户提供完整的 YOLO 模型套件，用于内部测试和开发。然而，对于任何商业部署，客户都必须通过许可表格直接向 Ultralytics 申请自己的商业许可。这确保了合规性并支持通往可用于生产的 Vision AI 解决方案的可扩展路径。
从智慧城市到医疗保健：可扩展的边缘 AI 应用#
能够在 STM32N6 微控制器上直接运行 Ultralytics YOLO 模型，为 STMicroelectronics 及其开发者生态系统解锁了广泛的 Vision AI 应用。通过在设备端提供快速、准确的推理，而无需依赖外部处理或云连接，该解决方案使得在紧凑、低功耗的系统中部署智能功能成为可能。
客户正在探索各个领域的用例，例如智能城市基础设施中的实时行人和车辆检测、工业自动化中的端侧安全检查和质量控制，以及便携式医疗工具中的 AI 辅助诊断。同样，在消费电子领域，YOLO 模型支持诸如存在检测、手势识别和 object tracking 等响应式功能，所有这些都在电池供电设备的性能限制内。
立即构建明天的 Vision AI 解决方案#
随着 AI 的不断演进，STMicroelectronics 致力于让向边缘设备引入强大、高效的解决方案变得更加容易。通过与 Ultralytics 等合作伙伴密切合作，他们正在帮助开发者通过现成的模型、工具和兼容 STM32 的资源更快地入门。
迈出边缘 AI 创新的下一步。访问我们的 GitHub repository，了解 Ultralytics YOLO 模型如何改变嵌入式视觉。立即探索 AI in healthcare 和 computer vision in retail 的应用，并查看我们的 licensing options！
