Ultralytics 与 STMicroelectronics 携手合作,在低功耗微控制器上高效部署 YOLO 模型,实现边缘端的精准实时推理。
随着各行业对 AI 的采用不断增加,市场对能够在边缘端运行实时推理的高性能、低功耗解决方案的需求也在增长。为满足这一技术需求,STMicroelectronics 推出了 STM32N6 微控制器,该产品集成了专为嵌入式 AI 工作负载设计的神经处理单元 (NPU)。
通过在 STM32N6 上运行 Ultralytics YOLO 模型,STMicroelectronics 展示了在微控制器上实现精准、高效的嵌入式视觉 AI 的可能性,为智慧城市、医疗保健和消费电子等领域的可扩展端侧智能开辟了新机遇。
探索面向边缘低功耗设备的视觉 AI#
STMicroelectronics 是全球半导体技术领导者,拥有超过 50,000 名员工和全球超过 200,000 家客户。他们设计并制造芯片,为电动汽车、工业设备、智能家居设备和消费电子等应用提供支持。
随着越来越多的行业转向 AI,以使设备更加智能、响应更迅速,STMicroelectronics 一直致力于将这些能力直接带到边缘端。例如,他们的 STM32N6 微控制器是一款功能强大且节能的芯片,能够处理计算机视觉等端侧 AI 任务。
为了帮助开发者在 STM32N6 上构建嵌入式视觉应用,STMicroelectronics 寻找能够在微控制器上高效运行的灵活、高性能模型。Ultralytics YOLO 模型最终成为理想选择,在速度、精度和易集成性之间实现了可靠平衡。
实现 AI 驱动嵌入式系统的限制#
在边缘 AI 概念得到广泛认可之前,计算机视觉模型通常被开发为运行在云服务器或 GPU(图形处理器)等大型集中式系统上。这些平台提供了训练和部署大型模型所需的计算能力,但也带来了高能耗、网络依赖、延迟和运营成本增加等限制。
随着医疗保健、消费电子和智慧城市等行业对实施更智能的实时应用的兴趣日益增长,人们逐渐认识到,将 AI 处理移至更靠近数据生成位置的地方,也就是设备本身,既是技术上的必要条件,也是战略机遇。
然而,在低功耗微控制器上运行 AI 模型可能颇具挑战。这些设备通常具有有限的内存、计算能力和能量容量,因此很难在不牺牲性能或精度的情况下部署复杂的视觉模型。
STMicroelectronics 需要确定一套足够灵活的模型,在无需开发者大幅简化模型或工作流的情况下,为其 STM32N6 微控制器带来可靠的实时计算机视觉能力。他们的目标是在严格遵守嵌入式系统限制的同时,实现切实有效的端侧 AI。
简化微控制器上的 YOLO 模型部署#
为了在低功耗嵌入式设备上实现先进 AI,STMicroelectronics 推出了配备 Neural-ART Accelerator™ 的高性能微控制器 STM32N6。它是一款内部研发的神经处理单元 (NPU),专为边缘 AI 工作负载而打造。这项技术使开发者能够直接在设备上运行 AI 推理,减少对云计算的依赖,同时提升速度、响应能力和能效。
STMicroelectronics 与 Ultralytics 合作,通过在该微控制器上运行 Ultralytics YOLO 模型,评估并展示 STM32N6 的能力。Ultralytics YOLO 模型以速度与精度之间的平衡而著称,非常适合资源受限的环境和嵌入式部署。
图 1。在 STM32N6 上运行 Ultralytics YOLO 模型的示例。
通过直接在 STM32N6 上运行各种 YOLO 模型变体,STMicroelectronics 展示了一系列视觉 AI 用例,例如目标检测、分类和跟踪,并且全部在微控制器的功耗与内存限制内完成。这项合作为开发者提供了可靠选择,使其能够使用可扩展、适用于生产环境的视觉模型部署实时 AI 驱动的嵌入式系统。
为什么选择 Ultralytics YOLO 模型?#
Ultralytics YOLO 模型为 STMicroelectronics 的 AI 赋能嵌入式系统提供了所需的精度、效率和灵活性组合。这些模型足够轻量,可以在 STM32N6 等低功耗微控制器上运行,同时又足够强大,能够实现实时目标检测和实例分割性能。
例如,在 STM32N6 上以 256×256 分辨率运行 Ultralytics YOLOv8n 模型时,系统达到了每秒 34 帧的速度,每次推理耗时约 29 毫秒。功耗测量显示,每次推理仅使用9.4 毫焦耳,非常适合在低功耗设备上执行实时视觉任务。
借助对多种 YOLO 模型变体的支持,开发者可以根据应用的限制灵活地针对速度、尺寸或精度进行微调。易于集成的架构,加上强大的社区和文档支持,使 Ultralytics YOLO 成为 STMicroelectronics 加速各类嵌入式用例采用视觉 AI 的理想选择。
通过 Ultralytics 企业许可证,STMicroelectronics 为客户提供完整 YOLO 模型套件的访问权限,用于内部测试和开发。但是,对于任何商业部署,客户都必须通过许可证申请表直接向 Ultralytics 申请自己的商业许可证。这可确保合规,并为面向生产环境的视觉 AI 解决方案提供可扩展的发展路径。
从智慧城市到医疗保健:可扩展边缘 AI 的实际应用#
在 STM32N6 微控制器上直接运行 Ultralytics YOLO 模型的能力,为 STMicroelectronics 及其开发者生态系统解锁了广泛的视觉 AI 应用。该解决方案能够在无需依赖外部处理或云连接的情况下,在设备上提供快速、精准的推理,从而让智能功能得以部署在紧凑型低功耗系统中。
客户正在探索各个领域的用例,例如智慧城市基础设施中的实时行人和车辆检测、工业自动化中的端侧安全检查与质量控制,以及便携式医疗工具中的 AI 辅助诊断。同样,在消费电子领域,YOLO 模型能够实现存在检测、手势识别和目标跟踪等响应迅速的功能——并且全部在电池供电设备的性能限制内运行。
今天构建未来的视觉 AI 解决方案#
随着 AI 持续发展,STMicroelectronics 专注于让强大、高效的解决方案更容易应用于边缘设备。通过与 Ultralytics 等合作伙伴密切协作,他们正在帮助开发者借助开箱即用的模型、工具和兼容 STM32 的资源更快上手。
迈出边缘 AI 创新的下一步。访问我们的 GitHub 代码仓库,了解 Ultralytics YOLO 模型如何推动嵌入式视觉转型。探索医疗保健领域的 AI和零售业中的计算机视觉应用,立即查看我们的许可选项!










