Ultralytics 与 STMicroelectronics 携手合作,在低功耗微控制器上高效部署 YOLO 模型,并在边缘端实现准确的实时推理。
随着 AI 在各行业的应用日益广泛,市场对高性能、低功耗解决方案的需求不断增长,这类方案能够在边缘端运行实时推理。为满足这一技术需求,STMicroelectronics 推出了 STM32N6 微控制器,其中集成了专为嵌入式 AI 工作负载设计的神经处理单元 (NPU)。
通过在 STM32N6 上运行 Ultralytics YOLO 模型,STMicroelectronics 展示了微控制器也能实现准确、高效的嵌入式视觉 AI,为智慧城市、医疗保健和消费电子等领域带来了大规模部署设备端智能的新机遇。
探索适用于边缘端低功耗设备的视觉 AI#
STMicroelectronics 是半导体技术领域的全球领先企业,在全球拥有 50,000 多名员工和超过 200,000 家客户。该公司设计和制造的芯片支持从电动汽车、工业设备到智能家居设备和消费电子产品等各种应用。
随着越来越多的行业借助 AI 让设备变得更智能、响应更灵敏,STMicroelectronics 一直致力于将这些能力直接带到边缘端。例如,其 STM32N6 微控制器是一款功能强大、能效出色的芯片,可在设备端处理计算机视觉等 AI 任务。
为了帮助开发者在 STM32N6 上构建嵌入式视觉应用,STMicroelectronics 开始寻找灵活、高性能且能在微控制器上高效运行的模型。事实证明,Ultralytics YOLO 模型非常合适,兼具速度、准确性和易于集成等优势。
实现 AI 驱动的嵌入式系统所面临的限制#
在边缘 AI 概念广为接受之前,计算机视觉模型通常被设计为运行在云服务器或 GPU(图形处理器)等大型集中式系统上。这些平台提供了训练和部署大型模型所需的计算能力,但也带来了能耗高、依赖网络、延迟大和运营成本增加等局限。
随着医疗保健、消费电子和智慧城市等行业对更智能的实时应用兴趣日益浓厚,人们逐渐认识到,将 AI 处理移到更靠近数据生成位置的地方,也就是设备本身,既是技术上的必要之举,也是战略机遇。
然而,在低功耗微控制器上运行 AI 模型可能颇具挑战。这些设备通常在内存、计算能力和能源容量方面都有限,因此很难在不影响性能或准确性的前提下部署复杂的视觉模型。
STMicroelectronics 需要找到一套足够灵活的模型,在 STM32N6 微控制器上提供可靠的实时计算机视觉能力,同时又不要求开发者大幅简化模型或工作流。他们的目标是在满足嵌入式系统严格限制的同时,实现有实际价值的设备端 AI。
简化微控制器上的 YOLO 模型部署#
为在低功耗嵌入式设备上实现先进 AI,STMicroelectronics 推出了 STM32N6,这是一款搭载 Neural-ART Accelerator™ 的高性能微控制器。它采用自主研发的神经处理单元 (NPU),专为边缘 AI 工作负载打造。这项技术让开发者能够直接在设备上运行 AI 推理,减少对云计算的依赖,同时提升速度、响应能力和能效。
STMicroelectronics 与 Ultralytics 合作,在微控制器上运行 Ultralytics YOLO 模型,以评估并展示 STM32N6 的性能。Ultralytics YOLO 模型以兼顾速度和准确性而著称,非常适合资源受限的环境和嵌入式部署。

图 1:在 STM32N6 上运行 Ultralytics YOLO 模型的示例。
通过直接在 STM32N6 上运行多种 YOLO 模型变体,STMicroelectronics 展示了多种视觉 AI 应用场景,例如目标检测、分类和跟踪,且全部都在微控制器的功耗和内存限制范围内完成。这项合作为开发者提供了可靠的选择,让他们能够使用可扩展、适用于生产环境的视觉模型,部署实时、由 AI 驱动的嵌入式系统。
为什么选择 Ultralytics YOLO 模型?#
Ultralytics YOLO 模型为 STMicroelectronics 提供了 AI 嵌入式系统所需的准确性、效率和灵活性。模型足够轻量,能在 STM32N6 等低功耗微控制器上运行,同时又足够强大,可实现实时目标检测和实例分割。
例如,在 STM32N6 上以 256 × 256 分辨率运行 Ultralytics YOLOv8n 模型时,系统达到了每秒 34 帧的速度,每次推理约耗时 29 毫秒。功耗测量显示,每次推理仅消耗 9.4 毫焦耳,非常适合低功耗设备上的实时视觉任务。
由于支持多种 YOLO 模型变体,开发者可以根据应用的限制灵活地针对速度、模型大小或准确性进行微调。易于集成的架构,加上强大的社区和文档支持,使 Ultralytics YOLO 成为 STMicroelectronics 在各种嵌入式应用中加速视觉 AI 普及的理想选择。
通过 Ultralytics 企业许可证,STMicroelectronics 为客户提供完整 YOLO 模型套件,以供内部测试和开发。不过,对于任何商业部署,客户都必须通过许可申请表直接向 Ultralytics 申请自己的商业许可证。这既能确保合规,也能为打造可规模化、适用于生产环境的视觉 AI 解决方案提供支持。
从智慧城市到医疗保健:可扩展的边缘 AI 实践#
能够直接在 STM32N6 微控制器上运行 Ultralytics YOLO 模型,为 STMicroelectronics 及其开发者生态系统解锁了广泛的视觉 AI 应用。该解决方案无需依赖外部处理或云连接,即可在设备端提供快速、准确的推理,从而让紧凑型低功耗系统也能部署智能功能。
客户正在探索多个行业的应用场景,例如智慧城市基础设施中的实时行人和车辆检测、工业自动化中的设备端安全检查和质量控制,以及便携式医疗工具中的 AI 辅助诊断。同样,在消费电子领域,YOLO 模型可在电池供电设备的性能限制内实现灵敏的功能,例如存在检测、手势识别和目标跟踪。
即刻打造面向未来的视觉 AI 解决方案#
随着 AI 不断发展,STMicroelectronics 专注于让强大、高效的解决方案更容易部署到边缘设备上。通过与 Ultralytics 等合作伙伴密切协作,他们帮助开发者借助可直接使用的模型、工具和兼容 STM32 的资源,更快上手。
迈出边缘 AI 创新的下一步。访问我们的 GitHub 代码仓库,了解 Ultralytics YOLO 模型如何改变嵌入式视觉。探索医疗保健领域的 AI和零售领域的计算机视觉应用,并立即查看我们的许可选项!












