YOLO Vision 2026:
返回 Ultralytics 术语表

TinyML

探索 TinyML,并了解如何在低功耗微控制器上部署 Ultralytics YOLO26。了解如何结合量化和 Ultralytics Platform 为 IoT 优化模型。

微型机器学习(TinyML)通常称为 TinyML,是机器学习的一个专门分支,专注于将模型部署到超低功耗、资源受限的设备上,例如微控制器和小型物联网设备。与依赖巨大计算资源的传统云端系统不同,TinyML 完全在边缘运行。通过在功耗受限且功耗通常仅以毫瓦计的设备上本地运行智能算法,这种方法能够降低延迟、确保数据隐私,并大幅减少带宽使用;TinyML Foundation等社区也在推动和发展这一范式。

要将复杂的神经网络架构成功部署到高度受限的硬件(例如ARM Cortex-M 处理器)上,模型必须经过严格优化。诸如模型量化(将 32 位浮点权重转换为 8 位整数)和模型剪枝等技术,可显著减少整体内存占用。如今,Google 的 TensorFlow Lite for Microcontrollers 和 PyTorch 的 ExecuTorch 等专用框架,能够支持这些精细的压缩流程,将先进的视觉和听觉智能带到日常嵌入式硬件中。

TinyML 与边缘 AI 的比较#

虽然 TinyML 与边缘 AI密切相关,但二者的主要区别在于硬件规模和功耗预算。边缘 AI 是一个更广泛的术语,涵盖任何在本地执行 AI 模型的场景,通常使用树莓派等单板计算机,或使用NVIDIA Jetson等强大的嵌入式 GPU。相比之下,TinyML 专门面向深度嵌入式系统,这些系统依靠电池运行数月或数年,例如 Arduino 开发板或 STMicroelectronics 芯片。这些设备通常只有几百 KB 的 RAM,因此必须进行激进的模型压缩。

实际应用#

将智能直接部署到极简硬件上的能力,已经在各个行业解锁了众多实际应用场景:

  • 智能制造中的预测性维护:工厂将超低功耗的振动和音频传感器直接安装在机械设备上。这些 TinyML 传感器持续分析电机频率,以检测预示即将发生故障的细微异常,从而让维护团队能够在发生高昂的停机之前解决问题。
  • 智能精准农业:电池供电的 TinyML 设备分散部署在广阔的农田中,用于监测局部环境状况,并通过基础摄像头模块检测虫害或疾病的早期迹象;这些设备只传输轻量级警报,而不是大型图像文件。
  • 野生动物保护音频监测:研究人员使用由 TinyML 驱动的隐藏式声学传感器阵列,在茂密森林中检测濒危物种的特定声音或非法伐木活动(例如链锯声)。这些设备由太阳能或电池供电,在本地分析音频,并立即触发远程警报。

为 TinyML 导出模型#

为微控制器准备模型需要严格遵循导出格式。借助 Ultralytics YOLO26,开发者可以构建稳健的目标检测流程,并将其压缩到嵌入式目标平台上。你可以先在 Ultralytics Platform 上无缝管理数据集和模型版本,然后再在本地导出。原生的 TFLite 集成支持轻松转换为微控制器所需的 8 位整数格式,同时也支持其他特定于硬件的模型部署选项,例如 Apple 的 CoreML、Google 的 Edge TPU 和 NVIDIA 的 TensorRT

以下示例演示了如何导出经过 INT8 量化专门优化的轻量级 Ultralytics YOLO26 模型,使其适合部署到兼容 TinyML 的边缘平台上:

from ultralytics import YOLO

# Initialize the lightweight YOLO26 Nano model for edge use cases
model = YOLO("yolo26n.pt")

# Export to TFLite format with INT8 quantization and a reduced image size
# This minimizes the memory footprint and accelerates inference on microcontrollers
model.export(format="tflite", int8=True, imgsz=160)

Explore solutions

让我们共同构建 AI 的未来!

开启你的机器学习未来之旅