TinyML

微型机器学习（通常简称为 TinyML）是机器学习的一个专门分支， 专注于在超低功耗、资源受限的设备（如 微控制器和小型 物联网设备）上部署模型。 与依赖海量计算资源的传统云端系统不同， TinyML 完全在边缘端运行。通过在功耗通常仅以毫瓦计的设备上本地运行智能算法， 这种方法能最大限度地降低延迟、确保 数据隐私，并大幅减少带宽使用，这一范式得到了 TinyML 基金会等社区的支持与推动。

为了将复杂的神经网络架构成功部署到 ARM Cortex-M 处理器等资源受限的硬件上，模型必须经过严格的 优化。诸如 模型量化（即将 32 位 浮点权重转换为 8 位整数）和 模型剪枝等技术被用于显著减少 整体内存占用。 如今，诸Google TensorFlow for Microcontrollers和 PyTorch ExecuTorch等专用框架，能够简化这些精密的 压缩工作流程，从而将先进的视觉和听觉智能带入日常嵌入式硬件中。

TinyML 与边缘人工智能

虽然 TinyML 与边缘 AI 密切相关，但两者的主要 区别在于硬件规模和功耗预算。边缘 AI 是一个更广泛的术语，涵盖任何本地 执行的 AI 模型，通常利用单板计算机（如 树莓派）或强大的嵌入式 GPU（如 NVIDIA ）。 相比之下，TinyML 专门针对那些依靠电池运行数月甚至数年的深度嵌入式系统，例如 Arduino开发板或 意法半导体（STMicroelectronics）的芯片。这些设备 通常仅配备几百千字节的内存，因此必须进行激进的模型压缩。

实际应用

将智能直接部署到简易硬件上的能力，已在 各行各业中开辟了众多实际应用场景：

• 智能制造中的预测性维护：工厂将超低功耗的振动和音频传感器直接安装在机器上。这些 TinyML 传感器 会持续分析电机频率，以detect 预示即将发生故障的detect 异常，从而使 维护团队能够在造成高昂停机成本之前及时解决问题。
• 智能精准农业：电池供电的 TinyML 设备分布在广阔的农田中，利用基础摄像头模块监测局部环境状况，并detect 虫害或病害的早期迹象，仅传输轻量级警报而非 大容量图像文件。
• 野生动物保护音频监测： 研究人员利用由 TinyML 驱动的隐蔽式声学传感器阵列，在茂密的 森林中detect 濒危物种的特有detect 或非法伐木活动（如电锯声）。这些设备采用太阳能或电池供电，可在本地分析音频，并立即触发长距离 警报。

为 TinyML 导出模型

为微控制器准备模型需要严格的导出格式规范。借助 Ultralytics 开发人员可以构建强大的 目标检测管道，并将其压缩以适配 嵌入式目标。 在本地导出前，您可在 Ultralytics 无缝管理数据集和模型版本。原生的 TFLite 可轻松转换为 微控制器所需的 8 位整数格式，并补充了其他硬件专用的 模型部署选项，例如 Apple 的 CoreML、Google EdgeTPU以及NVIDIA TensorRT等其他硬件专用 模型部署方案。

以下示例演示了如何导出一个专门针对 INT8 量化进行优化的轻量级 YOLO26 模型，使其适合部署在兼容 TinyML 的边缘平台上：

from ultralytics import YOLO

# Initialize the lightweight YOLO26 Nano model for edge use cases
model = YOLO("yolo26n.pt")

# Export to TFLite format with INT8 quantization and a reduced image size
# This minimizes the memory footprint and accelerates inference on microcontrollers
model.export(format="tflite", int8=True, imgsz=160)