Edge AI

Edge AI 是指将 人工智能 (AI) 算法和模型直接部署在本地硬件设备（如智能手机、IoT 传感器、无人机和联网车辆）上，而不是依赖于集中的 云计算 中心。这种去中心化的方法允许在数据产生源头处进行处理，从而显著降低了与来回发送信息至远程服务器相关的延迟。通过在本地执行 机器学习 (ML) 任务，设备可以做出即时决策，在没有网络连接的情况下可靠运行，并通过将敏感信息保留在设备本身来增强 数据隐私。

Link to this sectionEdge AI 的工作原理#

Edge AI 的核心在于在嵌入式系统上运行 推理引擎。由于与云服务器相比，边缘设备通常具有有限的电池寿命和计算能力，因此 AI 模型必须非常高效。开发人员通常会采用 模型量化 或 模型剪枝 等技术来压缩大型 神经网络，而不会牺牲显著的准确性。

专门的硬件加速器经常被用来高效处理这些工作负载。例如用于机器人技术的 NVIDIA Jetson 平台和用于低功耗推理的 Google Coral Edge TPU。软件框架也发挥着至关重要的作用；诸如 TensorRT 和 TFLite 之类的工具可以针对这些受限环境专门优化模型，确保快速的 实时推理。

Link to this sectionEdge AI 与边缘计算#

虽然这两个术语经常互换使用，但区分它们很有帮助：

• 边缘计算： 这描述了更广泛的物理基础设施和网络拓扑，即数据处理发生在数据源附近。它是等式中的“地点”。
• Edge AI： 这特指运行在该基础设施上的智能应用程序。它是“内容”。例如，安全摄像头充当边缘计算设备，但当它使用 计算机视觉 (CV) 来识别特定人员时，它就在执行 Edge AI。

Link to this section实际应用#

Edge AI 通过在关键场景中实现自主决策来改变各个行业：

• 自动驾驶车辆： 自动驾驶汽车每天产生数 TB 的数据。由于信号延迟，它们无法依赖云端来识别行人和障碍物。相反，它们使用机载 Edge AI 进行即时 目标检测，以确保乘客安全。
• 智能制造： 在 工业物联网 (IIoT) 中，工厂车间的传感器使用 Edge AI 进行预测性维护。通过在本地分析振动和温度数据，系统可以实时检测异常并预测设备故障，从而防止昂贵的停机时间。
• 医疗保健： 配备 视觉 AI 的便携式医疗设备可以在护理点直接分析医学图像或患者生命体征，在网络连接较差的偏远地区提供即时的诊断支持。

Link to this section将模型部署到边缘#

将模型部署到边缘通常涉及在高计算环境中训练模型，然后将其导出为与边缘设备兼容的格式，例如 ONNX 或 OpenVINO。 Ultralytics Platform 简化了这一工作流程，允许用户针对各种边缘目标训练并自动导出模型。

The following example demonstrates how to export a lightweight YOLO26 model—specifically designed for efficiency—to a format suitable for mobile and edge deployment.

from ultralytics import YOLO

# Load the YOLO26 Nano model, which is optimized for speed on edge devices
model = YOLO("yolo26n.pt")

# Export the model to TFLite format for deployment on Android or Raspberry Pi
# This creates a 'yolo26n.tflite' file ready for edge inference
model.export(format="tflite")

Advanced edge deployments often utilize containerization technologies like Docker to package applications, ensuring they run consistently across different device architectures, from Raspberry Pi units to industrial gateways.