Edge AI

Edge AI 是指直接在本地硬件设备（如智能手机、IoT 传感器、无人机和网联汽车）上部署 artificial intelligence (AI) 算法和模型，而不是依赖集中的 cloud computing 中心。这种去中心化的方法允许在数据产生源头处理数据，从而显着减少将信息来回发送到远程服务器所产生的延迟。通过在本地执行 machine learning (ML) 任务，设备可以做出即时决策，在没有互联网连接的情况下可靠运行，并通过将敏感信息保留在设备本身来增强 data privacy。

Edge AI 的工作原理#

Edge AI 的核心在于在嵌入式系统上运行 inference engine。由于与云服务器相比，边缘设备的电池续航和计算能力通常有限，因此 AI 模型必须具有极高的效率。开发者经常采用 model quantization 或 model pruning 等技术来压缩大型 neural networks，同时又不会牺牲太多准确性。

专业硬件加速器经常用于高效处理这些工作负载。例如用于机器人的 NVIDIA Jetson 平台以及用于低功耗推理的 Google Coral Edge TPU。软件框架也发挥着至关重要的作用；像 TensorRT 和 TFLite 这样的工具专门针对这些受限环境优化模型，确保快速的 real-time inference。

Edge AI 与边缘计算#

虽然这两个术语经常互换使用，但区分它们很有帮助：

• Edge Computing: 这描述了数据处理发生在数据源附近的更广泛的物理基础设施和网络拓扑。它是公式中的“哪里”。
• Edge AI: 这专门指在该基础设施上运行的智能应用。它是“什么”。例如，安全摄像头充当边缘计算设备，但当它使用 computer vision (CV) 来识别特定人员时，它就是在执行 Edge AI。

实际应用#

Edge AI 通过在关键场景中实现自主决策来改变各个行业：

• Autonomous Vehicles: 自动驾驶汽车每天产生数 TB 的数据。由于信号延迟，它们无法依靠云来识别行人和障碍物。相反，它们使用车上的 Edge AI 进行即时 object detection 以确保乘客安全。
• Smart Manufacturing: 在 Industrial IoT (IIoT) 中，工厂车间的传感器使用 Edge AI 进行预测性维护。通过在本地分析振动和温度数据，系统可以实时检测异常并预测设备故障，从而防止代价高昂的停机。
• Healthcare: 配备 Vision AI 的便携式医疗设备可以直接在护理点分析医学图像或患者生命体征，在连接不佳的偏远地区提供即时诊断支持。

将模型部署到边缘#

将模型部署到边缘通常涉及在高计算环境中训练模型，然后将其导出为与边缘设备兼容的格式，例如 ONNX 或 OpenVINO。Ultralytics Platform 简化了此工作流，允许用户训练和自动导出用于各种边缘目标的模型。

以下示例演示了如何将专门为效率设计的轻量级 YOLO26 模型导出为适合移动端和边缘部署的格式。

from ultralytics import YOLO

# Load the YOLO26 Nano model, which is optimized for speed on edge devices
model = YOLO("yolo26n.pt")

# Export the model to TFLite format for deployment on Android or Raspberry Pi
# This creates a 'yolo26n.tflite' file ready for edge inference
model.export(format="tflite")

高级边缘部署通常利用 containerization 技术（如 Docker）来打包应用，确保它们在从 Raspberry Pi 单元到工业网关的不同设备架构上都能一致地运行。