Edge Computing

边缘计算是一种分布式信息技术架构，它将数据处理和存储带到更靠近所需位置的地方，而不是依赖通常远在数千英里之外的中心位置。通过在数据源附近（如本地服务器、物联网网关或设备本身）处理数据，这种方法显著降低了延迟，并最大限度地减少了数据传输所需的带宽。在人工智能和机器学习的背景下，边缘计算提供了部署 Edge AI 所需的关键基础设施，使复杂的模型能够直接在智能摄像头、无人机和工业传感器上运行，并具备即时响应能力。

边缘计算的核心优势#

从集中式云处理向本地化边缘处理的转变带来了几项变革性的优势，特别是对于 computer vision 和实时分析而言。

• 降低延迟： 传统的云架构要求数据传输到数据中心进行处理，然后再传回设备。边缘计算消除了这种往返过程，实现了毫秒级至关重要的 real-time inference。这对于像 autonomous vehicles 这样必须做出电光石火般刹车决策的安全关键系统来说是必不可少的。
• 带宽效率： 传输用于 object detection 的高清视频流会消耗巨大的带宽。通过在本地处理原始数据并仅将相关的元数据或警报发送到云端，组织可以大幅削减数据传输成本。
• 增强的数据隐私： 敏感信息（例如医学影像或人脸识别数据）可以在本地环境中完全处理。这种本地封闭性确保个人数据永远不会离开设备，从而支持合规遵循诸如 GDPR 之类的严格法规。
• 离线功能： 即使互联网连接间歇性中断或丢失，边缘设备也可以继续自主运行。这种可靠性对于诸如 AI in agriculture 之类的应用至关重要，在这些应用中，无人机在网络覆盖较差的偏远田中监测农作物。

边缘计算与云计算#

虽然 cloud computing 擅长存储海量数据集和训练大规模模型，但边缘计算则专注于执行阶段。将它们视为互补的技术而不是竞争对手会很有帮助。云通常用于需要强大计算能力来处理历史数据的 model training。一旦训练完成，经过优化的模型就会被部署到边缘进行推理。这种混合方法利用了两者的优势：云的无限可扩展性以及边缘的速度。

实际应用#

边缘计算正在通过将智能直接嵌入物理操作中来重塑各行各业。

• 智能制造： 在 industrial automation 中，工厂使用边缘网关来分析来自机械的传感器数据。如果检测到振动异常，系统可以立即触发 predictive maintenance 协议，从而防止代价高昂的停机。
• 智能零售： 实体店利用由边缘驱动的摄像头进行 inventory management。系统可以自主跟踪货架上的库存水平并提醒员工补货，从而在不将客户视频流传输到外部服务器的情况下提高运营效率。
• 交通管理： 智慧城市在十字路口部署边缘节点来控制 traffic signals。通过在本地实时分析交通流量，这些系统可以优化灯光定时以减少拥堵，并独立于中央控制中心运行。

将模型部署到边缘#

为了在资源受限的边缘设备上运行复杂模型，开发者经常使用诸如 model quantization 之类的优化技术，或者导出为诸如 TensorRT 或 ONNX 之类的专用格式。Ultralytics Platform 简化了这一过程，允许用户在云端训练模型并将其无缝部署到各种边缘目标。

以下示例演示了如何将 YOLO26 模型导出为 NCNN 格式，该格式针对移动和嵌入式边缘设备进行了高度优化。

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to NCNN format for mobile edge deployment
# This creates a lightweight, optimized version of the model
model.export(format="ncnn")

相关概念#

• Edge AI： 边缘计算指的是分布式基础设施，而 Edge AI 特指在该基础设施上运行的人工智能算法的应用。
• Internet of Things (IoT)： 嵌入了传感器和软件的物理对象网络（即“事物”）。边缘计算提供了使这些物联网设备变得“智能”的计算能力。
• Fog Computing： 一种分散式计算基础设施，其中数据、计算、存储和应用程序位于数据源和云之间的某个位置，通常被认为是云计算向边缘的延伸。