Edge Computing

边缘计算是一种分布式信息技术架构，它将数据处理和存储带到更靠近所需位置的地方，而不是依赖通常位于数千英里之外的中心位置。通过在数据源附近（例如在本地服务器、IoT网关或设备本身）处理数据，这种方法显著降低了延迟并最大限度地减少了数据传输所需的带宽。在人工智能和机器学习的背景下，边缘计算提供了部署 Edge AI 所需的关键基础设施，使复杂的模型能够直接在智能摄像头、无人机和工业传感器上运行，并具备即时响应能力。

Link to this section边缘计算的核心优势#

从集中式云处理向本地化边缘处理的转变带来了多项变革性优势，特别是对于 computer vision 和实时分析而言。

• 降低延迟： 传统的云架构需要数据传输到数据中心进行处理，然后再传回设备。边缘计算消除了这种往返过程，实现了毫秒级至关重要的 real-time inference。这对于像 autonomous vehicles 这样必须在瞬间做出制动决策的安全关键型系统来说至关重要。
• 带宽效率： 传输用于 object detection 的高清视频流会消耗巨大的带宽。通过在本地处理原始数据并仅向云端发送相关的元数据或警报，组织可以大幅降低数据传输成本。
• 增强的数据隐私： 敏感信息（如医学影像或面部识别数据）可以完全在本地环境中处理。这种本地容器化通过确保个人数据永远不会离开设备，从而支持遵守 GDPR 等严格法规。
• 离线功能： 即使在互联网连接不稳定或断开时，边缘设备也能继续自主运行。这种可靠性对于像 AI in agriculture 这样的应用至关重要，在这种应用中，无人机可以在网络覆盖较差的偏远农田中监测作物。

Link to this section边缘计算与云计算#

虽然 cloud computing 擅长存储海量数据集和训练大规模模型，但边缘计算侧重于执行阶段。将它们视为互补技术而非竞争对手很有帮助。云通常用于 model training，即需要强大的计算能力来处理历史数据。训练完成后，优化后的模型会被部署到边缘进行推理。这种混合方法利用了两者的优势：云的无限可扩展性和边缘的速度。

Link to this section实际应用#

边缘计算正在通过将智能直接嵌入物理操作中来重塑各行各业。

• 智能制造： 在 industrial automation 中，工厂使用边缘网关来分析来自机器的传感器数据。如果检测到振动异常，系统可以立即触发 predictive maintenance 协议，从而防止昂贵的停机时间。
• 智慧零售： 实体店利用边缘赋能的摄像头进行 inventory management。系统可以自主跟踪货架上的库存水平并提醒员工补货，从而在不向外部服务器传输客户视频流的情况下提高运营效率。
• 交通管理： 智慧城市在十字路口部署边缘节点来控制 traffic signals。通过在本地实时分析交通流量，这些系统可以优化信号灯时间以减少拥堵，独立于中央控制中心运行。

Link to this section将模型部署到边缘#

为了在资源受限的边缘设备上运行复杂模型，开发人员通常会使用 model quantization 等优化技术，或导出为 TensorRT 或 ONNX 等专用格式。Ultralytics Platform 简化了这一过程，使用户能够在云端训练模型并将其无缝部署到各种边缘目标。

以下示例演示了如何将 YOLO26 模型导出为 NCNN 格式，该格式针对移动设备和嵌入式边缘设备进行了高度优化。

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to NCNN format for mobile edge deployment
# This creates a lightweight, optimized version of the model
model.export(format="ncnn")

Link to this section相关概念#

• Edge AI： 虽然边缘计算指的是分布式基础设施，但 Edge AI 特指运行在该基础设施上的人工智能算法的应用。
• Internet of Things (IoT)： 由嵌入传感器和软件的物理对象（即“事物”）组成的网络。边缘计算提供了使这些 IoT 设备“智能”的处理能力。
• Fog Computing： 一种去中心化的计算基础设施，其中数据、计算、存储和应用程序位于数据源和云之间，通常被认为是云计算向边缘的延伸。