边缘计算

边缘计算是一种分布式信息技术架构，它将数据处理和存储带到更靠近需求发生地点的位置，而不是依赖通常远在千里之外的中心位置。通过在数据源头附近（例如本地服务器、物联网网关或设备本身）处理数据，这种方法显著降低了延迟，并最大限度地减少了数据传输所需的带宽。在人工智能和机器学习的背景下，边缘计算提供了部署边缘AI所需的关键基础设施，允许复杂模型直接在智能摄像头、无人机和工业传感器上运行，并实现即时响应。

边缘计算的核心优势

从集中式云处理到本地化边缘处理的转变带来了若干变革性优势，特别是对于计算机视觉和实时分析。

• 降低延迟：传统的云架构要求数据传输到数据中心进行处理，然后再返回设备。边缘计算消除了这种往返，实现了毫秒级响应的实时推理。这对于像自动驾驶汽车这样必须在瞬间做出制动决策的安全关键系统至关重要。
• 带宽效率：传输用于 目标检测 的高清视频流会消耗巨大的带宽。通过在本地处理原始数据，并仅将相关的元数据或警报发送到云端，组织可以大幅削减数据传输成本。
• 增强数据隐私：医疗影像或面部识别数据等敏感信息可以在本地环境中完全处理。这种本地化处理通过确保个人数据永不离开设备，支持遵守GDPR等严格法规。
• 离线功能：即使互联网连接不稳定或中断，边缘设备也能继续自主运行。这种可靠性对于像农业AI这样的应用至关重要，在这些应用中，无人机在网络覆盖差的偏远地区监测农作物。

边缘计算与云计算对比

尽管 云计算 在存储大规模数据集和训练大型模型方面表现出色，但边缘计算则侧重于执行阶段。将它们视为互补技术而非竞争对手会很有帮助。云通常用于 模型训练，需要强大的计算能力来处理历史数据。一旦训练完成，优化后的模型就会部署到边缘进行推理。这种混合方法结合了两者的优势：云的无限可扩展性和边缘的速度。

实际应用

边缘计算通过将智能直接嵌入到物理操作中，正在重塑各行各业。

• 智能制造：在工业自动化中，工厂使用边缘网关分析来自机械的传感器数据。如果 detect 到振动异常，系统可以立即触发预测性维护协议，从而防止代价高昂的停机时间。
• 智能零售：实体店利用边缘驱动的摄像头进行库存管理。系统可以自主跟踪货架上的库存水平，并提醒员工补货，从而在不将客户视频流传输到外部服务器的情况下提高运营效率。
• 交通管理：智慧城市在交叉路口部署边缘节点以控制交通信号。通过在本地实时分析交通流量，这些系统可以优化信号灯配时以减少拥堵，独立于中央控制中心运行。

将模型部署到边缘

为了在资源受限的边缘设备上运行复杂模型，开发者通常使用模型量化等优化技术，或导出为TensorRT或ONNX等专用格式。Ultralytics Platform简化了这一过程，允许用户在云端训练模型并将其无缝部署到各种边缘目标。

以下示例演示了如何将 YOLO26 模型导出为 NCNN 格式，该格式针对移动和嵌入式边缘设备进行了高度优化。

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to NCNN format for mobile edge deployment
# This creates a lightweight, optimized version of the model
model.export(format="ncnn")

相关概念

• 边缘AI: 边缘计算指的是分布式基础设施，而边缘AI则特指在该基础设施上运行的人工智能算法的应用。
• 物联网 (IoT): 嵌入传感器和软件的物理对象（“物”）网络。边缘计算提供了使这些IoT设备“智能”的处理能力。
• 雾计算: 一种去中心化的计算基础设施，其中数据、计算、存储和应用程序位于数据源和云之间，通常被认为是云计算向边缘的延伸。