边缘计算

边缘计算是一种分布式信息技术架构，在这种架构中，客户端数据在网络外围进行处理。 边缘计算是一种分布式信息技术架构。通过将数据处理任务从集中式 云计算数据中心的数据处理任务，这种模式 大大减少了网络延迟和带宽使用。这种 这种方法使智能相机、传感器和手机等设备能够在本地执行实时推理，从而实现快速 实时推理，从而实现快速决策，而无需依赖不间断的网络。 决策，而无需依赖与远程服务器的持续高速互联网连接。

边缘计算与人工智能的相关性

将机器学习（ML）模型集成到边缘基础设施中 与边缘基础设施的集成彻底改变了各行业处理数据的方式。通过直接在硬件上执行算法、 组织为计算机视觉（CV）和物联网应用释放了几个关键优势 计算机视觉 (CV)和物联网应用：

• 减少延迟：对于时间紧迫的应用而言，将数据发送到云端并等待响应所需的往返时间 等待响应所需的往返时间往往是不可接受的。边缘计算可实现毫秒级响应时间，这对自主系统至关重要。 这对自主系统至关重要。
• 带宽效率：从数千台摄像机流式传输高清视频需要消耗巨大的 带宽。在本地分析视频流可使设备只发送元数据或警报，从而大幅降低数据传输成本。 数据传输成本。
• 加强隐私保护：直接在设备上处理敏感的个人数据，如面部图像或医疗记录、 直接在设备上处理敏感的个人数据（如面部图像或医疗记录），可最大限度地降低数据在传输过程中外泄的风险，从而支持遵守 GDPR 等法规。
• 运行可靠性：边缘设备可在连接不稳定的偏远环境中独立运行。 边缘设备可在连接不稳定的偏远环境中独立运行，如海上石油钻井平台或采用精耕技术的农田。 精准农业技术。

边缘计算与相关概念

要全面了解分布式处理的全貌，有必要将边缘计算与类似术语区分开来。 术语：

• 边缘人工智能 边缘人工智能（Edge AI）特指在计算机上执行人工智能算法。 人工智能算法在 在本地硬件上执行人工智能算法。边缘计算提供物理基础设施和拓扑结构，而边缘人工智能则描述在该基础设施上运行的特定智能工作负载。 在该基础设施上运行的特定智能工作负载。
• 物联网（IoT）：物联网是指 由联网对象（传感器、软件和其他技术）组成的收集和交换数据的物理网络。 边缘计算是对这些物联网设备生成的数据进行处理的处理层。 物联网设备。
• 雾计算：通常被描述为一种分散的计算基础设施、 雾计算是 边缘和云之间的中间层。它通常在局域网（LAN）级别处理数据聚合和初步处理 它通常在局域网 (LAN) 层面处理数据聚合和初步处理，然后再将见解发送到云端。

实际应用

边缘计算为各行各业的大量创新技术提供了动力：

• 自动驾驶汽车： 自动驾驶汽车每天从激光雷达、雷达和摄像头中产生数 TB 的数据。 激光雷达、雷达和摄像头。它们依靠强大的 车载边缘计算机，如 NVIDIA ）Jetson 行人、解读交通信号，并在本地做出瞬间导航决策，而无需等待云端指令。 指示。
• 智能制造：在 在工业 4.0 领域，工厂利用边缘网关监控设备健康状况。 来监控设备的健康状况。算法分析振动和温度数据，以执行 预测性维护，在机械故障发生前识别故障，从而优化维护计划，减少停机时间。
• 智能零售：商店采用 在边缘设备上进行物体检测，实时管理库存，实现无收银员结账体验。 实时管理库存，实现无收银员结账体验，处理店内视频馈送以 track 产品移动并分析 顾客行为。

优化边缘模型

在边缘设备上部署人工智能模型通常需要优化技术，以确保它们在功率和内存有限的硬件上高效运行 如Raspberry Pi或 GoogleEdge TPU。 Google 边缘TPU。这些技术包括 模型量化和 剪枝等技术可减少模型大小和计算负荷。

常见的工作流程包括训练一个模型，如 YOLO11等模型，然后 然后导出为高度优化的格式，如 ONNX或 TensorRT进行部署。

下面的Python 示例演示了如何将YOLO11 模型导出为ONNX 格式，以便在各种边缘硬件平台上部署 在各种边缘硬件平台上部署：

from ultralytics import YOLO

# Load a lightweight YOLO11 model (Nano size is ideal for edge devices)
model = YOLO("yolo11n.pt")

# Export the model to ONNX format for broad hardware compatibility
# This generates a 'yolo11n.onnx' file optimized for inference engines
model.export(format="onnx")