边缘计算

边缘计算是一种分布式计算模式，它将计算和数据存储带到更靠近需要的地方，以提高响应速度并节省带宽。边缘计算不是将原始数据发送到集中式云服务器进行处理，而是在本地、数据源上或数据源附近执行计算。这种 "边缘 "可以是智能手机或物联网传感器，也可以是工厂车间的本地服务器。这种方法是实现许多现代人工智能应用所需的低延迟的基础。

边缘计算与相关概念

必须将边缘计算与其他密切相关的术语区分开来：

• 边缘人工智能：这是边缘计算的一种特殊应用。边缘计算指的是将任何类型的计算转移到网络边缘的一般做法，而边缘人工智能则具体涉及直接在边缘设备上运行机器学习模型和人工智能工作负载。所有边缘人工智能都是边缘计算的一种形式，但并非所有边缘计算都涉及人工智能。
• 云计算：云计算依靠大型集中式数据中心来执行强大的计算和存储海量数据。边缘计算是分散式的。两者并不相互排斥；它们经常在混合模式中一起使用。边缘设备可以执行初始数据处理和实时推理，同时将时间敏感性较低的数据发送到云端进行进一步分析、模型训练或长期存储。
• 雾计算：雾计算经常与边缘计算交替使用，它代表了一种略有不同的架构，在这种架构中，"雾节点 "或物联网网关位于边缘设备和云之间。正如OpenFog Consortium 所描述的那样，它充当中间层，在数据到达云之前处理来自多个边缘设备的数据。

为什么边缘计算对人工智能至关重要？

将人工智能处理转移到边缘可提供对现代应用至关重要的几大优势：

• 低延迟：对于自动驾驶汽车和机器人等应用，必须在毫秒内做出决策。等待数据往返云服务器的速度往往太慢。边缘计算可实现即时的设备处理。
• 带宽效率：将数千台安防摄像机的高分辨率视频连续串流到云端将消耗巨大的网络带宽。通过在边缘分析视频，只需传输重要事件或元数据，从而大幅降低带宽使用率和成本。
• 增强隐私和安全：在本地设备上处理面部识别数据或医学图像分析等敏感信息，可最大限度地减少数据在互联网上的暴露，从而提高数据的私密性。
• 运行可靠性：边缘设备可独立运行，不受持续互联网连接的影响。这对于偏远地区的工业物联网至关重要，例如农业或海上石油钻井平台上的人工智能，因为那里的连接可能不可靠。

实际应用

通过实现更快、更可靠的人工智能，边缘计算正在改变各行各业。

1. 智能制造：在工厂环境中，配备Ultralytics YOLO11等计算机视觉模型的摄像头可直接在装配线上执行实时质量控制。边缘设备可处理视频馈送，即时检测缺陷，以便立即进行干预，而无需延迟将录像发送到云端。这是现代智能制造解决方案的核心组成部分。
2. 自主系统： 自动驾驶汽车是边缘计算发挥作用的最佳范例。它们配备了功能强大的车载计算机，如英伟达™（NVIDIA®）Jetson平台，可实时处理来自大量传感器的数据，从而实现导航、避开障碍物并对不断变化的路况做出反应。如果依靠云来实现这些关键功能，将会带来危及生命的延误。

边缘硬件和软件

有效实施边缘计算需要将专用硬件和优化软件相结合。

• 硬件：边缘设备包括从低功耗微控制器到更强大的系统。这包括树莓派（Raspberry Pi）等单板计算机、移动设备以及谷歌边缘 TPU和其他GPU 等专用人工智能加速器。
• 软件：部署在边缘的人工智能模型必须高效。这通常涉及模型量化和模型剪枝等技术，以减少模型的大小和计算需求。优化的推理引擎，如TensorRT、OpenVINO 和ONNX等格式的运行时，可最大限度地提高性能。此外，还使用Docker等工具进行容器化，从而简化了模型在分布式边缘设备群中的部署和管理。