边缘计算

边缘计算是一种分布式计算范例，它将计算和数据存储更靠近需要它们的位置，从而提高响应速度并节省带宽。边缘计算不是将原始数据发送到集中的云服务器进行处理，而是在本地、数据源上或附近执行计算。这个“边缘”可以是任何东西，从智能手机或物联网传感器到工厂车间的本地服务器。这种方法对于实现许多现代AI应用所需的低延迟至关重要。

边缘计算与相关概念

区分边缘计算和其他密切相关的术语非常重要：

• 边缘 AI: 这是边缘计算的一个特定应用。虽然边缘计算指的是将任何类型的计算移动到网络边缘的一般实践，但边缘 AI 专门涉及在边缘设备上直接运行 机器学习 模型和 AI 工作负载。所有边缘 AI 都是边缘计算的一种形式，但并非所有边缘计算都涉及 AI。
• 云计算: 云计算依赖于大型集中式数据中心来执行强大的计算并存储大量数据。边缘计算是分散的。两者不是互斥的；它们通常在混合模型中一起使用。边缘设备可以执行初始数据处理和实时推理，同时将不太敏感的数据发送到云端以进行进一步分析、模型训练或长期存储。
• 雾计算： 雾计算通常与边缘计算互换使用，它代表一种略有不同的架构，其中“雾节点”或 IoT 网关位于边缘设备和云之间。正如OpenFog 联盟所描述的那样，它充当中间层，在数据到达云之前处理来自多个边缘设备的数据。

为什么边缘计算对人工智能至关重要

将 AI 处理转移到边缘提供了几个重要的优势，这些优势对于现代应用程序至关重要：

• 低延迟： 对于自动驾驶汽车和机器人技术等应用，必须在毫秒内做出决策。等待数据传输到云服务器再返回通常太慢。边缘计算能够实现即时、设备上的处理。
• 带宽效率：从数千个安全摄像头持续向云端传输高分辨率视频将消耗巨大的网络带宽。通过在边缘分析视频，只需传输重要事件或元数据，从而大大降低带宽使用和成本。
• 增强的隐私和安全性：在本地设备上处理敏感信息（如面部识别数据或医学图像分析）可以通过最大限度地减少其在互联网上的暴露来提高数据隐私。
• 运营可靠性： 边缘设备可以独立于持续的互联网连接运行。这对于偏远地区的工业物联网至关重要，例如农业人工智能或海上石油钻井平台，在这些地方连接可能不可靠。

实际应用

边缘计算通过实现更快、更可靠的AI，正在改变各行各业。

1. 智能制造： 在工厂环境中，配备计算机视觉模型的摄像头（如Ultralytics YOLO11）可以直接在装配线上执行实时质量控制。边缘设备处理视频源以立即检测缺陷，从而可以立即进行干预，而无需将镜头发送到云端。这是现代智能制造解决方案的核心组成部分。
2. 自主系统： 自动驾驶汽车是边缘计算在行动中的一个典型例子。它们配备了强大的车载计算机，例如 NVIDIA Jetson 平台，可以实时处理来自大量传感器的数据，以进行导航、避开障碍物并对不断变化的道路状况做出反应。依靠云来执行这些关键功能会带来危及生命的延迟。

边缘计算的硬件和软件

有效实施边缘计算需要专门的硬件和优化的软件相结合。

• 硬件：边缘设备范围从低功耗微控制器到更强大的系统。这包括诸如Raspberry Pi的单板计算机、移动设备和诸如Google Edge TPUs和其他GPU的专用AI加速器。
• 软件： 部署在边缘的 AI 模型必须非常高效。这通常涉及诸如 模型量化 和 模型剪枝 等技术，以减小其大小和计算需求。优化的推理引擎，例如 TensorRT、OpenVINO，以及用于 ONNX 等格式的运行时，用于最大限度地提高性能。此外，像 Docker 这样的工具被用于容器化，这简化了跨分布式边缘设备的模型部署和管理。