术语表

边缘人工智能

了解边缘人工智能如何在设备上实现实时、安全和高效的人工智能处理,从而改变医疗保健和自动驾驶汽车等行业。

使用Ultralytics HUB 对YOLO 模型进行简单培训

了解更多

边缘人工智能是指直接在本地硬件设备(即边缘设备上运行人工智能(AI)算法的做法,如智能手机、摄像头、传感器或嵌入式系统。边缘人工智能不需要将数据发送到远程云计算服务器进行处理,而是让数据分析和决策更接近数据产生的源头。这种方法利用硬件方面的先进技术(如专用人工智能芯片 和高效的机器学习(ML)模型,将智能带到网络边缘。它允许设备在本地执行图像识别自然语言处理(NLP)异常检测等任务。

边缘人工智能如何工作

这一过程通常包括训练人工智能模型,通常使用强大的云资源或本地服务器。训练完成后,模型需要经过模型量化模型剪枝等优化技术,以减少模型的大小和计算需求。这种优化对于在资源受限的边缘设备上高效运行模型至关重要,因为这些设备的处理能力(CPU、内存、硬盘、硬盘驱动器)往往有限。CPU/GPU)、内存和电池寿命有限。优化后的模型将通过TensorFlow LitePyTorch MobileONNX Runtime 等框架或Intel OpenVINO 等专用 SDK 部署到边缘设备上。然后,设备可以利用其本地传感器(如摄像头、麦克风)执行实时推理,处理数据并生成见解或行动,而无需持续连接互联网。使用Ultralytics HUB 等平台可以简化对这些部署的管理。

边缘人工智能与云人工智能

主要区别在于人工智能计算的地点。云人工智能在集中式服务器上处理数据,提供大量计算资源,适合复杂模型和大规模训练数据。不过,云人工智能会因数据传输而产生延迟,并且需要可靠的互联网连接。相反,边缘人工智能在设备上本地处理数据。这最大限度地减少了延迟,由于敏感信息无需离开设备,因此提高了数据的私密性,并能在离线或低带宽环境中运行。代价是边缘设备的资源有限,限制了可部署模型的复杂性。了解更多有关边缘人工智能与云人工智能的信息

与边缘计算的关系

边缘人工智能是更广泛的边缘计算领域中的一个特定应用。边缘计算指的是将计算任务从集中式数据中心转移到网络 "边缘"、更接近用户和数据源的一般模式。边缘人工智能特别将这一概念应用于人工智能和 ML 工作负载,直接在边缘设备上实现智能处理。虽然边缘计算可以涉及各种类型的处理,但边缘人工智能侧重于在本地部署和运行人工智能模型。您可以在这里了解有关边缘计算的更多信息

边缘人工智能的优势

  • 低延迟:实现近乎瞬时的响应,这对自动驾驶汽车和实时控制系统等应用至关重要。
  • 增强隐私和安全:本地处理数据降低了通过网络传输敏感信息的风险。Ultralytics 优先考虑负责任的人工智能
  • 提高可靠性:即使在网络连接不稳定或没有网络连接的情况下,应用程序也能可靠运行。
  • 带宽效率:大幅减少需要发送到云端的数据量,降低带宽成本。
  • 实时决策:促进基于本地数据分析的即时行动,这对动态环境至关重要。这是实时人工智能能力的关键所在。

应用与实例

边缘人工智能正在改变众多行业,尤其是计算机视觉(CV)行业。日益增长的需求反映在不断增长的边缘人工智能市场规模上

  1. 智能安全摄像机:配备以下型号的摄像头 Ultralytics YOLO11等型号的摄像机可以在设备上进行物体检测,实时识别人员、车辆或特定事件,而无需不断地将视频流传输到云端。这样可以更快地发出警报,并减少对隐私的担忧。了解人工智能如何增强安防摄像机
  2. 自主系统: 自动驾驶汽车和无人机在很大程度上依赖边缘人工智能在本地处理传感器数据(摄像头、激光雷达),以实现即时导航、避障和控制决策,这对安全至关重要。NVIDIA )Jetson等平台通常用于此目的。
  3. 工业自动化:制造业,边缘人工智能通过直接分析工厂车间的传感器数据,为生产线上的实时质量检测、机器的预测性维护警报和机器人自动化提供支持。
  4. 医疗保健:可穿戴设备和床边监视器利用边缘人工智能对患者进行实时健康监测、跌倒检测(姿势估计),并在专家介入前进行初步医学图像分析
  5. 智能零售:边缘人工智能可直接在店内实现自动结账系统、实时库存管理和顾客行为分析等应用。

边缘人工智能的挑战

尽管边缘人工智能好处多多,但它也面临着各种挑战,包括边缘设备的计算资源有限(对计算能力的影响)、需要高度优化的模型(如 YOLOv9 的效率)、管理众多分布式设备上的模型部署和更新(通常使用Docker 等工具),以及确保模型在不同实际条件下的性能。Google EdgeTPU等专用硬件和索尼 IMX500等传感器有助于解决其中一些硬件限制。框架,如 NVIDIA TensorRT等框架也有助于优化。

边缘人工智能代表着人工智能功能交付方式的重大转变,将智能从集中式云转移到本地设备。这使得新一代反应灵敏、私有、可靠的人工智能应用能够在网络边缘有效运行,影响从消费电子产品到关键工业系统的方方面面。

阅读全部