了解边缘人工智能如何在设备上实现实时、安全和高效的人工智能处理,从而改变医疗保健和自动驾驶汽车等行业。
边缘人工智能是指直接在本地硬件设备(即边缘设备)上运行人工智能(AI)算法的做法,如智能手机、摄像头、传感器或嵌入式系统。边缘人工智能不需要将数据发送到远程云计算服务器进行处理,而是让数据分析和决策更接近数据产生的源头。这种方法利用硬件方面的先进技术(如专用人工智能芯片 )和高效的机器学习(ML)模型,将智能带到网络边缘。它允许设备在本地执行图像识别、自然语言处理(NLP)和异常检测等任务。
这一过程通常包括训练人工智能模型,通常使用强大的云资源或本地服务器。训练完成后,模型需要经过模型量化或模型剪枝等优化技术,以减少模型的大小和计算需求。这种优化对于在资源受限的边缘设备上高效运行模型至关重要,因为这些设备的处理能力(CPU、内存、硬盘、硬盘驱动器)往往有限。CPU/GPU)、内存和电池寿命有限。优化后的模型将通过TensorFlow Lite、PyTorch Mobile、ONNX Runtime 等框架或Intel OpenVINO 等专用 SDK 部署到边缘设备上。然后,设备可以利用其本地传感器(如摄像头、麦克风)执行实时推理,处理数据并生成见解或行动,而无需持续连接互联网。使用Ultralytics HUB 等平台可以简化对这些部署的管理。
主要区别在于人工智能计算的地点。云人工智能在集中式服务器上处理数据,提供大量计算资源,适合复杂模型和大规模训练数据。不过,云人工智能会因数据传输而产生延迟,并且需要可靠的互联网连接。相反,边缘人工智能在设备上本地处理数据。这最大限度地减少了延迟,由于敏感信息无需离开设备,因此提高了数据的私密性,并能在离线或低带宽环境中运行。代价是边缘设备的资源有限,限制了可部署模型的复杂性。了解更多有关边缘人工智能与云人工智能的信息。
边缘人工智能是更广泛的边缘计算领域中的一个特定应用。边缘计算指的是将计算任务从集中式数据中心转移到网络 "边缘"、更接近用户和数据源的一般模式。边缘人工智能特别将这一概念应用于人工智能和 ML 工作负载,直接在边缘设备上实现智能处理。虽然边缘计算可以涉及各种类型的处理,但边缘人工智能侧重于在本地部署和运行人工智能模型。您可以在这里了解有关边缘计算的更多信息。
边缘人工智能正在改变众多行业,尤其是计算机视觉(CV)行业。日益增长的需求反映在不断增长的边缘人工智能市场规模上。
尽管边缘人工智能好处多多,但它也面临着各种挑战,包括边缘设备的计算资源有限(对计算能力的影响)、需要高度优化的模型(如 YOLOv9 的效率)、管理众多分布式设备上的模型部署和更新(通常使用Docker 等工具),以及确保模型在不同实际条件下的性能。Google EdgeTPU等专用硬件和索尼 IMX500等传感器有助于解决其中一些硬件限制。框架,如 NVIDIA TensorRT等框架也有助于优化。
边缘人工智能代表着人工智能功能交付方式的重大转变,将智能从集中式云转移到本地设备。这使得新一代反应灵敏、私有、可靠的人工智能应用能够在网络边缘有效运行,影响从消费电子产品到关键工业系统的方方面面。