IA en périphérie (Edge AI)

Edge AI crée un environnement informatique décentralisé où l'intelligence l'intelligence artificielle (IA) et l'intelligence artificielle (IA) et l'apprentissage machine (ML) directement sur un appareil local, plutôt que de s'appuyer sur des serveurs distants. En effectuant le traitement des données près de la source, par exemple sur les capteurs, les caméras ou les passerelles IoT. sur des capteurs, des caméras ou des passerelles IoT, l'Edge AI réduit considérablement la latence et l'utilisation de la bande passante. Cette approche est essentielle pour les applications nécessitant une inférence en temps réel où les millisecondes comptent, ou dans des environnements où la connectivité internet est instable. L'abandon du traitement centralisé au profit de la périphérie permet aux appareils de prendre des décisions indépendantes, ce qui améliore la qualité de la communication. de prendre des décisions indépendantes, améliorant ainsi la confidentialité des données en conservant les informations sensibles sur le site de l'utilisateur. la confidentialité des données en conservant les informations sur le matériel local.

Comment fonctionne l'Edge AI ?

Dans un flux de travail Edge AI typique, un appareil physique collecte des données par le biais de capteurs d'entrée. Au lieu de transmettre des données brutes à un centre de calcul en nuage, l'appareil utilise un microprocesseur microprocesseur intégré ou un accélérateur spécialisé, tel qu'un module module NVIDIA Jetson ou un Google Coral Edge TPUexécuter des modèles de ML localement.

Pour fonctionner efficacement sur des appareils aux ressources limitées, les modèles sont souvent soumis à des processus d'optimisation. Des techniques telles que la la quantification du modèle et l 'élagage du modèle réduisent la taille du fichier et la complexité de calcul des réseaux neuronaux sans sacrifier sans sacrifier de manière significative la précision. Cadres optimisés, tels que TensorRT et Intel OpenVINOTensorRT et Intel OpenVINO moteur d'inférence pour accélérer ces modèles sur des sur des architectures matérielles spécifiques.

Edge AI vs. Edge Computing

Bien qu'ils soient souvent utilisés ensemble, il est utile de faire la distinction entre ces deux concepts liés :

• Informatique en périphérie: Il s'agit de l'architecture et l'infrastructure physiques plus larges qui rapprochent la puissance de calcul et le stockage des données de l'endroit où ils sont nécessaires. l'endroit où elles sont nécessaires. Elle englobe le matériel et la topologie du réseau.
• Edge AI : il s'agit d'une application spécifique de l'informatique périphérique. Il s'agit d'exécuter des algorithmes intelligents, tels que la vision artificielle (CV) ou l'analyse l'analyse prédictive, sur cette infrastructure de périphérie.

Applications concrètes

Le déploiement de l'Edge AI transforme les industries en permettant des opérations autonomes et des analyses plus intelligentes.

• Systèmes autonomes : Les voitures autopilotées utilisent l'Edge AI pour traiter instantanément les données provenant de LiDAR, de radars et de caméras. pour traiter instantanément les données provenant du LiDAR, des radars et des caméras. Elles doivent detect piétons, lire les panneaux de signalisation et naviguer en temps réel. voies en temps réel. S'appuyer sur le nuage introduirait une latence dangereuse ; c'est pourquoi la détection des objets se fait entièrement au sein de l'entreprise. détection d'objets s'effectue entièrement dans l'ordinateur l'ordinateur de bord du véhicule.
• Fabrication intelligente : Dans l'automatisation l'automatisation industrielle, l'intelligence artificielle systèmes d'inspection visuelle sur les chaînes de montage. Les caméras équipées de modèles tels que Ultralytics YOLO11 permettent d'identifier immédiatement les défauts du produit ou les de sécurité. Ce traitement local permet une détection détection rapide des anomalies et l'intégration avec des pour retirer les articles défectueux sans arrêter la production.
• Villes intelligentes : Les municipalités déploient l'Edge AI pour gestion intelligente du trafic. Les feux de circulation peuvent ajuster le temps de manière dynamique en fonction de l'analyse du flux de véhicules effectuée localement à l'intersection, réduisant ainsi les embouteillages et optimisant la mobilité urbaine. l'intersection, ce qui permet de réduire les embouteillages et d'optimiser la mobilité urbaine.

Déploiement de modèles en périphérie

Le déploiement d'un modèle sur un appareil périphérique implique souvent l'exportation d'un modèle formé dans un format indépendant du matériel. L'échange de réseaux neuronaux ONNX (Open Neural Network Exchange) est une norme qui permet aux modèles de fonctionner sur différentes plateformes.

L'exemple suivant montre comment exporter un modèle léger YOLO11 , qui est idéal pour le déploiement en périphérie en raison de sa rapidité et de son efficacité. de sa rapidité et de son efficacité :

from ultralytics import YOLO

# Load a lightweight YOLO11 nano model
model = YOLO("yolo11n.pt")

# Export the model to ONNX format for edge deployment
# The 'dynamic' argument allows for variable input sizes
model.export(format="onnx", dynamic=True)

Défis et tendances futures

La mise en œuvre de l'IA en périphérie s'accompagne de défis, principalement en ce qui concerne les ressources limitées en termes de puissance et de mémoire des appareils en périphérie par rapport aux vastes centres de données. par rapport aux vastes centres de données. Les développeurs doivent trouver un équilibre entre la performance du modèle et la consommation d'énergie. systèmes sur puce (SoC ) de sociétés telles que Qualcomm ou Qualcomm ou Ambarella.

À l'avenir, l'intégration des réseaux 5G améliorera encore l'Edge en fournissant la connectivité à grande vitesse nécessaire à la coordination des appareils, connue sous le nom d'intelligence en essaim. En outre, des techniques telles que l'apprentissage fédéré techniques telles que l'apprentissage fédéré permettent aux d'améliorer de manière collaborative les modèles globaux tout en gardant les données brutes décentralisées et privées.