Scaleout réduit les mises à jour de modèles de quelques semaines à quelques heures avec Ultralytics YOLO

L'entraînement de modèles de machine learning suppose généralement que tu puisses regrouper toutes tes données à un seul endroit, les envoyer vers le cloud et déployer un modèle fini. Dans de nombreuses situations réelles, cette hypothèse ne tient pas. Dans les environnements de défense, industriels et réglementés, les données sont liées à leur emplacement par des lois sur la confidentialité, des classifications de sécurité ou tout simplement par le coût de la bande passante, et le réseau reliant ces sites n'est pas toujours fiable.

Scaleout conçoit l'infrastructure précisément pour ces conditions. Sa plateforme, Scaleout Edge, utilise l'apprentissage fédéré pour amener l'entraînement des modèles là où résident les données, plutôt que de déplacer les données vers le modèle. Pour les projets de computer vision, Scaleout entraîne et ajuste sur mesure des Ultralytics YOLO models sur des Vision Ground Nodes, des stations périphériques accélérées par GPU déployées sur chaque site, de sorte que la détection continue de s'améliorer sur le terrain sans qu'aucune image sensible ne quitte jamais l'appareil.

Apporter le machine learning là où se trouvent les données#

Fondée en 2018 par des chercheurs de l'Université d'Uppsala travaillant sur des systèmes distribués à grande échelle, Scaleout a entrepris de rendre le machine learning possible là où les données ne peuvent pas être centralisées. Son attention se porte sur les contextes où regrouper les données en un seul lieu est difficile, voire impossible, et l'apprentissage fédéré est le mécanisme central qui rend cela possible.

L'Federated learning répartit l'entraînement sur de nombreux appareils, puis rassemble leurs mises à jour de modèles dans un plan de contrôle central qui les agrège en un nouveau modèle global. Chaque appareil bénéficie de la compréhension de son propre environnement local, tandis que la flotte dans son ensemble bénéficie de l'intelligence collective. Les données restent là où elles doivent être, et seul ce que le modèle a appris voyage.

Le travail de Scaleout couvre les secteurs de la défense, de l'industrie, du transport et d'autres secteurs réglementés, incluant des engagements tels que le programme d'accélération DIANA de l'OTAN et une collaboration avec BAE Systems. Pour tous, le schéma est identique : des données qui ne peuvent pas bouger et des modèles qui doivent tout de même s'améliorer.

Les complexités du machine learning en périphérie#

Voici un examen plus approfondi des contraintes auxquelles Scaleout a été confronté pour entraîner des modèles sur le terrain :

• Matériel limité : Les déploiements sur le terrain ne disposent pas de serveurs de centre de données, seulement de petits appareils à faible consommation, comme l'ordinateur embarqué sur un drone. Exécuter un modèle fini dessus est réalisable, mais en réentraîner un demande beaucoup plus de ressources de calcul.

• Données verrouillées sur l'appareil : Les séquences vidéo nécessaires au réentraînement sont souvent exclusives et ne peuvent pas être envoyées à un serveur central, de sorte que le modèle doit apprendre à partir de données qui ne quittent jamais l'edge.

• Aucun spécialiste sur place : Les opérateurs capturant des données sur le terrain sont rarement des ingénieurs en machine learning, donc le réentraînement ne peut pas dépendre de la présence d'experts en science des données.

• Conditions en constante évolution : Les environnements de terrain changent rapidement, le modèle doit donc être mis à jour continuellement plutôt que selon des cycles de réentraînement lents et périodiques.

Affiner les modèles Ultralytics YOLO à la périphérie#

Pour respecter ces contraintes, Scaleout a construit une boucle d'entraînement qui s'exécute entièrement sur le terrain, avec les modèles Ultralytics YOLO en son centre.

Sur chaque site, un Vision Ground Node, une station périphérique accélérée par GPU avec ses propres capacités de calcul et de stockage, est installé aux côtés d'une flotte de drones. Pendant que les drones capturent des images, le nœud sélectionne les cadres les plus utiles, un opérateur les étiquette, et le modèle YOLO est affiné sur ce matériel local.

Après quelques époques d'entraînement, seul le modèle mis à jour est renvoyé vers le plan de contrôle, jamais les séquences brutes. Cette boucle est fournie via le module de vision de Scaleout, une extension de la plateforme Scaleout Edge qui regroupe les outils nécessaires à un projet de vision par ordinateur en un seul package.

Il réunit la sélection d'images, l'annotation, l'entraînement et le déploiement, avec Ultralytics YOLO pour gérer la détection, afin que les équipes puissent s'appuyer sur une base fonctionnelle au lieu d'assembler ces éléments elles-mêmes.

Scaleout a d'abord mis en œuvre cette approche dans le programme d'accélération DIANA de l'OTAN, en utilisant YOLOv8 pour affiner la détection sur des données collectées sur le terrain. Ces données ne pouvaient pas être déplacées via les réseaux de terrain ou centralisées pour des raisons de propriété ; l'équipe a donc décentralisé l'affinage, permettant au modèle d'apprendre localement à partir de nouveaux exemples.

La boucle est également conçue pour les opérateurs plutôt que pour les data scientists. Le système guide un non-spécialiste dans l'examen et l'étiquetage des images pertinentes, afin que les personnes sur le terrain puissent continuer à améliorer le modèle par elles-mêmes.

Les outils de support reflètent cela, avec la version open source de Label Studio pour l'annotation, un serveur de diffusion en continu pour intégrer les flux de drones, et le Ultralytics Python package pour le réglage fin. Tout cela s'exécute sur du matériel allant des modules NVIDIA Jetson à une unité de terrain robuste ou un ordinateur portable, selon le déploiement.

Pourquoi choisir les modèles Ultralytics YOLO ?#

Pour Scaleout, le plus grand avantage d'Ultralytics YOLO est la légèreté des modèles, ce qui rend l'entraînement fédéré sur de mauvaises connexions pratique. Plutôt que de déplacer des données brutes, Scaleout ne déplace que la mise à jour du modèle. Le modèle qu'il utilise le plus, Ultralytics YOLOv8 nano, fait environ 10,7 Mo, de sorte qu'une mise à jour complète est un petit paquet à envoyer, même lorsque la bande passante est rare.

The Ultralytics Python package also gives Scaleout's engineers the flexibility to train and deploy across varied hardware. The compact YOLOv8 nano model runs comfortably on constrained edge devices, while the package's export options support deployment across the different environments Scaleout works in. Since the models are straightforward to fine-tune, teams can iterate quickly as field conditions change.

Ultralytics YOLO aide Scaleout à mettre à jour ses modèles plus rapidement#

Avec Ultralytics YOLO, la partie la plus lourde du travail reste sur l'appareil. L'entraînement s'effectue sur des centaines de gigaoctets de séquences de terrain, mais ce qui circule réellement est un modèle d'environ 10 Mo. Cela représente une réduction d'environ dix fois des données devant être transférées, ce qui rend l'entraînement fédéré viable sur les réseaux limités dont dépendent ces déploiements.

Cette approche modifie également la rapidité avec laquelle un modèle amélioré revient sur le terrain. Ce qui prendrait normalement des semaines ou des mois — collecter des données, les envoyer vers un centre, réentraîner et redéployer — se réduit à quelques jours ou heures lorsque la boucle s'exécute à la périphérie.

Cela se manifeste le plus clairement dans le travail de Scaleout sur les drone. En reconnaissance de défense, un drone effectue un vol de recherche et utilise un modèle Ultralytics YOLO embarqué pour détecter, identifier et géolocaliser des objets d'intérêt en temps réel, tout le traitement étant pris en charge par l'ordinateur du drone lui-même plutôt d'être envoyé pour analyse.

À mesure que les drones collectent de nouvelles images, ces données alimentent un Vision Ground Node où YOLO est affiné sur les nouveaux cadres, et un modèle mis à jour est renvoyé, le tout sans que les images ne quittent jamais le site. Les modèles de détection doivent suivre le rythme de conditions qui changent rapidement et de données qui ne peuvent pas être déplacées ; un modèle réentraîné localement reste utile là où un modèle statique, entraîné de manière centralisée, serait dépassé.

Fig 1. Un exemple de la façon dont Scaleout et Ultralytics YOLO alimentent les drones IA (Source)

Le même schéma s'étend bien au-delà des drones. Dans des environnements industriels tels que les sites énergétiques et les installations distantes, où les données de chaque site sont sensibles, la plateforme améliore les modèles de détection sur de nombreux sites sans qu'aucune donnée brute ne traverse la limite de l'installation. Que les données se trouvent sur un drone ou une installation fixe, Scaleout maintient les images sur place et ne déplace que ce que le modèle a appris.

Construire une IA adaptative pour des environnements où les données ne peuvent pas bouger#

À mesure que Scaleout se développe, l'entreprise continue d'étendre sa vision par ordinateur fédérée et basée à la périphérie à davantage de contextes et de matériels. Ses modules pré-construits sont conçus pour réduire des mois d'intégration en quelques jours, permettant aux clients d'apporter leur propre matériel et d'adopter la boucle d'apprentissage adaptative sans avoir à reconstruire le code de machine learning sous-jacent.

Avec Ultralytics YOLO au cœur de son pipeline de détection, Scaleout rend possible l'entraînement et l'amélioration de l'IA exactement dans les environnements où les approches conventionnelles échouent, en conservant les données sur place, en restant opérationnel lors de pannes réseau, et en transformant des flottes d'appareils périphériques en un système qui continue d'apprendre dans son ensemble.

Prêt à explorer ce que la vision par ordinateur peut faire pour toi ? Rends-toi sur notre GitHub repository pour découvrir comment les modèles YOLO transforment des domaines tels que l'AI in manufacturing et la computer vision in robotics. Consulte nos licensing options et commence ton voyage vers une automatisation plus intelligente.