Scaleout réduit de plusieurs semaines à quelques heures la mise à jour des modèles avec Ultralytics YOLO

En effectuant un fine-tuning des modèles Ultralytics YOLO sur des appareils edge, Scaleout conserve les données sur place, fonctionne hors ligne et déploie de nouveaux modèles de détection en quelques heures au lieu de plusieurs semaines.

L'entraînement des modèles de machine learning suppose généralement que tu peux regrouper toutes tes données au même endroit, les envoyer vers le cloud et déployer un modèle finalisé. Dans de nombreux contextes réels, cette hypothèse ne tient pas. Dans les environnements de défense, industriels et réglementés, les données sont liées à leur emplacement par les lois sur la confidentialité, leur classification de sécurité ou le coût considérable de la bande passante, et le réseau reliant ces emplacements ne peut pas toujours être considéré comme fiable.

Scaleout construit une infrastructure conçue précisément pour ces conditions. Sa plateforme, Scaleout Edge, utilise l'apprentissage fédéré pour amener l'entraînement des modèles là où résident les données, plutôt que de déplacer les données vers le modèle. Pour les projets de vision par ordinateur, Scaleout entraîne et affine sur mesure les modèles Ultralytics YOLO sur des Vision Ground Nodes, des stations edge accélérées par GPU déployées sur chaque site, afin que la détection continue de s'améliorer sur le terrain sans que les images sensibles quittent jamais l'appareil.

Amener le machine learning là où résident les données#

Fondée en 2018 par des chercheurs de l'université d'Uppsala travaillant sur des systèmes distribués à grande échelle, Scaleout s'est donné pour objectif de rendre le machine learning possible là où les données ne peuvent pas être centralisées. L'entreprise se concentre sur les contextes où regrouper les données au même endroit est difficile, voire impossible, et l'apprentissage fédéré constitue le mécanisme central qui permet cette approche.

L'apprentissage fédéré distribue l'entraînement sur de nombreux appareils, puis rassemble leurs mises à jour de modèle dans un plan de contrôle central qui les agrège pour créer un nouveau modèle global. Chaque appareil bénéficie de sa compréhension de son environnement local, tandis que l'ensemble du parc bénéficie d'une intelligence collective. Les données restent là où elles doivent être, et seul ce que le modèle a appris est transféré.

Les activités de Scaleout couvrent la défense, l'industrie, le transport et d'autres secteurs réglementés, avec notamment des collaborations dans le cadre du programme d'accélération NATO DIANA et avec BAE Systems. Dans tous ces domaines, le schéma reste le même : les données ne peuvent pas être déplacées, mais les modèles doivent continuer à s'améliorer.

Les complexités du machine learning edge#

Voici un examen plus détaillé des contraintes auxquelles Scaleout a été confrontée pour entraîner des modèles sur le terrain :

• Matériel limité : Les déploiements sur le terrain ne disposent pas de serveurs de centre de données, mais seulement de petits appareils à faible consommation, comme l'ordinateur d'un drone. Exécuter un modèle finalisé sur ces appareils est faisable, mais en réentraîner un exige bien davantage de puissance de calcul.

• Données verrouillées sur l'appareil : Les séquences nécessaires au réentraînement sont souvent propriétaires et ne peuvent pas être envoyées vers un serveur central, de sorte que le modèle doit apprendre à partir de données qui ne quittent jamais l'edge.

• Aucun spécialiste sur site : Les opérateurs qui capturent les données sur le terrain sont rarement des ingénieurs en machine learning ; le réentraînement ne peut donc pas dépendre de la présence d'une expertise en data science.

• Des conditions en évolution constante : Les environnements de terrain changent rapidement ; le modèle doit donc être mis à jour en continu plutôt que selon des cycles de réentraînement lents et périodiques.

Affiner les modèles Ultralytics YOLO sur l'edge#

Pour respecter ces contraintes, Scaleout a créé une boucle d'entraînement qui s'exécute entièrement sur le terrain, avec les modèles Ultralytics YOLO en son centre.

Sur chaque site, un Vision Ground Node, une station edge accélérée par GPU dotée de ses propres ressources de calcul et de stockage, est installé à proximité d'un parc de drones. À mesure que les drones capturent des séquences, le nœud sélectionne les images les plus utiles, un opérateur les annote, puis le modèle YOLO est affiné sur ce matériel local.

Après quelques époques d'entraînement, seul le modèle mis à jour est renvoyé au plan de contrôle, jamais les séquences brutes. Cette boucle est fournie par le module de vision de Scaleout, une extension de la plateforme Scaleout Edge qui regroupe les outils nécessaires à un projet de vision par ordinateur dans un seul package.

Il réunit la sélection des images, l'annotation, l'entraînement et le déploiement, avec Ultralytics YOLO pour assurer la détection, afin que les équipes puissent s'appuyer sur une base fonctionnelle plutôt que d'assembler elles-mêmes ces éléments.

Scaleout a d'abord mis cette approche en œuvre dans le programme d'accélération NATO DIANA, en utilisant YOLOv8 pour affiner la détection sur des données recueillies sur le terrain. Ces données ne pouvaient pas être transférées via les réseaux de terrain ni centralisées pour des raisons de propriété, l'équipe a donc décentralisé le fine-tuning, permettant au modèle d'apprendre localement à partir de nouveaux exemples.

La boucle est également conçue pour les opérateurs plutôt que pour les data scientists. Le système guide les non-spécialistes dans la vérification et l'annotation des images pertinentes, afin que les personnes sur le terrain puissent continuer à améliorer le modèle de manière autonome.

Les outils complémentaires reflètent cette approche : la version open source de Label Studio pour l'annotation, un serveur de streaming pour recevoir les flux des drones et le package Python Ultralytics pour le fine-tuning. L'ensemble fonctionne sur du matériel allant des modules NVIDIA Jetson à une unité de terrain renforcée ou à un ordinateur portable, selon le déploiement.

Pourquoi choisir les modèles Ultralytics YOLO ?#

Pour Scaleout, le principal avantage d'Ultralytics YOLO réside dans la légèreté de ses modèles, qui rend pratique l'entraînement fédéré sur des connexions de mauvaise qualité. Plutôt que de déplacer les données brutes, Scaleout ne transfère que la mise à jour du modèle. Le modèle le plus utilisé, Ultralytics YOLOv8 nano, pèse environ 10,7 Mo ; une mise à jour complète constitue donc un petit package à envoyer, même lorsque la bande passante est limitée.

Le package Python Ultralytics offre également aux ingénieurs de Scaleout la flexibilité nécessaire pour entraîner et déployer des modèles sur des matériels variés. Le modèle compact YOLOv8 nano fonctionne aisément sur des appareils edge aux ressources limitées, tandis que les options d'exportation du package prennent en charge le déploiement dans les différents environnements où Scaleout intervient. Comme les modèles sont faciles à affiner, les équipes peuvent itérer rapidement lorsque les conditions de terrain évoluent.

Ultralytics YOLO aide Scaleout à mettre à jour ses modèles plus rapidement#

Avec Ultralytics YOLO, la partie la plus lourde du travail reste sur l'appareil. L'entraînement s'effectue sur des centaines de gigaoctets de séquences capturées sur le terrain, mais ce qui est réellement transféré est un modèle d'environ 10 Mo. Cela représente une réduction d'environ dix fois de la quantité de données à déplacer, ce qui rend l'entraînement fédéré viable sur les réseaux limités dont dépendent ces déploiements.

Cette approche modifie également la vitesse à laquelle un modèle amélioré revient sur le terrain. Ce qui pourrait autrement prendre des semaines ou des mois — collecter les données, les envoyer vers un emplacement central, réentraîner le modèle et le redéployer — se réduit à quelques jours ou quelques heures lorsque la boucle s'exécute sur l'edge.

Cela se manifeste particulièrement dans les activités de drone de Scaleout. Dans le cadre de missions de reconnaissance de défense, un drone suit un schéma de recherche et utilise un modèle Ultralytics YOLO embarqué pour détecter, identifier et géolocaliser en temps réel les objets d'intérêt, tout le traitement étant effectué sur l'ordinateur du drone plutôt qu'envoyé pour analyse.

À mesure que les drones recueillent de nouvelles séquences, ces données alimentent un Vision Ground Node où YOLO est affiné sur les nouvelles images, puis un modèle mis à jour est redéployé, sans que les séquences quittent jamais le site. Les modèles de détection doivent suivre l'évolution rapide des conditions et des données qui ne peuvent pas être déplacées, et un modèle réentraîné localement reste utile là où un modèle statique entraîné de manière centralisée finirait par prendre du retard.

Fig 1. Exemple de la manière dont Scaleout et Ultralytics YOLO propulsent des drones IA (Source)

Le même schéma s'étend bien au-delà des drones. Dans les environnements industriels tels que les sites énergétiques et les installations isolées, où les données de chaque emplacement sont sensibles, la plateforme améliore les modèles de détection sur de nombreux sites sans qu'aucune donnée brute ne franchisse les limites d'une installation. Que les données se trouvent sur un drone ou sur une installation fixe, Scaleout conserve les séquences sur place et ne transfère que ce que le modèle a appris.

Construire une IA adaptative pour les environnements où les données ne peuvent pas être déplacées#

À mesure que Scaleout se développe, l'entreprise étend sa vision par ordinateur fédérée et basée sur l'edge à davantage de contextes et de matériels. Ses modules préconfigurés sont conçus pour réduire des mois d'intégration à quelques jours, afin que les clients puissent utiliser leur propre matériel et adopter la boucle d'apprentissage adaptatif sans recréer le code de machine learning sous-jacent.

Avec Ultralytics YOLO au cœur de son pipeline de détection, Scaleout permet d'entraîner et d'améliorer l'IA précisément dans les environnements où les approches conventionnelles atteignent leurs limites, en conservant les données sur place, en restant opérationnelle lorsque les réseaux tombent en panne et en transformant des parcs d'appareils edge en un système qui continue d'apprendre dans son ensemble.

Tu veux découvrir ce que la vision par ordinateur peut faire pour toi ? Consulte notre dépôt GitHub pour découvrir comment les modèles YOLO transforment des domaines tels que l'IA dans l'industrie manufacturière et la vision par ordinateur en robotique. Découvre nos options de licence et commence ton parcours vers une automatisation plus intelligente.