Scalability

La scalabilité désigne la capacité d'un système, d'un réseau ou d'un processus à gérer une charge de travail croissante en ajoutant des ressources. Dans le contexte de l'Artificial Intelligence (AI) et du Machine Learning (ML), la scalabilité décrit l'aptitude d'un modèle ou d'une infrastructure à maintenir ses performances à mesure que la demande augmente. Cette demande se manifeste généralement par des jeux de données plus volumineux lors de l'entraînement, un trafic utilisateur plus élevé lors de l'inférence ou une complexité accrue des tâches de calcul. Une architecture scalable permet une extension transparente—qu'il s'agisse de déployer un modèle de computer vision sur un seul appareil embarqué ou de servir des millions de requêtes API via des clusters cloud—en garantissant que l'inference latency reste faible même sous une forte charge.

L'importance de l'évolutivité en IA#

Concevoir en pensant à la scalabilité est un composant essentiel de Machine Learning Operations (MLOps) réussi. Un modèle qui fonctionne parfaitement dans un environnement de recherche contrôlé peut échouer lorsqu'il est exposé aux flux de données à haute vélocité rencontrés en production. Gérer efficacement le Big Data nécessite des systèmes capables de monter en charge horizontalement (en ajoutant des machines à un cluster) ou verticalement (en ajoutant de la puissance, telle que de la RAM ou des GPUs, aux machines existantes).

Les avantages clés des systèmes d'IA évolutifs incluent :

• Fiabilité : Les systèmes évolutifs assurent une disponibilité de service constante lors de pics de trafic imprévus, évitant les pannes dans les applications critiques.
• Efficacité des coûts : Le scaling dynamique permet de réduire les ressources pendant les périodes de faible utilisation, une fonctionnalité souvent gérée par des plateformes de cloud computing telles que AWS ou Google Cloud.
• Pérennité : Une infrastructure scalable prend en charge des algorithmes plus récents et plus complexes, tels que les vision transformers (ViT), sans nécessiter une refonte complète de l'écosystème matériel.

Stratégies pour atteindre l'évolutivité#

Créer des solutions d'IA évolutives implique d'optimiser à la fois l'architecture du modèle et l'infrastructure de déploiement.

• Entraînement distribué : Lorsque les jeux de données d'entraînement deviennent trop volumineux pour un seul processeur, l'distributed training répartit la charge de travail sur plusieurs Graphics Processing Units (GPUs). Des frameworks tels que PyTorch Distributed permettent aux développeurs de paralléliser les calculs, réduisant considérablement le temps nécessaire pour entraîner des modèles de fondation. Des outils tels que l'Ultralytics Platform simplifient ce processus en gérant automatiquement les ressources d'entraînement dans le cloud.
• Architectures de modèles efficaces : La sélection de la bonne architecture de modèle est cruciale pour le débit. Le dernier Ultralytics YOLO26 est conçu pour être plus petit et plus rapide que ses prédécesseurs, ce qui le rend nativement scalable sur divers matériels, allant des appareils d'edge AI aux fermes de serveurs massives.
• Conteneurisation et orchestration : Empaqueter des applications avec Docker garantit qu'elles s'exécutent de manière cohérente dans différents environnements. Pour gérer de grands clusters de conteneurs, Kubernetes automatise le déploiement, le scaling et la gestion des applications conteneurisées.
• Optimisation de modèle : Des techniques telles que la model quantization et le pruning réduisent l'empreinte mémoire et le coût de calcul d'un modèle. Des outils comme NVIDIA TensorRT peuvent accélérer davantage les vitesses d'inférence, permettant un débit plus élevé sur le matériel existant.

Exemple de code : Inférence par lot évolutive#

Une méthode efficace pour améliorer l'évolutivité lors de l'inférence consiste à traiter les entrées par lots plutôt que de manière séquentielle. Cela maximise l'utilisation du GPU et augmente le débit global.

from ultralytics import YOLO

# Load a scalable YOLO26 model (smaller 'n' version for speed)
model = YOLO("yolo26n.pt")

# Define a batch of images (URLs or local paths)
# Processing multiple images at once leverages parallel computation
batch_images = ["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"]

# Run inference on the batch
results = model(batch_images)

# Print the number of detections for the first image
print(f"Detected {len(results[0].boxes)} objects in the first image.")

Applications concrètes#

L'évolutivité permet aux technologies d'IA de passer de la recherche théorique aux outils industriels mondiaux.

• Fabrication intelligente : Dans le domaine de l'AI in manufacturing, les systèmes d'inspection automatisés doivent analyser des milliers de composants par heure sur des lignes d'assemblage à grande vitesse. Un système d'object detection scalable garantit qu'à mesure que les vitesses de production augmentent, le processus de contrôle qualité maintient une haute accuracy sans devenir un goulet d'étranglement.
• Moteurs de recommandation pour la vente au détail : Les principales plateformes de e-commerce utilisent des recommendation systems pour proposer instantanément des millions de suggestions de produits personnalisées. Une infrastructure scalable permet à ces plateformes de gérer des événements majeurs tels que le Black Friday, où le trafic peut bondir de 100 fois, en provisionnant dynamiquement des nœuds de serveur supplémentaires via Microsoft Azure ou des fournisseurs similaires.

Évolutivité vs concepts associés#

Bien qu'ils soient fréquemment utilisés de manière interchangeable, l'évolutivité est distincte de la performance et de l'efficacité.

• Scalabilité vs Performance : Le Performance désigne généralement la vitesse ou la précision d'un système à un moment précis (par exemple, en images par seconde). La scalabilité décrit la capacité du système à maintenir cette performance à mesure que la charge de travail augmente.
• Évolutivité vs Efficacité : L'efficacité mesure les ressources utilisées pour accomplir une tâche spécifique (par exemple, la consommation d'énergie par inférence). Un système peut être efficace mais non évolutif (s'il ne peut pas gérer des tâches parallèles), ou évolutif mais inefficace (s'il utilise des ressources excessives pour gérer la croissance).
• Scalabilité vs Flexibilité : La flexibilité permet à un système de gérer différents types de tâches, comme YOLO11 qui gère la détection, la segmentation et l'estimation de pose. La scalabilité se concentre spécifiquement sur la gestion d'un volume plus important de la même tâche.