Confidence

Dans le domaine de l'intelligence artificielle et du machine learning, un score de confiance (confidence score) est une métrique qui quantifie le niveau de certitude d'un modèle concernant une prédiction spécifique. Cette valeur varie généralement de 0 à 1 (ou de 0 % à 100 %) et représente la probabilité estimée que la sortie de l'algorithme corresponde à la réalité (ground truth). Par exemple, dans une tâche de détection d'objets, si un système identifie une région d'une image comme étant un "bicycle" avec une confiance de 0,92, cela suggère une probabilité estimée de 92 % que la classification soit correcte. Ces scores sont dérivés de la couche finale d'un réseau de neurones, souvent traités par une fonction d'activation telle que Softmax pour la catégorisation multi-classes ou la fonction Sigmoïde pour les décisions binaires.

Le rôle de la confiance dans l'inférence#

Les scores de confiance sont un composant fondamental du flux de travail du moteur d'inférence, agissant comme un filtre pour distinguer les prédictions de haute qualité du bruit de fond. Ce processus de filtrage, connu sous le nom de seuillage, permet aux développeurs d'ajuster la sensibilité d'une application. En établissant un seuil de confiance minimal, tu peux gérer le compromis précision-rappel critique. Un seuil plus bas peut détecter davantage d'objets mais augmente le risque de faux positifs, tandis qu'un seuil plus élevé améliore la précision mais peut entraîner l'omission d'instances subtiles.

Dans les architectures avancées comme Ultralytics YOLO26, les scores de confiance sont essentiels pour les techniques de post-traitement telles que la Non-Maximum Suppression (NMS). La NMS utilise ces scores pour supprimer les boîtes englobantes redondantes qui se chevauchent de manière significative, en ne conservant que la détection ayant la probabilité la plus élevée. Cette étape garantit que la sortie finale est propre et prête pour les tâches en aval telles que le comptage d'objets ou le suivi.

L'exemple Python suivant montre comment filtrer les prédictions par confiance à l'aide du paquet ultralytics :

from ultralytics import YOLO

# Load the latest YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference with a confidence threshold of 0.5 (50%)
# Only detections with a score above this value are returned
results = model.predict("https://ultralytics.com/images/bus.jpg", conf=0.5)

# Inspect the confidence scores of the detected objects
for box in results[0].boxes:
    print(f"Class: {box.cls}, Confidence: {box.conf.item():.2f}")

Applications concrètes#

Les scores de confiance fournissent une couche d'interprétabilité indispensable dans tous les secteurs où la vision par ordinateur (CV) est appliquée. Ils aident les systèmes automatisés à déterminer quand procéder de manière autonome et quand déclencher des alertes pour une révision humaine.

• Conduite autonome : Dans le secteur de l'IA dans l'automobile, les véhicules autonomes s'appuient sur des métriques de confiance pour garantir la sécurité des passagers. Si un système de perception détecte un obstacle avec une faible confiance, il peut croiser ces données avec des capteurs LiDAR ou un radar pour vérifier la présence de l'objet avant d'exécuter une manœuvre d'urgence. Cette redondance aide à prévenir le "freinage fantôme" causé par des ombres ou des reflets.
• Diagnostics médicaux : En exploitant l'IA dans la santé, les modèles aident les professionnels de santé en signalant des anomalies potentielles dans les données d'imagerie. Un système conçu pour la détection de tumeurs peut mettre en évidence des régions avec une haute confiance pour un diagnostic immédiat, tandis que les prédictions à plus faible confiance sont enregistrées pour une analyse secondaire. Ce flux de travail humain dans la boucle garantit que l'IA renforce la prise de décision clinique sans remplacer le jugement d'un expert.
• Automatisation industrielle : Dans la fabrication intelligente, les bras robotisés utilisent des scores de confiance pour interagir avec des objets sur les lignes d'assemblage. Un robot équipé d'IA de vision peut ne tenter de saisir un composant que si la confiance de la détection dépasse 90 %, réduisant ainsi le risque d'endommager des pièces délicates en raison d'un mauvais alignement.

Distinguer la confiance des termes associés#

Il est crucial de différencier la confiance des autres métriques statistiques utilisées dans l'évaluation des modèles.

• Confiance vs Exactitude (Accuracy) : L'exactitude est une métrique globale qui décrit à quelle fréquence un modèle est correct sur l'ensemble d'un jeu de données (par exemple, "Le modèle est exact à 92 %"). En revanche, la confiance est une valeur locale et spécifique à une prédiction (par exemple, "Le modèle est sûr à 92 % que cette image spécifique contient un chat"). Un modèle peut avoir une exactitude globale élevée tout en produisant une faible confiance sur des cas limites.
• Confiance vs Calibrage de probabilité : Un score de confiance brut ne s'aligne pas toujours sur la probabilité de correction réelle. Un modèle est "bien calibré" si les prédictions faites avec une confiance de 0,8 sont correctes environ 80 % du temps. Des techniques telles que la mise à l'échelle de Platt ou la régression isotonique sont souvent employées pour aligner les scores sur les probabilités empiriques.
• Confiance vs Précision (Precision) : La précision mesure la proportion d'identifications positives qui étaient réellement correctes. Bien que l'augmentation du seuil de confiance renforce généralement la précision, elle se fait souvent au détriment du rappel. Les développeurs doivent ajuster ce seuil selon que leur application privilégie l'omission d'un plus petit nombre d'objets ou la minimisation des fausses alarmes.

Améliorer la confiance du modèle#

Si un modèle génère systématiquement une faible confiance pour des objets valides, cela signale souvent un décalage entre les données d'entraînement et l'environnement de déploiement. Les stratégies pour atténuer cela incluent l'augmentation de données, qui étend artificiellement le jeu de données en faisant varier l'éclairage, la rotation et le bruit. De plus, l'utilisation de la plateforme Ultralytics pour mettre en œuvre des pipelines d'apprentissage actif permet aux développeurs d'identifier facilement les échantillons à faible confiance, de les annoter et de réentraîner le modèle. Ce cycle itératif est essentiel pour créer des agents d'IA robustes capables de fonctionner de manière fiable dans des environnements dynamiques et réels.