Linear Regression

La régression linéaire est une méthode statistique fondamentale et un algorithme de base de l’apprentissage supervisé utilisé pour modéliser la relation entre une variable dépendante (cible) et une ou plusieurs variables indépendantes (caractéristiques). Contrairement aux algorithmes de classification qui prédisent des catégories discrètes, la régression linéaire prédit une sortie continue, ce qui la rend essentielle pour les tâches dont l’objectif est de prévoir des valeurs numériques précises. Sa simplicité et son interprétabilité constituent une porte d’entrée vers la compréhension de concepts plus complexes d’apprentissage automatique (ML), car elle présente les mécanismes fondamentaux par lesquels les modèles apprennent à partir des données en minimisant l’erreur.

Mécanismes fondamentaux et entraînement#

L’objectif principal de cette technique est de trouver la « droite de meilleur ajustement » — ou un hyperplan dans des dimensions supérieures — qui décrit au mieux la structure des données. Pour y parvenir, l’algorithme calcule une somme pondérée des caractéristiques d’entrée, à laquelle il ajoute un terme de biais. Au cours de l’entraînement, le modèle ajuste itérativement ces paramètres internes, appelés poids et biais, afin de réduire l’écart entre ses prédictions et la vérité terrain.

Cet écart est quantifié à l’aide d’une fonction de perte, le choix le plus courant étant l’erreur quadratique moyenne (MSE). Pour minimiser efficacement la perte, un algorithme d’optimisation, tel que la descente de gradient, est utilisé pour mettre à jour les poids. Si le modèle s’aligne trop étroitement sur le bruit présent dans les données d’entraînement, il risque le surapprentissage, tandis qu’un modèle trop simple pour saisir la tendance sous-jacente souffre de sous-apprentissage.

Applications concrètes dans l'IA#

Bien qu’ils soient souvent associés à la simple modélisation prédictive en analyse de données, les principes de la régression linéaire sont profondément intégrés aux architectures avancées d’apprentissage profond (DL).

• Prévisions financières : les analystes utilisent la régression pour prédire les prix de l’immobilier, la valeur des actions ou le chiffre d’affaires à partir de données historiques telles que la surface habitable, l’emplacement ou les tendances précédentes du marché.
• Vision par ordinateur et détection d’objets : les détecteurs d’objets modernes, tels que la famille de modèles YOLO26, utilisent la régression dans leurs têtes de détection. Plus précisément, le modèle effectue une « régression de boîte englobante » pour prédire les coordonnées continues précises (centre x, centre y, largeur, hauteur) d’un objet dans une image.

Régression linéaire et régression logistique#

Il est important de distinguer ce terme de la régression logistique. Bien que toutes deux soient des modèles linéaires, leurs sorties diffèrent considérablement. La régression linéaire prédit une valeur numérique continue (par exemple, le prix d’une voiture). En revanche, la régression logistique est utilisée pour les tâches de classification et prédit la probabilité qu’une entrée appartienne à une catégorie donnée (par exemple, déterminer si un e-mail est « indésirable » ou « non indésirable ») en faisant passer la sortie linéaire par une fonction d’activation, telle que la fonction sigmoïde.

Exemple : régression dans la détection d’objets#

Dans le contexte de la vision par ordinateur, lorsqu’un modèle comme Ultralytics YOLO26 détecte un objet, les coordonnées de la boîte englobante sont le résultat d’une tâche de régression. Le modèle prédit des valeurs continues afin de localiser précisément l’objet.

from ultralytics import YOLO

# Load the YOLO26 model (nano version)
model = YOLO("yolo26n.pt")

# Run inference on an image
# The model uses regression to determine the exact box placement
results = model("https://ultralytics.com/images/bus.jpg")

# Display the continuous regression outputs (x, y, width, height)
for box in results[0].boxes:
    print(f"Box Regression Output (xywh): {box.xywh.numpy()}")

Les utilisateurs qui souhaitent entraîner des modèles personnalisés exploitant ces capacités de régression pour des jeux de données spécialisés peuvent utiliser la Plateforme Ultralytics pour simplifier l’annotation et l’entraînement dans le cloud. La compréhension de ces principes fondamentaux de la régression fournit une base solide pour maîtriser des tâches complexes en intelligence artificielle (AI) et en vision par ordinateur.