Statistical AI

L’IA statistique est une approche de l’intelligence artificielle qui construit des systèmes en estimant des tendances et des probabilités à partir de données plutôt qu’en encodant des règles écrites à la main. Un système statistique représente explicitement l’incertitude, ajuste ses paramètres à partir d’exemples et est évalué selon ses performances sur des données qu’il n’a pas vues. Presque toute l’IA moderne fonctionne ainsi, des filtres antispam et des systèmes de reconnaissance vocale aux détecteurs d’objets et aux grands modèles de langage (LLM), qui attribuent une probabilité à chaque jeton possible suivant. Le terme est surtout employé par opposition à l’IA symbolique, tradition fondée sur les règles et la logique qui a dominé les premières décennies du domaine.

Des règles aux probabilités#

Des années 1950 aux années 1980, la plupart des recherches en IA privilégiaient les méthodes symboliques : logique, recherche et systèmes experts dont les ingénieurs des connaissances rédigeaient les règles sous forme de conditions « si-alors ». Ces systèmes fonctionnaient dans des domaines restreints et bien définis, mais échouaient face aux entrées bruitées ou ambiguës ; chaque nouvelle situation nécessitait de nouvelles règles. Dans les années 1980 et 1990, les méthodes probabilistes ont pris le dessus dans un domaine après l’autre. Les modèles de Markov cachés sont devenus la base de la reconnaissance vocale ; le livre de Judea Pearl paru en 1988 sur les réseaux bayésiens a rendu le raisonnement probabiliste pratique, des travaux récompensés plus tard par le prix Turing 2011 ; des chercheurs d’IBM ont publié une approche statistique de la traduction automatique en 1990 ; et les machines à vecteurs de support ont suivi en 1995. Depuis 2012, l’apprentissage profond a étendu cette même approche, des caractéristiques conçues manuellement aux pixels bruts, à l’audio et au texte.

Idées fondamentales#

• Modèles probabilistes : Les croyances sont représentées par des distributions de probabilités, et le théorème de Bayes met à jour une croyance a priori en tenant compte de la vraisemblance de nouveaux éléments pour obtenir une croyance a posteriori. Cette même mise à jour est utilisée par les filtres antispam, les modèles diagnostiques et les systèmes de suivi d’objets.
• Apprentissage par estimation : L’entraînement sélectionne les paramètres qui rendent les données observées les plus probables ; pour la plupart des modèles, cela revient à minimiser une fonction de perte, généralement par descente de gradient.
• Généralisation : Un modèle flexible peut s’ajuster au bruit de son jeu d’entraînement ; ses performances sont donc mesurées sur des données mises de côté. Le compromis biais-variance décrit l’équilibre entre des modèles trop simples et des modèles trop flexibles pour les données.
• Confiance graduée : Les prédictions sont accompagnées de probabilités que les systèmes en aval peuvent seuiller, classer ou combiner à d’autres éléments.

Un filtre antispam naïf bayésien illustre ces idées en quelques lignes. Il estime la fréquence d’apparition de chaque mot dans les courriels indésirables et les courriels ordinaires, puis combine ces estimations avec le théorème de Bayes pour évaluer un nouveau message :

from sklearn.feature_extraction.text import CountVectorizer
from sklearn.naive_bayes import MultinomialNB

# Labeled examples replace hand-written rules: 1 = spam, 0 = not spam
messages = ["win a free prize now", "claim your free cash reward", "limited offer, click now to win"]
messages += ["meeting moved to monday", "can you review my draft today", "lunch with the team on friday"]
labels = [1, 1, 1, 0, 0, 0]

# Count words, then estimate each word's probability under each class
vectorizer = CountVectorizer()
model = MultinomialNB()
model.fit(vectorizer.fit_transform(messages), labels)

for text in ["free prize inside", "draft for monday", "free lunch on friday"]:
    spam_probability = model.predict_proba(vectorizer.transform([text]))[0, 1]
    print(f"{text!r}: P(spam) = {spam_probability:.2f}")

« free prize inside » obtient une probabilité de courrier indésirable de 0.86 et « draft for monday », de 0.21, tandis que « free lunch on friday », qui mélange des mots des deux classes, obtient 0.29. Le modèle a appris que « free » signalait un courrier indésirable à partir de seulement six messages étiquetés.

Familles de méthodes statistiques#

L’IA statistique couvre aussi bien les petits modèles probabilistes que les réseaux profonds comptant des milliards de paramètres, et ces familles arbitrent entre structure intégrée et données. Les modèles graphiques encodent explicitement les dépendances et fonctionnent avec peu de données ; les méthodes classiques, comme les k plus proches voisins, et les arbres boostés par gradient, tels que XGBoost et LightGBM, apprennent à partir de tableaux de caractéristiques ; les réseaux profonds apprennent leurs propres caractéristiques à partir des entrées brutes :

IA statistique et termes apparentés#

• IA symbolique : Représente les connaissances sous forme de symboles et de règles explicites, comme les énoncés « si-alors » d’un système expert, et en déduit des conclusions par inférence logique. Son raisonnement peut être suivi étape par étape et ne nécessite aucune donnée d’entraînement ; il échoue en revanche face aux entrées que ses règles ne couvrent pas.
• Apprentissage automatique : La principale pratique de l’IA statistique. Les deux termes se recoupent presque entièrement, et « IA statistique » est surtout utilisé pour opposer les méthodes fondées sur les données aux méthodes symboliques.
• IA neuro-symbolique : Associe des modèles appris au raisonnement symbolique, comme un LLM qui appelle une calculatrice, une requête de base de données ou un démonstrateur de théorèmes.
• Logique floue : Attribue des degrés de vérité entre 0 et 1 à des affirmations vagues comme « la pièce est chaude » ; cette mesure du flou est distincte de la probabilité d’un événement.

Applications concrètes#

• Filtrage des courriers indésirables : L’essai de Paul Graham paru en 2002, A Plan for Spam, a popularisé les filtres bayésiens qui apprennent les probabilités des mots à partir des courriels de chaque utilisateur ; les filtres actuels appliquent la même idée à bien davantage de signaux.
• Traduction automatique : Google Traduction a été lancé en 2006 avec la traduction automatique statistique, qui apprenait les probabilités de traduction de segments à partir de textes parallèles, puis est passé à la traduction automatique neuronale en 2016.
• Génération de texte : Les LLM produisent du texte en échantillonnant, à chaque étape, une distribution de probabilités sur leur vocabulaire ; un paramètre de température rend cette distribution plus concentrée ou plus uniforme avant chaque échantillonnage.
• Perception visuelle : Les détecteurs d’objets sont des modèles statistiques de bout en bout. Ultralytics YOLO26 apprend ses poids en minimisant une perte sur des images étiquetées, renvoie un score de confiance avec chaque boîte et, en mode prédiction, élimine les boîtes dont le score est inférieur au seuil conf, fixé à 0.25 par défaut.