Strong AI

L’IA forte a deux significations. En philosophie de l’esprit, c’est le terme de John Searle pour désigner l’idée qu’un ordinateur convenablement programmé aurait littéralement un esprit et comprendrait ce qu’il traite ; son argument de la chambre chinoise, formulé en 1980, visait à réfuter cette position. Dans l’usage technique moderne, IA forte est synonyme d’intelligence artificielle générale (AGI) : un système hypothétique qui égalerait les humains dans presque toutes les tâches cognitives. Le terme opposé, IA faible, désigne aujourd’hui généralement l’intelligence artificielle (IA) spécialisée et limitée à des tâches précises utilisée actuellement ; aucun système existant n’est reconnu comme une IA forte dans l’un ou l’autre sens.

L’hypothèse de l’IA forte de Searle#

Searle a introduit ces deux termes dans « Minds, Brains, and Programs », publié dans Behavioral and Brain Sciences. Selon son usage, l’IA faible considère les ordinateurs comme de puissants outils pour simuler et étudier l’esprit. L’IA forte va plus loin : « l’ordinateur convenablement programmé est réellement un esprit, au sens où l’on peut littéralement dire que les ordinateurs dotés des bons programmes comprennent et possèdent d’autres états cognitifs ». Cette hypothèse découle du computationnalisme, selon lequel la pensée est un calcul ; toute machine exécutant le bon programme penserait donc, quelle que soit sa composition.

L’argument de la chambre chinoise#

Dans son argument de la chambre chinoise, Searle imagine une personne qui ne parle pas chinois, enfermée dans une pièce avec un livre de règles rédigé en anglais. Des questions en chinois arrivent par une fente ; la personne fait correspondre les caractères aux règles et recopie les caractères indiqués par celles-ci. Les réponses convainquent les sinophones à l’extérieur que quelqu’un dans la pièce comprend le chinois. La personne ne comprend rien, et Searle soutient qu’un ordinateur exécutant un programme se trouve dans la même situation : il manipule des symboles selon leur forme, et la syntaxe seule ne suffit pas à produire du sens. Les critiques ont proposé plusieurs réponses, auxquelles Searle a ensuite répliqué :

• Réponse du système : la personne n’est qu’une partie d’un système comprenant le livre de règles et le papier brouillon, et c’est le système dans son ensemble qui comprend. Searle a répondu qu’il pourrait mémoriser les règles et tout faire mentalement sans pour autant comprendre le chinois.
• Réponse du robot : placer le programme dans un robot doté de caméras et de moteurs afin que ses symboles soient reliés aux choses du monde. Searle a répondu que les mesures des capteurs parviennent au programme sous la forme de symboles supplémentaires à manipuler. Un robot dont le flux caméra passe par un détecteur Ultralytics YOLO26 reçoit l’indice de classe 0, un score de confiance et les coordonnées de la boîte lorsqu’une personne entre dans son champ de vision ; selon Searle, cela ajoute des données, pas de la compréhension. Stevan Harnad a ensuite formulé la question sous-jacente comme le problème de l’ancrage des symboles : comment les symboles peuvent-ils acquérir du sens grâce à la perception et à l’action propres d’un système dans le monde ?
• Réponse du simulateur cérébral : demander au programme de simuler chaque décharge neuronale dans le cerveau d’un sinophone. Searle a répondu par l’exemple d’un homme faisant fonctionner un vaste système de tuyaux et de vannes reproduisant ces décharges ; cet homme ne comprendrait pas davantage que le cerveau simulé, car la simulation d’un cerveau n’est pas un cerveau.
• Réponse des autres esprits : les gens attribuent une compréhension aux autres uniquement à partir de leur comportement ; les mêmes éléments devraient donc compter pour les ordinateurs. Searle a répondu que la question porte sur la nature de la compréhension, et non sur la façon dont nous savons qu’une personne comprend.

IA forte, AGI, test de Turing et conscience#

• AGI : Une question de capacités, mesurées par ce qu’un système peut faire. L’IA forte de Searle porte sur la compréhension intérieure ; selon lui, une machine pourrait réussir tous les tests comportementaux sans rien comprendre. Des futurologues comme Ray Kurzweil emploient « IA forte » pour désigner une AGI de niveau humain, sens qu’adoptent aujourd’hui la plupart des textes techniques, notamment ceux sur les applications potentielles et les défis de l’IA forte.
• Test de Turing : en 1950, Alan Turing a proposé de remplacer la question « Les machines peuvent-elles penser ? » par un jeu d’imitation évalué uniquement à partir d’une conversation. La chambre chinoise vise précisément le passage de la réussite à un tel test à une véritable compréhension.
• Conscience : l’IA forte au sens de Searle implique des états mentaux, que de nombreux philosophes associent à l’expérience subjective. Un rapport de 2023 rédigé par 19 chercheurs a évalué des systèmes d’IA selon des propriétés indicatrices issues de théories neuroscientifiques de la conscience et conclu qu’« aucun système d’IA actuel n’est conscient », tout en précisant qu’il n’existe « aucun obstacle technique évident » à la création de systèmes satisfaisant ces critères.

IA forte et modèles de langage#

Les modèles de langage de grande taille (LLM) ont relancé le débat, puisqu’ils conversent couramment en chinois et dans de nombreuses autres langues, comme le ferait la personne dans la chambre. Emily Bender et Alexander Koller ont soutenu dans un article de 2020 qu’un système entraîné uniquement sur la forme linguistique ne peut pas apprendre le sens, tandis que d’autres invoquent des éléments témoignant de modèles du monde internes. Dans « Emergent World Representations » (ICLR 2023), des chercheurs ont entraîné un modèle GPT uniquement sur des séquences de coups légaux au jeu Othello, ont découvert que des sondes pouvaient lire l’état actuel du plateau dans ses activations, et ont montré que la modification de cet état interne du plateau changeait les coups prédits par le modèle.