Strong AI

La IA fuerte tiene dos significados. En la filosofía de la mente, es el nombre que John Searle dio a la afirmación de que un ordenador programado adecuadamente tendría literalmente una mente y comprendería lo que procesa; su argumento de la habitación china de 1980 se escribió para refutar esa postura. En el uso técnico moderno, IA fuerte es sinónimo de inteligencia artificial general (AGI): un sistema hipotético que igualaría a las personas en prácticamente todas las tareas cognitivas. El término opuesto, IA débil, suele referirse ahora a la inteligencia artificial limitada y específica para cada tarea (IA) que se utiliza hoy; no se considera que ningún sistema existente sea IA fuerte en ninguno de los dos sentidos.

La hipótesis de la IA fuerte de Searle#

Searle introdujo ambos términos en «Minds, Brains, and Programs», publicado en Behavioral and Brain Sciences. En el uso que les daba, la IA débil sostiene que los ordenadores son herramientas potentes para simular y estudiar la mente. La IA fuerte va más allá: «el ordenador programado adecuadamente es realmente una mente, en el sentido de que puede decirse literalmente que los ordenadores dotados de los programas adecuados comprenden y tienen otros estados cognitivos». La hipótesis se deriva del computacionalismo, la idea de que pensar es computar; por tanto, cualquier máquina que ejecute el programa adecuado pensaría, independientemente de su composición.

El argumento de la habitación china#

En el argumento de la habitación china, Searle imagina a una persona que no habla chino encerrada en una habitación con un libro de reglas escrito en inglés. Las preguntas en chino llegan por una ranura; la persona compara los caracteres con las reglas y copia los caracteres que estas indican, y las respuestas convencen a los hablantes nativos del exterior de que alguien en la habitación entiende chino. La persona no entiende nada, y Searle argumentó que un ordenador que ejecuta un programa se encuentra en la misma situación: manipula símbolos según su forma, y la sintaxis por sí sola no basta para dotarlos de significado. Sus críticos respondieron con varios argumentos, que Searle refutó a continuación:

• Respuesta de los sistemas: La persona es solo una parte de un sistema que incluye el libro de reglas y el papel para hacer anotaciones, y el sistema en su conjunto entiende. Searle respondió que podía memorizar las reglas y hacerlo todo mentalmente, y aun así no entendería chino.
• Respuesta del robot: Introduce el programa en un robot con cámaras y motores para que sus símbolos se conecten con elementos del mundo. Searle respondió que las lecturas de los sensores llegan al programa como más símbolos que manipular. Si una persona aparece ante un robot cuya señal de cámara pasa por un detector Ultralytics YOLO26, este recibe el índice de clase 0, una puntuación de confianza y las coordenadas del cuadro; según Searle, eso añade datos, pero no comprensión. Más adelante, Stevan Harnad planteó la pregunta de fondo como el problema de fundamentación de símbolos: cómo pueden adquirir significado los símbolos mediante la percepción y la acción del propio sistema en el mundo.
• Respuesta del simulador cerebral: Haz que el programa simule cada neurona que se activa en el cerebro de un hablante de chino. Searle respondió con el ejemplo de un hombre que maneja un enorme sistema de tuberías y válvulas que reproduce esas activaciones; el hombre no entendería nada más que antes, porque una simulación de un cerebro no es un cerebro.
• Respuesta de las otras mentes: Las personas solo atribuyen comprensión a otras personas por su comportamiento, así que las mismas pruebas deberían valer para los ordenadores. Searle respondió que la cuestión es qué es la comprensión, no cómo sabemos que alguien la tiene.

IA fuerte frente a AGI, la prueba de Turing y la consciencia#

• AGI: Una cuestión de capacidad, medida por lo que puede hacer un sistema. La IA fuerte de Searle plantea una cuestión de comprensión interna y, según su postura, una máquina podría superar todas las pruebas de comportamiento y seguir sin entender nada. Futuristas como Ray Kurzweil utilizan «IA fuerte» para referirse a una AGI de nivel humano, el sentido que adopta hoy la mayoría de la literatura técnica, incluidos los análisis de las posibles aplicaciones y los retos de la IA fuerte.
• Prueba de Turing: En 1950, Alan Turing propuso sustituir la pregunta «¿Pueden pensar las máquinas?» por un juego de imitación que se evalúa únicamente mediante una conversación. La habitación china cuestiona precisamente el paso de superar una prueba así a tener una comprensión genuina.
• Consciencia: La IA fuerte en el sentido de Searle implica estados mentales, que muchos filósofos vinculan a la experiencia subjetiva. Un informe de 2023 elaborado por 19 investigadores evaluó sistemas de IA con propiedades indicadoras extraídas de teorías neurocientíficas de la consciencia y concluyó que «ningún sistema de IA actual es consciente», aunque «no hay obstáculos técnicos evidentes» para crear sistemas que cumplan los indicadores.

IA fuerte y modelos de lenguaje#

Los modelos de lenguaje grandes (LLM) reavivaron el debate, ya que conversan con fluidez en chino y en muchos otros idiomas, de forma muy parecida a la habitación. Emily Bender y Alexander Koller sostuvieron en un artículo de 2020 que un sistema entrenado únicamente con la forma lingüística no puede aprender el significado, mientras que otros señalan las pruebas de que existen modelos internos del mundo. En «Representaciones emergentes del mundo» (ICLR 2023), unos investigadores entrenaron un modelo GPT exclusivamente con secuencias de movimientos legales de Othello, descubrieron que los sondeos podían leer el estado actual del tablero a partir de sus activaciones y demostraron que editar ese estado interno del tablero cambiaba los movimientos que predecía el modelo.