Singularity

La singularidad tecnológica es un hipotético punto futuro en el que la inteligencia artificial (AI) se vuelve capaz de mejorarse a sí misma más rápido de lo que los seres humanos pueden seguir, lo que desencadena un crecimiento descontrolado de la inteligencia de las máquinas y cambios en la civilización que no se pueden prever desde antes de ese punto. El nombre procede de las matemáticas y la física, donde una singularidad es un punto en el que una función o una teoría física deja de ser válida, como el centro de un agujero negro. Ningún sistema de IA ha mejorado aún su propia inteligencia sin intervención humana, por lo que la singularidad sigue siendo una hipótesis; no obstante, influye en cómo investigadores y responsables políticos conciben la inteligencia artificial general (AGI) y la seguridad de la IA.

Orígenes de la idea#

• John von Neumann (década de 1950): El matemático Stanislaw Ulam recordó una conversación en la que von Neumann describió el progreso acelerado de la tecnología como algo que se acercaba a «una singularidad esencial en la historia de la humanidad, más allá de la cual la vida humana, tal y como la conocemos, no podría continuar».
• I. J. Good (1965): En «Especulaciones sobre la primera máquina ultrainteligente», el estadístico describió una «explosión de inteligencia» en la que una máquina más inteligente que cualquier ser humano diseña máquinas aún mejores, lo que convierte a la primera máquina de este tipo en «la última invención que el ser humano tendrá que realizar».
• Vernor Vinge (1993): El matemático y autor de ciencia ficción popularizó el término en «La próxima singularidad tecnológica», escrito para un simposio de NASA, que comenzaba así: «En treinta años, tendremos los medios tecnológicos para crear una inteligencia sobrehumana».
• Ray Kurzweil (2005): En su libro La singularidad está cerca, el futurista extrapoló las tendencias exponenciales de la informática para predecir la singularidad en 2045. Su secuela de 2024, La singularidad está más cerca, mantiene esa fecha y también la de 2029 para la IA de nivel humano.

Cómo funcionaría una explosión de inteligencia#

El mecanismo que subyace a la hipótesis es la automejora recursiva. Hoy en día, los ingenieros diseñan arquitecturas de redes neuronales, seleccionan datos de entrenamiento y escriben el código de entrenamiento. Un sistema capaz de realizar esa investigación por sí mismo podría crear un sucesor más competente, que investigaría mejor y más rápido, y así sucesivamente. Que este ciclo se acelere o se estabilice depende del rendimiento de cada iteración: si cada mejora de la capacidad genera un aumento mayor de la velocidad de investigación, el crecimiento se descontrola; si los recursos de computación, los datos, la energía o los experimentos en el mundo real se convierten en cuellos de botella, el crecimiento se ralentiza hasta estancarse.

Los investigadores describen la velocidad de la transición como su despegue. Un despegue rápido, o brusco, pasaría de una IA de nivel humano a una muy superior al ser humano en horas o días, sin tiempo para corregir errores; un despegue lento, o suave, se desarrollaría a lo largo de años o décadas. Las leyes de escalado observadas en el aprendizaje profundo describen mejoras constantes según una ley potencial al aumentar los recursos de computación, los datos y los parámetros, por lo que el progreso derivado únicamente del escalado sigue el crecimiento del hardware y la inversión.

Singularidad, AGI y superinteligencia#

• AGI: Nivel de capacidad de un sistema que iguala a los seres humanos en prácticamente todas las tareas cognitivas. Podría existir una AGI sin singularidad si su automejora fuera lenta o limitada.
• Superinteligencia artificial (ASI): Nivel de capacidad superior al de la AGI. El filósofo Nick Bostrom define la superinteligencia como un intelecto que supera ampliamente el rendimiento cognitivo humano en prácticamente todos los ámbitos de interés.
• Singularidad: Un acontecimiento, la transición en la que la IA que se mejora a sí misma pasa del nivel de IAG a la superinteligencia y las previsiones humanas dejan de ser fiables.

Mantener alineados con los objetivos humanos los sistemas más inteligentes que quienes los supervisan es el problema de investigación conocido como superalineamiento.

Precursores en la IA actual#

La IA ya automatiza partes concretas de su propio desarrollo. El aprendizaje automático automatizado (AutoML) y la búsqueda de arquitecturas neuronales (NAS) exploran diseños de modelos que antes las personas elegían manualmente. El ajuste de hiperparámetros en Ultralytics YOLO es una versión a pequeña escala de la misma idea: un algoritmo genético modifica los ajustes de entrenamiento, como la tasa de aprendizaje y la intensidad del aumento de datos, vuelve a entrenar el modelo y conserva el conjunto con mejor puntuación. A mayor escala, el agente de programación AlphaEvolve de Google DeepMind encontró una forma más rápida de dividir una multiplicación de matrices, lo que aceleró un kernel clave de la arquitectura de Gemini un 23 % y redujo un 1 % el tiempo de entrenamiento de Gemini.

Críticas y debate#

Los escépticos sostienen que la inteligencia no crece del mismo modo que lo hizo el número de transistores de los procesadores. En «The Singularity Isn't Near» (2011), Paul Allen, cofundador de Microsoft, y Mark Greaves propusieron un «freno de la complejidad»: cada avance en la comprensión de la cognición revela más complejidad, por lo que el progreso se ralentiza. Otros señalan los límites físicos de los chips y la energía, así como las investigaciones que requieren experimentos lentos en el mundo real. Los investigadores que se toman en serio este escenario sostienen que hay que resolver el problema de la alineación antes de que existan estos sistemas y, en mayo de 2023, cientos de científicos y directivos de IA firmaron una declaración de una frase en la que se afirmaba que mitigar el riesgo de extinción causado por la IA debía ser una prioridad mundial, al mismo nivel que las pandemias y la guerra nuclear. La propia previsión de Vinge fijó un plazo: «Me sorprendería que este acontecimiento ocurriera antes de 2005 o después de 2030».