Singularity

A singularidade tecnológica é um ponto futuro hipotético em que a inteligência artificial (AI) se torna capaz de se aprimorar mais rápido do que os humanos conseguem acompanhar, desencadeando um crescimento descontrolado da inteligência das máquinas e mudanças na civilização que não podem ser previstas antes desse ponto. O nome vem da matemática e da física, nas quais uma singularidade é um ponto em que uma função ou teoria física deixa de funcionar, como o centro de um buraco negro. Nenhum sistema de IA ainda aprimorou a própria inteligência sem orientação humana, então a singularidade continua sendo uma hipótese, mas ela influencia a forma como pesquisadores e legisladores pensam sobre inteligência artificial geral (AGI) e segurança da IA.

Origens da ideia#

• John von Neumann (década de 1950): O matemático Stanislaw Ulam relembrou uma conversa em que von Neumann descreveu o progresso acelerado da tecnologia como uma aproximação a “alguma singularidade essencial na história da humanidade, além da qual os assuntos humanos, tal como os conhecemos, não poderiam continuar”.
• I. J. Good (1965): Em “Speculations Concerning the First Ultraintelligent Machine”, o estatístico descreveu uma “explosão de inteligência” em que uma máquina mais inteligente que qualquer ser humano projeta máquinas ainda melhores, tornando a primeira máquina desse tipo “a última invenção que o ser humano precisaria fazer”.
• Vernor Vinge (1993): O matemático e escritor de ficção científica popularizou o termo em “The Coming Technological Singularity”, escrito para um simpósio da NASA, que começava com “Dentro de trinta anos, teremos os meios tecnológicos para criar uma inteligência sobre-humana”.
• Ray Kurzweil (2005): O livro do futurista The Singularity Is Near extrapolou as tendências exponenciais da computação para prever a singularidade em 2045, e sua continuação de 2024, The Singularity Is Nearer, mantém essa data e prevê uma IA de nível humano para 2029.

Como funcionaria uma explosão de inteligência#

O mecanismo por trás da hipótese é o autoaperfeiçoamento recursivo. Hoje, engenheiros humanos projetam arquiteturas de redes neurais, selecionam dados de treinamento e escrevem o código de treinamento. Um sistema capaz de realizar essa pesquisa sozinho poderia construir um sucessor mais capaz, que faria a pesquisa melhor e mais rápido, e assim por diante. O ciclo se acelerará ou perderá força dependendo dos ganhos de cada etapa: se cada ganho de capacidade proporcionar um aumento ainda maior na velocidade da pesquisa, o crescimento ficará descontrolado; se o poder computacional, os dados, a energia ou os experimentos no mundo real se tornarem gargalos, o crescimento desacelerará até se estabilizar.

Os pesquisadores chamam de decolagem a velocidade da transição. Uma decolagem rápida, ou abrupta, passaria de uma IA de nível humano a uma IA muito superior à humana em horas ou dias, sem tempo para corrigir erros; uma decolagem lenta, ou gradual, se desenrolaria ao longo de anos ou décadas. As leis de escala observadas no aprendizado profundo descrevem ganhos constantes, segundo leis de potência, à medida que aumentam o poder computacional, os dados e os parâmetros; por isso, o progresso obtido apenas com a escala acompanha o crescimento do hardware e dos investimentos.

Singularidade versus AGI e superinteligência#

• AGI: Um nível de capacidade: um sistema que se equipara aos humanos em praticamente todas as tarefas cognitivas. A AGI poderia existir sem uma singularidade caso seu autoaperfeiçoamento fosse lento ou limitado.
• Superinteligência artificial (ASI): Um nível de capacidade superior à AGI. O filósofo Nick Bostrom define superinteligência como um intelecto que supera amplamente o desempenho cognitivo humano em praticamente todos os domínios de interesse.
• Singularidade: Um evento, a transição em que a IA que se aprimora passa do nível de AGI à superinteligência, e as previsões humanas deixam de funcionar.

Manter sistemas mais inteligentes do que quem os supervisiona alinhados com os objetivos humanos é o problema de pesquisa conhecido como superalinhamento.

Precursores na IA atual#

A IA já automatiza partes específicas do próprio desenvolvimento. O aprendizado de máquina automatizado (AutoML) e a busca por arquitetura neural (NAS) exploram projetos de modelos que antes as pessoas escolhiam manualmente. O ajuste de hiperparâmetros no Ultralytics YOLO é uma versão em pequena escala da mesma ideia: um algoritmo genético modifica configurações de treinamento, como a taxa de aprendizado e a intensidade da aumentação, treina o modelo novamente e mantém o conjunto com melhor pontuação. Em maior escala, o agente de programação AlphaEvolve, do Google DeepMind, encontrou uma maneira mais rápida de dividir uma multiplicação de matrizes, acelerando em 23% um kernel importante da arquitetura do Gemini e reduzindo o tempo de treinamento do Gemini em 1%.

Críticas e debate#

Os céticos argumentam que a inteligência não cresce da mesma forma que cresceu a quantidade de transistores dos processadores. Em “The Singularity Isn't Near” (2011), o cofundador da Microsoft, Paul Allen, e Mark Greaves propuseram um “freio da complexidade”: cada avanço na compreensão da cognição revela mais complexidade, então o progresso desacelera. Outros apontam os limites físicos dos chips e da energia, além das pesquisas que exigem experimentos lentos no mundo real. Pesquisadores que levam esse cenário a sério defendem resolver o alinhamento antes que esses sistemas existam e, em maio de 2023, centenas de cientistas e executivos de IA assinaram uma declaração de uma frase afirmando que mitigar o risco de extinção causado pela IA deveria ser uma prioridade global, assim como pandemias e guerra nuclear. A previsão do próprio Vinge estabeleceu um prazo: “Ficarei surpreso se esse evento ocorrer antes de 2005 ou depois de 2030.”