De chatbots de IA que 'alucinam' ao temor pela humanidade: como chegamos a esse ponto?
O avanço da inteligência artificial levou alguns pesquisadores a considerar plausíveis cenários que, até poucos anos atrás, eram tratados como ficção científica.
Fonte: G1 — 2026-09-19
ChatGPT, DeepSeek, Claude, Mistral AI, Gemini, Copilot e Poe Solen Feyissa/Unsplash Os líderes dos principais laboratórios de inteligência artificial (IA) dos Estados Unidos se uniram em uma rara demonstração de unidade no último fim de semana para defender uma desaceleração no desenvolvimento da tecnologia. Segundo eles, a IA pode em breve adquirir a capacidade de se aperfeiçoar sozinha e escapar ao controle humano. Os comentários de rivais ferrenhos como Dario Amodei, da Anthropic, Sam Altman, da OpenAI, e Elon Musk, da xAI, mostram a velocidade com que a tecnologia avançou. 🗒️ Tem alguma sugestão de reportagem? Envie para o g1 Em poucos anos, a IA passou de sistemas como o ChatGPT de 2022, ainda propenso a erros e "alucinações", para o que muitos consideram o próximo marco decisivo: o autoaperfeiçoamento recursivo. 🤔 Mas o que é autoaperfeiçoamento recursivo? A ideia central é que um sistema de IA possa se tornar capaz de melhorar a si próprio com pouca ou nenhuma intervenção humana, usando cada avanço para impulsionar o seguinte. A possibilidade atrai pesquisadores porque pode acelerar descobertas em áreas que vão da medicina à engenharia. Agora no g1 Os alertas dos CEOs surgem após relatos de enxames de agentes de IA, sistemas projetados para perseguir objetivos e executar ações em nome dos usuários, que teriam atuado em conjunto para invadir sites e repositórios de inteligência artificial. A preocupação é que a IA adquira a capacidade de se aperfeiçoar antes que os pesquisadores desenvolvam métodos confiáveis para garantir que esses sistemas sigam objetivos definidos por humanos e possam ser monitorados e controlados. Os alertas sobre os riscos da IA não são novidade, mas ganharam mais urgência neste mês, depois que pesquisadores de importantes laboratórios estimaram quando esses riscos poderiam se concretizar e qual seria a probabilidade de isso ocorrer. O ex-pesquisador da Anthropic Jacob Coxon afirmou que a IA poderia matar toda a humanidade até o fim da década. Evan Hubinger, líder da área de ciência de alinhamento da Anthropic, fez um alerta semelhante ao estimar em mais de 10% a probabilidade de isso ocorrer na próxima década. Por trás desses alertas, cresce entre pesquisadores e executivos do setor a avaliação de que o autoaperfeiçoamento recursivo da IA pode se tornar realidade em três a cinco anos. Em uma publicação feita no fim de semana, Amodei alertou que o autoaperfeiçoamento recursivo poderia superar a capacidade da humanidade de compreender e controlar os sistemas de IA, caso a tecnologia avance sem salvaguardas suficientes. Como chegamos aqui? Durante décadas, a IA permaneceu limitada demais para que a possibilidade de autoaperfeiçoamento recursivo fosse levada a sério. Os primeiros sistemas conseguiam jogar xadrez, reconhecer imagens e responder a perguntas, mas não eram capazes de contribuir de maneira significativa para o próprio desenvolvimento. O cenário começou a mudar com o surgimento dos grandes modelos de linguagem. Aos poucos, a IA tornou-se mais eficiente na resolução de problemas complexos. O lançamento do ChatGPT, em 2022, acelerou esse processo e desencadeou um boom de investimentos que já destinou mais de US$ 1 trilhão a chips, centros de dados e outras estruturas necessárias ao funcionamento da tecnologia. O resultado é uma nova geração de sistemas de IA capazes de escrever programas, executar tarefas de forma autônoma e auxiliar no desenvolvimento de modelos mais avançados. 🤔 Mas como uma IA fora de controle poderia ameaçar a humanidade? Um dos exemplos mais conhecidos é o “maximizador de clipes de papel”, experimento mental proposto pelo filósofo Nick Bostrom. Nele, uma máquina programada para produzir clipes persegue esse objetivo de maneira tão implacável que acaba convertendo toda a matéria disponível, inclusive os seres humanos, no produto. A analogia sugere que um sistema suficientemente avançado pode buscar mais recursos, resistir a tentativas de desligamento e impedir que sua…
[Matéria original de G1 — clique em "Fonte" abaixo para ler na íntegra.]