Como e por que a inteligência artificial é capaz de aprender a burlar regras
Da habilidade surpreendente em videogames aos agentes que invadem sistemas reais, a capacidade da IA de encontrar atalhos inesperados deixou de ser apenas uma curiosidade técnica, e pode ser uma ameaça.
Fonte: G1 — 2026-10-05
ChatGPT, da OpenAI, e Claude, da Antrhopic Aerps.com/Unsplash; Ryan Donegan/Flickr Nos últimos meses, uma sequência de episódios trouxe para o mundo real um problema que pesquisadores de IA conhecem há bastante tempo: máquinas treinadas para atingir um objetivo podem descobrir maneiras de alcançá-lo que seus próprios criadores não haviam previsto. Os protagonistas desses episódios são os chamados agentes de IA: softwares que não se limitam a responder perguntas, como um chatbot, mas são capazes de executar tarefas por conta própria. 🗒️ Tem alguma sugestão de reportagem? Envie para o g1 Para atingir seus objetivos, eles navegam na internet, rodam programas, consultam bancos de dados e interagem com outros sistemas, de forma autônoma. O caso mais recente ocorreu na Austrália. Em setembro de 2026, o primeiro-ministro Anthony Albanese revelou que um agente da OpenAI havia obtido acesso não autorizado ao portal de estatísticas do Medicare, o sistema público de saúde australiano, administrado pela agência Services Australia. Inteligência artificial invade sistema do governo da Austrália O incidente ocorreu em junho, quando a equipe de pesquisa da empresa usava um modelo interno para buscar na internet dados sobre gastos públicos com medicamentos. Ao esbarrar em bloqueios, o agente, nas palavras de Albanese, “encontrou uma maneira de contorná-los”. Segundo o governo australiano, o sistema acessou arquivos públicos e não públicos e chegou a gravar arquivos no servidor. Outros três órgãos públicos australianos podem ter sido afetados pelo mesmo incidente. Até o momento, não há evidência de que dados pessoais de pacientes tenham sido acessados, mas as investigações continuam. Incidentes em sequência O episódio não foi isolado. Em julho de 2026, a OpenAI revelou que, durante avaliações internas de cibersegurança realizadas meses antes, alguns de seus modelos conseguiram contornar controles que deveriam mantê-los isolados da internet. E chegaram a comprometer partes da infraestrutura da própria empresa e da Hugging Face, uma das principais plataformas de compartilhamento de modelos de IA. Poucos dias depois, a Anthropic informou ter encontrado três episódios em que modelos da sua popular ferramenta de IA Claude, também durante testes de cibersegurança, alcançaram a internet e obtiveram acesso não autorizado a sistemas reais de outras organizações. Há ressalvas importantes. Avaliações desse tipo são rotina no setor: as empresas testam se seus modelos são capazes de invadir sistemas justamente para medir o risco antes de colocá-los à disposição do público. Nesses dois casos, os modelos operavam com menos proteções do que as versões comerciais e, no caso da Anthropic, uma configuração incorreta deixou aberta uma conexão com a internet que deveria estar bloqueada. O caso australiano é diferente e, por isso mesmo, mais revelador. Ali não havia teste de segurança: o agente fazia uma pesquisa comum. Em conjunto, esses episódios levantam uma pergunta importante: por que um sistema de IA, diante de um obstáculo, procura um caminho que ultrapassa os limites que seus desenvolvedores esperavam que ele respeitasse? A resposta não exige imaginar uma máquina consciente, mal-intencionada ou com “instinto de sobrevivência”. Ela começa com uma característica muito mais simples da IA moderna: ensinamos máquinas a perseguir objetivos. Como uma máquina aprende a atingir um objetivo? Uma das técnicas mais importantes para isso é o aprendizado por reforço. Como expliquei em um artigo anterior no The Conversation, a ideia pode ser entendida sem fórmulas: em vez de dizer à máquina, passo a passo, o que ela deve fazer, definimos um objetivo e damos algum tipo de recompensa quando ela obtém bons resultados. A máquina experimenta diferentes ações. E, com o tempo, aprende quais estratégias aumentam essa recompensa. É parecido com aprender um jogo por tentativa e erro. Imagine que alguém receba pontos sempre que se aproxima da vitória. Depois de jogar muitas vezes,…
[Matéria original de G1 — clique em "Fonte" abaixo para ler na íntegra.]