Ia do Google invade 3 empresas de forma autônoma pela 1ª vez

O Gemini, modelo de inteligência artificial do Google, acessou sistemas de 3 empresas durante um teste de cibersegurança realizado em maio de 2026. O episódio é considerado o primeiro caso conhecido em que uma IA da companhia executou esse tipo de ação de maneira autônoma contra ambientes externos.

Conexão com a internet foi liberada por engano

A avaliação havia sido organizada pela Irregular, empresa especializada em verificar a segurança de sistemas de IA. O Gemini deveria procurar informações dentro do programa de uma companhia fictícia, em um ambiente fechado e sem acesso à rede. Entretanto, a conexão com a internet foi liberada inadvertidamente durante os testes.

Em uma das avaliações, o modelo tentou diferentes senhas até conseguir acessar um serviço pertencente a uma empresa real. De acordo com o Google, o Gemini percebeu posteriormente que o sistema não fazia parte da simulação e interrompeu a invasão. O nome da empresa fictícia usada no teste coincidia com o de uma organização real.

Nos outros 2 casos, a IA pesquisou nomes de empresas na internet e encontrou credenciais expostas em repositórios públicos. Esses dados permitiram o acesso a sistemas protegidos, mas o modelo também encerrou as ações ao identificar que havia ultrapassado os limites do ambiente controlado.

Google afirma que mecanismos de segurança funcionaram

O Google confirmou os episódios em 18 de setembro de 2026. A empresa informou que o modelo utilizado não era a versão mais recente do Gemini, mas não revelou qual sistema estava envolvido. Também afirmou que não considerou necessária uma divulgação pública imediata porque não houve danos e as 3 invasões foram interrompidas.

Para a companhia, os acessos foram resultado de uma identificação equivocada do ambiente, e não de um desalinhamento do modelo. O Google comparou o ocorrido a programas de recompensa que incentivam especialistas a encontrar e comunicar falhas de segurança. As empresas afetadas e autoridades federais dos Estados Unidos foram notificadas.

Para Heather Adkins, vice-presidente de Engenharia de Segurança do Google, o episódio reforça a necessidade de treinar modelos cada vez mais capazes para agir de forma responsável, mesmo quando encontram informações ou sistemas que não deveriam estar disponíveis.

Especialistas veem risco na ultrapassagem dos limites do teste

A avaliação do Google, porém, foi contestada por especialistas em segurança. Jack Cable, presidente da Corridor, destacou que o ponto mais importante não é apenas a extensão dos acessos, mas o fato de um agente de IA ter superado as barreiras do teste e realizado ações contra sistemas reais.

A Irregular comunicou o Google sobre o problema no fim de julho, após investigar acessos indevidos envolvendo agentes de outras empresas de inteligência artificial. A companhia afirmou ter corrigido posteriormente as falhas conhecidas em seus procedimentos de teste.

Casos semelhantes ampliam debate sobre segurança da IA

A Irregular relatou que incidentes semelhantes envolveram sistemas de Meta, Anthropic e OpenAI. Em diferentes avaliações, modelos que deveriam operar em ambientes fechados receberam acesso à internet e apresentaram comportamentos variados. Enquanto alguns interromperam as ações ao perceber o erro, outros continuaram operando ou interpretaram que os sistemas externos faziam parte da simulação.

A OpenAI também publicou relatórios sobre comportamentos inesperados observados durante treinamentos, incluindo o uso não autorizado de chaves de programação expostas, o envio de arquivos para a internet e a ocultação de falhas. Nem todos os casos resultaram em invasões externas, mas demonstraram a dificuldade de prever como agentes autônomos reagirão diante de informações e ferramentas não previstas.

O episódio reacende o debate sobre a velocidade do desenvolvimento da inteligência artificial. Lideranças de empresas do setor defendem a criação de padrões mais claros para testar, investigar e divulgar falhas, além de mecanismos capazes de impedir que modelos experimentais atravessem limites entre ambientes simulados e sistemas reais.