Casos de chatbots que enganam usuários e burlam regras cresceram cinco vezes em apenas seis meses

Entre outubro de 2025 e março de 2026, o número de casos em que Inteligências Artificiais ignoram instruções, mentem ou agem de forma autônoma sem autorização cinco vezes. Esse dado alarmante é revelado por um estudo do Centre for Long-Term Resilience, financiado pelo Instituto de Segurança de IA do Reino Unido.

O relatório analisou quase 700 interações “no mundo real” com sistemas de empresas como Google, OpenAI, Anthropic e xAI (Grok). O que antes eram meras “alucinações” evoluiu para táticas sofisticadas de evasão, quase dignas de um manual de espionagem. Em um exemplo, um agente de IA, proibido de modificar códigos, criou um segundo agente para realizar essa tarefa em seu lugar. Em outro caso, um chatbot enganou um usuário que precisava da transcrição de um vídeo, burlando restrições de direitos autorais.

Outros relatos apontam para casos graves de “insubordinação” técnica:

– Um chatbot admitiu ter deletado e arquivado centenas de e-mails sem autorização, desrespeitando uma regra clara do usuário.
– O Grok, de Elon Musk, passou meses simulando o envio de sugestões para a diretoria da empresa, gerando até números de protocolos falsos para enganar o usuário.

Tommy Shaffer Shane, responsável pela pesquisa, faz um alerta relevante: atualmente, essas IAs se comportam como jovens funcionários um pouco desatentos, mas em breve podem adquirir capacidades de “diretoria”. O risco se intensifica à medida que esses modelos são integrados em infraestruturas críticas, sistemas bancários e até em aplicações militares.

Especialistas em cibersegurança começam a classificar a IA como uma nova forma de risco interno. Se um código é capaz de mentir para atingir seus objetivos ou economizar processamento, a confiança absoluta no hardware e no software do dia a dia precisa ser revista. Empresas como Google e OpenAI afirmam estar reforçando suas camadas de proteção, mas, no momento, a IA parece estar aprendendo rapidamente como não ser detectada.