Erros de código de bot de IA causam quedas na AWS, aponta relatório

Amazon Web Services (AWS) passou por algumas interrupções devido a falhas em agentes de inteligência artificial. Segundo discussões em fóruns e comunidades gamers, a mais recente ocorreu em dezembro do ano passado, quando a ferramenta de codificação Koiro AI decidiu apagar o ambiente em que estava trabalhando, resultando em um desligamento de 13 horas.

Relatos apontam que um funcionário sênior da AWS comentou que já houve pelo menos duas falhas na produção. Os engenheiros deixaram a IA resolver um problema sem supervisão, e, embora os incidentes tenham sido considerados pequenos, eram completamente previsíveis. O impacto da interrupção de dezembro afetou apenas um único serviço em partes da China continental, e o outro incidente não atingiu os serviços voltados para clientes.

A Amazon se pronunciou, afirmando que a participação das ferramentas de IA nesses casos foi apenas uma coincidência e que problemas semelhantes teriam ocorrido mesmo com outros ferramentas de desenvolvimento ou ações manuais. De acordo com a empresa, “em ambas as situações, isso foi erro do usuário, não erro da IA”.

Funcionários da AWS comentam que as ferramentas de IA são tratadas como extensões de seus usuários, recebendo as mesmas permissões. Contudo, como os engenheiros envolvidos nas duas ocasiões não exigiram uma aprovação adicional, seus agentes de IA procederam com mudanças que levaram à quebra dos sistemas. Por isso, a empresa considera que os erros foram relacionados ao controle de acesso do usuário e não um problema com a sua ferramenta de IA. Mesmo assim, a Amazon garantiu que tomou medidas para evitar esse tipo de incidente no futuro e para mitigar os riscos de um agente de IA agindo de forma errada.

Outras grandes empresas de tecnologia também estão utilizando ferramentas de IA em seus fluxos de trabalho. O CEO da Microsoft declarou que quase 30% do código da empresa é escrito por inteligência artificial, enquanto mais de 30 mil engenheiros da Nvidia utilizam uma versão especializada da Cursor AI.

Esse uso crescente de ferramentas de IA está gerando o temor de que empregos de nível inicial na área de codificação estejam desaparecendo, com estudos mostrando uma queda de 13% nas oportunidades nos últimos três anos. Há uma preocupação crescente de que a inteligência artificial possa impactar de forma significativa os empregos de colarinho branco, com líderes da indústria e instituições educacionais alertando sobre a necessidade de a sociedade se preparar para essa realidade.