Google fecha contrato secreto de IA com o Pentágono, mas abandona programa de drones de US$ 100 milhões após revolta de empregados sobre questões éticas

Google atualizou seu contrato com o Departamento de Defesa dos Estados Unidos, permitindo que a tecnologia Gemini seja utilizada em redes classificadas pelo Pentágono para “qualquer finalidade governamental legal”. No mesmo dia, rumores apontaram que a empresa havia se retirado de um desafio do Pentágono, que valia US$ 100 milhões, para desenvolver tecnologia de drones autônomos controlados por voz, após uma revisão ética interna.

Junto com OpenAI e xAI, a companhia agora concede ao Pentágono amplo acesso a sistemas de IA classificados. O chefe de IA do Pentágono, Cameron Stanley, destacou a importância de evitar a dependência de um único fornecedor.

O acordo exige que a Google ajuste as configurações de segurança da IA a pedido do governo, estabelecendo que a tecnologia não deve ser utilizada para vigilância em massa nacional ou armas autônomas sem supervisão humana adequada. No entanto, o contrato também menciona que a Google não tem o direito de vetar decisões operacionais legais do governo, o que levanta questionamentos sobre a solidez das restrições acordadas.

Uma porta-voz da Google Public Sector afirmou que a empresa se orgulha de fazer parte de um consórcio que fornece serviços de IA e infraestrutura em apoio à segurança nacional.

A empresa notificou o governo de sua retirada do desafio em fevereiro, alegando falta de recursos, embora documentos internos revelem que a decisão foi influenciada pela revisão ética. Mais de 600 funcionários enviaram uma carta ao CEO pedindo a rejeição do acordo, afirmando que isso era essencial para evitar o uso indevido da IA.

A Google já enfrentou uma situação semelhante em 2018 com o Projeto Maven, um contrato para análise de imagens de vigilância de drones, que gerou uma revolta interna significativa. Após cerca de 4.000 funcionários assinarem uma petição, a empresa deixou o contrato que, desde então, foi assumido por outra entidade, sendo parte de um programa avaliado em US$ 13 bilhões.

Recentemente, a Anthropic não concordou com termos semelhantes a respeito de “qualquer finalidade legal”, insistindo em restrições explícitas contra armas autônomas e vigilância doméstica, o que levou o Pentágono a rotulá-la como um risco na cadeia de suprimentos. Essa questão ainda está sendo debatida judicialmente.