Anthropic não afrouxa controle da IA e proíbe Claude de participar de vigilância em massa e armamentos autônomos

A Anthropic anunciou que não irá atender ao pedido do Departamento de Justiça para reduzir as restrições do seu modelo de inteligência artificial, Claude. O Pentágono havia dado um prazo até sexta-feira para a empresa se adequar sob a ameaça de cancelar um contrato de US$ 200 milhões e enfrentar consequências mais graves, como ser designada como um risco para a cadeia de suprimentos. No entanto, a empresa decidiu não ceder e, em uma declaração, seu CEO afirmou que não poderia “em boa consciência” atender às exigências do Departamento de Defesa.

Dois pontos principais geraram a discórdia: a vigilância maciça de cidadãos e o uso de armas totalmente autônomas. A Anthropic defende que monitorar cidadãos em larga escala é fundamentalmente antidemocrático e prejudica a liberdade individual. A empresa acrescenta que a vigilância conduzida por inteligência artificial é perigosa e só existe porque a legislação ainda não evoluiu para lidar com a questão.

Um exemplo discutido por representantes da empresa é que o governo pode adquirir dados pessoais sem um mandado, incluindo e-mails, históricos de navegação e movimentação. Embora essas informações sejam dispersas e, muitas vezes, superficiais, a inteligência artificial pode unir tudo isso em um perfil coerente. Diante disso, a Anthropic se recusa a permitir que Claude seja usado como ferramenta nesse tipo de monitoramento.

A empresa também destacou que modelos de IA ainda não estão prontos para operar armas totalmente autônomas, uma vez que não possuem o julgamento humano necessário. A Anthropic garantiu que não disponibilizará um produto que coloque em risco tanto os soldados quanto os civis. Enquanto as armas parcialmente autônomas são consideradas “vitais para a defesa da democracia”, a empresa acredita que a IA não pode ser confiável para identificar e atacar alvos de forma independente.

A Anthropic se ofereceu para desenvolver pesquisas e inovações que garantissem maior confiabilidade nesses sistemas, onde a IA poderia ter um controle mais seguro, mas a proposta foi rejeitada pelo Departamento de Defesa. A empresa argumenta que esses sistemas devem ser implementados com as devidas restrições, que atualmente não existem, e observou que nenhum modelo de IA pode emular a experiência de um soldado.

Esses pontos são vistos pela Anthropic como “exceções” dentro de sua posição geralmente favorável em colaborar com o Pentágono. Ao longo de sua declaração, a equipe reafirmou o desejo de “continuar a servir o Departamento e nossos soldados, com as duas salvaguardas solicitadas”.

Recusar-se a aliviar as restrições pode acarretar consequências além da eliminação do contrato atual. O secretário de Defesa ameaçou classificar a empresa como um risco para a cadeia de suprimentos, uma designação que nunca antes foi aplicada a uma empresa americana.

Além disso, o Pentágono também alertou sobre a possibilidade de invocar a Lei de Produção de Defesa sobre a Anthropic. Esse ato permitira que qualquer empresa privada nos Estados Unidos fosse obrigada a priorizar o atendimento ao governo, pois seus produtos são considerados cruciais para a segurança nacional.

A empresa parece não estar intimidada por essas ameaças e sugere que o Departamento de Defesa reavalie sua posição. Caso o contrato federal seja cancelado, a Anthropic se compromete a “trabalhar para garantir uma transição suave para outro fornecedor”, evitando interrupções nas operações militares. Essa é a primeira vez que uma empresa de inteligência artificial toma uma posição tão firme contra a administração atual, e a reação nas comunidades online tem sido amplamente positiva.