Gigantes da tecnologia, como Google, Microsoft e xAI, aceitam permitir que o governo dos EUA teste modelos de IA antes do lançamento público – OpenAI e Anthropic também participam após renegociações com Washington.

A Google, a Microsoft e a xAI de Elon Musk concordaram em oferecer acesso aos seus modelos de inteligência artificial ao Centro de Padrões e Inovação em IA (CAISI) do Departamento de Comércio dos EUA antes da liberação pública. Segundo discussões em fóruns e comunidades gamers, a OpenAI e a Anthropic, que já tinham parcerias de avaliação com o centro desde 2024, renegociaram seus acordos para alinhar com as prioridades do AI Action Plan da administração anterior.

Com isso, todos os principais laboratórios de IA dos EUA agora participam de avaliações governamentais voluntárias antes do lançamento. O CAISI já completou mais de 40 avaliações de modelos, incluindo sistemas de ponta ainda não lançados.

O CAISI, que opera dentro do NIST, foi originalmente criado em 2023 como Instituto de Segurança em IA e recebeu um novo nome no ano passado, numa mudança promovida pelo secretário de Comércio. Apesar da alteração no discurso, a função central do centro permaneceu a mesma: avaliar modelos em relação a riscos de cibersegurança e biosegurança, entre outros.

O diretor do CAISI destacou que essas novas colaborações com a indústria são essenciais para ampliar o trabalho em benefício do público em um momento crítico. Após uma rápida mudança de liderança, onde um antigo pesquisador da Anthropic e da OpenAI foi dispensado, a equipe busca consolidar suas funções.

Embora o centro ainda não tenha um status legal permanente, alguns legisladores já apresentaram propostas para formalizá-lo, mas até o momento, nada foi aprovado. O AI Action Plan orienta o CAISI a integrar um “ecossistema de avaliações de IA” e a liderar as avaliações de modelos ligados à segurança nacional.

Além disso, a Anthropic enfrenta um conjunto de interações difíceis com o governo federal. O Pentágono classificou a empresa como um risco à cadeia de suprimentos após recusar ajustar os parâmetros de segurança para armamentos autônomos. Este movimento foi posteriormente contestado por um juiz, mas permanece um tema em discussão, com um período de transição de seis meses para o uso das ferramentas da Anthropic por parte do governo.

Recentemente, surgiram relatos de que a administração anterior considerava um processo de avaliação pré-liberação obrigatório para modelos de IA, gerando debates sobre como isso se harmonizaria com as novas acordos voluntários. A interação entre esses dois métodos de revisão continua incerta.