Casa Branca avalia a possibilidade de inspeção obrigatória de modelos de IA antes do lançamento – ordem executiva em discussão

A administração de Trump está começando discussões sobre uma ordem executiva que poderia estabelecer um processo de revisão governamental para modelos de inteligência artificial antes de serem liberados ao público. A proposta envolve criar um grupo de trabalho com executivos do setor tecnológico e representantes do governo para desenvolver procedimentos de supervisão. Recentemente, membros da equipe da Casa Branca se reuniram com líderes de empresas como Anthropic, Google e OpenAI, conforme reportado por autoridades dos Estados Unidos.

Se essas discussões se concretizarem, poderá indicar uma mudança de posição de um governo que, no início de 2025, havia revogado a ordem de segurança em IA da administração Biden e se apresentado como um defensor da desregulamentação na indústria. Em um evento internacional, o vice-presidente JD Vance destacou que o futuro da IA não seria determinado por preocupações de segurança, mas pela inovação.

Além disso, no ano passado, David Sacks, então o “czar” de IA e criptomoedas da Casa Branca, acusou publicamente a Anthropic de estar “executando uma estratégia sofisticada de captura regulatória baseada em alarmismo”. O aumento significativo no gasto de lobby da Anthropic, que cresceu cerca de 511% durante o segundo mandato de Trump, chegou a US$ 1,1 milhão por mês até o final de 2025. A empresa se posicionou contra uma moratória de 10 anos sobre a regulamentação estadual da IA e apoiou exigências de transparência na Califórnia, além de ter contribuído com US$ 20 milhões para um grupo político que pede supervisão mais rigorosa sobre a IA.

Atualmente, a administração parece estar adotando uma estrutura de supervisão que a Anthropic advogava, mas com o governo controlando o processo. Algumas autoridades desejam um sistema que permita ao governo ter acesso a novos modelos antes de serem lançados comercialmente, conforme a demanda do Pentágono.

Membros das duas administrações, incluindo ex-conselheiros de IA, publicaram um artigo no New York Times pedindo auditorias de terceiros sobre as alegações de segurança dos desenvolvedores de IA. A proposta de processo de revisão representa uma abordagem mais leve do que a que estava sendo buscada anteriormente, quando o secretário de Defesa deu um ultimato à Anthropic relativo a questões de segurança.

A relação entre o governo e a Anthropic tornou-se tensa após a recusa da empresa em atender a demandas do Pentágono. A situação culminou com o governo interrompendo o uso da tecnologia da Anthropic e designando-a como um risco para a cadeia de suprimentos.

O novo foco tende a ser menos confrontacional, com reuniões mais produtivas entre a equipe da Casa Branca e representantes da Anthropic. Recentemente, a Casa Branca se envolveu em discussões sobre colaboração e como enfrentar os desafios associados à escalabilidade da tecnologia.

Além disso, o atual cenário regulatório nos EUA parece atrasado em relação à União Europeia, que já estabelece processos rigorosos de avaliação para modelos de IA antes de seu lançamento. A criação do Center for AI Standards and Innovation, um órgão que deveria avaliar modelos de IA compartilhados voluntariamente com o governo, foi ofuscada.

Um dos pontos de discussão levantados é se o modelo Mythos, da Anthropic, foi o catalisador para essas novas discussões de políticas na Casa Branca. Este modelo é considerado uma “superarma cibernética” em potencial, capaz de detectar vulnerabilidades em software rapidamente. A recusa da Anthropic em liberá-lo para o público pode ter colocado a administração em uma posição de agir para evitar a ocorrência de ciberataques relacionados a IA.

Entretanto, avaliações independentes levantam questões sobre a veracidade das alegações da Anthropic, indicando que modelos de código aberto poderiam detectar vulnerabilidades semelhantes. Isso sugere que, embora existam desafios, a indústria e o governo ainda estão se adaptando a um cenário em rápida evolução.