AGU cobra do Google a desindexação de plataformas que geram nudes falsos com IA

A Advocacia-Geral da União (AGU) deu um passo importante para combater a disseminação de conteúdos abusivos gerados por Inteligência Artificial no Brasil. De acordo com uma nota oficial, o órgão notificou extrajudicialmente o Google, exigindo a remoção imediata de sites que utilizam técnicas de deepfake e ferramentas de nudify para criar imagens sexualizadas falsas de pessoas reais, sem consentimento. Essa medida, apoiada por estudos da FGV-Rio e da Secretaria de Comunicação da Presidência (Secom-PR), tem como foco a proteção de mulheres, crianças e adolescentes, que são as principais vítimas dessa forma de violência digital.

### Prazo de 5 Dias e Filtros Automáticos

A notificação da AGU não se limita à remoção manual de uma lista com mais de 40 links já identificados. O governo brasileiro exige que o Google implemente, em um prazo de cinco dias, filtros algorítmicos que impeçam a indexação de novos sites semelhantes no futuro.

A Procuradoria Nacional da União de Defesa da Democracia (PNDD) argumenta que, embora o Google não hospede diretamente esses conteúdos, a facilidade de encontrá-los através do buscador os classifica como itens lícitos, facilitando o acesso a crimes graves.

### O “Dever de Cuidado” das Big Techs

O documento também reforça o entendimento mais recente do Supremo Tribunal Federal (STF) sobre o “dever de cuidado”. Segundo a AGU, as plataformas podem ser responsabilizadas civilmente se, tendo conhecimento da natureza ilícita do material, não tomarem medidas para impedir sua circulação.

Os advogados da União observaram que, apesar de o Google já contar com diretrizes internas contra imagens íntimas não consensuais, as atuais medidas têm se mostrado insuficientes para mitigar os riscos das novas ferramentas de IA generativa que surgiram com força desde 2023.

Essa ação no Brasil se alinha a movimentos internacionais, como os relatórios da Children’s Commissioner da Inglaterra, que alertam sobre o crescimento de uma atmosfera misógina impulsionada por deepfakes. A fundamentação jurídica no Brasil se apoia em documentos como o Marco Civil da Internet, o Estatuto Digital da Criança e do Adolescente (ECA Digital) e a LGPD.

Para o mercado de hardware e software, esse caso sinaliza que a “era do Velho Oeste” para os desenvolvedores de ferramentas de IA abusivas está chegando ao fim, com uma crescente responsabilidade se manifestando em relação aos grandes portais de distribuição e busca.