MPF e ANPD podem multar X devido a problemas de segurança na IA

O cerco se intensificou mais uma vez para o X no Brasil. Agora, a questão não é apenas a moderação de conteúdo, mas também a própria tecnologia de Inteligência Artificial da plataforma. O Ministério Público Federal (MPF), a ANPD e a Senacon emitiram um ultimato conjunto exigindo que a empresa tome medidas imediatas e eficazes contra a criação de deepfakes.

A decisão se concentra no Grok, a IA generativa integrada ao X, que tem sido utilizada para produzir imagens sexualizadas e erotizadas de indivíduos, inclusive menores de idade, sem o devido consentimento.

Por que o Ultimato?

As autoridades brasileiras não estão mais dispostas a esperar. Em janeiro, o X enviou uma resposta sobre a situação, afirmando ter removido milhares de postagens e suspendido contas. No entanto, o MPF e a ANPD consideraram essas explicações “genéricas” e insuficientes. Testes técnicos realizados pelos órgãos mostraram que, apesar das promessas de melhoria, o Grok continua gerando conteúdo manipulado proibido quando solicitado, evidenciando falhas nas suas medidas de segurança.

Exigência de Dados Reais

Agora, a empresa tem 5 dias úteis para apresentar provas técnicas concretas. As autoridades não querem apenas comunicados vazios; elas exigem:

• Relatórios Métricos Detalhados: Informações sobre quantas imagens foram bloqueadas e qual foi o tempo médio de resposta.
• Critérios Claros: Explicações sobre como o algoritmo decide quem é banido.
• Monitoramento Mensal: O X deverá enviar relatórios constantes para demonstrar que a situação não está se deteriorando novamente.

Caso a plataforma não forneça esses dados ou se o Grok continuar em ação, a ANPD pode impor multas diárias significativas. Além disso, a Senacon pode iniciar processos administrativos com base no Código de Defesa do Consumidor. Esse caso tem o potencial de estabelecer um marco na regulação das IAs generativas no Brasil, reforçando que as plataformas são responsáveis pelo que suas tecnologias criam.