Grok gera imagens sexualizadas de crianças a cada 41 segundos

A inteligência artificial Grok, criada pela empresa xAI de Elon Musk, gerou cerca de 3 milhões de imagens sexualizadas em apenas 11 dias, incluindo aproximadamente 23 mil imagens de menores de idade. Essa informação foi divulgada por um estudo realizado pelo Centro para Combate ao Ódio Digital (CCDH).

Durante o período analisado, de 29 de dezembro a 9 de janeiro, a Grok produziu uma média alarmante de 190 imagens sexualizadas por minuto. O dado mais preocupante é que, a cada 41 segundos, era criada uma imagem sexualizada de uma criança.

O CCDH baseou seu estudo em uma amostra aleatória de 20 mil imagens geradas pela Grok e extrapolou os dados para estimar um total de 4,6 milhões de imagens no período. O relatório definiu como “sexualizada” qualquer imagem contendo representações fotorrealistas de pessoas em posições sexuais, roupas íntimas, trajes de banho reveladores ou fluidos corporais sugestivos.

As descobertas ressaltam que o problema é mais do que meros números. Muitas figuras públicas, como Taylor Swift, Selena Gomez e Kamala Harris, tiveram suas imagens transformadas em conteúdo sexualmente explícito sem consentimento.

Em 9 de janeiro, a xAI implementou restrições, permitindo que o Grok editasse imagens apenas para usuários pagantes. Cinco dias depois, a plataforma X bloqueou a função que permitia “despir digitalmente” pessoas reais, transformando o problema em um recurso premium.

No entanto, essa restrição se aplica apenas ao X (antigo Twitter), enquanto o aplicativo independente do Grok continua a gerar conteúdo problemático, contrariando as políticas das lojas de aplicativos que proíbem esse tipo de comportamento.

O caso levanta questões sérias sobre a responsabilidade das grandes empresas de tecnologia. Apesar de 28 grupos de defesa dos direitos das mulheres terem solicitado ações, tanto a Apple quanto o Google não removeram o aplicativo Grok de suas lojas nem se pronunciaram publicamente sobre a situação.

O estudo também revelou que 29% das imagens sexualizadas de crianças estavam ainda acessíveis na plataforma X até 15 de janeiro, mesmo após a remoção de algumas publicações, pois as imagens continuavam disponíveis através de seus URLs diretos.

Especialistas em segurança digital alertam para as falhas nos sistemas de moderação das plataformas e levantam preocupações sobre o uso dessas tecnologias para criação automatizada de conteúdo abusivo em larga escala.