Especialista em deepfakes reconhece dificuldade em identificá-los e alerta: “estamos ferrados”

Hany Farid, professor de 60 anos da Escola de Informação da UC Berkeley e referência em forense digital, relata a dificuldade crescente em distinguir vídeos reais dos deepfakes gerados por inteligência artificial. Um caso específico que exemplifica essa situação foi um vídeo que circulou mostrando o suposto impacto de um míssil americano em uma escola no Irã.

Farid dedicou um dia inteiro analisando o vídeo quadro a quadro, examinando aspectos como a geometria das sombras, o atraso do som da explosão em relação às leis da física e as dimensões do projétil. Surpreendentemente, não encontrou evidências de que o vídeo fosse falso. Outros especialistas também chegaram a esse mesmo resultado, sem conseguir confirmar a autenticidade do conteúdo. Os deepfakes que ganham destaque se tornam virais em menos de 20 minutos, o que torna ineficaz qualquer tentativa de contenção posterior.

O caçador virou alvo

Cibercriminosos conseguiram clonar o número de telefone de Farid e usaram inteligência artificial para replicar sua voz, ligando para um contato envolvido em um processo judicial e obtendo informações confidenciais. Em resposta, Farid e sua esposa, que também é pesquisadora, adotaram uma palavra-código secreta para confirmar a identidade durante chamadas familiares. Em uma entrevista, Farid resumiu a situação atual em relação à proliferarão de deepfakes de forma impactante: “estamos ferrados”.

Duas décadas de trabalho

O pai de Farid trabalhou como químico na Eastman Kodak por 50 anos. Em 2007, ele se uniu a engenheiros da Microsoft para desenvolver o PhotoDNA, uma tecnologia de “impressão digital” para imagens que cria uma assinatura única para cada foto. Essa assinatura permanece estável mesmo após redimensionamentos e edições, permitindo a identificação de mais de 30 milhões de casos anuais de abuso sexual infantil, resultando em centenas de prisões e resgates.

Diante da impossibilidade de distinguir entre conteúdos falsos e reais, Farid decidiu deixar a UC Berkeley e retornar ao Dartmouth College, onde foi professor por 20 anos. Ele passa temporadas em uma fazenda em Vermont, onde corta lenha e se afasta das telas.

O Brasil no centro do problema na América Latina

O Brasil foi identificado como o país que concentra 39% de todos os casos de deepfake registrados na América Latina em 2025, conforme informações de um relatório sobre fraudes de identidade. No mesmo período, os ataques relacionados a deepfakes e identidades sintéticas cresceram 126% no país em comparação com 2024. As instituições financeiras, fintechs e plataformas de apostas online são os setores mais impactados.