Pesquisadora da Kaspersky alerta: risco da IA está na manipulação humana, não na tecnologia

Quando o debate sobre inteligência artificial e segurança digital se concentra apenas em malware e ataques automatizados, corre-se o risco de deixar de lado um ponto importante: a capacidade dos sistemas de IA de influenciar decisões humanas sem que a pessoa perceba. Essa questão foi levantada por uma especialista no assunto.

Uma profissional da área de segurança, que lidera pesquisas em um time focado em ameaças avançadas, destaca que a IA não age apenas externamente no processo decisional humano, mas sim dentro dele. Sistemas de recomendação e personalização algorítmica expõem constantemente os usuários a opiniões que eles já concordam, criando um ciclo de reforço que é controlado pelo algoritmo, e não pela pessoa.

O funcionamento desse mecanismo é intrigante: agentes maliciosos utilizam inteligência artificial para reunir dados digitais, histórico de navegação e padrões de comportamento, montando perfis psicológicos que ajudam a prever como os indivíduos pensam e reagem. Com base nesses perfis, é possível criar mensagens de phishing ou posts em redes sociais que atingem diretamente os medos e interesses dos usuários naquele momento. O conteúdo se adapta em tempo real, se tornando cada vez mais convincente.

O limite entre personalização e manipulação é crucial. Quando um sistema deixa de apenas prever o comportamento e começa a moldá-lo, explorando vieses cognitivos e gatilhos emocionais, a influência se torna ainda mais evidente. Sistemas de IA que tentam imitar a resposta emocional humana intensificam esse problema, fazendo com que os usuários confiem mais e fiquem menos céticos em relação a tentativas de engenharia social. Isso torna campanhas de phishing e outros golpes ainda mais eficazes na proporção em que a IA se aproxima da interação humana.

Muitas pessoas não têm noção da quantidade de informação sobre seu comportamento que acabam gerando, nem da profundidade da análise que os sistemas de IA realizam sobre esses dados. Detalhes como um simples “like”, o tempo de leitura ou a pausa em um scroll são usados para formar perfis psicológicos que revelam vulnerabilidades individuais.

A narrativa que frequentemente se escuta — a de que os riscos da IA são mais sobre o futuro ou aspectos técnicos — precisa ser reconsiderada. Na verdade, os sistemas atuais já apresentam riscos significativos por meio da manipulação cognitiva e da engenharia social em larga escala.