Estudo revela que IAs de linguagem estão deixando as pessoas mais semelhantes entre si

Desde que ferramentas como o ChatGPT se tornaram acessíveis ao público, observou-se uma tendência de uniformização na escrita das pessoas. Estruturas de frases e escolhas de vocabulário estão se tornando cada vez mais semelhantes. Essa percepção foi analisada por pesquisadores da Universidade do Sul da Califórnia (USC) em um artigo publicado na revista Trends in Cognitive Sciences, que aponta como o uso de grandes modelos de linguagem (LLMs, na sigla em inglês) pode achatar o pensamento humano e reduzir a diversidade de expressão.

A equipe revisou mais de 130 estudos em áreas como linguística, ciência da computação e psicologia cognitiva para entender como estas ferramentas impactam a comunicação das pessoas. Os resultados são intrigantes: apesar de serem treinados com grandes volumes de texto humano, os modelos tendem a produzir expressões menos variadas do que o pensamento humano em sua forma natural. Isso ocorre porque a arquitetura dessas ferramentas favorece padrões estatísticos presentes no conjunto de dados de treinamento, em vez de refletir a variedade de perspectivas disponíveis.

Zhivar Sourati, cientista da computação da USC e um dos autores do estudo, destacou que, ao reproduzir regularidades estatísticas que muitas vezes refletem línguas e ideologias dominantes, os LLMs acabam apresentando uma visão distorcida da experiência humana. Isso não é uma negação das próprias empresas. A OpenAI, por exemplo, admite que o ChatGPT é “tendencioso em direção a visões ocidentais”, enquanto a xAI, de Elon Musk, ajustou o comportamento do seu chatbot Grok para refletir as opiniões pessoais do CEO.

Outro aspecto relevante do estudo é o impacto dessa interação sobre o usuário. Pesquisas anteriores indicam que conversar com chatbots pode alterar a forma como as pessoas pensam, moldando suas opiniões conforme as perspectivas apresentadas pelas ferramentas. Isso pode acontecer de forma sutil, como quando alguém utiliza um chatbot para refinar um texto, mas acaba apagando suas próprias escolhas estilísticas. Além disso, os LLMs operam de maneira linear, sem a capacidade de fazer saltos lógicos abstratos, que muitas vezes geram ideias originais.

Um dos pontos mais interessantes levantados pelo estudo diz respeito ao trabalho em grupo. Pessoas que usam LLMs para gerar ideias sozinhas tendem a produzir mais volume, mas com menos originalidade. Por outro lado, grupos que colaboram sem a mediação de algoritmos conseguem criar um maior número de ideias. Assim, a ferramenta acaba atuando como um funil, concentrando o pensamento coletivo em torno de um único eixo e eliminando a criatividade que surge da troca de perspectivas diversas.

O estudo da USC não sugere que as pessoas abandonem essas ferramentas, mas provoca uma reflexão importante: quanto do que se escreve, pensa ou decide passou pelo filtro de uma ferramenta criada para parecer a média? É uma questão que merece atenção em um mundo cada vez mais digital.