Apple revela insights sobre como os usuários desejam interagir com assistentes virtuais em estudo sobre IA

A busca pela Inteligência Artificial ideal tem se concentrado em tornar os modelos de linguagem mais rápidos e eficazes. No entanto, a maneira como as pessoas realmente desejam interagir com essas máquinas é frequentemente ignorada. Para explorar essa questão, foi realizado um estudo interessante pela Apple, que precisou adotar algumas estratégias para obter respostas mais autênticas dos participantes.

No documento intitulado “Mapping the Design Space of User Experience for Computer Use Agents”, a equipe de pesquisa em Machine Learning da Apple descreveu um experimento focado na Experiência do Usuário (UX) de agentes autônomos de IA, que têm a função de navegar na web e realizar tarefas em nome dos usuários.

O experimento “Mágico de Oz”

Para testar a ideia do “assistente perfeito” sem as limitações atuais das IAs, a Apple utilizou a metodologia do Mágico de Oz.

Pesquisadores recrutaram 20 participantes, todos experientes em tecnologia, e solicitaram que interagissem com uma nova interface de chat para realizar tarefas práticas, como alugar uma casa de férias ou fazer compras online. O que os voluntários não sabiam é que não havia uma IA em operação. Em uma sala isolada, um pesquisador humano lia os comandos e executava as ações manualmente, fingindo ser o sistema.

Para avaliar a paciência dos usuários, os “falsos robôs” foram instruídos a cometer erros intencionais, entrar em loops de navegação e fazer escolhas erradas de produtos. O objetivo era descobrir em que momento o usuário perderia a paciência e tentaria intervir.

A linha tênue entre ajuda e estresse

A análise das gravações do experimento revelou o que os usuários esperam de um assistente moderno. Uma das principais conclusões foi um paradoxo: as pessoas desejam entender o que a IA está fazendo, mas sem a necessidade de controlar cada ação. Quando precisam aprovar cada passo, preferem realizar a tarefa por conta própria.

Os pesquisadores observaram variações significativas no comportamento dos participantes de acordo com a tarefa:

• Fase de Exploração: Ao buscar ideias ou produtos, os usuários preferem uma IA que ofereça opções e interaja.

• Tarefas Rotineiras: Para atividades repetitivas, os usuários querem total autonomia. A expectativa é: “Apenas faça e me avise quando terminar”.

• Limites Financeiros e Consequências: Quando a tarefa envolve gastos reais, como compras ou o uso de dados de cartão de crédito, a exigência por controle aumenta muito. Nesses casos, a transparência se torna essencial.

O problema das “Suposições Silenciosas”

Segundo o estudo, o maior erro que um agente de IA pode cometer é tomar decisões inadequadas sem comunicar ao usuário. Quando o “assistente” encontrava informações ambíguas e tomava uma decisão sem aviso, a confiança do usuário na tecnologia rapidamente se deteriorava.

Os participantes deixaram claro que se a máquina não tiver certeza sobre uma ação, como escolher uma cor de produto ou qual botão clicar para concluir um aluguel, é fundamental que ela pause e busque esclarecimentos, ao invés de arriscar uma ação com possíveis consequências.

Esse estudo da Apple oferece insights valiosos sobre o futuro do software. Não basta desenvolver uma IA inteligente; se ela não reconhecer quando deve pedir autorização antes de usar o dinheiro do usuário, certamente será desativada.

Essas descobertas são relevantes para desenvolvedores que aspiram a incorporar capacidades de agentes inteligentes em seus projetos.