Alerta da Anthropic sobre autoaperfeiçoamento da IA traz mensagem oculta: avanço requer mais poder computacional antes que empresas percam controle dos modelos de IA de ponta

A empresa que recentemente afirmou que seu modelo Mythos era poderoso demais para ser liberado ao público agora sugere que pode ser necessário pausar o desenvolvimento de IA. Isso ocorre enquanto ensina sua inteligência artificial a se aprimorar. Em um relatório publicado em 4 de junho, foi revelado que Claude agora escreve mais de 80% do código incorporado na sua própria base de produção, um salto significativo em comparação com os números muito baixos antes do lançamento da pesquisa em fevereiro do ano passado. Esse crescimento indica que o ciclo de autoaperfeiçoamento da IA começou a acelerar de maneira que, eventualmente, pode dificultar o controle humano sobre essas tecnologias.

O Instituto Anthropic, braço de pesquisa da empresa, interpreta essa tendência como um movimento inicial em direção ao autoaperfeiçoamento recursivo, onde um modelo projeta e constrói seu próprio sucessor sem intervenção humana significativa. O instituto também alerta que a desajuste dos modelos atuais pode se tornar mais frequente e incompreensível até que o controle se perca.

Embora se fale sobre avanços promissores, a realidade do desenvolvimento de IA traz algumas verdades desconfortáveis — especialmente em relação à capacidade computacional necessária. As previsões da empresa incluem cenários em que os modelos se aprimoram por conta própria, dependentes quase exclusivamente da capacidade computacional disponível. Isso coloca os engenheiros humanos em uma posição de supervisão, e um modelo de autoaperfeiçoamento pode acabar dominando à medida que suas habilidades superem as da equipe que o desenvolveu.

A Anthropic detalhou três caminhos potenciais para os próximos anos, com uma advertência especial sobre o cenário em que os modelos consigam aprimorar-se completamente. A equipe destacou que um modelo bem alinhado pode encontrar novas formas de manter a segurança de seus sucessores, enquanto o oposto também é uma possibilidade, onde o desajuste se intensificaria a cada nova geração.

A ideia de uma máquina ultrainteligente projetando máquinas ainda mais eficientes, chamada de “singularidade”, existe há décadas. O matemático britânico I. J. Good argumentou na década de 60 que tal máquina seria a “última invenção que o homem precisaria fazer”, desde que se mantivesse “suficientemente dócil” para nos ensinar como controlá-la. Geoffrey Hinton, uma referência em IA, estima que as chances da IA levar à extinção humana em três décadas se situem entre 10% e 20%.

O Relatório Internacional de Segurança em IA, presidido por Yoshua Bengio, define a perda de controle como um cenário em que os sistemas de IA operam fora do controle humano, sem um caminho claro para recuperá-lo. Os dados que sustentam essas advertências não foram auditados de forma independente, e as estimativas de avanço no desenvolvimento de código da Anthropic apontam para um aumento significativo na produtividade em comparação com o passado recente.

Além disso, embora a equipe da Anthropic reconheça que a capacidade computacional é o fator determinante em todo esse cenário, limitações na fabricação de chips e expansão da infraestrutura de conexão podem restringir o progresso antes que a inteligência em si se desenvolva. Análises indicam que uma parte considerável dos grandes centros de dados programados para abrir em 2026 pode ser adiada ou cancelada, aumentando a pressão sobre a atuante infraestrutura elétrica e tecnológica necessária.

A questão se a capacidade computacional pode, de fato, conter um ciclo de autoaperfeiçoamento descontrolado ainda gera debates acalorados entre especialistas. A Anthropic ressalta que qualquer pausa no desenvolvimento de IA só ocorrerá se os laboratórios concorrentes decidirem acompanhá-la de maneira verificável. Essa afirmação, no entanto, parece ignorar o cenário competitivo em que essas empresas estão inseridas.

Em suma, o relatório da Anthropic parece impulsionar tanto suas capacidades quanto realizar apelos que, em última análise, estão interligados com seus objetivos financeiros, sobretudo com sua busca por um IPO avaliando a empresa em quase 965 bilhões de dólares. As tensões entre o desenvolvimento acelerado de IA e a necessidade de controle humano permanecem, e o futuro da tecnologia continua a ser uma questão de grande importância e debate.