Claude Mythos, da Anthropic, não é um super-hacker senciente, mas sim um argumento de vendas — a alegação de ‘milhares’ de vulnerabilidades sérias depende apenas de 198 análises manuais

Recentemente, a desenvolvedora de IA Anthropic chamou atenção ao lançar um novo modelo chamado Mythos. Este modelo possui capacidades impressionantes, podendo encontrar falhas e vulnerabilidades em diversos aplicativos, sistemas operacionais e navegadores. Diante disso, a empresa decidiu restringir sua disponibilidade e priorizar colaborações com grandes empresas de tecnologia e governos, visando evitar que essa ferramenta caia em mãos erradas e cause estragos.

Em seu blog e em um extenso relatório de 250 páginas, a empresa destaca a preocupação com os potenciais riscos relacionados ao Mythos, embora tenha se mostrado insegura sobre a consciência da IA. Além disso, suas alegações sobre a severidade de determinados problemas estão em discussão.

A equipe da Super Select analisou as informações disponíveis em fóruns e comunidades online e destacou que o Mythos revelou “milhares de vulnerabilidades de alta gravidade”, abrangendo os principais sistemas operacionais e navegadores, alguns dos quais permanecem sem correção há décadas. No entanto, ainda não está claro quão realistas são essas vulnerabilidades ou se realmente representam ameaças sérias.

Embora a equipe da Anthropic tenha identificado a vulnerabilidade FFMPeg, ativa há 16 anos, como “não crítica” e difícil de explorar, a ferramenta Mythos também apresentou possíveis falhas no kernel do Linux que não foram exploradas devido às complexas medidas de segurança do sistema. Algumas dessas falhas também já foram corrigidas, o que levanta questões sobre a precisão dos dados apresentados.

Durante testes com mais de 7.000 softwares open source, o Mythos encontrou cerca de 600 vulnerabilidades potencialmente exploráveis, sendo apenas 10 delas classificadas como severas. Apesar de ser uma quantidade considerável, não chega a ser “milhares” de explorações devastadoras. A equipe da Anthropic não consegue confirmar se todas as falhas identificadas realmente são críticas, já que utiliza um método de extrapolação a partir de análises de especialistas.

Adicionalmente, não é possível discutir muitos detalhes por questões de segurança, dificultando a avaliação precisa da relevância dos achados. A possibilidade de vender o Mythos para grandes empresas e governos pode justificar a ausência de um modelo direcionado ao consumidor.

Embora a Anthropic se posicione como uma empresa preocupada com a segurança de suas criações, suas alegações são frequentemente usadas como parte de sua estratégia de marketing. Nos últimos anos, a empresa publicou uma série de documentos alarmantes, defendendo a necessidade de um controle rigoroso sobre as IAs. Tal abordagem não é inédita no mundo da IA, uma vez que outras empresas também adotaram essa estratégia de marketing.

Depois do anúncio do Mythos, ficou evidente que outras organizações, como a OpenAI, também estão se dedicando ao desenvolvimento de IAs avançadas voltadas para a cibersegurança, o que indica um mercado crescente e competitivo. O debate sobre consciência e segurança da IA continua, com relatos sugerindo que essas ferramentas podem descobrir vulnerabilidades. Se utilizadas adequadamente, as IAs podem ajudar a reforçar a segurança, o que, em última análise, é uma boa notícia.

Embora o Mythos traga inovações, a percepção de risco pode não ser tão alarmante quanto se sugere. Afinal, IAs estão, e sempre estiveram, impactando o campo da segurança. Para muitos, o Mythos representa apenas mais um modelo, enquanto para a Anthropic, é uma chance de se destacar no mercado e potencialmente fechar contratos lucrativos.