Erros em cadeia permitem que usuários não autorizados acessem CLAUDE MYTHOS — modelo restrito exposto por vazamento de dados

Claude AI, desenvolvedora da Anthropic, enfrentou um incidente de segurança em que indivíduos não autorizados conseguiram acesso ao seu modelo de IA voltado para cibersegurança, o Mythos. Essa violação pode ter exposto vários modelos proprietários da empresa, levantando preocupações sobre a eficácia da proteção de dados dos clientes. Esse episódio questiona não apenas a segurança oferecida pela Anthropic, mas também a real capacidade do Mythos em prevenir essas violações.

Embora qualquer modelo de IA possa encontrar bugs que geram preocupações de segurança, ele não é capaz de evitar falhas em ferramentas de terceiros que não foram avaliadas pelo Mythos. Além disso, o fator humano, especialmente em questões de engenharia social, continua sendo uma vulnerabilidade significativa em cibersegurança.

O Mythos foi apresentado internamente pela Anthropic como uma ferramenta capaz de identificar milhares de vulnerabilidades críticas em navegadores e sistemas operacionais. Apesar de algumas alegações de marketing exageradas, houve casos de uso bem-sucedido. Por exemplo, a Mozilla utilizou o Mythos para identificar e corrigir mais de 270 vulnerabilidades no Firefox.

Enquanto modelos mais antigos também podem identificar falhas, o Mythos se destaca por sua rapidez e eficiência, potencialmente superando outros modelos disponíveis no mercado. Contudo, esse poder de exploração foi um fator que levou a Anthropic a limitar o acesso ao modelo a um grupo específico de empresas e ONGs.

No entanto, um funcionário de um terceiro contratado pela Anthropic conseguiu violar o ambiente protegido do Mythos, usando ferramentas comuns de pesquisa na internet. Esse acesso acabou sendo compartilhado com colegas, resultando em uma pequena rede de usuários não autorizados que já conseguiu acessar o modelo.

O grupo conseguiu aproveitar informações do sistema de arquivos da Anthropic e alguns formatos de nomenclatura de modelos anteriores. Essas informações foram obtidas a partir de um recente ataque a uma empresa de recrutamento de feedback em IA, a Mercor, que agora enfrenta várias ações judiciais por suspeitas de vazamento de dados pessoais.

Curiosamente, a Mercor foi comprometida por uma ferramenta de terceiros chamada LiteLLM. O ataque a essa empresa foi conduzido por um grupo conhecido como Lapsus$, o que levanta questões sobre a proteção dos dados: cerca de 4TB de informações sensíveis foram extraviadas, incluindo dados de recrutamento, o que tem gerado reavaliações de contratos com a empresa.

Assim, a falha de segurança da Anthropic teve origem em uma quebra de segurança na Mercor, que, por sua vez, foi facilitada por um ataque ao LiteLLM. Esses incidentes ressaltam uma verdade crítica em cibersegurança: a segurança de um sistema é tão forte quanto seu elo mais fraco, frequentemente representado pela vulnerabilidade humana em contextos de engenharia social.

Enquanto modelos de IA, como o Mythos, têm o potencial de melhorar a segurança em software, os problemas de segurança relacionados ao acesso não autorizado enfatizam que confiar em terceiros sem supervisão pode ser uma armadilha para empresas valiosas. A crescente popularidade de ferramentas de IA e a integração de dados pessoais reforçam a necessidade de cautela e vigilância constante. Como o incidente com o Mythos prova, essa confiança pode ser um castelo de cartas à espera de desmoronar.