Aumento nos custos de IA leva empresas a buscar LLMs chineses e modelos de código aberto para otimizar orçamentos

O custo de oferecer serviços de IA por meio de um modelo de assinatura tem aumentado aos poucos para as empresas do setor. Isso ocorre especialmente porque a redução no custo por token não acompanhou o aumento no uso desses tokens. Segundo análises de forums e comunidades gamers, as assinaturas oferecidas por empresas como Anthropic e OpenAI são bem mais baratas do que o custo real que precisa ser pago ao maximizá-las. Um estudo revelou que, ao adquirir todas as assinaturas de ambos os fornecedores, o gasto máximo possível (considerando os preços da API) supera bastante o que os usuários pagam mensalmente. Por exemplo, a assinatura Claude Max 20x custa US$ 200 por mês, mas, se utilizada ao máximo, poderia chegar a US$ 8.000, enquanto o ChatGPT Pro 20x, também a US$ 200 mensais, tem um custo máximo de aproximadamente US$ 14.000.

Para as ofertas mais básicas, a Anthropic atinge um ponto de equilíbrio nos seus planos menores (Claude Pro e Claude Max 5x) com uma utilização de 20%, enquanto a OpenAI começa a ter prejuízo se a utilização dos seus planos básicos (ChatGPT Plus e ChatGPT Pro 5x) ultrapassar 11,4%. A situação é bem pior para as ofertas de alto nível, com a Anthropic enfrentando déficit de margem bruta se a utilização alcançar 10%, e a OpenAI tendo prejuízo se o uso passar de 5,7%. Esses números indicam uma sustentabilidade duvidosa, mas mudanças como corte de funcionalidades ou aumento nos preços das assinaturas provavelmente estão fora de cogitação para essas empresas.

No entanto, existem pontos positivos! Com a chegada de novos modelos e a expansão de centros de dados, o custo para disponibilizar os modelos existentes está destinado a diminuir. Há previsões de que operar modelos do nível Opus 4.8 por US$ 20 por mês possa se tornar lucrativo em breve. Por outro lado, modelos avançados, como o Mythos, continuarão a custar muito mais. Portanto, é provável que as características mais avançadas sejam disponibilizadas apenas por acesso à API, exigindo pagamento por uso.

Conforme revelado, os níveis de assinatura são mais acessíveis do que o acesso por API. Contudo, para aproveitar ao máximo as capacidades desses modelos de IA, é necessário recorrer à API, o que pode extrapolar orçamentos rapidamente. Modelos de IA mais potentes podem consumir até mil vezes mais tokens do que os modelos padrões, levando empresas de grande porte a repensar a estratégia de “tokenmaxxing”. Algumas até enfrentaram custos extremos; uma empresa não identificada, por exemplo, gastou US$ 500 milhões em um mês após não estabelecer limites de uso nas licenças dos funcionários.

Diante desse cenário, algumas empresas têm começado a utilizar ferramentas que trocam esses modelos de ponta por opções mais baratas, incluindo modelos de código aberto chineses, como o DeepSeek. Relatos dizem que os custos poderiam ser reduzidos em até 95% ao permitir que as máquinas mudem entre os modelos de IA conforme necessário. Especialistas indicam que há modelos de código aberto que demonstram grande capacidade, sugerindo que a possibilidade de cobrar altos preços por IA pode diminuir.

Empresas têm buscado criar suas próprias IAs usando modelos de código aberto, adaptadas a necessidades específicas e treinadas com dados internos. Embora isso possa parecer complicado e caro inicialmente, pode resultar em economia a longo prazo, evitando a dependência de fornecedores externos. Algumas até afirmam que essas soluções personalizadas podem superar os modelos de ponta, por serem feitas sob medida para suas aplicações.

A disponibilidade de modelos mais acessíveis e agentes de IA que otimizam custos operacionais usando opções mais caras apenas quando necessário pressionam OpenAI e Anthropic a reconsiderar seus preços. O CEO da OpenAI comentou sobre a questão dos elevados custos dos tokens de IA e destacou que a empresa está buscando maneiras de proporcionar aos usuários “mais valor por menos gasto” ao utilizar o ChatGPT.