Intel e SambaNova se unem para criar plataforma de IA híbrida que otimiza desempenho em diferentes tarefas

Intel e SambaNova anunciaram uma nova arquitetura de inferência heterogênea, pronta para produção, que utiliza aceleradores de IA ou GPUs para pré-carregamento. Os dispositivos de reconfiguração de fluxo de dados (RDUs) SN50 da SambaNova são empregados para a decodificação e geração de tokens, enquanto os processadores Xeon 6 são usados para ferramentas de agentes e orquestração de sistemas. Essa plataforma tem o objetivo de abranger uma ampla variedade de cargas de trabalho, buscando conquistar parte do mercado atualmente dominado pela Nvidia e outros concorrentes.

A nova solução divide o processo de inferência em etapas distintas, gerenciadas por diferentes componentes de silício. Os GPUs de IA ou aceleradores de IA são responsáveis por processar longos prompts e construir caches de chave-valor. Em seguida, os SN50 da SambaNova decodificam e geram os tokens, enquanto os processadores Xeon 6 executam operações relacionadas a agentes, como compilar, executar códigos e validar saídas, além de coordenar e distribuir as cargas entre os diversos hardwares.

Essa estratégia, que segmenta pré-carregamento, decodificação e geração de tokens, é semelhante à abordagem da Nvidia em sua plataforma Rubin. No entanto, a diferença crucial é que a arquitetura desenvolvida pela Intel e SambaNova não depende de ofertas concorrentes, já que utiliza exclusivamente os processadores Xeon 6.

A previsão é que essa solução esteja disponível na segunda metade de 2026 para empresas, operadores de nuvem e programas de IA soberana que buscam plataformas de inferência escaláveis, especialmente voltadas para agentes de codificação e outras cargas de trabalho relacionadas.

Segundo dados internos da SambaNova, o Xeon 6 oferece uma compilação LLVM mais de 50% mais rápida em comparação com CPUs baseadas em Arm e apresenta até 70% mais desempenho em cargas de trabalho de banco de dados vetorial, superando os processadores x86 concorrentes, como o AMD EPYC. Esses avanços visam acelerar os ciclos de desenvolvimento de agentes de codificação e aplicações semelhantes.

Um dos principais benefícios dessa arquitetura de inferência heterogênea é que os servidores baseados em SN50 e Xeon são compatíveis com data centers que suportam até 30kW, o que abrange a maioria dos centros de dados empresariais.

O vice-presidente executivo e gerente geral do Grupo de Data Centers da Intel destacou que o ecossistema de software de data centers é fundamentado em arquitetura x86, operando com os processadores Xeon, os quais oferecem uma base madura e confiável. A colaboração com a SambaNova resulta em uma arquitetura de inferência de alto desempenho, projetada para atender as necessidades dos clientes de forma escalável, sendo impulsionada pelos processadores Xeon 6.