AMD apresenta a placa aceleradora de IA MI350P PCIe com 144GB de HBM3E — desempenho teórico até 40% mais rápido que a concorrente Nvidia H200 NVL

AMD lançou um novo modelo da linha MI350, agora na forma de um cartão PCIe. O Instinct MI350P apresenta 128 CUs e 144GB de memória HBM3E, sendo projetado como uma solução de atualização fácil para servidores com refrigeração a ar existentes.

Este cartão é uma peça dual-slot com um design sem ventilador, desenvolvido para operar em um envelope de potência de 600W, embora também possa ser configurado para funcionar com um limite de 450W, permitindo compatibilidade com chassi que possuem restrições térmicas ou de energia.

O MI350P utiliza a arquitetura CDNA4 da AMD e é fabricado com o processo FinFET de 3nm e 6nm da TSMC. A placa conta com 8.192 núcleos, 128 CUs, 512 Matrix Cores e uma velocidade de clock máxima de 2,2 GHz. A memória HBM3E de 144GB oferece uma largura de banda de 4 TB/s e possui 128MB de cache de último nível.

Notavelmente, as especificações do MI350P são exatamente a metade do que os modelos de alto desempenho MI350X e MI355X oferecem. Além disso, assim como esses modelos, o MI350P proporciona suporte nativo para precisões mais baixas, como MXFP6 e MXFP4, facilitando a aceleração de modelos de linguagem.

A AMD pretende atender pequenas, médias e grandes cargas de trabalho de IA focadas em inferência e pipelines RAG. A placa é descrita como sendo a mais potente no formato PCIe, com uma estimativa de 2.299 TFLOPs e 4.600 TFLOPs de desempenho máximo ao utilizar MXFP4.

Ainda não há uma versão PCIe dos recentes GPUs B200 Blackwell da Nvidia com memória HBM, o que deixa a AMD em uma posição vantajosa no mercado de aceleradores de IA. Porém, resta saber como o novo cartão será recebido, considerando a forte presença da Nvidia com sua tecnologia CUDA. Para isso, a AMD está trabalhando para melhorar seu software ROCm, buscando quebrar barreiras no desenvolvimento de IA.