Nvidia melhora desempenho de VERA RUBIN para se manter à frente da concorrência com AMD Instinct, aumentando clocks e banda de memória que elevam demanda de energia para 2300 watts

A Nvidia anunciou recentemente que iniciou a produção em larga escala de sua plataforma Vera Rubin para datacenters de inteligência artificial, assegurando a parceiros que o lançamento está previsto para este ano, à frente de concorrentes como a AMD. Além de antecipar o lançamento, a Nvidia está reformulando as especificações da GPU Rubin para oferecer um desempenho superior. Rumores apontam um aumento no TDP para 2,3 kW por GPU e uma banda de memória de 22,2 TB/s.

O novo valor de potência da GPU Rubin foi definido em 2,3 kW, superando os 1,8 kW inicialmente anunciados, mas abaixo dos 2,5 kW que alguns observadores do mercado esperavam. Essa decisão de reforçar a potência visa garantir que as plataformas baseadas em Rubin deste ano sejam significativamente mais rápidas em comparação com a Instinct MI455X da AMD, que deve operar em torno de 1,7 kW. Essas informações sobre o aumento do consumo de energia para a Rubin provêm de uma fonte não oficial, mas são corroboradas indiretamente por análises disponíveis.

A equipe avaliou que o aumento de cerca de 500W na potência permite à Nvidia mais opções para melhorar o desempenho real, não se limitando apenas a números impressos. Isso pode possibilitar maiores frequências sustentadas durante cargas de treinamento e inferência, além de reduzir o estrangulamento quando o acelerador de IA está totalmente utilizado. Com essa potência adicional, é possível manter mais unidades de execução em operação simultânea, o que melhora o rendimento em workloads pesadas.

Além disso, o orçamento extra pode ser utilizado para operar a memória HBM4 e PHYs em frequências mais altas, aumentando assim a largura de banda. Um maior orçamento de potência também permite que a Nvidia atinja melhores desempenhos em todos os links, incluindo memória e interconexões, um aspecto cada vez mais importante à medida que os sistemas de IA modernos enfrentam limitações de largura de banda e desempenho.

No nível do sistema, esse adicional de 500W em TDP se traduz em maior performance por nodo e por rack. Operadores de grande escala valorizam mais o desempenho em nível de sistema do que o desempenho por GPU, pois menos GPUs podem ser necessárias para completar a mesma tarefa, reduzindo a carga de rede e melhorando a eficiência geral do cluster.

Além disso, um TDP mais alto facilita o lado da fabricação, permitindo uma melhor flexibilidade na seleção de unidades e maior margem de tensão, o que melhora o rendimento utilizável sem precisar reduzir o número de unidades de execução ou baixar as frequências.

Assim, esse aumento de potência não só melhora o desempenho das GPUs Rubin e a posição competitiva das soluções em larga escala VR200 NVL144, mas também serve como uma margem de confiabilidade, garantindo que a GPU possa manter uma performance previsível em implantações de datacenters, em vez de oferecer apenas números de pico elevados. Isso pode permitir que a Nvidia abasteça mais GPUs Rubin no mercado, o que é benéfico para seus resultados financeiros.