Custo da memória da Nvidia dispara 485% e construção dos novos sistemas de IA passa a custar US$ 7,8 milhões — memória representa agora 25% do valor total, enquanto GPUs da Rubin custam apenas US$ 50 mil cada

As demandas do setor de inteligência artificial estão elevando rapidamente os preços dos componentes, resultando em um aumento significativo nos custos das máquinas. Segundo estimativas da equipe da Super Select, um rack VR200 NVL72 baseado no Vera Rubin pode custar cerca de 7,8 milhões de dólares para grandes provedores de serviços em nuvem, bem mais do que os 4 milhões cobrados pela unidade GB300 NVL72. Além disso, como cada rack VR200 NVL72 contém bastante DRAM e NAND, a memória já representa cerca de 25% do custo total.

A Nvidia planeja cobrar 55 mil dólares por GPU Rubin e 5 mil dólares por CPU Vera ao vender esses componentes em grande escala para os provedores de serviços em nuvem. Embora os novos racks VR200 NVL72 mantenham o chassi Oberon, eles apresentam componentes mais sofisticados de comutação, rede, placas de circuito impresso, refrigeração, fonte de alimentação e embalagem de chips, o que eleva os custos de produção e, consequentemente, o preço final dos sistemas.

Cada rack VR200 NVL72 terá um custo de aproximadamente 7,8 milhões de dólares, superando os 7 milhões informados por uma fonte à equipe da Super Select em março. O custo da memória nesses racks também é significativo: estima-se que em torno de 2 milhões de dólares sejam gastos apenas com memória, representando um aumento de 435% em relação ao custo da memória no GB300 NVL72.

Atualmente, cada rack desses armazena 54 TB de memória LPDDR5X, um aumento considerável em relação aos 17 TB do GB200 NVL72. A estimação é de que a Nvidia pagou cerca de 8 dólares por GB de LPDDR5X no primeiro trimestre; esse preço pode subir conforme a demanda aumenta. Portanto, com apenas 8 dólares por GB, cada unidade GB200 NVL72 possui 136 mil dólares em memória LPDDR5X, enquanto cada VR200 NVL72 terá 408 mil dólares em memória. Se o preço subir para 10 dólares por GB, isso pode representar 540 mil dólares apenas em LPDDR5X.

Além disso, cada rack VR200 NVL72 conta com aproximadamente 1 milhão de dólares ou mais em armazenamento NAND 3D, um aumento significativo em comparação com o GB200 NVL72, que quase não continha esse tipo de armazenamento.

Diante disso, alcançar 2 milhões de dólares em componentes de memória por rack Vera Rubin NVL72 não é uma surpresa, dada a grande quantidade de LPDDR5X e 3D NAND utilizada, além dos altos preços atuais.