Atualização do Nvidia DGX Spark reduz consumo de energia ocioso em 32% ou mais e aprimora detecção hot-plug no ConnectX NIC para uma estação de trabalho de IA mais eficiente.

A Nvidia DGX Spark se estabeleceu como um motor local de IA compacto e versátil, contando com 128GB de RAM, um rápido processador Arm de 20 núcleos e uma GPU Blackwell capaz. A equipe da Super Select observou sua utilidade tanto em inferências de LLM quanto em fluxos de trabalho de geração de imagens e vídeos, conforme relatado em análises em fóruns e comunidades online.

Durante os testes, porém, surgiu uma surpresa. Apesar de sua tecnologia de fabricação de 3nm, a complexidade do CPU Arm e a longa experiência da Nvidia em gerenciamento de energia, o DGX Spark e seu SoC GB10 apresentaram um consumo de aproximadamente 37W em modo de espera. Embora isso não represente um grande problema para um sistema eficiente, agora é possível entender as razões por trás desse número elevado, além de haver uma solução simples.

Na atualização mais recente do software do sistema, a Nvidia habilitou a detecção de hot-plug para a interface de rede ConnectX 7 de 200Gbps, um controlador exótico que aparentemente consumia energia significativa em modo de espera. De acordo com informações disponíveis, essa atualização pode reduzir o consumo de energia do sistema em até 18W quando a interface ConnectX 7 não está ativa.

A equipe da Super Select testou essas afirmações utilizando um medidor de energia USB-C e mediu o consumo em modo de espera do DGX Spark Founders Edition antes e depois da atualização. Antes da atualização, o sistema realmente consumia cerca de 37W, mas, após a instalação da nova versão, o consumo caiu para apenas 25W em modo de espera, representando uma redução de 32,4%. Quando a tela estava desconectada, como seria o caso se o Spark operasse como servidor headless, o consumo caiu ainda mais, para apenas 22W.

Entretanto, nem todas as unidades GB10 podem se beneficiar igualmente dessa atualização. A equipe também testou a nova versão do software em um sistema Dell Pro Max com GB10, mas o consumo em modo de espera permaneceu inalterado, entre 35-37W.

Além disso, a Nvidia está destacando algumas maneiras de utilização do Spark em instituições educacionais ao redor do mundo, onde serve como um acelerador local de IA para diversos projetos interessantes. Conforme relatos, os DGX Sparks estão sendo utilizados para impulsionar modelos de IA no IceCube Neutrino Observatory no Polo Sul, analisando relatórios de radiologia na NYU e contribuindo para o estudo da genética da epilepsia em Harvard, entre outras aplicações.

Um diretor de computação do Wisconsin IceCube Particle Astrophysics Center mencionou que os baixos requisitos de energia do Spark são ideais para implantação em condições remotas e severas do Polo Sul, permitindo uma análise local dos dados observacionais de neutrinos. Em um local onde a largura de banda e a energia disponível são extremamente limitadas, a capacidade de executar modelos de IA localmente com desempenho relativamente alto usando somente cerca de 140W de energia é inestimável. Certamente, os pesquisadores ficarão satisfeitos em economizar alguns watts a mais de energia em modo de espera com a atualização mais recente.

Para aqueles que utilizam um Spark, é recomendável acessar o DGX Dashboard e verificar a aba de Configurações para instalar a atualização mais recente.