A nova geração de sistemas Vera Rubin Ultra da NVIDIA está em pauta, principalmente por rumores sobre uma possível redução nas especificações de memória. Segundo o Bank of America (BofA), a gigante das GPUs pode ajustar a quantidade de HBM4E para manter suas margens de lucro. Um relatório recente analisou detalhadamente os custos e capacidades das memórias HBM4E em comparação aos módulos SOCAMM2 que utilizam LPDDR5X, presentes nos novos racks Kyber.
O levantamento revela que a NVIDIA gastará mais com memórias LPDDR5X do que com HBM4E em sua nova infraestrutura de data center. O padrão HBM representará apenas 5% a 6% do valor total de cada rack.
A transição para SOCAMM2 e a explosão de capacidade
Atualmente, cada GPU Rubin básica é equipada com 288 GB de memória HBM4, oferecendo uma largura de banda de até 22 TB/s. A nova CPU Vera adotou os módulos SOCAMM2 baseados em LPDDR5X, que são montados de forma plana na placa-mãe, reduzindo drasticamente a latência e melhorando a integridade do sinal exigida pelos data centers de IA.
Cada CPU Vera possui 8 slots SOCAMM2, permitindo uma capacidade teórica total de 1,5 TB de LPDDR5X por processador, usando módulos de 192 GB. Comparando com os servidores Blackwell, que ofereciam CPUs Grace com 480 GB de memória e GPUs com até 288 GB de HBM3E, a diferença fica clara: a nova configuração nos racks Vera Rubin soma 74,7 TB de memória, enquanto os racks Kyber alcançam impressionantes 340,4 TB de DRAM.
O custo real da infraestrutura de IA
O relatório do Bank of America também revela os custos da arquitetura Rubin. A memória HBM4E tem um custo estimado de US$ 19,76 por gigabyte. Com um rack Kyber composto por 144 GPUs, a configuração incluirá 216 TB de LPDDR5X custando aproximadamente US$ 2,8 milhões, superando os US$ 2,5 milhões que representará os 124,4 TB de HBM4E.
O custo total de cada rack Kyber é alarmante, alcançando cerca de US$ 41,6 milhões.
De acordo com um relatório paralelo do banco suíço UBS, cada GPU Rubin tem um custo em torno de US$ 9.247 e a CPU Vera custa cerca de US$ 20.059, incluindo a memória LPDDR5X e outros componentes da placa.
A análise evidencia a grande dependência do mercado de memórias nos custos da NVIDIA: quase metade do custo de produção da GPU e quase a totalidade do custo da CPU são formados por chips de DRAM.
