Imagem: Reprodução/BuscaPe
A AMD lançou a versão 7.0 do ROCm, sua plataforma de software de código aberto destinada à computação em GPU e inteligência artificial. Esta atualização é crucial para otimizar a eficiência em tarefas de treinamento e inferência de modelos de IA em grande escala.
A nova versão expandiu o suporte a diversos formatos de precisão e melhorou a gestão de cargas de trabalho, visando fortalecer sua posição no competitivo mercado de soluções de IA.
PRINCIPAIS NOVIDADES DO ROCm 7.0
- Suporte a Novas Arquiteturas: Suporte completo para os aceleradores AMD Instinct série MI350, que utilizam a arquitetura CDNA 4.
- Novos Formatos de Precisão: Otimizações para os formatos FP4, FP6 e FP8, que prometem maior velocidade e menor consumo de memória durante o processamento de modelos de IA.
- Inferência Distribuída: Aprimoramentos na capacidade de gerenciar workloads e inferências distribuídas entre múltiplos clusters de GPUs.
- HIP 7.0: Atualização da camada de portabilidade para facilitar a execução de aplicações em diferentes hardwares.
- Ferramentas Corporativas: Introdução do AMD Resource Manager e do AMD AI Workbench para otimizar o gerenciamento de ecossistemas corporativos.
- Imagens Docker Pré-configuradas: Suporte a frameworks como vLLM e SGLang com modelos quantizados populares, incluindo Llama e DeepSeek.
EXPANSÃO PARA PLATAFORMAS DE CONSUMO
A AMD também reafirmou seu compromisso de expandir o suporte do ROCm para placas de vídeo Radeon e processadores da linha Ryzen AI, visando atender não apenas o segmento de servidores e data centers, mas também o mercado consumidor.
Crédito da imagem: divulgação/reprodução
