Switch InfiniBand Mellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0 em Produção

Um instituto líder de pesquisa em IA do Leste Asiático enfrentou um gargalo comum, mas crítico. Seu cluster de 512 GPUs, usado para treinamento de modelos de linguagem grandes e simulações de dinâmica molecular, sofria de severa degradação de desempenho à medida que os trabalhos escalavam. A causa raiz era a antiga rede Ethernet de 100 Gb/s, onde o overhead do TCP/IP e a perda de pacotes durante eventos de incast causavam tempos ociosos de GPU de até 35%. A equipe precisava de uma rede sem perdas e de latência ultrabaixa que pudesse suportar RDMA e escalar para milhares de nós sem comprometer o desempenho determinístico. Após avaliar várias soluções, eles selecionaram o switch InfiniBand Mellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0 como o núcleo de sua nova arquitetura spine-leaf.

A implantação centrou-se no 920-9B210-00FN-0D0 como camada spine, com 32 switches leaf conectando 512 GPUs NVIDIA A100 via adaptadores ConnectX-7. Cada switch 920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDR fornece 400 Gb/s por porta, dobrando a largura de banda das soluções HDR anteriores, mantendo latência de comutação sub-microsegundo. O OPN do switch InfiniBand 920-9B210-00FN-0D0 oficial simplificou a aquisição e garantiu a consistência do firmware em todas as unidades. Engenheiros de rede utilizaram a folha de dados 920-9B210-00FN-0D0 detalhada e as especificações 920-9B210-00FN-0D0 para validar os requisitos de energia e térmicos, permitindo uma integração perfeita em racks de 19" existentes. Crucialmente, o switch é totalmente compatível com 920-9B210-00FN-0D0 tanto com a infraestrutura HDR existente quanto com endpoints NDR mais novos, permitindo uma migração faseada.

• Ganhos de Eficiência RDMA: Com o NVIDIA Mellanox 920-9B210-00FN-0D0 habilitando o controle de congestionamento baseado em hardware, a latência de escrita RDMA caiu de 12 µs para 1,2 µs. O RDMA direto da GPU (GDR) tornou-se totalmente eficaz, eliminando gargalos de memória da CPU.
• Aceleração de Aplicações HPC: Um código chave de modelagem climática (baseado em MPI) viu uma melhoria de desempenho de 2,7x devido ao roteamento adaptativo do switch e aos offloads coletivos SHARP v2.
• Throughput de Treinamento de IA: Para um trabalho de treinamento de LLM de 175 bilhões de parâmetros, a nova rede reduziu o tempo de all-reduce em 68%, melhorando a utilização geral da GPU de 62% para 91%.
• Simplicidade Operacional: A solução OPN do switch InfiniBand 920-9B210-00FN-0D0 integrou-se com a plataforma UFM da NVIDIA, fornecendo telemetria em tempo real e alertas preditivos de falha. Gerentes de TI relataram uma redução de 50% no tempo de solução de problemas relacionados à rede.

Ao avaliar o projeto, o instituto de pesquisa comparou o preço do 920-9B210-00FN-0D0 com soluções Ethernet concorrentes. Apesar de um custo inicial mais alto, o custo total de propriedade (TCO) favoreceu o InfiniBand devido à maior utilização da GPU e menor consumo de energia por Gb/s. As unidades estão prontamente disponíveis como 920-9B210-00FN-0D0 para venda através dos canais de distribuição da NVIDIA, com prazos de entrega significativamente mais curtos do que outros switches NDR. As especificações 920-9B210-00FN-0D0 detalhadas também confirmaram o suporte para fontes de alimentação redundantes e ventoinhas hot-swap, atendendo aos requisitos de confiabilidade do instituto para operações de pesquisa de IA 24/7.

O instituto de pesquisa de IA agora padronizou o 920-9B210-00FN-0D0 para todas as futuras expansões de cluster, incluindo uma rede NDR200 planejada de 2.048 GPUs. Este caso real demonstra que o NVIDIA Mellanox 920-9B210-00FN-0D0 não é apenas um switch — é um componente fundamental para alcançar escalabilidade de desempenho linear em ambientes de IA e HPC. Para arquitetos e gerentes de TI que buscam eliminar gargalos de rede, a solução OPN do switch InfiniBand 920-9B210-00FN-0D0 oferece um caminho comprovado e pronto para produção.