Meta e Nvidia trabalham em novo supercomputador de pesquisa de IA em massa

Meta Platforms e Nvidia anunciaram que estão trabalhando em um novo supercomputador de pesquisa de inteligência artificial (IA) em massa. O AI Research SuperCluster (RSC) já está treinando novos modelos de IA e, uma vez que estiver totalmente implantado, espera-se que seja a maior instalação do cliente de sistemas Nvidia DGX A100.

“Esperamos que o RSC nos ajude a construir sistemas de IA totalmente novos que possam, por exemplo, fornecer traduções de voz em tempo real para grandes grupos de pessoas, cada uma falando em um idioma diferente, para que possam colaborar perfeitamente em um projeto de pesquisa ou jogar um game de realidade aumentada juntos”, afirmou a Meta em anúncio divulgado.

O RSC deve ser finalizado ainda este ano. A Meta pretende usá-lo para treinar modelos de IA com mais de um trilhão de parâmetros. O sistema avançará em diversos campos como o de processamento de linguagem natural para trabalhos de identificação de conteúdo prejudicial em tempo real.

Ganhos de desempenho de 20 vezes

O novo supercomputador de IA atualmente utiliza 760 sistemas Nvidia DGX A100 como seus nós de computação. Eles incluem um total de 6.080 GPUs Nvidia A100 conectadas em uma rede Nvidia Quantum 200Gb/s InfiniBand para fornecer 1.895 petaflops de desempenho TF32.

É a segunda vez que a Meta faz parceria com a Nvidia para sua infraestrutura de pesquisa. Em 2017, as empresas construíram a primeira geração dessa infraestrutura para pesquisa de IA com 22 mil GPUs Nvidia V100 Tensor Core – que lidam com 35 mil trabalhos de treinamento de IA por dia.

Os primeiros benchmarks da Meta mostraram que o RSC pode treinar grandes modelos de PNL três vezes mais rápido e executar trabalhos de visão computacional 20 vezes mais rápido que o sistema anterior.

Em uma segunda fase, ainda este ano, a RSC expandirá para 16 mil GPUs que a Meta acredita que fornecerão cinco exaflops de desempenho de IA de precisão mista. Além disso, a Meta pretende expandir o sistema de armazenamento da RSC para fornecer até um exabyte de dados a 16 terabytes por segundo.

“Nós comemoramos mais essa parceria com a Meta em todo mundo. Será um grande desenvolvimento para toda a área tecnológica, contribuindo em vários quesitos do mercado”, conta Marcio Aguiar, diretor da divisão Enterprise da Nvidia para América Latina.