Nvidia fica em primeiro lugar no desempenho de inferência de IA
A Nvidia oferece os melhores resultados em inferência de IA utilizando chips x86 ou CPUs Arm, conforme benchmarks divulgados pela companhia nesta quarta-feira, 22. Essa é a terceira vez consecutiva que a NVIDIA bate recordes em desempenho e eficiência energética em testes de inferência do MLPerf, grupo de benchmarking da indústria formado em 2018.
Pela primeira a Nvidia executou os testes de categoria de data center em sistema baseado em Arm, dando aos usuários mais opções de como implantar a inteligência artificial.
Os sistemas baseados na plataforma Nvidia AI superaram todos os sete testes de desempenho de inferência na última rodada. Os testes utilizaram sistemas da Nvidia e de nove dos parceiros de ecossistema. O que inclui Alibaba, Dell Technologies, Fujitsu, GIGABYTE, Hewlett Packard Enterprise, Inspur, Lenovo, Nettrix e Supermicro.
A inferência é o que acontece quando um computador executa um software de IA para reconhecer um objeto ou fazer uma previsão. O processo usa um modelo de deep learning para filtrar dados. Os benchmarks de inferência do MLPerf são baseados nas cargas de trabalho e cenários de IA mais populares da atualidade. Eles abrangem visão computacional, imagens médicas, processamento de linguagem natural, sistemas de recomendação e aprendizado.
Os benchmarks mostram que os servidores baseados em Arm que usam CPUs Ampere Altra oferecem desempenho quase igual a servidores baseados em x86 configurados de forma semelhante para trabalhos de inferência de IA.
Nos testes, a empresa empregou o pacote completo de softwares. O Kit de Ferramentas NVIDIA TAO personaliza modelos de IA pós-treinados para aplicações específicas usando o aprendizado por transferência. O NVIDIA TensorRT otimiza modelos de IA para que realizem melhor uso de memória e funcionem mais rápido.
A empresa também incluiu o software para Servidor de Inferência NVIDIA Triton e o recurso de GPU Multi-Instância (MIG) nesses benchmarks. Com isso, a Nvidia obteve ganhos de até 20% em desempenho e 15% em eficiência de energia dos benchmarks de quatro meses atrás. (Com assessoria de imprensa)
