O MLCommons, um grupo de referência em AI (Inteligência Artificial), lançou um novo conjunto de testes e resultados para avaliar a velocidade do hardware de alta performance na execução de aplicações de AI e na resposta aos usuários. Esses testes medem a capacidade de resposta de chips de AI e sistemas na geração de respostas a partir de modelos de AI com dados densos. Isso permite a avaliação de como aplicações como o ChatGPT podem fornecer respostas às consultas dos usuários. Um dos novos testes, chamado Llama 2, foca em medir a velocidade de cenários de perguntas e respostas para grandes modelos de linguagem. Foi desenvolvido pela Meta Platforms e contém 70 bilhões de parâmetros. Além disso, a MLCommons incluiu um segundo gerador de texto para imagem, chamado MLPerf, baseado no modelo Stable Diffusion XL da Stability AI. Em termos de desempenho bruto, servidores equipados com os chips H100 da Nvidia, de empresas como Google, Supermicro e a própria Nvidia, se destacaram em ambos os novos testes.

Alguns fabricantes de servidores também apresentaram designs baseados no chip L40S menos potente da Nvidia. É importante ressaltar que o fabricante de servidores Krai apresentou um design para o teste de geração de imagem utilizando um chip de AI da Qualcomm, que consome significativamente menos energia do que os processadores de ponta da Nvidia. A Intel também apresentou um design baseado em seus chips aceleradores Gaudi2, que obtiveram resultados sólidos de acordo com a empresa. Embora o desempenho bruto seja importante, eficiência energética é outro aspecto crítico a ser considerado ao implementar aplicações de AI. Chips de AI avançados requerem uma quantidade substancial de energia, portanto encontrar um equilíbrio entre desempenho e consumo de energia é um desafio significativo para as empresas de AI. A MLCommons aborda isso por meio de uma categoria separada de testes dedicada à medição do consumo de energia. (Reportagem de Max A. Cherney em São Francisco; Edição de Jamie Freed)