Aliada à Inteligência Artificial (IA), a NVIDIA está a fazer um caminho notável de crescimento. Para fazer frente a esta gigante do hardware, a concorrente Intel concebeu um processador mais barato e mais potente.
Chama-se Gaudi 3 e é a aposta da Intel para competir com a NVIDIA no domínio da IA. O processador promete um desempenho de processamento até 1,7 vezes superior e uma inferência 50% melhor do que o H100. A par disso, será até 40% mais eficiente e custará, segundo revelado, menos do que um processador NVIDIA.
Durante o seu evento Vision 2024, a Intel revelou o seu Gaudi 3, um processador para treinar e executar modelos de linguagem grandes (LLM), bem como outras tarefas complexas.
De acordo com a Intel, o chip apresenta um aumento de 4x na computação de IA para workloads BF16 e uma largura de banda de memória 1,5x mais rápida, em comparação com o seu antecessor, o Gaudi 2.
O Gaudi 3 foi construído com base no processo de cinco nanómetros e permite o funcionamento paralelo de todos os seus mecanismos, resultando em cálculos de aprendizagem profunda mais rápidos e mais eficientes.
Destaque para o processador de IA dedicado com 64 núcleos de processamento tensorial e oito mecanismos de multiplicação de matrizes (MME). Segundo a Intel, cada MME pode realizar 64.000 operações paralelas, acelerando as tarefas de aprendizagem profunda.
Pat Gelsinger, diretor-executivo da Intel, a revelar o processador Gaudi 3, durante a conferência Vision da marca, em Phoenix, no Arizona
Além disso, o Gaudi 3 integra 128 GB de memória HBM2E, uma largura de banda de 3,7 TB e 96 MB de SRAM integrada. Esta capacidade de memória permitir-lhe-á processar grandes conjuntos de dados de forma eficiente, utilizando menos aceleradores.
O novo processador da Intel poderá ligar-se a outros aceleradores através de Ethernet, com cada unidade a oferecer 24 portas de 200 Gb integradas.
Será a proposta da Intel melhor do que a da NVIDIA?
A empresa promete que sim. Aliás, para provar ser capaz de fazer frente à NVIDIA, a Intel apresentou alguns números relativos ao desempenho do seu novo processador, durante o Vision 2024. Segundo partilhou, o seu chip oferece melhorias significativas de desempenho para tarefas de treino e inferência.
A empresa avaliou um H100 em modelos como o Llama 2 e o GPT-3. Depois, explicou que o seu Gaudi 3 é até 50% mais rápido em termos de tempo de treino para modelos como o Llama 2 e o GPT-3.
Mais, explicou que o seu processador é até 50% mais rápido em termos de desempenho de inferência, além de oferecer uma eficiência energética 40% superior para modelos como o Llama e o Falcon.
Quando comparado com um NVIDIA H200, o Gaudi 3 é até 30% mais rápido na inferência para Llama, segundo a Intel.
Gaudi 3 da Intel
O Gaudi 3 estará disponível para fabricantes como a Dell, Lenovo, HP e Supermicro durante o segundo trimestre de 2024, mas as empresas que pretendam adquiri-los individualmente terão de esperar até ao terceiro trimestre do ano. O modelo PCIe chega, porém, até ao final de 2024.
A Intel irá oferecer o Gaudi 3 em duas variantes:
- Como uma board no formato encontrado noutros sistemas de IA: 128 GB de memória HBM2E e proposta em grupos de oito por núcleo de servidor;
- Como uma board PCI Express focada em workloads como afinação ou inferência: 128 GB de memória e um Thermal Design Power de 600 watts.
Embora o preço mais baixo tenha sido bandeira para a apresentação deste novo processador Gaudi 3, a Intel não mencionou detalhes sobre valores.