Embora os sistemas de IA surpreendam e alarmem o mundo em igual medida, estão prestes a tornarem-se substancialmente mais poderosos. A Nvidia anunciou uma nova classe de supercomputador que irá treinar a próxima geração de modelos de IA e terão todo o potencial de aumentar o desemprego do ser humano!
O poder de processamento ultrapassa a capacidade humana?
O novo sistema é conhecido como Nvidia DGX GH200 e, aparentemente, será capaz de um enorme desempenho de 1 exaflop. Entre os 256 “superchips” GH200 de que é feito, o sistema terá uns espantosos 144 TB de memória partilhada, o que é 500 vezes mais do que o anterior supercomputador da Nvidia, o DGX A100, revelado há apenas três anos.
Para aproveitar até à última gota de energia, cada superchip GH200 é composto pelo CPU Grace da empresa e pela GPU Tensor Core H100 num único pacote, permitindo-lhes comunicar entre si sete vezes mais depressa do que uma ligação PCIe e utilizando apenas um quinto da eletricidade. Todas elas serão ligadas entre si através do NVLink Switch System da Nvidia, para funcionarem em conjunto como uma grande GPU.
O supercomputador resultante será utilizado para treinar os sucessores do ChatGPT e de outros modelos generativos de IA e de grandes linguagens. O mais famoso dos sistemas de IA foi treinado num supercomputador personalizado que a Microsoft construiu a partir de dezenas de milhares das anteriores GPUs A100 da Nvidia. A empresa está mais uma vez entre as primeiras na fila para o novo equipamento, juntamente com a Meta e o Google Cloud.
Helios atingirá 4 exaflops de desempenho!!!
No entanto, a Nvidia não está apenas a fornecer equipamento a outras empresas – também anunciou planos para construir o seu próprio supercomputador baseado na DGX GH200, denominado Helios. Previsto para arrancar no final de 2023, o Helios será composto por quatro sistemas DGX GH200, ou 1 024 superchips GH200, ligados em rede. Isto torná-lo-ia capaz de um total de 4 exaflops de desempenho, o que parece ser uma quantidade de potência impressionante.
Mas, claro, há uma ressalva a esses números. Atualmente, o supercomputador mais potente do mundo é o Frontier do DOE dos EUA, com 1,194 exaflops e, à primeira vista, pode parecer que o Helios da Nvidia será quatro vezes mais potente – mas isso é comparar maçãs e laranjas. A Nvidia está a utilizar uma medida menos precisa chamada FP8, enquanto os supercomputadores são geralmente classificados utilizando FP64 de dupla precisão. Se fosse convertido em FP64, o Helios estaria a atingir cerca de 36 petaflops, ou 0,036 exaflops.
Dito isto, o Helios e os superchips DGX GH200 em que se baseia continuam a ser ferramentas incrivelmente poderosas e serão capazes de produzir modelos de IA em semanas em vez de meses, afirma a Nvidia. É melhor nós, meros humanos, polirmos os nossos currículos.