Quando se tem os recursos financeiros de Elon Musk, não é de estranhar que tenha também as melhores ferramentas ao seu alcance. Uma delas é o “Colossus”, um sistema de treino de modelos de Inteligência Artificial (IA) que custou cerca de 2 mil milhões de euros e que, de acordo com o magnata, é o sistema mais potente do mundo para este tipo de trabalho.
Sistema de treino da xAI é potente, mas suscita preocupações
Tal como confirmou há alguns dias através de uma publicação no X, o seu sistema foi concluído em cerca de 122 dias e é composto por cerca de 100.000 placas gráficas Nvidia H100. A intenção com este sistema é treinar o GROK, o modelo de linguagem que dá vida à ferramenta xAI.
Embora o sistema seja um prodígio com estes números, Musk espera duplicar a sua potência em apenas alguns meses. Para o efeito, acrescentará mais 50.000 chips H200 da Nvidia, duplicando assim o desempenho de uma GPU H100.
Não existem detalhes oficiais sobre o custo deste projeto, mas não foi certamente barato. Os chips H100 custam entre 20.000 e 90.000 dólares cada, mas parece que Musk fez um bom negócio com um pacote de 100.000 dessas unidades de uma só vez.
Calculando apenas o preço desses chips, e olhando para o limite inferior, Musk teria gasto pelo menos 2 mil milhões para construir “o sistema de treino de IA mais poderoso do mundo”. Isto sem contar com os 50.000 novos chips H200 da Nvidia e todos os custos de infraestruturas, centros de dados, equipamento, etc.
This weekend, the @xAI team brought our Colossus 100k H100 training cluster online. From start to finish, it was done in 122 days.
Colossus is the most powerful AI training system in the world. Moreover, it will double in size to 200k (50k H200s) in a few months.
Excellent…
— Elon Musk (@elonmusk) September 2, 2024
Há apenas algumas semanas, o GROK-2 foi lançado exclusivamente para os membros do plano Premium do X. Já em alguns benchmarks, o GROK-2 está em segundo lugar, atrás do GPT-4o. Para o GROK-3, as coisas vão mudar completamente, uma vez que este novo sistema está a ser utilizado para treino, pelo que não nos surpreenderia se, após alguns meses, acabasse por ser uma das inteligências artificiais mais potentes.
Numa declaração recente, Musk disse que o GROK-3 chegaria em dezembro. É de salientar que o seu novo cluster “Colossus” não foi construído sem consequências diretas. O sistema, localizado em Memphis, no Tennessee, irá consumir 150 MW de energia e já foram atribuídos quase quatro milhões de litros de água por dia para arrefecer o sistema.
O grande impacto ambiental dos sistemas de IA vem juntar-se à longa lista de preocupações que rodeiam este tipo de tecnologia.
Leia também: