Chips de IA da AMD são melhores do que os da NVIDIA. O problema está no software…

Hoje em dia, quando se fala em treinar modelos de inteligência artificial (IA) de forma eficaz, parece que a NVIDIA é a primeira escolha. Contudo, há alternativas que começam a ganhar tração, sendo os chips MI300X da AMD uma das opções mais promissoras.

O hardware convence, o software desilude

Uma recente análise publicada pela SemiAnalysis coloca os MI300X lado a lado com os H100 e H200 da NVIDIA. Em termos teóricos, os chips da AMD apresentam especificações superiores. Têm mais memória integrada, maior largura de banda e desempenho em TFLOPS que, no papel, superam os das soluções concorrentes.

No entanto, o verdadeiro problema para a AMD não reside no hardware, mas na plataforma de software que acompanha os seus chips. De acordo com a SemiAnalysis, a experiência de utilização do software da AMD está cheia de problemas que tornam o treino de modelos de IA quase inviável.

Apesar de esforços conjuntos para corrigir falhas, o software da AMD continua atrás do ecossistema robusto que a NVIDIA oferece aos seus utilizadores.

De: SemiAnalysis

TFLOPS: nem sempre mais é melhor

Os especialistas chamam a atenção para um equívoco comum: considerar o número de TFLOPS como um indicador absoluto de desempenho. Fazem uma analogia com as câmaras de telemóveis, onde o número de megapixéis não é o único fator determinante da qualidade de imagem.

Da mesma forma, mais TFLOPS não significa necessariamente melhor desempenho em IA, especialmente quando o software não consegue aproveitar totalmente o potencial do hardware.

Os testes realizados revelam que o custo total de propriedade (TCO) dos MI300X é atualmente superior ao dos chips da NVIDIA. Para as empresas, o ecossistema da NVIDIA acaba por ser uma opção mais económica e eficiente, mesmo que o hardware da AMD tenha características atraentes.

A única esperança para a AMD neste aspeto é resolver os problemas de software, o que poderia nivelar o campo de jogo.

AMD precisa de mais testes internos e "dogfooding"

Uma das principais conclusões da SemiAnalysis é a necessidade de a AMD investir mais em testes internos e no uso real dos seus próprios produtos - uma prática conhecida como "dogfooding". Isso ajudaria a identificar e resolver problemas antes de lançar os chips no mercado.

Os especialistas afirmam que, atualmente, os MI300X "não são utilizáveis logo à saída da caixa" e requerem um esforço significativo de ajuste e configuração para serem eficazes no contexto de IA.

O maior diferencial da NVIDIA não é apenas o hardware, mas a sua plataforma de software, a CUDA. Este ambiente tornou-se o mais comum da indústria de IA, com anos de maturação e um ecossistema consolidado de bibliotecas e funcionalidades que facilitam o trabalho de empresas e programadores.

Reconhecendo esta vantagem, os rivais da NVIDIA estão a concentrar esforços para quebrar o monopólio da CUDA. Um exemplo é a Intel, que lidera uma aliança com o objetivo de criar alternativas viáveis e competitivas. Ainda assim, o caminho não será fácil.

Leia também: