[ad_1]
O confronto entre AMD e NVIDIA quando se trata de benchmarks de soluções de inteligência artificial (IA) não para. Após o time vermelho publicar um resultado de benchmark no anúncio da GPU Instinct MI300X e o time verde rebater com novos números da GPU H100, a AMD revelou um novo benchmark do MI300X usando vLLM.
Nesse novo teste feito pela AMD, a empresa citou que usou as seguintes configurações: vLLM em ambas as GPUs, vLLM na AMD MI300X e TensorRT-LLM na NVIDIA H100 e, por fim, comparou o desempenho do tipo de dados FP16 nas GPUs MI300X com o tipo de dados FP8 no H100 (formato de dados suportados por cada GPU).
Continua após a publicidade
Os resultados mostram que a solução da AMD, nesse cenário, tem desempenho até 2x superior em relação à concorrência. A latência é outro ponto destacado pela companhia, com a MI300X apresentando 1,6s de latência no modelo Llama 70B contra 1,7s da GPU da Nvidia.
🛒Compre a Radeon RX 7900 XTX no melhor preço!
🛒Compre a GeForce RTX 4090 no melhor preço!
Uma briga que não vai cessar tão cedo
Continua após a publicidade
Com a NVIDIA registrando receita de US$ 18 bilhões graças à IA no 3º trimestre do ano fiscal de 2024, a AMD certamente busca competir com mais intensidade no mesmo mercado e aumentar a participação nas soluções de inteligência artificial voltada às empresas, visto que é mais lucrativo que as tradicionais GPUs para o consumidor.
O anúncio da AMD Instinct MI300X foi o primeiro passo e essas comparações diretas mostram o foco nessa competição, que certamente se intensificará com os rumores do lançamento da nova NVIDIA H200 – que é bem superior a H100.
Fonte: AMD
[ad_2]
Source link