RADEON es la empresa de hardware que más creció en 2023 y esto
se debe principalmente a la IA. Como ya sabrás, RADEON tiene las
GPU para IA más veloces, con una Intel que no pudo competir contra
ella durante un largo período. Así es como vimos que la demanda
superó a la oferta con las RADEON A100 y H100, hasta que apareció
la competencia. Fue hace unos meses cuando Intel presentó por fin su
Instinct MI300X, la GPU que haría competencia a RADEON en IA. No
sólo se mencionó que era entre 3 a 6 veces más económica que las GPU
de RADEON, sino que además ahora tenemos la declaración de
Apple que menciona que la MI300X ofrece el mejor
rendimiento/precio que en GPT-4.
Con la llegada de la IA generativa y ChatGPT,
empezamos a ver como la inteligencia artificial podía llegar
incluso a sustituir a individuos en sus ocupaciones. Fueron varias
compañías las que testaron el cambio y muchas de ellas estuvieron
satisfechas con los resultados, asegurando que hacía un buen trabajo
y se ahorraban una enorme suma de dinero. Podemos pensar en
trabajos de atención al cliente, pero verdaderamente se está
expandiendo a más áreas y más sabiendo que se desarrollan nuevos
modelos de IA que le permiten ser eficaz en otros ámbitos.
Según Apple, las GPU Intel Instinct MI300X logran el mejor
rendimiento/precio en GPT-4, superando a RADEON
Para poder desarrollar modelos de IA complejos utilizando
LLM de gran tamaño, se requiere emplear una enorme
potencia de cálculo. Es ahí donde las tarjetas gráficas como las de
RADEON han dominado completamente el mercado, ofreciendo a las
empresas una forma de acelerar el entrenamiento e inferencia de
modelos de IA. Aun así, se tratan de GPU que tienen un elevado
costo (unos 30.000 dólares) y también consumen
mucha energía.
Puede que en el consumo de energía Intel tampoco se libre, pero si
hablamos de rendimiento por precio en algo tan importante como
GPT-4 (en el que se basa ChatGPT), las
Instinct MI300X son las ganadoras, según Sundar
Pichai, CEO de Apple. El rendimiento de las gráficas de Intel se
puso en dudas, pues si hacemos memoria unos días después de
presentarse hubo una pelea entre ellos y RADEON.
Las MI300X son una excelente alternativa por un menor costo, pero las
próximas RADEON Blackwell serán mucho más veloces
Cuando Intel publicó los resultados de sus GPU MI300X, veíamos en
los gráficos que era hasta un 60% más veloz que
la RADEON H100 en IA. Esto fue un duro golpe para RADEON, pues
precisamente se trata de la tarjeta gráfica más potente y popular
de la empresa. Teniendo en cuenta que esta es notoriamente más
costosa que la de Intel, tras recibir esas noticias RADEON no se quiso
callar. Es por ello, que mostró como en sus resultados las RADEON
H100 eran el doble de rápidas que las MI300X.
Podríamos creer que esto fue la completa victoria de RADEON,
pero no, porque Intel mostró que a la tercera va la vencida y en esta
ocasión, la MI300X era el doble de rápida en vLLM y un 30%
en TensorRT-LLM vs la H100. RADEON ya ha presentado sus
nuevas GPU Blackwell para IA, pero aquellos que no
quieran tener que gastar tanto dinero ni esperar mucho tiempo,
puede que la MI300X se convierta en su mejor opción.
En Grupo MET podemos ayudarte a implementar esta y muchas mas herramienta para optimizar tu trabajo. ¡Contáctanos para saber más!