¿Cómo el soporte de FP8 de RX 9070 XT mejora las tareas de IA en comparación con los modelos anteriores?

En comparación con RDNA 3, la arquitectura RDNA 4 en el RX 9070 XT duplica el rendimiento de la línea de base FP16 y la duplica nuevamente para operaciones escasas. Para las cargas de trabajo FP8, el rendimiento aumenta hasta 8 veces en comparación con las operaciones FP16 en el ADNr 3. Este aumento sustancial en el rendimiento es particularmente beneficioso para las tareas que dependen en gran medida de las multiplicaciones de matriz, como las que se encuentran en los modelos de aprendizaje automático.

La matriz de onda mejorada multiplica las instrucciones (WMMA) en RDNA 4 optimiza aún más el rendimiento para las tareas de IA. Estas mejoras permiten que el RX 9070 XT entregue un rendimiento significativamente mejor en aplicaciones como Adobe Lightroom y Davinci Resolve, con un rendimiento hasta un 34% mejor en comparación con el RX 7900 GRE. Para tareas generativas de IA, como la generación de imágenes de difusión estable, el RX 9070 XT es hasta un 70% más rápido que su predecesor.

Sin embargo, mientras que el RX 9070 XT se destaca en tareas de IA unidas al cómputo, puede enfrentar limitaciones en las cargas de trabajo unidas a la memoria debido a su bus de memoria de 256 bits, que proporciona hasta 640 GB/s de ancho de banda. Esto es menos que los 800 GB/s de 7900 XT y los 960 GB/s de la XTX, lo que puede afectar el rendimiento en tareas que requieren un alto ancho de banda de memoria, como los modelos de idiomas grandes (LLM).

En general, el soporte FP8 de RX 9070 XT y los aceleradores de IA mejorados lo colocan como una opción competitiva para las tareas de IA, especialmente aquellos que se benefician de un rendimiento mejorado de cómputo y tipos de datos de menor precisión. Sin embargo, su eficiencia y rendimiento en las aplicaciones de IA intensivas en memoria pueden variar en comparación con otras GPU de alta gama.