Как поддержка RX 9070 XT FP8 улучшает задачи AI по сравнению с предыдущими моделями

По сравнению с RDNA 3 архитектура RDNA 4 в RX 9070 XT удваивает базовую пропускную способность FP16 и снова удваивает ее для разреженных операций. Для рабочих нагрузок FP8 пропускная способность увеличивается до 8 раз по сравнению с операциями FP16 на RDNA 3. Это существенное увеличение пропускной способности особенно полезно для задач, которые в значительной степени зависят от умножения матрицы, например, в моделях машинного обучения.

Увеличенная матрица волновой матрицы умножна накапливает (WMMA) инструкции в RDNA 4 дополнительно оптимизирует производительность для задач AI. Эти улучшения позволяют RX 9070 XT для обеспечения значительно лучшей производительности в таких приложениях, как Adobe Lightroom и Davinci Resolve, с достижениями до 34% по сравнению с RX 7900 GRE. Для генеративных задач AI, таких как стабильная генерация диффузионных изображений, RX 9070 XT на 70% быстрее, чем его предшественник.

Однако в то время как RX 9070 XT превосходит в задачах AI, связанных с вычислением, он может установить ограничения в рабочих нагрузках, связанных с памятью из-за 256-битной шины памяти, которая обеспечивает до 640 Гбит/с полосы пропускания. Это меньше, чем 7900 XT 800 ГБ/с и 960 ГБ/с XTX, что потенциально влияет на производительность в задачах, которые требуют высокой пропускной способности памяти, таких как крупные языковые модели (LLMS).

В целом, поддержка FP8 RX 9070 XT и улучшенные акселераторы ИИ позиционируют его в качестве конкурентного варианта для задач искусственного интеллекта, особенно тех, которые выигрывают от повышения производительности вычислительной работы и более низких типов точности. Тем не менее, его эффективность и производительность в приложениях для ИИ с интенсивными в памяти могут варьироваться по сравнению с другими высококлассными графическими процессорами.