In che modo il supporto FP8 di RX 9070 XT migliora le attività AI rispetto ai modelli precedenti

Rispetto a RDNA 3, l'architettura RDNA 4 nell'RX 9070 XT raddoppia il throughput FP16 di base e raddoppia nuovamente per operazioni sparse. Per i carichi di lavoro FP8, il throughput è aumentato fino a 8 volte rispetto alle operazioni di FP16 su RDNA 3. Questo sostanziale aumento della produttività è particolarmente vantaggioso per le attività che si basano fortemente su molteplicazioni di matrice, come quelle presenti nei modelli di apprendimento automatico.

Le istruzioni per l'accumulo di accumulate (WMMA) a matrice ad onda migliorata in RDNA 4 ottimizzano ulteriormente le prestazioni per le attività di intelligenza artificiale. Questi miglioramenti consentono a RX 9070 XT di offrire prestazioni significativamente migliori in applicazioni come Adobe Lightroom e DaVinci Resolve, con prestazioni migliori fino al 34% rispetto al GRE RX 7900. Per le attività di AI generative, come la generazione di immagini di diffusione stabile, RX 9070 XT è fino al 70% più veloce del suo predecessore.

Tuttavia, mentre la RX 9070 XT eccelle nelle attività di intelligenza artificiale legate al calcolo, può affrontare i limiti nei carichi di lavoro legati alla memoria a causa del suo bus di memoria da 256 bit, che fornisce fino a 640 GB/s di larghezza di banda. Questo è inferiore alle 800 GB/S di 7900 XT e i 960 GB/s di XTX, influiscono potenzialmente alle prestazioni in compiti che richiedono un'elevata larghezza di banda della memoria, come i modelli di grandi dimensioni (LLMS).

Nel complesso, il supporto FP8 di RX 9070 XT e gli acceleratori di intelligenza artificiale migliorati lo posizionano come opzione competitiva per le attività di intelligenza artificiale, in particolare quelle che beneficiano di migliori prestazioni di calcolo e tipi di dati di precisione inferiori. Tuttavia, la sua efficienza e le prestazioni nelle applicazioni di intelligenza artificiale ad alta intensità di memoria possono variare rispetto ad altre GPU di fascia alta.