Kako podpora FP8 RX 9070 XT poveča naloge AI v primerjavi s prejšnjimi modeli

V primerjavi z rDNA 3 arhitektura RDNA 4 v RX 9070 XT podvoji izhodiščno prepustnost FP16 in jo spet podvoji za redke operacije. Za delovne obremenitve FP8 se pretok poveča za 8 -krat v primerjavi z operacijami FP16 na rDNA 3. To znatno povečanje pretoka je še posebej koristno za naloge, ki se močno zanašajo na množenje matriksa, kot so tiste, ki jih najdemo v modelih strojnega učenja.

Izboljšana valovna matrica množično kopiči (WMMA) navodila v rDNA 4 še dodatno optimizirajo zmogljivost za naloge AI. Te izboljšave omogočajo, da RX 9070 XT zagotavlja bistveno boljše zmogljivosti v aplikacijah, kot sta Adobe Lightroom in Davinci Resolve, z do 34% boljšo zmogljivostjo v primerjavi z RX 7900 GRE. Za generativne naloge AI, kot je stabilna difuzijska slika, je RX 9070 XT do 70% hitreje od predhodnika.

Kljub temu, da se RX 9070 XT odlično odreže pri računalniško vezanih AI nalogah, se lahko zaradi 256-bitnih pomnilniških vodila, ki zagotavlja do 640 GB/s pasovne širine, sooči z omejitvami, vezanimi na spomin. To je manj kot 7900 XT -jev 800 GB/s in XTX -ov 960 GB/s, kar lahko vpliva na uspešnost pri nalogah, ki zahtevajo visoko pasovno širino pomnilnika, kot so veliki jezikovni modeli (LLM).

Na splošno ga podpora FP8 RX 9070 XT in izboljšani pospeševalci AI postavljajo kot konkurenčno možnost za naloge AI, zlasti tiste, ki imajo koristi od izboljšanih računalniških zmogljivosti in nižjih vrst natančnosti. Vendar pa se lahko njegova učinkovitost in zmogljivost v pomnilniških aplikacijah AI razlikujeta v primerjavi z drugimi GPU-ji višjega cenovnega razreda.