Kaip „RX 9070 XT“ FP8 palaikymas padidina AI užduotis, palyginti su ankstesniais modeliais

Palyginti su RDNR 3, „RDNA 4“ architektūra RX 9070 XT padvigubina pradinį FP16 pralaidumą ir dar kartą padvigubina jį atliekant nedideles operacijas. FP8 darbo krūviams pralaidumas padidėja iki 8 kartų, palyginti su FP16 operacijomis RDNR 3. Šis esminis pralaidumo padidėjimas yra ypač naudingas atliekant užduotis, kurios labai priklauso nuo matricos daugybos, tokių, kokių randama mašinų mokymosi modeliuose.

Patobulinta bangų matrica dauginasi kaupiamos (WMMA) instrukcijos RDNR 4, dar labiau optimizuokite AI užduočių našumą. Šie patobulinimai leidžia „RX 9070 XT“ užtikrinti žymiai geresnį našumą tokiose programose kaip „Adobe Lightroom“ ir „Davinci Resolve“, o tai yra iki 34% geresni, palyginti su „RX 7900 GRE“. Generatyvinėms AI užduotims, tokioms kaip stabilios difuzijos vaizdo generavimas, „RX 9070 XT“ yra iki 70% greitesnis nei jo pirmtakas.

Tačiau nors „RX 9070 XT“ išsiskiria su skaičiavimų surištais AI užduotimis, dėl 256 bitų atminties magistralės gali susidurti su atminties apkrovos apribojimais, kurie suteikia iki 640 GB/s pralaidumo. Tai yra mažiau nei 7900 XT 800 GB/s ir „XTX“ 960 GB/s, o tai gali paveikti užduotis, kurioms reikalingas didelis atminties pralaidumas, pavyzdžiui, didelių kalbos modeliai (LLM).

Apskritai, „RX 9070 XT“ FP8 palaikymas ir patobulintos AI greitintuvai jį apibūdina kaip konkurencinę AI užduočių, ypač tų, kuriems naudinga pagerėti skaičiavimo našumas ir mažesni tikslių duomenų tipai, konkurencinė galimybė. Tačiau jo efektyvumas ir našumas intensyvių atminties AI programose gali skirtis, palyginti su kitais aukščiausios klasės GPU.