Hvordan forbedrer RX 9070 XTs FP8 -støtte AI -oppgaver sammenlignet med tidligere modeller

Sammenlignet med rDNA 3, dobler RDNA 4 -arkitekturen i RX 9070 XT baseline FP16 -gjennomstrømningen og dobler den igjen for sparsom operasjoner. For FP8 -arbeidsmengder økes gjennomstrømningen med opptil 8 ganger sammenlignet med FP16 -operasjoner på rDNA 3. Denne betydelige økningen i gjennomstrømningen er spesielt gunstig for oppgaver som er avhengige av matriksmultiplikasjoner, slik som de som finnes i maskinlæringsmodeller.

Den forbedrede bølgematrisen Multiply akkumulerte instruksjoner (WMMA) i RDNA 4 optimaliserer ytelsen ytterligere for AI -oppgaver. Disse forbedringene gjør det mulig for RX 9070 XT å levere betydelig bedre ytelse i applikasjoner som Adobe Lightroom og DaVinci Resolve, med opptil 34% bedre ytelse sammenlignet med RX 7900 GRE. For generative AI -oppgaver, for eksempel stabil diffusjonsbildegenerering, er RX 9070 XT opptil 70% raskere enn forgjengeren.

Mens RX 9070 XT utmerker seg i beregningsbundne AI-oppgaver, kan det imidlertid møte begrensninger i minnebundne arbeidsmengder på grunn av den 256-biters minnebussen, som gir opptil 640 GB/s båndbredde. Dette er mindre enn 7900 XTs 800 GB/s og XTXs 960 GB/s, noe som potensielt påvirker ytelsen i oppgaver som krever båndbredde med høy minne, for eksempel store språkmodeller (LLM).

Totalt sett posisjonerer RX 9070 XTs FP8 -støtte og forbedrede AI -akseleratorer det som et konkurransedyktig alternativ for AI -oppgaver, spesielt de som drar nytte av forbedret beregningsytelse og lavere presisjonsdatatyper. Imidlertid kan effektiviteten og ytelsen i minneintensive AI-applikasjoner variere sammenlignet med andre high-end GPU-er.