Bagaimana Tugas AI RX 9070 XTS meningkatkan tugas AI dibandingkan dengan model sebelumnya

Dibandingkan dengan rDNA 3, arsitektur RDNA 4 dalam RX 9070 XT menggandakan throughput FP16 baseline dan menggandakannya lagi untuk operasi yang jarang. Untuk beban kerja FP8, throughput meningkat hingga 8 kali dibandingkan dengan operasi FP16 pada rDNA 3. Peningkatan substansial dalam throughput ini sangat bermanfaat untuk tugas yang sangat bergantung pada multiplikasi matriks, seperti yang ditemukan dalam model pembelajaran mesin.

Instruksi matriks gelombang yang disempurnakan Multiply Acumpulate (WMMA) dalam rDNA 4 lebih lanjut mengoptimalkan kinerja untuk tugas AI. Perbaikan ini memungkinkan RX 9070 XT untuk memberikan kinerja yang jauh lebih baik dalam aplikasi seperti Adobe Lightroom dan DaVinci Resolve, dengan kinerja hingga 34% lebih baik dibandingkan dengan RX 7900 GRE. Untuk tugas AI generatif, seperti pembuatan gambar difusi yang stabil, RX 9070 XT hingga 70% lebih cepat dari pendahulunya.

Namun, sementara RX 9070 XT unggul dalam tugas AI yang terikat-terikat, ia mungkin menghadapi keterbatasan dalam beban kerja yang terikat memori karena bus memori 256-bit, yang menyediakan hingga 640 GB/s bandwidth. Ini kurang dari 800 GB/s 7900 XT dan 960 GB/s XTX, yang berpotensi berdampak pada tugas yang membutuhkan bandwidth memori tinggi, seperti model bahasa besar (LLM).

Secara keseluruhan, dukungan FP8 RX 9070 XT dan akselerator AI yang ditingkatkan memposisikannya sebagai opsi kompetitif untuk tugas AI, terutama yang mendapat manfaat dari peningkatan kinerja komputasi dan tipe data presisi yang lebih rendah. Namun, efisiensi dan kinerjanya dalam aplikasi AI intensif memori dapat bervariasi dibandingkan dengan GPU kelas atas lainnya.