Làm thế nào để hỗ trợ FP8 của RX 9070 XT tăng cường các tác vụ AI so với các mô hình trước đó

So với rDNA 3, kiến ​​trúc rDNA 4 trong RX 9070 XT nhân đôi thông lượng FP16 cơ bản và tăng gấp đôi một lần nữa cho các hoạt động thưa thớt. Đối với khối lượng công việc của FP8, thông lượng được tăng lên tới 8 lần so với các hoạt động của FP16 trên rDNA 3. Sự gia tăng đáng kể về thông lượng này đặc biệt có lợi cho các nhiệm vụ phụ thuộc nhiều vào phép nhân ma trận, chẳng hạn như các mô hình học tập máy.

Ma trận sóng tăng cường tăng cường các hướng dẫn tích lũy (WMMA) trong rDNA 4 tối ưu hóa hiệu suất cho các tác vụ AI. Những cải tiến này cho phép RX 9070 XT để mang lại hiệu suất tốt hơn đáng kể trong các ứng dụng như Adobe Lightroom và DaVinci Resolve, với hiệu suất tốt hơn tới 34% so với RX 7900 GRE. Đối với các tác vụ AI tổng quát, chẳng hạn như tạo hình ảnh khuếch tán ổn định, RX 9070 XT nhanh hơn tới 70% so với người tiền nhiệm.

Tuy nhiên, trong khi RX 9070 XT vượt trội trong các tác vụ AI liên kết tính toán, nó có thể phải đối mặt với những hạn chế trong khối lượng công việc gắn bộ nhớ do xe buýt bộ nhớ 256 bit của nó, cung cấp tới 640 GB/s băng thông. Con số này nhỏ hơn 800 GB/s của 7900 XT và 960 GB/s của XTX, có khả năng ảnh hưởng đến hiệu suất trong các tác vụ yêu cầu băng thông bộ nhớ cao, chẳng hạn như các mô hình ngôn ngữ lớn (LLM).

Nhìn chung, hỗ trợ FP8 của RX 9070 XT và tăng tốc AI tăng cường định vị nó là một tùy chọn cạnh tranh cho các tác vụ AI, đặc biệt là những người được hưởng lợi từ việc cải thiện hiệu suất tính toán và các loại dữ liệu chính xác thấp hơn. Tuy nhiên, hiệu quả và hiệu suất của nó trong các ứng dụng AI thâm dụng bộ nhớ có thể thay đổi so với các GPU cao cấp khác.