NVIDIA GB10 Grace Blackwell Superchip là một hệ thống mạnh mẽ trên chip (SOC) được thiết kế cho điện toán AI hiệu suất cao. Nó là trung tâm của một số thiết bị sáng tạo, bao gồm cả siêu máy tính AI AI của NVIDIA và ASUS. Dưới đây là các tính năng chính của SuperChip GB10:
- GPU và lõi tenor: Superchip GB10 có GPU Blackwell mạnh mẽ với lõi tenor thế hệ thứ năm. Các lõi tenxơ này rất quan trọng để tăng tốc khối lượng công việc AI, cung cấp hỗ trợ cho độ chính xác của FP4, điều này rất cần thiết để xử lý AI hiệu quả. GPU cung cấp tới 1.000 nghìn tỷ hoạt động mỗi giây (TOPS) hiệu suất của AI, làm cho nó phù hợp để yêu cầu các nhiệm vụ AI như tinh chỉnh và suy luận của các mô hình AI lớn [1] [2] [6].
-Kiến trúc CPU: Superchip GB10 bao gồm CPU NVIDIA Grace hiệu suất cao với cấu hình dựa trên cánh tay 20 lõi. Điều này bao gồm 10 lõi CPU Cortex-X925 và 10 Cortex-A725, giúp tăng cường tiền xử lý dữ liệu và điều phối, tăng tốc điều chỉnh mô hình và suy luận thời gian thực [3] [4] [7].
- Bộ nhớ và kết nối: Superchip GB10 sử dụng công nghệ kết nối NVIDIA NVLINK-C2C, cung cấp mô hình bộ nhớ CPU+GPU gắn kết. Công nghệ này cung cấp năm lần băng thông của PCIE thế hệ thứ năm, cải thiện đáng kể hiệu quả truyền dữ liệu giữa CPU và GPU. Chip được ghép nối với 128GB bộ nhớ LPDDR5X hợp nhất, kết hợp, rất cần thiết để xử lý các mô hình AI lớn với các thông số lên tới 200 tỷ [2] [3] [6].
- Hiệu suất và khả năng mở rộng: Superchip GB10 cung cấp tối đa 1 hiệu suất AI của AI tại FP4 Precision, khiến nó có khả năng chạy khối lượng công việc AI lớn một cách hiệu quả. Đối với các mô hình thậm chí còn lớn hơn, chẳng hạn như các mô hình có 405 tỷ tham số, hai hệ thống có thể được kết nối thông qua mạng NVIDIA ConnectX [4] [7].
- Hiệu quả và thiết kế năng lượng: SuperChip GB10 được thiết kế cho hiệu quả năng lượng, làm cho nó phù hợp cho các hệ thống máy tính để bàn nhỏ gọn như Digits Digits và ASUS ASCD GX10. Các hệ thống này được thiết kế để mát mẻ, yên tĩnh và thành thạo, cho phép chúng hoạt động trên một ổ cắm điện tiêu chuẩn mà không cần các hệ thống làm mát rộng rãi [3] [5].
Nhìn chung, NVIDIA GB10 Grace Blackwell Superchip là một công cụ mạnh mẽ để phát triển AI, cung cấp hiệu suất cao, quản lý bộ nhớ hiệu quả và khả năng mở rộng, làm cho nó trở nên lý tưởng cho các nhà nghiên cứu AI, nhà khoa học dữ liệu và nhà phát triển.
Trích dẫn:
[1] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers
.
.
[4] https://meta-quantum.today/?p=3460
[5] https://www.techpowerup.com/330617/nvidia-puts-grace-blackwell-on-every-desk-and-at-every-ai-developers-fingertips
[6] https://www.asus.com/news/9ccgzbgiuaqcjvuj/
[7] https://www.tomshardware.com/desktops/mini-pcs/asus-mini-supercomputer-taps-nvidia-grace-blackwell-chip-for-1-000-ai-tops
[8] https://www.nvidia.com/en-gb/project-digits/
[9] https://www.techradar.com/pro/nvidia-unveils-a-blackwell-powered-mini-pc
[10] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-every-ai-developers-fingertips