NVIDIA DGX Station A100 dirancang untuk secara efisien menangani banyak pengguna dan akses jarak jauh, menjadikannya solusi ideal untuk tim dan organisasi sains data yang membutuhkan sumber daya AI terpusat. Begini cara mengelola kemampuan ini:
Menangani banyak pengguna
- GPU Multi-Instance (MIG): Stasiun DGX A100 mendukung MIG, yang memungkinkan hingga 28 perangkat GPU terpisah dialokasikan untuk pengguna atau pekerjaan individu. Ini berarti banyak pengguna dapat berbagi GPU yang sama secara bersamaan tanpa memengaruhi kinerja sistem. MIG memungkinkan setiap instance GPU memiliki memori, cache, dan multiprosesor streaming sendiri, memastikan pemanfaatan sumber daya yang efisien [1] [2].
- Beban kerja paralel: Sistem ini mampu menjalankan pelatihan, inferensi, dan beban kerja analitik secara paralel. Ini memungkinkan banyak pengguna untuk mengerjakan berbagai proyek secara bersamaan, memanfaatkan potensi penuh dari empat GPU NVIDIA A100 yang saling berhubungan [1] [4].
- Berbagi Sumber Daya: MIG memfasilitasi berbagi sumber daya di antara banyak pengguna, seperti siswa atau anggota tim sains data. Fitur ini sangat berguna untuk mengevaluasi beberapa pekerjaan inferensi atau menggunakan buku catatan Jupyter untuk eksplorasi model [2].
Akses dan manajemen jarak jauh
- Manajemen jarak jauh: DGX Station A100 menawarkan kemampuan manajemen jarak jauh yang kuat. Pengguna dapat mengelola sistem dari jarak menggunakan antarmuka berbasis web yang menyediakan log sistem terperinci, pembacaan sensor, dan pemantauan kinerja. Ini termasuk pemantauan suhu GPU, DIMM memori, CPU, dan komponen lainnya [2].
- IPMI dan KVM: Sistem mendukung IPMI (Intelligent Platform Management Interface) untuk pemantauan dan manajemen otomatis. Selain itu, ia menawarkan fungsionalitas KVM (keyboard, video, mouse), yang memungkinkan pengguna untuk mengakses tampilan sistem dari jarak jauh dan mengelolanya seolah -olah mereka hadir secara fisik. Ini termasuk kemampuan penyimpanan virtual untuk booting jarak jauh atau menginstal ulang sistem [2].
- Protokol Aman: Protokol yang aman seperti SSH dapat diatur untuk memungkinkan akses jarak jauh ke stasiun DGX dari berbagai mesin. Ini memungkinkan pengguna untuk mengelola beban kerja AI mereka secara fleksibel dari mana saja [5].
-Antarmuka Manajemen Sistem NVIDIA: Pengguna dapat memanfaatkan alat baris perintah NVIDIA System Management Interface (NVIDIA-SMI) untuk memantau dan mengelola kinerja GPU, termasuk persentase penggunaan dan nilai suhu [5].
Secara keseluruhan, DGX Station A100 menyediakan solusi yang kuat dan ramah kantor untuk banyak pengguna dan akses jarak jauh, membuatnya cocok untuk berbagai lingkungan, dari kantor perusahaan hingga fasilitas penelitian.
Kutipan:
[1] https://www.compecta.com/dgxstation-a100.html
[2] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-station-a100-system-architecture-white-paper_published.pdf
[3] https://docs.nvidia.com/dgx/pdf/dgx-station-user-guide.pdf
[4] https://www.e4company.com/wp-content/uploads/dgx-family-print-dgx-station-a100-datasheet-us-partner.pdf
[5] https://www.fibermall.com/blog/nvidia-dgx-systems.htm
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-supercomputer
[7] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-park-and-dgx-station-personal-ai-computers.334300/
[8] https://www.serversimply.com/blog/how-to-connect-to-nvidia-dgx-cloud-advantages-configurations-and-setup-guide