DGX istasyonu A100'deki uzak KVM işlevselliği, güvenli ve verimli uzaktan yönetim özellikleri sağlamak için tasarlanmıştır, bu da kullanıcıların sisteme fiziksel olarak mevcut gibi erişmelerine ve yönetmelerine olanak tanır. Bu özellik, sistem bileşenlerini izlemek, BIOS ayarlarını yönetmek ve LAN üzerinden seri (SOL) ile sistemin seri konsoluna erişmek için web tabanlı bir kullanıcı arayüzü sunan süpürgesel yönetim denetleyicisi (BMC) arayüzünün bir parçasıdır [4].
Bu uzak KVM işlevselliğini diğer NVIDIA sertifikalı sistemlerle entegre etmek çeşitli hususları içerir:
1. Uyumluluk ve birlikte çalışabilirlik: Mellanox ağ bileşenleri kullananlar gibi NVIDIA sertifikalı sistemler, çeşitli konfigürasyonlarda birlikte çalışabilirlik ve performansı sağlamak için tasarlanmıştır [8]. Bununla birlikte, uzak KVM'nin farklı sistemlere spesifik entegrasyonu, her sistemin BMC özelliklerine ve ağ altyapısına bağlı olacaktır.
2. NVIDIA AI Enterprise ve KVM Desteği: NVIDIA AI Enterprise'ın Ubuntu KVM ile entegrasyonu, çoklu ve hibrid bulut ortamlarında ölçeklenebilir dağıtımlara izin verir [2]. Bu, NVIDIA AI Enterprise'ı destekleyen sistemlerin, uygun şekilde yapılandırılmışsa uzak KVM işlevlerini içerebilecek sanallaştırma için KVM'yi potansiyel olarak kullanabileceğini düşündürmektedir.
3. BMC ve IPMI arayüzleri: DGX sistemlerindeki BMC arabirimi, sistemleri uzaktan izlemek ve yönetmek için kullanılabilen IPMI (Akıllı Platform Yönetimi Arayüzü) özellikleri sağlar [4]. Benzer BMC ve IPMI desteğine sahip diğer NVIDIA sertifikalı sistemler, uzaktan yönetim özelliklerini benzer bir şekilde entegre edebilir.
4. Güvenlik Hususları: Uzak KVM'yi farklı sistemlere entegre ederken, yönetim ağlarının izole edilmesi ve BMC arayüzlerini korumak için güvenlik duvarlarını yapılandırma gibi en iyi güvenlik uygulamalarını izlemek çok önemlidir [7].
Özetle, DGX istasyonu A100'deki uzak KVM işlevselliği, NVIDIA sertifikalı sistemleri yönetmek için güçlü bir araç olsa da, farklı sistemlere entegre etmek, uyumluluk, güvenlik ve ağ altyapısının dikkatle dikkate alınmasını gerektirir. Standart BMC ve IPMI arayüzlerinin kullanımı bu entegrasyonu kolaylaştırabilir, ancak spesifik yapılandırmalar ilgili sistemlere bağlı olarak değişebilir.
Alıntılar:
[1] http://cdn.cnetcontent.com/2f/68/2f6888a0-063f-4d76-94e4-8666b7619dfd.pdf
[2] https://canonical.com/blog/ubuntu-kvm-supports-nvidia-ai-enterprise
[3] https://docs.nvidia.com/dgx/pdf/dgx
[4] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-paper_published.pdf
[5] https://docs.nvidia.com/ai-enterprise/deployment/rhel-with-kvm/latest/setting-vgpu-devices.html
[6] https://docs.nvidia.com/dgx/pdf/dgxa100-user-guide.pdf
[7] https://docs.nvidia.com/dgx/dgxa100-user-guide/connecting-ton-dgxa100.html
[8] https://www.nextplatform.com/2021/01/26/nvidia-gets-sertifable-about-systems/
[9] https://docs.nvidia.com/dgx/dgx