NSight Systems este un instrument puternic conceput pentru a vizualiza și analiza interacțiunile CPU-GPU în aplicații, oferind informații despre blocaje de performanță și oportunități de optimizare. Iată cum vizualizează aceste interacțiuni:
Analiza performanței la nivel de sistem
Sistemele NSight surprinde date de activitate la nivelul întregului sistem, inclusiv evenimente CPU cât și GPU, și le afișează pe o cronologie unificată. Această cronologie permite dezvoltatorilor să vadă modul în care componentele diferite ale sistemului interacționează între ele în timp, ceea ce face mai ușor identificarea corelațiilor, dependențelor și blocajelor din fluxul de lucru al aplicației [3] [4].
Vizualizarea activității procesorului
Sistemele NSight vizualizează activitatea procesorului prin afișarea stărilor de thread, a utilizării și a execuției algoritmului. Acest lucru îi ajută pe dezvoltatori să înțeleagă cum sunt utilizate resursele CPU și unde ar putea exista potențiale blocaje. Instrumentul acceptă analiza arborelor multi-proces, permițând utilizatorilor să urmărească activitatea mai multor procese și fire simultan [1] [3].
Vizualizarea activității GPU
Pentru activitatea GPU, NSight Systems oferă informații detaliate despre sarcinile de lucru GPU, inclusiv optimizarea streaming-multiprocesor (SM), transferurile de memorie și execuția kernelului. Suporta urmărirea diferitelor API -uri GPU, cum ar fi CUDA, Vulkan și OpenGL, permițând dezvoltatorilor să analizeze în profunzime calculatoarele GPU și graficele în profunzime [3] [4]. Instrumentul oferă, de asemenea, eșantionare GPU Metrics, care include valori precum utilizarea SM, activitatea de bază a tensiunii și debitul de instrucțiuni. Aceste valori ajută dezvoltatorii să optimizeze performanța GPU prin identificarea subutilizării sau ineficiențelor în utilizarea resurselor GPU [1] [3].
Corelarea evenimentelor CPU și GPU
Una dintre caracteristicile cheie ale sistemelor NSight este capacitatea sa de a corela evenimentele CPU și GPU. Vizualizând atât activitățile CPU, cât și GPU pe aceeași cronologie, dezvoltatorii pot vedea cum operațiunile CPU influențează performanța GPU și invers. Această corelație este crucială pentru identificarea blocajelor care apar din cauza interacțiunilor dintre CPU și GPU, cum ar fi întârzieri de transfer de date sau probleme de sincronizare [3] [4].
AVERȚĂ ȘI
NSight Systems este proiectat să funcționeze cu un aer scăzut, asigurându -se că procesul de profilare nu are un impact semnificativ asupra performanței aplicației. Acest lucru îl face potrivit pentru analizarea aplicațiilor complexe, pe scară largă, care rulează pe diverse platforme NVIDIA, de la stații de lucru la centre de date și medii cloud [3] [6].
Interfață de utilizator și navigare
Instrumentul oferă un GUI ușor de utilizat, care permite dezvoltatorilor să navigheze prin vizualizarea cronologiei folosind bare de defilare, roata mouse-ului și comenzile rapide de la tastatură. Această interfață permite utilizatorilor să acopere intervale de timp sau evenimente specifice, facilitând analiza detaliată a problemelor de performanță [5] [9].
În general, NSight Systems oferă o viziune cuprinzătoare a interacțiunilor CPU-GPU, permițând dezvoltatorilor să-și optimizeze aplicațiile pentru o performanță și o eficiență mai bună pe o gamă largă de platforme.
Citări:
[1] https://extremecomputingtraining.anl.gov/wp-content/uploads/sites/96/2022/11/atpesc-2022-track-6-talk-2-keipert-nvidia.pdf
[2] https://bede-documentation.readthedocs.io/en/latest/software/tools/nsight-systems.html
[3] https://developer.nvidia.com/nsight-systems
[4] https://indico.cern.ch/event/962112/Contrittions/4047370/attachments/2159916/3643963/nsight%20Systems%20-%20x86%20Introduction%20-%20Cern.pdf
[5] https://www.youtube.com/watch?v=tgchxcfm-yo
[6] https://docs.ners.gov/tools/performance/nvidiaproftools/
[7] https://www.youtube.com/watch?v=kkanp0kl_hk
[8] https://docs.nvidia.com/nsight-systems/userguide/index.html
[9] https://www.youtube.com/watch?v=dudgo66iadu
[10] https://dev-discuss.pytorch.org/t/using-nsight-systems-to-profile-gpu-workload/59