DGX-säde, mida toidab Nvidia GB10 Grace Blackwell Superchip, kasutab NVIDIA NVLINK-C2C ühenduse tehnoloogiat, et märkimisväärselt parandada jõudlust AI töökoormustes, sealhulgas neid, mis hõlmavad tensorflowit. See tehnoloogia pakub CPU+GPU-Coherent mälumudelit, pakkudes viienda põlvkonna PCIE ribalaiust viis korda. See täiustatud ribalaius on ülioluline mälumahukate AI-ülesannete jaoks, kuna see võimaldab kiiremat andmeedastust CPU ja GPU vahel, vähendades kitsaskohti ja parandades süsteemi üldist tõhusust.
Tensorflowi kontekstis, mis on populaarne sügavõppe raamistik, võib see omavahel ühendamise tehnoloogia kiirendada mudeli koolitust ja järeldusi, tagades, et andmed on kiiresti kättesaadavad nii CPU kui ka GPU -le. Tensorflow tugineb suuresti GPU kiirendusele selle arvutuste osas ja DGX-i säde NVLink-C2C tehnoloogia tagab, et andmeid saab kiiresti liikuda protsessori ja GPU vahel, optimeerides tensorflow toimivust.
Veelgi enam, DGX Sparki integreerimine Nvidia täispinna AI platvormiga võimaldab kasutajatel sujuvalt oma mudeleid töölauakeskkondadest pilve- või andmekeskuse infrastruktuuridele minimaalsete koodimuutustega. See paindlikkus on tensorflow kasutajatele kasulik, kuna see võimaldab neil tõhusalt erinevates keskkondades tõhusalt prototüüpi, peenhäälestamist ja itereerida nende töövoogusid.
DGX-säde suure jõudlusega võimalused koos kompaktse vormiteguriga muudavad selle ideaalseks tööriistaks teadlastele ja arendajatele, kes töötavad suurte AI-mudelitega, näiteks tensorflow-rakendustes. Süsteem toetab kuni 200 miljardi parameetriga AI mudeleid, mis on võrreldav selliste mudelitega nagu OpenAi GPT-3, ja võib AI arvutuste jaoks pakkuda kuni 1000 triljonit toimingut sekundis (TOPS). See tulemuslikkuse tase on ülioluline AI rakenduste arendamise ja juurutamise kiirendamiseks, mis tuginevad tensorflow'le.
Kokkuvõtlikult suurendab DGX Sparki NVLink-C2C ühenduse tehnoloogia tensorflow jõudlust, pakkudes protsessori ja GPU vahel suure ribalaiuse ja madala latentsusega ühenduse, mis on hädavajalik mälumahukad AI töökoormused. See koos süsteemi suure jõudlusega võimalustega ja Nvidia AI platvormiga sujuva integreerimisega muudab selle tõhusaks tööriistaks tensorflow-põhise AI arendamise kiirendamiseks.
Tsitaadid:
]
]
]
]
[5] https://en.eeworld.com.cn/news/wltx/eic692803.html
]
]
]
]
]
]
]