NVIDIA DGX GH200 AI szuperszámítógép

Az NVIDIA bejelentette a nagy memória kapacitású mesterséges intelligencia szuperszámítógépek új osztályát - az NVIDIA® GH200 Grace Hopper Superchip és az NVIDIA NVLink® Switch System által hajtott NVIDIA DGX™ szuperszámítógépet -, amely lehetővé teszi a generatív mesterséges intelligencia nyelvi alkalmazások, ajánlórendszerek és adatelemzési munkaterhelések óriási, új generációs modelljeinek fejlesztését.

Az NVIDIA DGX GH200 hatalmas megosztott memóriaterülete az NVLink összekapcsolási technológiát használja az NVLink SwitchSystem segítségével 256 GH200 szuperchip összekapcsolására, így azok egyetlen GPU-ként képesek teljesíteni. Ez 1 exaflop teljesítményt és 144 terabájt megosztott memóriát biztosít - közel 500-szor több memóriát, mint az előző generációs NVIDIA DGXA100, amely 2020-ban került bevezetésre.

"A generatív AI, a nagyméretű nyelvi modellek és az ajánlórendszerek a modern gazdaság digitális motorjai" - mondta Jensen Huang, az NVIDIA alapítója és vezérigazgatója. "A DGX GH200 AI szuperszámítógépek integrálják az NVIDIA legfejlettebb gyorsított számítási és hálózati technológiáit, hogy kiterjesszék az AI határait."

Az NVIDIA NVLink technológiája méretarányosan terjeszti ki az AI-t
A GH200 szuperchipek kiküszöbölik a hagyományos CPU-GPU PCIe kapcsolat szükségességét azáltal, hogy egy Arm-alapú NVIDIAGrace™ CPU-t és egy NVIDIA H100 Tensor Core GPU-t kombinálnak ugyanabban a csomagban, az NVIDIA NVLink-C2C chip-összeköttetések használatával.Ez a legújabb PCIe technológiához képest 7x nagyobb sávszélességet biztosít a GPU és a CPU között, több mint 5x kisebb az összeköttetés energiafogyasztása, és 600 GB-os Hopper architektúrájú GPU-építőelemet biztosít a DGX GH200 szuperszámítógépek számára.A DGX GH200 az első olyan szuperszámítógép, amely a Grace Hopper Superchipeket az NVIDIA NVLink Switch rendszerrel párosítja, egy új összeköttetéssel, amely lehetővé teszi, hogy a DGX GH200 rendszerben lévő összes GPU egyként működjön együtt. Az előző generációs rendszer csak nyolc GPU-t tudott az NVLinkkel egyetlen GPU-ként kombinálni a teljesítmény csökkenése nélkül.A DGX GH200 architektúra 48-szor nagyobb NVLink-sávszélességet biztosít, mint az előző generáció, így egy hatalmas mesterséges intelligencia szuperszámítógép teljesítményét nyújtja az egyetlen GPU programozásának egyszerűségével.

Új kutatási eszköz az AI úttörők számára
A Google Cloud, a Meta és a Microsoft várhatóan az elsők között kap hozzáférést a DGX GH200-hoz, hogy felfedezzék annak képességeit a generatív AI-munkaterhelésekhez. Az NVIDIA a DGX GH200 dizájnt tervrajzként a felhőszolgáltatók és más hiperskálázók rendelkezésére kívánja bocsátani, hogy azok tovább testre szabhassák azt saját infrastruktúrájukhoz.

Új NVIDIA Helios szuperszámítógép a kutatás és fejlesztés előmozdítására
Az NVIDIA saját DGX GH200-alapú AI szuperszámítógépet épít, amely a kutatók és fejlesztőcsapatok munkáját fogja segíteni.Az NVIDIA Helios névre keresztelt szuperszámítógép négy DGX GH200 rendszert tartalmaz majd. Mindegyik NVIDIAQuantum-2 InfiniBand hálózattal lesz összekapcsolva, hogy a nagy AI-modellek képzéséhez szükséges adatátviteli sebességet megnövelje. A Helios 1024Grace Hopper Superchipet tartalmaz majd, és várhatóan az év végére állhat üzembe.

Teljesen integrált és célzottan óriás modellekhez tervezve
A DGX GH200 szuperszámítógépek NVIDIA szoftvert tartalmaznak, hogy kulcsrakész, teljes körű megoldást nyújtsanak a legnagyobb AI és adatelemzési munkaterhelésekhez. Az NVIDIA Base Command™ szoftver AI munkafolyamat-kezelést, vállalati szintű fürtkezelést, a számítási, tárolási és hálózati infrastruktúrát gyorsító könyvtárakat, valamint az AI-munkaterhelések futtatására optimalizált rendszerszoftvereket biztosít.Szintén tartalmazza az NVIDIA AI Enterprise-t, az NVIDIA AI platform szoftverrétegét. Több mint 100 keretrendszert, előre betanított modelleket és fejlesztőeszközöket biztosít a produktív AI fejlesztésének és telepítésének egyszerűsítéséhez, beleértve a generatív AI-t, a számítógépes látást, a beszéd AI-t és még sok mást.

Elérhetőség
Az NVIDIA DGX GH200 szuperszámítógépek várhatóan az év végére lesznek elérhetőek.