NVIDIA DGX GH200 AI Суперкомпютър

NVIDIA обяви нов клас AI суперкомпютър с голяма памет — NVIDIA DGX™ суперкомпютър, задвижван от NVIDIA® GH200 Grace Hopper Superchips и NVIDIA NVLink® Switch System — създаден, за да позволи разработването на гигантски модели от следващо поколение за генеративни AI езикови приложения, препоръчващи системи и работни натоварвания за анализ на данни.
Масивното пространство на споделената памет на NVIDIA DGX GH200 използва технологията за свързване NVLink с NVLink SwitchSystem, за да комбинира 256 суперчипа GH200, което им позволява да работят като един GPU. Това осигурява 1 екзафлоп производителност и 144 терабайта споделена памет — близо 500 пъти повече памет от предишното поколение NVIDIA DGXA100, което беше представено през 2020 г.
„Генеративният AI, големите езикови модели и препоръчващите системи са дигиталните двигатели на съвременната икономика“, каза Дженсън Хуанг, основател и главен изпълнителен директор на NVIDIA. „Суперкомпютрите DGX GH200 AI интегрират най-напредналите ускорени компютърни и мрежови технологии на NVIDIA, за да разширят границите на AI.“

Технологията NVIDIA NVLink разширява AI в мащаб

Суперчиповете GH200 елиминират необходимостта от традиционна PCIe връзка между CPU и GPU чрез комбиниране на базиран на Arm NVIDIAGrace™ CPU с NVIDIA H100 Tensor Core GPU в същия пакет, използвайки NVIDIA NVLink-C2C връзки за чипове. Това увеличава честотната лента между GPU и CPU със 7 пъти в сравнение с най-новата PCIe технология, намалява потреблението на енергия за свързване с повече от 5 пъти и осигурява 600GB Hopper архитектурен графичен процесор за суперкомпютри DGX GH200. DGX GH200 е първият суперкомпютър, който сдвоява Grace Hopper Superchips с NVIDIA NVLink Switch System - нова връзка, която позволява на всички GPU в система DGX GH200 да работят заедно като един. Системата от предишно поколение предоставяше само осем графични процесора, които да бъдат комбинирани с NVLink като един графичен процесор, без компромис с производителността. Архитектурата DGX GH200 осигурява 48 пъти по-голяма честотна лента на NVLink от предишното поколение, предоставяйки мощността на огромен AI суперкомпютър с простотата на програмиране на един GPU.

Нов изследователски инструмент за пионерите в AI

Google Cloud, Meta и Microsoft са сред първите, които се очаква да получат достъп до DGX GH200, за да проучат възможностите му за генеративни натоварвания на AI. NVIDIA също така възнамерява да предостави дизайна на DGX GH200 на доставчици на облачни услуги и други хипер мащабиращи устройства, така че да могат допълнително да го персонализират за своята инфраструктура.

Нов суперкомпютър NVIDIA Helios за напредък в изследванията и развитието

NVIDIA изгражда свой собствен суперкомпютър с изкуствен интелект, базиран на DGX GH200, за да захранва работата на своите изследователи и екипи за разработка. Наречен NVIDIA Helios, суперкомпютърът ще включва четири системи DGX GH200. Всяка от тях ще бъде свързана с NVIDIAQuantum-2 InfiniBand мрежова връзка, за да увеличи пропускателната способност на данни за обучение на големи AI модели. Helios ще включва 1024 Grace Hopper Superchips и се очаква да се появи онлайн до края на годината.

Напълно интегриран и специално създаден за гигантски модели

Суперкомпютрите DGX GH200 включват софтуер на NVIDIA, за да осигурят готово цялостно решение за най-големите натоварвания на AI и анализа на данни. Софтуерът NVIDIA Base Command™ осигурява управление на работния процес с изкуствен интелект, управление на клъстери от корпоративен клас, библиотеки, които ускоряват изчисленията, съхранението и мрежовата инфраструктура, и системен софтуер, оптимизиран за изпълнение на работни натоварвания с изкуствен интелект. Включен е и NVIDIA AI Enterprise, софтуерният слой на платформата NVIDIA AI. Той предоставя над 100 рамки, предварително обучени модели и инструменти за разработка с цел улесняване развитието и внедряването на производствен AI, включително generative AI, компютърно зрение, реч AI и др.

Наличност

Суперкомпютрите NVIDIA DGX GH200 се очаква да бъдат налични към края на годината.