NVIDIA predstavuje systémy DGX H100 - najpokročilejšiu podnikovú infraštruktúru AI na svete

NVIDIA predstavuje systémy DGX H100 - najpokročilejšiu podnikovú infraštruktúru AI na svete
Elektrolab Pridal  Elektrolab
  54 zobrazení
1
 0
Počítače a výpočtová technika

GTC-NVIDIA dnes predstavila štvrtú generáciu systému NVIDIA® DGX™, prvú platformu umelej inteligencie na svete, ktorá je postavená na nových grafických procesoroch NVIDIA H100 Tensor Core. Systémy DGX H100 poskytujú rozsah potrebný na splnenie masívnych výpočtových požiadaviek veľkých jazykových modelov, odporúčacích systémov, výskumu v oblasti zdravotníctva a klimatických vied. Každý systém DGX H100 obsahuje osem grafických procesorov NVIDIA H100, ktoré sú prepojené ako jeden celok pomocou technológie NVIDIA NVLink® a poskytujú 32 petaflopov výkonu umelej inteligencie s novou presnosťou FP8 - 6x viac ako predchádzajúca generácia.

Systémy DGX H100 sú základnými stavebnými kameňmi novej generácie infraštruktúrnych platforiem NVIDIA DGX POD™ a NVIDIA DGX SuperPOD™ AI. Najnovšia architektúra DGX SuperPOD je vybavená novým prepínacím systémom NVIDIA NVLink, ktorý dokáže prepojiť až 32 uzlov s celkovo 256 grafickými procesormi H100. Vďaka výkonu 1 exaflops FP8 AI, čo je 6x viac ako u jeho predchodcu, rozširuje nová generácia DGX SuperPOD hranice umelej inteligencie o schopnosť spúšťať masívne pracovné zaťaženia LLM s biliónmi parametrov.

"AI zásadne zmenila možnosti softvéru a spôsob jeho tvorby. Spoločnosti, ktoré pomocou AI robia revolúciu vo svojich odvetviach, si uvedomujú dôležitosť svojej infraštruktúry AI," povedal Jensen Huang, zakladateľ a generálny riaditeľ spoločnosti NVIDIA. "Naše nové systémy DGX H100 budú poháňať podnikové továrne na umelú inteligenciu, ktoré zušľachťujú dáta na najcennejší zdroj - inteligenciu."

Oznamujeme NVIDIA Eos - najrýchlejší superpočítač s umelou inteligenciou na svete

NVIDIA ako prvá postaví DGX SuperPOD s novou prelomovou architektúrou AI, ktorá bude poháňať prácu výskumníkov NVIDIA rozvíjajúcich klimatické vedy, digitálnu biológiu a budúcnosť AI. Očakáva sa, že jej superpočítač "Eos" bude najrýchlejším systémom AI na svete po tom, ako začne fungovať neskôr v tomto roku a bude obsahovať celkovo 576 systémov DGX H100 so 4 608 grafickými procesormi DGX H100.

Očakáva sa, že NVIDIA Eos poskytne 18,4 exaflopsov výpočtového výkonu AI, čo je 4× rýchlejšie spracovanie AI ako superpočítač Fugaku v Japonsku, ktorý je v súčasnosti najrýchlejším systémom na svete. V prípade tradičných vedeckých výpočtov sa očakáva, že Eos poskytne výkon 275 petaflopov. Eos bude slúžiť ako vzor pre pokročilú infraštruktúru AI od spoločnosti NVIDIA, ako aj jej OEM a cloudových partnerov.

Ľahké škálovanie podnikovej AI so systémami DGX H100, DGX POD a DGX SuperPOD

Systémy DGX H100 sa ľahko škálujú, aby splnili požiadavky AI, keď podniky rastú od počiatočných projektov až po rozsiahle nasadenia. Okrem ôsmich grafických procesorov H100 s celkovým počtom 640 miliárd tranzistorov obsahuje každý systém DGX H100 dve jednotky NVIDIA BlueField®-3 DPU na odľahčenie, akceleráciu a izoláciu pokročilých sieťových, úložných a bezpečnostných služieb.

Osem sieťových adaptérov NVIDIA ConnectX®-7 Quantum-2 InfiniBand poskytuje priepustnosť 400 gigabitov za sekundu na prepojenie s výpočtovou technikou a úložiskom - dvojnásobok rýchlosti predchádzajúcej generácie systému. A štvrtá generácia NVLink v kombinácii s NVSwitch™ poskytuje 900 gigabajtov za sekundu pripojenia medzi každým GPU v každom systéme DGX H100, čo je 1,5-krát viac ako v predchádzajúcej generácii.

Systémy DGX H100 využívajú duálne procesory x86 a možno ich kombinovať so sieťami a úložiskami od partnerov spoločnosti NVIDIA a vytvárať tak flexibilné systémy DGX POD pre výpočty umelej inteligencie v akejkoľvek veľkosti.

DGX SuperPOD poskytuje škálovateľné podnikové centrum excelentnosti AI so systémami DGX H100. Uzly DGX H100 a grafické procesory H100 v DGX SuperPOD sú prepojené systémom prepínačov NVLink a technológiou NVIDIA Quantum-2 InfiniBand, ktorá poskytuje celkovú šírku pásma 70 terabajtov/s - 11x vyššiu ako predchádzajúca generácia. Úložiská od partnerov spoločnosti NVIDIA budú testované a certifikované tak, aby spĺňali požiadavky výpočtovej techniky DGX SuperPOD AI. Viacero jednotiek DGX SuperPOD sa dá kombinovať, aby poskytli výkon AI potrebný na vývoj rozsiahlych modelov v odvetviach, ako je automobilový priemysel, zdravotníctvo, výroba, komunikácia, maloobchod a ďalšie.

NVIDIA DGX Foundry urýchľuje úspech zákazníkov s DGX SuperPOD

Hostované vývojové riešenie NVIDIA DGX Foundry sa rozširuje po celom svete, aby zákazníkom DGX SuperPOD poskytlo okamžitý prístup k pokročilej výpočtovej infraštruktúre počas inštalácie ich systémov. Nové lokality pridané v Severnej Amerike, Európe a Ázii ponúkajú vzdialený prístup k DGX SuperPOD alebo k časti jedného z nich. DGX Foundry obsahuje softvér NVIDIA Base Command™, ktorý umožňuje zákazníkom jednoducho spravovať celý životný cyklus vývoja umelej inteligencie na infraštruktúre DGX SuperPOD. Kvalifikované podniky si môžu bezplatne vyskúšať NVIDIA Base Command a systémy DGX prostredníctvom kurátorských laboratórií dostupných cez NVIDIA LaunchPad, ktoré sú umiestnené v dátových centrách Equinix International Business Exchange™ (IBX®) po celom svete.

MLOps, podnikový softvér pre umelú inteligenciu podporujú rastúce zavádzanie umelej inteligencie zákazníkmi

Na podporu zákazníkov DGX, ktorí operacionalizujú vývoj AI, sa do programu "NVIDIA AI Accelerated" zapájajú riešenia MLOps od partnerov NVIDIA DGX-Ready Software vrátane Domino Data Lab, Run:ai a Weights & Biases. Aplikácie MLOps od zúčastnených partnerov budú validované s cieľom poskytnúť zákazníkom DGX riešenia pre správu pracovných postupov a klastrov, plánovanie a orchestráciu na podnikovej úrovni.

Okrem toho systémy NVIDIA DGX teraz obsahujú softvérový balík NVIDIA AI Enterprise, ktorý po novom podporuje infraštruktúru bare-metal. Zákazníci DGX môžu urýchliť svoju prácu pomocou predtrénovaných modelov platformy NVIDIA AI, súprav nástrojov a rámcov, ktoré sú súčasťou softvérovej sady, ako napríklad NVIDIA RAPIDS™, NVIDIA TAO Toolkit, NVIDIA Triton Inference Server™ a ďalšie.

Program riadených služieb DGX-Ready zjednodušuje nasadenie AI

S rastúcim zavádzaním umelej inteligencie v podnikoch hľadajú zákazníci viac možností, ako pridať infraštruktúru potrebnú na transformáciu ich podnikov. NVIDIA predstavuje nový program riadených služieb DGX-Ready Managed Services na podporu zákazníkov, ktorí by chceli spolupracovať s poskytovateľmi služieb pri dohľade nad ich infraštruktúrou.

Spoločnosť Deloitte je prvým globálnym poskytovateľom, ktorý sa v rámci programu spája so spoločnosťou NVIDIA a bude certifikovaný na podporu zákazníkov v Európe, Severnej Amerike a Ázii spolu s regionálnymi poskytovateľmi CGit, ePlus inc., Insight Enterprises a PTC System.

"Prelom v podnikaní, ktorý umožňuje umelá inteligencia, sa môže realizovať len vtedy, ak majú podniky možnosť integrovať túto technológiu do svojich činností," povedal Jim Rowan, riaditeľ a vedúci ponuky AI a dátových operácií v spoločnosti Deloitte Consulting LLP. "Vďaka novému programu riadených služieb DGX-Ready môžu klienti jednoducho zaviesť špičkovú AI so systémami a softvérom NVIDIA DGX, ktoré spravujú odborníci spoločnosti Deloitte po celom svete."

Program správy životného cyklu DGX-Ready umožňuje jednoduchú aktualizáciu

Zákazníci majú teraz možnosť upgradovať svoje existujúce systémy DGX na najnovšiu platformu NVIDIA DGX prostredníctvom nového programu správy životného cyklu DGX-Ready. Obchodní partneri spoločnosti NVIDIA zapojení do programu DGX-Ready Lifecycle Management budú môcť obnoviť predchádzajúcu generáciu systémov DGX pre nákup novými zákazníkmi, čím sa rozšíri prístup k svetovo univerzálnym systémom pre infraštruktúru umelej inteligencie.

Dostupnosť

Systémy NVIDIA DGX H100, DGX POD a DGX SuperPOD budú k dispozícii u globálnych partnerov spoločnosti NVIDIA od tretieho štvrťroka. Zákazníci si môžu vybrať aj nasadenie systémov DGX v kolokačných zariadeniach prevádzkovaných partnermi NVIDIA DGX-Ready Data Center vrátane dátových centier Cyxtera, Digital Realty a Equinix IBX.

Ak sa chcete dozvedieť viac o systémoch NVIDIA DGX, pozrite si Huangovu kľúčovú prednášku na GTC 2022 a bezplatne sa zaregistrujte na GTC, aby ste sa mohli zúčastniť na zasadnutiach so spoločnosťou NVIDIA a lídrami v tomto odvetví.

Zdroj : nVidia

Máte aj vy zaujímavú konštrukciu, alebo clánok?

Máte aj vy zaujímavú konštrukciu, alebo clánok a chceli by ste sa o to podelit s viac ako 250.000 citatelmi? Tak neváhajte a dajte nám vediet, radi ju uverejníme a to vrátane obrazových a video príloh. Rovnako uvítame aj autorov teoretických clánkov, ci autorov zaujímavých videí z oblasti elektroniky / elektrotechniky.

Kontaktujte nás!


Páčil sa Vám článok? Pridajte k nemu hodnotenie, alebo podporte jeho autora.
 

     

Komentáre k článku

Zatiaľ nebol pridaný žiadny komentár k článku. Pridáte prvý? Berte prosím na vedomie, že za obsah komentára je zodpovedný užívateľ, nie prevádzkovateľ týchto stránok.
Pre komentovanie sa musíte prihlásiť.

Vyhľadajte niečo na našom blogu

PCBWay Promo
PCBWay Promo
PCBWay Promo
Minalox.sk Promo
Minalox.sk Promo
Minalox.sk Promo
Webwiki Button