Nvidia predstavlja Spectrum-X tehnologiju za AI servere

Nvidia je najavila sledeću generaciju svoje Ethernet mrežne tehnologije namenjene serverima fokusiranim na veštačku inteligenciju. Kompanija tvrdi da će Dell Technologies, Hewlett Packard Enterprise i Lenovo biti prvi koji će je integrisati u svoje proizvode.

Spectrum-X tehnologija koju je danas predstavila Nvidia specijalno je dizajnirana za AI radna opterećenja i sposobna je da pruži 1,6 puta više performansi od tradicionalne Ethernet mreže za AI komunikaciju.

Nove servere koje su najavili Dell, HPE i Lenovo, kombinuju Spectrum-X sa Nvidia najmoćnijim Tensor Core H100 grafičkim procesorskim jedinicama, kao i njihovim AI Enterprise i AI Workbench softverom. Navodno nude potpuno rešenje za preduzeća koja žele da implementiraju najnaprednije generativne AI modele.

Prema rečima Nvidije, Spectrum-X kombinuje brze performanse njihovog najnovijeg Spectrum-4 Ethernet prekidača sa Nvidia BlueField-3 SuperNIC (oba prikazana na slici), koji je nova klasa mrežnog ubrzanja dizajnirana za ubrzanje AI radnih opterećenja, kao i softverom za ubrzanje rada. Tehnologija navodno nadopunjuje Nvidia BlueField-3 procesorske jedinice za obradu podataka, koje rasterećuju, izoluju, ubrzavaju i osiguravaju usluge data centra, oslobađajući GPU-ove da se fokusiraju na AI obradu.

Kompanija je saopštila da je Spectrum-4 prvi Ethernet prekidač sa protokom od 51 terabit-a po sekundi. Izgrađen je kako bi obezbedio što veću propusnost podataka pri visokom intenzitetu i minimizirao zagušenje mreže, što je neophodno zbog ogromne količine podataka koju AI radna opterećenja moraju da obrade. Dodavanjem sofisticiranog ruting softvera, osigurava se da se mrežna infrastruktura koristi na najoptimalniji način.

Što se tiče BlueField-3 SuperNIC-a, oni omogućavaju brzine pristupa udaljenom direktnom memorisanju do 400 gigabita u sekundi putem konvergentne Ethernet mreže kako bi se povezao svaki AI server unutar klastera. Prema rečima kompanije, to će primetno uticati na performanse sistema za obuku i inferencu AI modela. Još jedna prednost je visoka bezbednost, jer BlueField-3 SuperNIC stvara sigurno, višekorisničko okruženje data centra koje izoluje svako radno opterećenje.

Nove sisteme od Dell-a, HPE-a i Lenovo-a Nvidia kaže da će biti dostupni u prvom kvartalu iduće godine.

Osoba odgovorna za najavu Spectrum-X tehnologije, Jensen Huang, osnivač i izvršni direktor Nvidie, istakao je važnost ubrzanog mrežnog okvira, rekavši da je on „katalizator za novu generaciju AI sistema vodećih proizvođača servera Nvidije kako bi ubrzali prelazak na eru generativne AI.“

Antonio Neri, izvršni direktor HPE-a, objasnio je razmišljanje iza nove tehnologije, rekavši da generativna AI zahteva potpuno drugačiju mrežnu arhitekturu kako bi podržala širok spektar dinamičkih radnih opterećenja. Kako bi omogućili korisnicima da ostvare potencijal AI-ja, on je rekao: „HPE sarađuje sa Nvidia da izgradi sisteme sa potrebnom snagom, efikasnošću i skalabilnošću za podršku ovim aplikacijama.“

Spectrum-X je već instaliran na Nvidia Izrael-1 super računaru, koji služi kao referentna arhitektura za kompanije koje žele da izgrade AI sisteme sledeće generacije u svojim prostorijama. Izrael-1 je izrađen pomoću Dell PowerEdge XE9680 servera i napajan Nvidia HGX 100 platformom koja ima osam GPU-ova, BlueField-3 DPU-a i SuperNIC-ova sa Spectrum-4 prekidačima.

„Kroz našu saradnju, Dell Technologies i Nvidia pružaju korisnicima infrastrukturu i softver potreban za brzo i sigurno dobijanje podataka“, rekao je Michael Dell, predsednik i izvršni direktor Della.

Softver za ubrzanje mreže kompanije, kako se navodi, dodatno poboljšava performanse, pružajući pristup razvojnim alatima kao što su Cumulus Linux, Pure SONiC i NetQ, kao i Nvidia DOCA softverskom okviru koji je srce njihovih BlueField čipova. AI Enterprise paket obuhvata desetine popularnih AI okvira, unapred obučenih modela i razvojnih alata, dok AI Workbench nudi alate za prilagođavanje AI modela na računaru ili radnoj stanici.

Foto: Nvidia

FAQ

1. Šta je Spectrum-X tehnologija koju je predstavila Nvidia?

Spectrum-X tehnologija Nvidia kompanije je Ethernet mrežna tehnologija namenjena serverima fokusiranim na veštačku inteligenciju. Ona pruža 1,6 puta veće performanse od tradicionalne Ethernet mreže za komunikaciju u oblasti veštačke inteligencije.

2. Kako Spectrum-X tehnologija poboljšava AI radna opterećenja?

Spectrum-X tehnologija kombinuje brze performanse Nvidia Spectrum-4 Ethernet prekidača sa BlueField-3 SuperNIC-om, koji je nova klasa mrežnog ubrzanja dizajnirana za ubrzanje AI radnih opterećenja. Ova tehnologija se pridružuje Nvidia BlueField-3 procesorskim jedinicama za obradu podataka kako bi se povećala njihova efikasnost u obradi veštačke inteligencije.

3. Koji su glavni benefiti Spectrum-X tehnologije?

Glavni benefiti Spectrum-X tehnologije su visoke performanse, visoka bezbednost i efikasna upotreba mrežne infrastrukture za obradu velikih količina podataka u oblasti veštačke inteligencije.

4. Kada će biti dostupni novi serveri sa Spectrum-X tehnologijom?

Novi serveri sa Spectrum-X tehnologijom će biti dostupni u prvom kvartalu sledeće godine.