Nvidia predstavlja H200: Novi AI GPU opremljen HBM3e memorijom

Nvidia je najavila H200, svoj najnoviji AI grafički procesor koji će zameniti dosadašnji H100 model. Ova nadogradnja donosi prvi Nvidia AI GPU koji podržava HBM3e memoriju, čija primarna prednost leži u većem propusnom opsegu i ubrzanju generativne veštačke inteligencije, velikih jezičkih modela i HPC aplikacija. Umesto 80 GB koliko poseduje H100, H200 će imati neverovatnih 141 GB HBM3e memorije.

Hopper H200 koristi ovu revolucionarnu memoriju koja radi na neverovatnih 4,8 TB/s. To je gotovo dvostruko veći kapacitet i ima 2,4 puta veći propusni opseg u poređenju sa jednim od najboljih Nvidia grafičkih procesora, Ampere A100. Ovaj novi računarski akcelerator takođe dolazi sa inovativnim softverskim unapređenjima, uključujući Nvidia TensorRT-LLM, što dodatno unapređuje performanse.

Svi ovi napredni tehnički detalji omogućiće značajno povećanje performansi, uključujući utrostručenje brzine zaključivanja za velike jezičke modele poput Llama 2, koji ima neverovatnih 70 milijardi parametara. Uz H200, Nvidia je takođe predstavila HGX H200, AI platformu koja je zasnovana na novim Tensor Core GPU-ovima. Ova platforma će omogućiti FP8 duboko učenje do 32 petaflopsa, uz ukupnu memoriju velikog propusnog opsega od 1,1 TB.

H200 će biti dostupan za instalaciju u bilo kojem podatkovnom centru, bilo da se radi o lokalnom ili oblaku. Giganti kao što su Amazon Web Services, Google Cloud, Microsoft Azure i Oracle Cloud Infrastructure najavljuju da će implementirati H200 čipove u svoje oblak usluge tokom 2024. godine. Takođe, partneri kompanije Nvidia poput ASRock-a, Asus-a, Dell-a, Gigabyte-a, HPE-a, Lenovo-a i drugih, planiraju da tokom sledeće godine lansiraju sopstvene sisteme sa H200 grafičkim procesorom. Nvidia se inače snabdeva memorijama od partnera SK Hynix, južnokorejskog proizvođača, koji takođe najavljuje isporuku novog LPDDR5T DRAM čipa proizvođačima mobilnih telefona.

Često postavljana pitanja (FAQ)

Šta je H200?

H200 je najnoviji AI grafički procesor kompanije Nvidia, koji donosi revolucionarnu HBM3e memoriju za poboljšane performanse veštačke inteligencije.

Kako se H200 razlikuje od prethodnog modela H100?

H200 ima veći kapacitet HBM3e memorije od 141 GB u odnosu na 80 GB kod H100. Takođe, H200 koristi naprednije softverske nadogradnje poput Nvidia TensorRT-LLM.

Koje su glavne prednosti H200 grafičkog procesora?

H200 omogućava ubrzanje generativne veštačke inteligencije, velikih jezičkih modela i HPC aplikacija zahvaljujući većem propusnom opsegu i kapacitetu HBM3e memorije.

Ko će prvi implementirati H200 u svoje usluge?

Vodeće kompanije kao što su Amazon Web Services, Google Cloud, Microsoft Azure i Oracle Cloud Infrastructure najavljuju implementaciju H200 čipova u svoje usluge u oblaku tokom 2024. godine.

Koji proizvođači će lansirati sisteme sa H200?

Kompanijski partneri Nvidia-e, uključujući ASRock, Asus, Dell, Gigabyte, HPE, Lenovo i drugi, planiraju lansiranje sopstvenih sistema sa H200 grafičkim procesorom tokom naredne godine.