Novi proizvodi i konkurencija na tržištu AI hardvera

Uz porast popularnosti i napredak, AI hardver postao je konkurentno tržište. AI kompanije moraju brzo napredovati u razvoju proizvoda kako bi imale najnovije i najefikasnije proizvode na tržištu.

1. Nvidia
Nvidia je postala snažan konkurent na tržištu AI hardvera kada je njena vrednost premašila 1 bilion dolara početkom 2023. godine. Nvidia trenutno radi na svojem A100 čipu od 10.000 dolara i Volta GPU čipu za data centre. Oba proizvoda su ključne tehnologije za resursno intenzivne modele. Nvidia takođe nudi AI hardver za gejming sektor.
U avgustu 2023. godine, Nvidia je najavila svoj najnoviji tehnološki proboj sa svetski prvim HBM3e procesorom. Predstavila je platformu Grace Hopper, super-čip sa trostrukom propusnošću i više od tri puta većim kapacitetom memorije od tehnologije trenutne generacije. Njegov dizajn je usmeren na povećanu skalabilnost i performanse u dobu ubrzanog AI.
Nvidijina tehnologija NVLink može povezati super-čip Grace Hopper sa drugim super-čipovima. NVLink omogućava komunikaciju između više GPU-ova putem visokosbrzinskog povezivanja.

2. Intel
Intel je stekao ime na tržištu CPU-ova svojim AI proizvodima. Iako još uvek nije nadmašio Nvidia-u u GPU-ovima, lider je u svom području. Na primer, uvođenje Xeon procesora 2022. godine istaklo ga je u odnosu na konkurenciju.
Xeon Platinum serija je CPU sa ugrađenom akceleracijom. Serija ima skoro tri puta više kapaciteta memorije i gotovo dvostruko više propusnosti od prethodne generacije.
Poslednjih vremena, Intel pokušava da stekne prednost na širem tržištu AI hardvera. I dok Intelovim CPU-ovima radi 70% globalne inferencije u data centrima, kompanija planira da proširi svoju prisutnost.

3. Alphabet
Alphabet, matična kompanija Google-a, ima razne proizvode za mobilne uređaje, skladištenje podataka i cloud infrastrukturu. Cloud TPU v5e je posebno osmišljen za velike jezičke modele i generativni AI i košta polovinu cene prethodne generacije. Modeli obrađuju podatke pet puta brže kada rade na Cloud TPU v5e.
Alphabet se fokusirao na proizvodnju moćnih AI čipova kako bi zadovoljio potrebe velikih projekata. Takođe je predstavio Multislajs, tehnologiju skaliranja performansi. Dok hardverska ograničenja obično usporavaju skaliranje softvera, rezultati pokazuju skoro 60% iskorišćenje operacija sa pokretnom tačkom modela po sekundi na TPU v4 za modele sa više milijardi parametara.

4. Apple
Apple-ov Neural Engine, specijalizovani jezgra zasnovana na Apple čipovima, unapredili su dizajn i performanse AI hardvera kompanije. Neural Engine je doveo do M1 čipa za MacBook-ove. U poređenju sa prethodnom generacijom, MacBook-ovi sa M1 čipom su 3,5 puta brži u opštem performansama i pet puta brži u grafičkim performansama.
Nakon uspeha M1 čipa, Apple je najavio sledeću generaciju. Predstavili su proizvode sa M2 čipom, koji se pohvaljuju boljim vremenom rada baterije i performansama u odnosu na uređaje sa prethodnom iteracijom. Apple planira da izda M3 čip već 2024. godine.

5. IBM
Nakon uspeha svog prvog specijalizovanog AI čipa, Telum, IBM je započeo dizajniranje moćnog naslednika koji će se takmičiti sa konkurencijom.
Godine 2022, IBM je osnovao Odeljenje za veštačku inteligenciju. AI čip je namenski dizajniran i radi bolje od prosečnog CPU-a opšte namene. Ima preko 23 milijarde tranzistora i ima 32 procesorska jezgra. Potrošnja memorije je znatno manja, a efikasnost veća u odnosu na prethodne generacije.

6. Qualcomm
Iako je Qualcomm relativno nov na tržištu AI hardvera u poređenju sa konkurentima, njegovo iskustvo u sektoru telekomunikacija i mobilnih uređaja ga čini obećavajućim takmičarem.
Qualcomm-ov Cloud AI 100 čip je u nizu testova nadmašio Nvidia H100. Jedan od testova bio je da se vidi koliko upita na serveru za data centre svaki čip može izvršavati po vatu. Qualcomm-ov Cloud AI 100 čip je ostvario 227 upita po vatu, dok je Nvidia H100 dostigao 108. Cloud AI 100 čip takođe je uspeo da ostvari 3,8 upita po vatu u poređenju sa Nvidia H100 koji je imao 2,4 upita tokom detekcije objekata.

7. Amazon
AWS se preusmerio sa usluga cloud infrastrukture na proizvodnju čipova. Elastic Compute Cloud Trn1 su namenski dizajnirani za duboko učenje i generativne modele velikog obima. Koriste AWS Trainium čipove, AI akceleratore, kako bi funkcionisali.
Prva iteracija bila je Trn1.2xlarge, koja je imala jedan Trainium akcelerator, 32 GB memorije instance i 12,5 GBps propusnost mreže. Sada Amazon ima instancu trn1.32xlarge, koja ima 16 akceleratora, 521 GB memorije i propusnost mreže od 1.600 GBps.

8. AMD
AMD je stvorio sledeću generaciju Epyc procesora. Kompanija je 2022. godine izdala najnoviji proizvod, Zen 4 CPU.
Kompanija planira da izda AI čip MI300 do 2024. godine. AMD-ov MI300 i Nvidia H100 se takmiče po kapacitetu memorije i propusnosti.