Groq Inc. Stvara Inovativne AI Rešenja za Budućnost

Groq Inc., kompanija za rešenja veštačke inteligencije, predstavlja prvu jezičku procesnu jedinicu, izjavila je kompanija.

Sa svojim LPU Inference Engine-om, Groq može da pruži najbržu generativnu veštačku inteligenciju na svetu i najbrži način za tačno pokretanje velikog jezičkog modela, prema izjavi izvršnog direktora kompanije, Džonatana Rosa (na slici). Kompanija veruje u ekonomiju veštačke inteligencije koju pokreće ljudska agencija i zamišlja svet u kojem je veštačka inteligencija dostupna svima.

Groq je započeo razvoj softvera za izgradnju sistema umesto izrade čipa. Sa ovim sistemom, umesto da radi samo nekoliko čipova, nekoliko njih radi paralelno, pri čemu svaki čip obavlja svoj deo zadatka i zatim prenosi zadatak sledećem čipu.

„Zapravo smo deset puta brži, deset puta jeftiniji, deset puta manje potrošnje energije“, kaže Rosa. „Pošto smo krenuli sa kompajlerom, često možemo da postignemo da softver radi 20 puta brže. Da vam nisam pokazao koliko je brzo, ne biste mi poverovali. Ali to je stvarno, i mi povećavamo proizvodnju.“

Grupa je nastavila razgovor o viziji budućnosti u vezi sa razvojem aplikacija, uz pretpostavku da će demokratizacija omogućiti svim razvijateljima korišćenje veštačke inteligencije. Iako imamo čekić, još nismo izmislili ekser, prema Rosu.

„Biće mogućnosti koje još nismo zamislili, jer nismo mogli da zamislimo šta sve možete da uradite kada imate veliki jezički model dostupan 24/7, ne samo ograničen na razgovor sa jednom osobom ili malom grupom, već da razgovarate sa velikim brojem ljudi“, rekao je on. „Aplikacije još nisu ni u naučnoj fantastici.“

Razgovor je završen sa brainstormingom o tome kako bi kompanije, razvijatelji i čak preduzetnici kreativne klase trebali konfigurisati svoje podatke, posebno jer će njihova trenutna konfiguracija na kraju biti zastarela u poređenju sa novim arhitekturama. Nije velika količina podataka, već velika količina računanja koja čini veštačku inteligenciju „divom“ u tehnologiji, objasnio je Rosa.

„Edukacija Llama 2 70b zahtevala bi oko 3 do 5 miliona dolara GPU-ova. Ali ako bih preneo sve podatke na mom užasnom mobilnom planu, to bi koštalo oko 40.000 dolara“, izjavio je Rosa. „Sada počinjemo da razgovaramo i sarađujemo sa ljudima da izgrade centre za računanje umesto centara za podatke. Razlika je u tome što vam nije potrebno mnogo njih svuda oko vas; možete imati samo par njih.“

Originalni članak možete pronaći [ovde](https://www.siliconangle.com/2022/10/13/groq-says-lpu-offers-faster-most-efficient-path-to-generative-ai/).

FAQ:

1. Šta je Groq Inc.?
Groq Inc. je kompanija koja se bavi rešenjima veštačke inteligencije.

2. Šta je LPU?
LPU je skraćenica za jezičku procesnu jedinicu koju je razvio Groq Inc.

3. Kakva je vizija Groq-a za budućnost veštačke inteligencije?
Groq veruje u ekonomiju veštačke inteligencije koja je dostupna svima i koja ostvaruje ljudsku agenciju.

4. Kako Groq razlikuje od drugih prodavaca AI čipova?
Groq se razlikuje od drugih prodavaca AI čipova svojom tehnologijom LPU koja omogućava najbrže generativno veštačko inteligenciju.

5. Kako će LPU povećati energetsku efikasnost u korišćenju veštačke inteligencije?
LPU će povećati energetsku efikasnost tako što će omogućiti brže i jeftinije izvršavanje jezičkih modela.

6. Kakav je pristup Groqa za razvoj sistema veštačke inteligencije?
Groq je razvio sistem u kojem nekoliko čipova radi paralelno, pri čemu svaki čip obavlja svoj deo zadatka.

7. Kako će se promeniti konfiguracija podataka u budućnosti?
U budućnosti, kompanije i razvijatelji će morati prilagoditi konfiguraciju podataka novim arhitekturama koje će omogućiti efikasnije korišćenje veštačke inteligencije.