Generative AI: Potential and Pitfalls

Iznenadno je koliko su se i oni koji nisu u tehnologiji čuli za odlazak Sema Altmana iz OpenAI-a u petak. Bio sam s dva prijatelja sledećeg dana (jedan radi u građevini, drugi u marketingu) i obojica su pričali o tome. Generativna veštačka inteligencija (genAI) izgleda da je napokon postala popularna. Ono što, međutim, nije uspela jeste da pobegne gravitacionom privlačnosti budalastog sadržaja, kako je istakao Alan Blackwell. Ne, ne mislim da je veštačka inteligencija besmislena, puna hajpa i kratka po suštini. Veštačka inteligencija već sada donosi rezultate mnogim preduzećima iz različitih industrija. Čak i genAI, mali podskup ukupnog tržišta veštačke inteligencije, menja pravila igre u razvoju softvera i šire. Ipak, Blackwell je u pravu: „Veštačka inteligencija doslovno proizvodi besmislice.“ Ona stvara stvari koje zvuče dobro bazirane na podacima za obuku.

Ipak, ako možemo da je „zaokružimo“, kako je opisao MIT profesor veštačke inteligencije Rodney Brooks, genAI ima potencijal da napravi veliku razliku u našim životima. Istina nije osnovna karakteristika funkcije velikih jezičkih modela. Veliki jezički modeli su „algoritmi dubokog učenja koji mogu prepoznati, rezimirati, prevesti, predvideti i generisati sadržaj koristeći veoma veliki skup podataka.“ Primetite da „istina“ i „znanje“ nemaju mesta u toj definiciji. Veliki jezički modeli nisu dizajnirani da vam kažu istinu. Kao što je detaljno objašnjeno na OpenAI forumu, „veliki jezički modeli su probabilističke prirode i funkcionišu tako što generišu verovatne izlaze na osnovu obrazaca koje su primetili u podacima za obuku. U slučaju matematičkih i fizikalnih problema, može postojati samo jedan tačan odgovor, a verovatnoća da se generiše taj odgovor može biti veoma niska.“ Ovo je lep način da se kaže da možda ne želite da se oslanjate na ChatGPT da vam reši osnovne matematičke probleme, ali bi mogao biti odličan u izradi odgovora o istoriji algebre.

Kako dobiti korisno znanje iz velikih jezičkih modela? Ključ, prema Brooks-u, je „zaokruživanje“. On kaže: „Morao bi ih pažljivo „zaokružiti“ kako se ludilo i izmišljanje ne bi pojavilo.“ Ali kako „zaključati“ velike jezičke modele? Jedan od načina je kroz „povećanje generacije uz povraćaj informacija“ (RAG). RAG je način da se poveća kapacitet velikih jezičkih modela sa vlasničkim podacima, dajući modelima više konteksta i znanja za unapređenje njihovih odgovora.

RAG zavisi od vektora, koji su osnovni element korišćeni u različitim slučajevima veštačke inteligencije. Vektor je samo dug spisak brojeva koji opisuju karakteristike objekta, poput pesme, slike, videa ili pesme, smeštenih u bazi vektora. Služe da bi uhvatili semantičko značenje objekata u odnosu na druge objekte. Slični objekti su grupisani zajedno u vektorskom prostoru. Što su dva objekta bliža, to su sličnija. (Na primer, „ragbi“ i „fudbal“ će biti bliži jedan drugom nego „fudbal“ i „košarka“). Možete tražiti povezane entitete koji su slični na osnovu njihovih karakteristika, bez oslanjanja na sinonime ili poklapanje ključnih reči.

Kao što zaključuje Proser: „Pošto je sada veliki jezički model upoznao najbitnije i najosnovnije činjenice iz vaše baze vektora, može pružiti tačan odgovor korisniku. RAG smanjuje verovatnoću halucinacija.“ Odjednom, vaš veliki jezički model ima veću verovatnoću da vam da tačan odgovor, a ne samo odgovor koji zvuči tačno. Ovo je vrsta „zaokruživanja“ koja može učiniti velike jezičke modele stvarno korisnim, a ne samo hajpom. Sve drugo je samo automatizovane besmislice.

FAQ

Šta je generativna veštačka inteligencija (genAI)?

Generativna veštačka inteligencija (genAI) je podskup veštačke inteligencije koji se bavi generisanjem novih sadržaja, kao što su tekstovi, slike i zvukovi, na osnovu obrazaca i podataka iz trening skupa.

Šta znači „zaokruživanje“ veštačke inteligencije?

„Zaokruživanje“ veštačke inteligencije se odnosi na kontrole i ograničenja koja se mogu primeniti na veštačke inteligencije sisteme kako bi se sprečilo generisanje nekorisnog ili netačnog sadržaja, kao i izbegavanje izmišljanja odgovora na pitanja.

Kako funkcioniše retrieval augmented generation (RAG)?

Retrieval augmented generation (RAG) je tehnika koja koristi vektore za dodavanje konteksta i znanja velikim jezičkim modelima. Kombinuje se sa dodatnim podacima kako bi se unapredili odgovori modela i smanjila verovatnoća generisanja netačnih informacija.

Koje su primene generativne veštačke inteligencije?

Generativna veštačka inteligencija ima širok spektar primena u različitim oblastima, uključujući razvoj softvera, marketing, umetnost, medicinu, prevodilaštvo i druge. Može se koristiti za generisanje teksta, slika, muzike i drugih vrsta sadržaja.