9 Izazova sa Generativnom AI

U brzo rastućem pejzažu veštačke inteligencije, generativni AI alati pokazuju neverovatan potencijal. Međutim, njihov potencijal za štetu takođe postaje sve očitiji.

U saradnji sa partnerskom kompanijom VERSES, vizualizovali smo neke zabrinutosti u vezi sa generativnim AI alatima koristeći podatke iz različitih izvora. Mnoge od njih spadaju u jednu od sledećih kategorija: kontrola kvaliteta i tačnost podataka, etički aspekti ili tehnički izazovi – uz, naravno, određeni stepen preklapanja. Zaronimo u to.

Problem 1:
Pristrasnost unosa, pristrasnost izlaza
Tema: Kontrola kvaliteta i tačnost

Jedan od ključnih problema sa generativnom AI leži u njegovoj tendenciji da reprodukuje pristrasnosti prisutne u podacima na kojima je obučen. Umesto da umanje pristrasnosti, ovi alati često povećavaju ili perpetuiraju iste, postavljajući pitanje o tačnosti njihove primene – što bi moglo dovesti do mnogo većih problema u vezi sa etikom.

Problem 2:
Problem crne kutije
Tema: Etički i pravni aspekti

Još jedna značajna prepreka u prihvatanju generativne AI je nedostatak transparentnosti u njihovom procesu donošenja odluka. Sa misaonim procesima koji su često neinterpretabilni, ovi AI sistemi susreću se sa izazovima u objašnjenju svojih odluka, posebno kada se javljaju greške u ključnim pitanjima. Vredno je napomenuti da se radi o širem problemu kod AI sistema, a ne samo generativnim alatima.

Problem 3:
Visoki troškovi obuke i održavanja
Tema: Kompleksnost i tehnički izazovi

Obuka generativnih AI modela poput velikih jezičkih modela (LLM) ChatGPT je izuzetno skupa, sa troškovima koji često dosežu milione dolara zbog potrebne računarske snage i infrastrukture. Na primer, bivši izvršni direktor OpenAI-a, Sam Altman, potvrdio je da je ChatGPT-4 koštao ogromnih $100 miliona za obuku.

Problem 4:
Besmisleno ponavljanje
Tema: Kontrola kvaliteta i tačnost

Uprkos naprednim mogućnostima, generativni AI je ograničen podacima i obrascima na kojima je treniran. Ovo ograničenje rezultira izlazima koji možda ne obuhvataju širinu ljudskog znanja niti se bave različitim scenarijima.

Problem 5:
Usaglašenost sa ljudskim vrednostima
Tema: Etički i pravni aspekti

Za razliku od ljudi, generativni AI nema sposobnost da razmotri posledice svojih postupaka u skladu sa ljudskim vrednostima. Iako se slučajevi poput AI-generisanog „Balenciaga Pope“ mogu činiti bezopasnim, važno je prepoznati da deepfakeovi mogu biti korišćeni u svrhu širenja lažnih informacija u vreme javnih zdravstvenih kriza. Ovo ističe potrebu za većim brojem okvira koji garantuju da ovi sistemi funkcionišu unutar etičkih granica.

Problem 6:
Žedni struje
Tema: Kompleksnost i tehnički izazovi

Ekološki uticaj generativne AI ne sme se zanemariti. Sa procesorskim jedinicama koje troše ogromnu količinu struje, modeli poput ChatGPT-a koštaju koliko i snabdevanje strujom 33.000 domaćinstava u SAD-u, pri čemu je samo jedan upit 10 do 100 puta žedniji za strujom od jedne e-pošte.

Problem 7:
Halucinacije
Tema: Kontrola kvaliteta i tačnost

Poznato je da generativni AI modeli stvaraju lažne izjave ili slike kada se suoče sa prazninama u podacima, postavljajući pitanja o pouzdanosti njihovih rezultata i potencijalnim posledicama. Na primer, u promotivnom videu kompanije Google Bard, chatbot je netačno tvrdio da je James Webb Svemirski Teleskop snimio prve slike planeta van Sunčevog sistema.

Problem 8:
Kršenje autorskih i intelektualnih prava
Tema: Etički i pravni aspekti

Etička upotreba podataka ima veliki značaj kada se uzme u obzir da neki generativni AI alati koriste autorsko delo bez pristanka, priznanja ili nadoknade, kršeći prava umetnika i kreatora. Nedavno je kompanija OpenAI predstavila program nadoknade pod nazivom Copyright Shield koji pokriva pravne troškove u slučaju tužbi za kršenje autorskih prava za određene kategorije korisnika, umesto uklanjanja autorskog materijala iz skupa podataka za obuku ChatGPT-a.

Problem 9:
Statične informacije
Tema: Kompleksnost i tehnički izazovi

Ažuriranje generativnih AI modela zahteva značajne računarske resurse i vreme, što predstavlja ozbiljan tehnički izazov. Međutim, neki modeli su dizajnirani za inkrementalna ažuriranja, što pruža potencijalno rešenje za ovaj složeni problem.

Sreo VERSES

U nastojanju da iskoristi snagu AI, mora postojati pažljiva ravnoteža kako bi se osigurali etički, transparentni i značajni napretci u ovom transformišućem polju. VERSES se obavezao da stvori inteligentnu budućnost,