Inovacije veštačke inteligencije: Da li odbiti ili omogućiti?

Stručna i javna mišljenja o veštačkoj generativnoj inteligenciji (AI) izazivaju i strah i optimizam, kao što je slučaj sa svakim novim napretkom. Glavne bojazni koje prate ovu inovaciju počinju od mogućnosti grešaka koje bi mogle da naškode određenim grupama ljudi ili da podstaknu masovne kampanje dezinformacija. Tehnički eksperti i naučnici takođe strahuju od vremena kada će veštačka inteligencija moći da automatizuje poslove i procese koji su istorijski bili rezervisani za ljude. Drugi strahuju da će generativna veštačka inteligencija dovesti do nestanka poslova uopšte – a konačno i ljudi.

Na poslovnom planu, strahovi rukovodstva svake industrije proizilaze iz toga da bi zaposleni i zainteresovane strane mogli da dozvole pristup njihovim privatnim podacima velikim jezičkim modelima (LLM), čime bi izložili svoje najosetljivije privatne informacije celom svetu.

Sa pojavom alata kao što je ChatGPT, postaje sve prirodnije „pitati AI“ za pomoć u ostvarivanju ciljeva. Međutim, LLM-ovi su dobri samo koliko i podaci na kojima su obučeni, a danas su to uglavnom podaci dostupni javnosti. Kao rezultat toga, kako bi dobili odgovore specifične za svoje preduzeće, korisnici uključuju specifične informacije o preduzeću – a potencijalno i privatne – kao kontekst u svoja pitanja. Ovakvo korišćenje privatnih informacija dovodi do nenamernih curenja podataka kada se podaci pošalju javnim LLM-ovima. Kompanije kao što je Samsung su već imale takvo iskustvo, što je prisililo kompaniju da preduzme preventivne mere i implementira nove sigurnosne politike kako bi kontrolisala korišćenje generativne AI unutar organizacije.

Današnji CISO-i i CIO-i moraju pronaći način kako da usvoje nove AI inovacije i koriste svoje raspoložive vlasničke podatke, istovremeno održavajući kontrolu i sigurnost podataka kako bi ove alate maksimalno koristili za svoje organizacije. Način na koji odgovorimo na ovo pitanje mogao bi odrediti budućnost čitave tehnološke industrije.

Često postavljana pitanja (FAQ)

1. Šta je veštačka generativna inteligencija (AI)?

Veštačka generativna inteligencija (AI) je područje veštačke inteligencije koje se bavi razvojem algoritama i sistema sposobnih za generisanje novih informacija, kao što su tekst, slike ili zvuk.

2. Koje su glavne bojazni u vezi sa generativnom AI inovacijom?

Glavne bojazni u vezi sa generativnom AI inovacijom su mogućnost grešaka koje bi mogle da naškode određenim grupama ljudi ili da podstaknu masovne kampanje dezinformacija, automatizacija poslova koji su do sada bili rezervisani za ljude, kao i rizik od curenja privatnih podataka prilikom korišćenja većih jezičkih modela.

3. Kako se organizacije mogu zaštititi od rizika generativne AI?

Organizacije se mogu zaštititi od rizika generativne AI tako što će pažljivo birati jezičke modele koje će koristiti i odabrati one koji pružaju visok nivo zaštite, tačnosti i kontrole. Takođe je važno razmotriti tačnost i pouzdanost podataka koji pokreću ove modele, kao i obezbediti adekvatne kontrole pristupa ovim alatima. Transparentnost, isključivanje, anonimizacija, revizija i usklađenost su ključni elementi za minimiziranje rizika i održavanje sigurnosti unutar organizacije.