Fokus na sigurnosti: Rizici generativne veštačke inteligencije u poslovnom svetu
Summary
Nova istraživanja pokazuju da iako većina preduzeća koristi generativnu veštačku inteligenciju (AI) na neki način, značajan broj ne preduzima korake kako bi se zaštitili od moguće zloupotrebe ove tehnologije. Čak 81% lidera preduzeća smatra da je generativna AI potencijalni sigurnosni […]
Nova istraživanja pokazuju da iako većina preduzeća koristi generativnu veštačku inteligenciju (AI) na neki način, značajan broj ne preduzima korake kako bi se zaštitili od moguće zloupotrebe ove tehnologije. Čak 81% lidera preduzeća smatra da je generativna AI potencijalni sigurnosni rizik, ali trećina njih nije preduzela mere kako bi osigurala sigurnu upotrebu ove tehnologije u svojoj organizaciji.
Generativna veštačka inteligencija je tehnologija koja je prošle godine doživela pravi bum. Proizvodi poput ChatGPT-a koji generiše tekst, DALL·E koji generiše slike i Codex koji pretvara tekst u kod, bili su glavni magnet za preduzeća koja su žurila da investiraju u ove tehnologije, s nadom da će pomoći u povećanju produktivnosti i smanjenju troškova ljudskog rada. Međutim, mnogi su zanemarili potencijalne rizike koje brza implementacija ove tehnologije može doneti.
Istraživanja pokazuju da su previše optimistične prognoze, kao što je predviđanje McKinsey & Company-ja da bi generativna AI mogla godišnje povećati globalnu produktivnost za 44 biliona dolara, dodatno ojačale ovu hajpu oko generativne AI. U žurbi da iskoriste ovo navodno nezaobilazno dostupno rešenje, mnoga preduzeća su zaboravila na osnovne prakse koje bi im omogućile postizanje maksimalnih koristi od ove tehnologije. Na primer, jedno istraživanje je pokazalo da samo 14% radnika iz operativnog sektora ima obuku koja se bavi promenama koje će AI doneti u njihovim poslovima, dok je 86% zaposlenih smatralo da su neadekvatno obučeni za buduće promene koje će doneti ova tehnologija. To znači da radnici nisu svesni sigurnosnih rizika koje generativna AI može predstavljati.
Istraživanje kompanije Zscaler dodatno ukazuje na to da rukovodstvo preduzeća ne doživljava sigurnosne rizike generativne AI ozbiljno. Iako 89% preduzeća smatra da su alati poput ChatGPT-a potencijalni sigurnosni rizik, čak 95% ih već koristi u nekoj meri unutar svojih organizacija. Čak 92% ispitanika je reklo da očekuju porast interesovanja za implementaciju ove tehnologije u svom preduzeću do kraja 2023. godine. Ovo je zabrinjavajuće s obzirom na to da 89% ispitanika takođe priznaje da generativna AI može predstavljati sigurnosni rizik, dok je skoro polovina njih izjavila da generativna AI više predstavlja pretnju nego priliku.
FAQ
1. Šta je generativna veštačka inteligencija?
Generativna veštačka inteligencija je tehnologija koja koristi algoritme i mašinsko učenje kako bi generisala nove sadržaje, poput teksta, slika ili koda, na osnovu prethodno naučenih podataka.
2. Kako generativna AI može predstavljati sigurnosni rizik?
Generativna AI može predstavljati sigurnosni rizik jer može biti zloupotrebljena za kreiranje lažnih informacija, manipulaciju medijskim sadržajima, ili obmanu i prevare.
3. Kako preduzeća mogu minimizirati rizike generativne AI?
Preduzeća mogu minimizirati rizike generativne AI osiguravajući da imaju odgovarajuće mere bezbednosti i edukaciju za zaposlene. Takođe je važno da rukovodstvo preduzeća shvati ozbiljnost sigurnosnih rizika i da preduzmu adekvatne korake kako bi zaštitili svoje operacije.
Source: Zscaler