Da li se tehnološke kompanije trebaju kretati polako i paziti da ništa ne oštete?

Originalni moto Silicijumske doline odavno je bio „kretanje brzo i rušenje stvari“. Ovaj pristup se oslanja na pretpostavku da bi kompanije trebale prihvatiti da će se stvari oštetiti tokom procesa razvijanja najnaprednije tehnologije i da bi trebale biti korak ispred konkurencije.

Međutim, ovaj pristup može nositi implikacije koje se odnose ne samo na ekonomiju već i na bezbednost ljudi i etiku. Kako obeležavamo prvu godišnjicu izlaska AI chatbota ChatGPT, vreme je da razmotrimo da li bi velike tehnološke kompanije trebale usporiti i voditi računa da ništa ne unište.

Impresivne mogućnosti ChatGPT-a izazvale su senzaciju. Ali neki komentatori su brzo ukazali na probleme kao što je mogućnost da studenti koriste chatbot za varanje na zadacima. Šire gledano, chatbot je intenzivirao debatu o tome kako kontrolisati veštačku inteligenciju, transformacionu tehnologiju sa ogromnim potencijalnim koristima, ali i rizicima od jednakog značaja.

Pogledajmo rekord Silicijumske doline u vezi sa drugim tehnologijama. Društvene mreže su trebale da nas povežu, ali su zapravo ugrozile demokratiju i stvorile horde trolova. Kriptovalute, predstavljene kao izazov finansijskom statusu quo, su bile ekološka katastrofa i bile su podložne prevari.

Dolazak ličnog računara trebao je da olakša naš radni život. Olakšao je, ali po cenu masovnih gubitaka posla koje je tržištu rada trebalo više od jedne decenije da se oporavi.

Nije da same tehnologije su loše. Međutim, ideologija u kojoj se razvijaju može biti problem. I kako tehnologija sve više prožima naš svakodnevni život, „stvari“ koje se kvare mogu potencijalno ugroziti živote ljudi.

Promena pristupa

„Mesto brzo i ruši stvari“ takođe može pokazati da je ekonomski pogrešno, jer tera investitore da jure za novotarijama umesto za vrednošću, kao što su činili tokom dot-com balona početkom 2000-ih godina. Ideja pretpostavlja da se, iako stvari mogu krenuti po zlu, brzo možemo ispraviti greške i da će štete biti ograničene. Međutim, gledajući istoriju Silicijumske doline, ovo se pokazalo problematičnim na nekoliko nivoa.

Prepoznavanje problema nije isto što i pronalaženje uzroka. Kada se tehnologija jednom implementira, okruženje u kojem se koristi može biti toliko kompleksno da je potrebno godinama da se shvati šta tačno ne funkcioniše.

Na primer, američki pravosudni sistem koristi veštačku inteligenciju više od jedne decenije kako bi pomogao u odlučivanju o kauciji. Ove odluke određuju ko treba biti pušten do suđenja uz kauciju.

Veštačka inteligencija je uvedena ne samo kao način smanjenja rizika od bekstva optuženih, već i za borbu protiv rasne pristrasnosti, gde beli sudije mogu biti skloniji puštanju belih optuženika. Međutim, algoritmi su proizveli suprotan rezultat, sa manjim brojem puštanih crnaca.

Inženjeri su nastavljali da uvode nove verzije algoritama veštačke inteligencije, nadajući se da će smanjiti pristrasnost. Ništa nije funkcionisalo. Onda je 2019. godine, 17 godina od prvog uvođenja sistema, istraživač otkrio da problem nije sam AI, već način na koji sudije koriste tehnologiju.

One su češće poništavale odluke koje se nisu slagale sa njihovim stereotipima, a problem je bila interakcija između sudija i veštačke inteligencije. Svaki zasebno mogao je doneti donekle adekvatne odluke. Ali zajedno, to je bila katastrofa.

Odlaganje posledica

Još jedan razlog zašto je pristup Silicijumske doline rizičan je što posledice novih tehnologija mogu dugo trajati. To znači da kada shvatimo štetu koju su učinile, već je kasno.

Na primer, holandski sistem socijalne pomoći u velikoj meri se oslonio na algoritme veštačke inteligencije za otkrivanje prevare. To je stvorilo mnoge probleme, ali posebno je otkriveno da je sistem koristio etničko poreklo i nacionalnost kao važan faktor rizika.

Prošle su godine da bi se problem u potpunosti pojavio. A do tada, neki ljudi su jako bili pogođeni odlukama koje je donela veštačka inteligencija – tražili su od njih da vrate stotine hiljada evra zbog jedne jednostavne greške na formularu – neki ljudi su izabrali da oduzmu sebi život.

Čišćenje za sobom

„Mesto brzo i ruši stvari“ takođe znači da će neko drugi, negde, morati da očisti nered. Za one koji proizvode tehnologiju, to je način da se izvuku odgovornosti za njene rezultate, bilo da kompanije to shvataju ili ne. Društvene mreže su razarajući primer ovoga.

„Sugestivni“ algoritmi društvenih medija – takođe vođeni veštačkom inteligencijom – stvorili su mnoštvo problema, od promovisanja dezinformacija i govora mržnje samo zato što to stvari čini angažovanijima, do olakšavanja nasilja i negativnog uticaja na mentalno zdravlje. Ipak, i dalje se borimo da suzbijemo ove probleme, s platformama društvenih medija koje odbijaju da preuzmu odgovornost za sadržaj koji promovišu i od kojeg imaju koristi.

Prva godišnjica ChatGPT-a pruža nam priliku da se osvrnemo na pouke koje možemo izvući iz prethodnih tehnoloških napredaka. Pomaže nam da shvatimo da je lakše izbeći greške nego ih popravljati, pogotovo kada su ugroženi ljudski životi.

FAQ:

1. Šta je moto Silicijumske doline?
„Moto Silicijumske doline je ‘kretanje brzo i rušenje stvari’.“

2. Koje tehnologije su pomenute kao primjeri neuspeha Silicijumske doline?
„Kao primjeri neuspeha Silicijumske doline navedene su društvene mreže, kriptovalute i lični računari.“

3. Kako tehnologije mogu ugroziti ljudske živote?
„Ugrožavanje ljudskih života moguće je kroz loše razvijenu tehnologiju koja može stvoriti probleme u ključnim oblastima kao što su pravosudni sistem ili sistem socijalne pomoći.“

4. Zašto je moto „kretanje brzo i rušenje stvari“ rizičan?
„Moto ‘kretanje brzo i rušenje stvari’ rizičan je jer podstiče brzo uvođenje novih tehnologija bez dubokog razmatranja njihovih dugoročnih posledica i potencijalnih rizika koje mogu predstavljati.“