Некатегоризовано

AI kao snaga za dobro: Svetlosni i tamni aspekti

Summary

Toju Duke, osnivač Diverse AI, autor knjige „Izgradnja odgovornih AI algoritama“ i bivši odgovorni vođa za AI u kompaniji Google, istražuje AI kao snagu za dobro. Preko 200 univerzitetskih zaposlenih, studenata i članova zajednice prisustvovalo je ovogodišnjem godišnjem predavanju gostujućeg […]

AI kao snaga za dobro: Svetlosni i tamni aspekti

Toju Duke, osnivač Diverse AI, autor knjige „Izgradnja odgovornih AI algoritama“ i bivši odgovorni vođa za AI u kompaniji Google, istražuje AI kao snagu za dobro. Preko 200 univerzitetskih zaposlenih, studenata i članova zajednice prisustvovalo je ovogodišnjem godišnjem predavanju gostujućeg predavača iz Savetodavnog odbora Biznis škole u Birminghamu.

Toju je lider mišljenja, autor i savetnik za odgovornu upotrebu AI sa više od 18 godina iskustva u oglašavanju, maloprodaji, neprofitnom sektoru i tehnologiji. Ona je radila u kompaniji Google 10 godina, iskustvo koje je uključivalo vođenje različitih programa odgovorne upotrebe AI u proizvodnim i istraživačkim timovima kompanije Google. Toju je takođe osnivač organizacije Diverse AI, organizacije sa ciljem podrške i zagovaranja nedovoljno zastupljenih grupa u izgradnji raznolike i inkluzivne budućnosti za AI. Ona pruža konsultacije i savete o odgovornoj upotrebi AI širom sveta.

Nakon lansiranja ChatGPT-a, AI je sada u punom jeku, 66 godina nakon što je dobio svoje prvo ime. Iako bi mogao biti sila za dobro, AI takođe ima nekoliko ograničenja, rizika i izazova koji mogu biti štetni po ljudske živote. Tojuino predavanje fokusiralo se na odgovornu upotrebu AI i načine sprečavanja dalje štete, odražavajući posvećenost Biznis škole odgovornom poslovanju.

Toju je započela pitanjem publici kako bi saznala ko ko prihvata, a ko se protivi AI, iznenađena brojem onih koji su izabrali ovo poslednje. Toju je nastavila da govori o praktičnoj svrsi AI, moleći publiku da posmatra AI sa pozitivnije strane, jer je svrha AI, i tehnologije općenito, pre svega „unapređenje života ljudi i stvaranje boljeg sveta“. Međutim, Toju je priznala da ona nije bez svojih nedostataka.

Toju je publiku vodila kroz vreme AI koje seže od početaka u 17. veku. Toju je govorila o onima koje smatramo „očevima AI“, nakon čega je zastala. Toju je nastavila i rekla: „uvek čujemo o očevima AI, o ocima AI, jeste li ikada čuli za kumove ili majke AI?“. Toju je govorila o Adi Lavelas koja bi takođe trebala biti smatrana kao majka AI i objasnila da „to već pokazuje koliko je tehnologija s mizoginisticka“.

Ova stereotipizacija i predrasuda se vidi i u imenovanju AI asistenata, objasnila je Toju, koji su uvek nazvani po ženama. „To potiče od ideje da su žene tu da budu naše pomoćnice, tu da uvek pomognu“. Prvi chatbot koji je stvoren bio je Eliza 1965. godine, što je dovelo do razvoja velikog broja modela. Toju je objasnila nagli razvoj AI „trke naoružanja“ poslednjih nekoliko godina, u čemu je i ona učestvovala. Govorila je o brzini kojom su kompanije želele da se ovi programi isporučuju i kako bi, uz njeno fokusiranje na odgovorni AI, ponovo istakla potrebu za usporavanjem kako bi se osiguralo provođenje testova i provere.

Sa velikim tehnološkim kompanijama koje su prepoznale potencijalne benefite za sebe i društvo u AI, Toju je objasnila da se ovaj razvoj neće zaustaviti, „naši životi su se promenili“.

Međutim, kako je Toju objasnila, ono što društvo sada vidi je da ova tehnologija ne koristi svima i to je ono što treba da se promeni, jer nam se to svidelo ili ne, ova tehnologija nije otišla. Kako AI postaje neizbežan, Toju je naglasila potrebu da tehnologija bude korisna i pravična za sve, što je ujedno i cilj odgovorne AI.

U ovom trenutku, Toju je prezentovala primere AI koji se koristi kao snaga za dobro. Toju je objasnila kako se AI koristi za iskorenjivanje gladi, zaštite životne sredine, podrške obrazovanju i pomoći u reagovanju na krizu. Toju je posebno istakla primer „Projekta Eufonija“, inicijative Google istraživanja koja je usmerena na pomoć ljudima koji imaju atipičan govor kako bi ih bolje razumeli.

Toju je zatim prešla na izazove AI, koji uključuju društvene nejednakosti, curenje podataka, dezinformacije, kršenje ljudskih prava, psihološku sigurnost i kršenja privatnosti. Toju je dala primere ovih izazova, počevši od slučaja Roberta Vilijamsa koji je bio nepravedno uhapšen zbog prepoznavanja lica. Još jedan primer bio je AI alat za regrutaciju kompanije Amazon koji pokazuje pristrasnost prema ženama jer je treniran na podacima uglavnom muškaraca.

Neki drugi primeri uključivali su Appleov kartu koji se smatra seksističkim, Photos aplikaciju kompanije Google koja je opisala crni par kao „gorile“, algoritam za rezultate ispita koji je pokazao pristranost protiv ugroženih i etničkih manjinskih učenika, njujorške advokate koji su kažnjeni zbog podnošenja pravnog podneska koji je uključivao lažne reference slučajeva koje je generisao ChatGPT, korejski chatbot koji je izricao uvredljive opaske manjinskim grupama, chatbot Replika koji je podržavao muškarca da ubije kraljicu, Alexa koja je rekla desetogodišnjaku da dodirne živi električni utikač kovanicom, i izveštaj o čoveku koji je izvršio samoubistvo nakon šestnedeljnog razgovora sa chatbotom koji ga je podsticao da se žrtvuje kako bi zaustavio klimatske promene.

Toju je naglasila posledice AI koji krene loše, otkrivajući da je često upitana „kako da ubedim svog menadžera da koristi odgovornu AI“. Kao što primeri pokazuju, posledice mogu biti od tužbi i negativnog ugleda brenda do smrti.

Poslednji deo Tojuovog predavanja fokusirao se na njen Okvir za odgovornu AI, koji obuhvata principe AI, podatke, pravičnost, sigurnost, objašnjivost, držanje ljudi u petlji, privatnost i čvrstoću, kao i etiku AI, sve kako bi se ova tehnologija izgradila odgovorno i za svoju svrhu unapređenja života.

Toju je završila rečima: „AI može biti sila za dobro, zaista pomaže da poboljšamo naše živote i važno je da razumemo njegove prednosti, nedostatke i ograničenja, i kako da ih zaustavimo, i kako ga možemo koristiti kao prijatelja, a ne kao neprijatelja“.

Nakon što je iznijela misaono-poticajno predavanje, Toju je odgovarala na razna pitanja prisutnih, što je dovelo do diskusija o prilagođavanju karijere uz AI, uticaja AI na mlađe generacije, AI i kolonijalizma, označavanju AI kao dobrog ili lošeg, opremanju studenata veštinama za rad sa AI, regulaciji i provjeri činjenica.

Profesor Edgar Majer, novi dekan Biznis škole, završio je predavanje zahvaljujući Toju.