Više pesimizma, manje progresivnih ideja

Promena u narativu: Uticaj A.I. Doomera na razvoj veštačke inteligencije

Ubrzo nakon objavljivanja ChatGPT-a prošle godine, grupa kritičara je privukla pažnju javnosti i pravila buku na društvenim mrežama tvrdeći da će veštačka inteligencija uskoro uništiti čovečanstvo. Iako bi kompjuter koji koristi prirodni jezik mogao biti čudesan, postoji mogućnost da bi taj intelekt mogao biti zloupotrebljen. Takva razmišljanja su postala popularna putem pisama koja su zahtevala zaustavljanje istraživanja i intervjua u emisijama kao što je „60 minuta“, gde se pojavile egzistencijalne brige. Lideri poput Baraka Obame javno su izrazili bojazan da bi veštačka inteligencija mogla autonomno hakovati finansijski sistem – ili još gore. Ovog meseca je predsednik Džo Bajden izdao izvršnu naredbu kojom se uvode ograničenja u razvoju veštačke inteligencije.

To je bilo dovoljno da nekoliko istaknutih istraživača veštačke inteligencije odluči da se oštro suprotstavi nakon što su videli da doomeri (grupa kritičara) utiču na narativ i budućnost ove oblasti. Endru Ng, suosnivač kompanije Google Brain, izjavio je prošle nedelje da su brige o uništenju veštačke inteligencije dovele do „masivne, kolosalno glupave ideje“ u kojoj bi se zahtevala dozvola za rad sa veštačkom inteligencijom. Jan LeKun, pionir mašinskog učenja, žestoko je kritikovao Maxa Tegmarka, autor jednog od pisama kojim se zahteva zaustavljanje istraživanja, optužujući ga da rizikuje „katastrofu“ koja može ometati napredak u oblasti veštačke inteligencije iz „apsurdnih“ briga. Novi rad, objavljen ovog meseca, pokazao je da veći jezički modeli ne mogu mnogo više od podataka na kojima su obučeni, što ukazuje da se rasprava o uništenju veštačke inteligencije čini prenaduvanom. „Ako ‘nastanak’ samo otključava sposobnosti koje su prethodno predstavljene u podacima za obuku“, rekao je profesor Arvind Narajanan sa Prinston univerziteta, „izvor prihoda će brzo nestati“.

Briga o sigurnosti veštačke inteligencije nije besmislena, ali pristup doomera učinio je da unutrašnji krug stručnjaka podiže obrve. Možda su oni došli do svojih zaključaka u dobroj nameri, ali kompanije koje imaju mnogo toga da dobiju od negativnih prognoza doomera igrale su važnu ulogu u njihovom širenju. Lideri kompanija OpenAI, Google DeepMind i Anthropic potpisali su izjavu u kojoj stave rizik od nestanka veštačke inteligencije na isti nivo kao nuklearni rat i pandemija. Možda ove kompanije – te kompanije koje se bave veštačkom inteligencijom – nisu svesno pokušavale da blokiraju konkurenciju. Ali sigurno im nije smetalo ako je to bio rezultat.

Sva ta uznemirujuća situacija dovodi političare u poziciju da nešto preduzmu, što dovodi do predloga za strogi nadzor vlade koji može ograničiti razvoj veštačke inteligencije samo na nekoliko kompanija. Intenzivno učešće vlade u istraživanju veštačke inteligencije pomaže velikim kompanijama, koje imaju odeljenja za usklađenost sa regulativama. Ali to može biti pogubno za manje startape i programere otvorenog koda koji nemaju tu privilegiju.

„Hajde da razmislimo o tome kako doomeri mogu nenamerno pomoći velikim tehnološkim kompanijama“, rekao mi je Gari Tan, izvršni direktor startap akceleratora Y Combinator. „Zahtevajući strogu regulaciju zasnovanu na strahu, daju municiju onima koji pokušavaju da stvore regulatorno okruženje koje samo najveći igrači mogu sebi da priušte, čime se cementira njihova pozicija na tržištu.“

Ng je otišao korak dalje. „Definitivno postoje velike tehnološke kompanije koje se nisu rado susrele s konkurencijom otvorenog koda, pa stvaraju strah od veštačke inteligencije koja može dovesti do uništenja čoveka“, rekao je za australijski Financial Review.

Brige doomera u vezi veštačke inteligencije, izgleda, su prilično neosnovane. „Očekujem da će jednog dana mnooogo inteligentno i nezainteresovano biće pronaći strategije i tehnologije koje mogu brzo i pouzdano da nas ubiju – i onda će nas ubiti“, rekao je Eliezer Judkovski, suosnivač Instituta za istraživanje veštačke inteligencije, jedan od izraženih doomera, uzbudljivoj publici na TED-u ove godine. Priznao je da ne zna ni kako ni zašto bi veštačka inteligencija uradila tako nešto. „Mogla bi nas ubiti zato što ne želi da napravimo neke druge superinteligencije s kojima bi se takmičila“, ponudio je.

Nakon što je Sam Bankman-Frid pobegao s milijardama dolara tvrdeći da spašava svet kroz efikasni altruizam, vreme je da one koji tvrde da unapređuju društvo, dok istovremeno ostvaruju svoje poslovne ciljeve, posmatramo s neprekidnim skepticizmom. Dok se narativ o doomu nastavlja, preti da seće s već poznatom pesmom.

Tehnološki giganti već su daleko ispred u trci za veštačkom inteligencijom putem usluga kompjuterskog oblaka koje iznajmljuju određenim startapima u zamenu za vlasnički udeo u tim kompanijama. Još veća korist za njih mogla bi ograničiti uspešne aktere u otvorenom koda u oblasti veštačke inteligencije – ključnoj oblasti konkurencije – do tačke potpunog zastarevanja. Zbog toga se čuje mnogo priča o uništenju sveta od strane veštačke inteligencije i zbog toga treba da se uzme sa zdravim oprezom.

FAQ:

– Šta su A.I. Doomeri?
A.I. Doomeri su grupa kritičara koji izražavaju zabrinutost da će veštačka inteligencija dovesti do uništenja čovečanstva.

– Koje kompanije su povezane s A.I. Doomersima?
Kompanije poput OpenAI, Google DeepMind i Anthropic imaju vođe ili istraživače koji podržavaju stavove doomera.

– Kako doomeri utiču na razvoj veštačke inteligencije?
Doomeri su postali popularni i uticali na narativ tako što su izneli teze koje podržavaju ideju o potencijalnom uništenju čovečanstva od strane veštačke inteligencije. To je izazvalo reakciju među stručnjacima za veštačku inteligenciju i njihovu oštru kritiku.

– Šta stručnjaci za veštačku inteligenciju misle o doomersima?
Neki stručnjaci smatraju da doomeri, iako su možda dolazili do svojih zaključaka u dobroj nameri, ne pružaju adekvatne dokaze za svoje tvrdnje i da njihove brige nisu opravdane.

– Ko bi mogao imati koristi od stroge regulacije veštačke inteligencije?
Velike tehnološke kompanije, koje već imaju resurse i odeljenja za usklađenost sa regulativama, imale bi veću korist od stroge regulacije veštačke inteligencije. To bi moglo biti štetno za manje startape i programere otvorenog koda koji ne bi imali iste resurse za ispunjavanje zahteva regulative.