Novi režim kontrole nad oružjem veštačke inteligencije

Dosadašnju deceniju obeležile su tektonski pomaci kako u tehnologiji, tako i u međunarodnoj bezbednosti. Ruski napad na Ukrajinu u februaru 2022. godine, koji je naglo završio post-hladnoratovsku eru, predstavlja očiglednu prekretnicu. Nedavna eskalacija na Bliskom istoku, koja bi mogla dovesti do regionalnog rata, predstavlja još jedan primer. Takođe, pandemija Covid-19, iz koje su Sjedinjene Američke Države i Kina izašle kao povređene, nepoverljive i bliže konfliktu nego ikada pre, nije najmanje važna, naročito kada je reč o problematičnom pitanju Tajvana, uporišta u svetu napredne tehnologije.

Međutim, manje dramatičan, ali podjednako dubok trenutak, dogodio se 7. oktobra 2022. godine, kada je administracija američkog predsednika Džoa Bajdena tiho predstavila novu politiku koju nadgleda nepoznata agencija. Tog dana, Bureau of Industry and Security (BIS) pri Ministarstvu trgovine Sjedinjenih Američkih Država objavio je nove kontrole izvoza za napredne računarske čipove i predmete za proizvodnju poluprovodnika u Narodnoj Republici Kini. Većini ljudi iz domena van specijalnih oblasti, ova politika je prošla neprimećeno, a kasnije je opisana kao „nov domen nuklearnog razoružanja“ ili, manje ljubazno, kao eskalacija „ekonomskog rata protiv Kine“.

Objava BIS-a došla je samo nekoliko meseci pre nego što su najnoviji platformi generativne veštačke inteligencije, uključujući GPT-4, stupile na svetsku scenu. U suštini, inicijativa Bele kuće imala je za cilj da spreči Kinu da stekne fizičke materijale potrebne da dominira poljem veštačke inteligencije: visoko specijalizovane poluprovodnike i napredne računarske čipove koji su uglavnom bili u rukama zapadnih zemalja i Tajvana.

Uz industrijsku politiku koja je imala za cilj izgradnju lokalne američke proizvodnje poluprovodnika i strategiju deljenja određene delatnosti čipova sa Tajvana u Arizoni, ovo je predstavljalo ozbiljan pokušaj preuzimanja „komandnih visina“ veštačke inteligencije. U julu ove godine, Peking je odgovorio ograničavanjem izvoza germanskog i galijskog proizvoda, elementima neophodnim za industriju poluprovodnika.

Dizajneri platformi veštačke inteligencije tvrde da novi modeli velikih jezičkih modela najavljuju novo doba. Naredne iteracije veštačke inteligencije – GPT-5 i dalje – mogu da obeleže budućnost „radikalnog izobilja“ koje će osloboditi čovečanstvo od bespotrebnog rada, ali isto tako mogu dovesti do masovnog raseljavanja i razaranja, ukoliko se pojavi nekontrolisana „superinteligencija“. Iako su ovi scenariji još uvek hipotetični, vrlo je verovatno da će budući alati za nadzor zasnovani na veštačkoj inteligenciji pomoći autoritarnim vladama da utvrde kontrolu nad sopstvenim stanovništvom i omoguće im da izgrade nove vojno-industrijske sposobnosti.

Međutim, isti dizajneri veštačke inteligencije takođe priznaju da trenutne platforme veštačke inteligencije predstavljaju ozbiljne rizike po ljudsku bezbednost, posebno kada se posmatraju kao podrška za hemijsko, biološko, radiološko, nuklearno i eksplozivno oružje visokih posledica (CBRNE). Mi, autori ovog članka, trenutno istražujemo kako donosioci odluka planiraju da reše ovo pitanje, koje mi nazivamo „CBRNE+AI“.

Ova bliža pretnja – kombinacija veštačke inteligencije i nekonvencionalnog oružja – trebala bi obavezati vlade da pronađu trajne puteve ka kontroli naoružanja u dobu veštačke inteligencije. Kako to postići u tako nestabilnom geopolitičkom okruženju ostaje neizvesno. U svojoj nedavnoj knjizi „The Coming Wave“, suosnivač Deep Minda, Mustafa Sulejman, traži inspiraciju u Hladnom ratu 20. veka. Nuklearna kontrola naoružanja i manje poznata priča o biološkoj kontroli naoružanja pružaju nade. Među Sulejmanovim sugestijama je izgradnja međunarodnih saveza i regulatornih tela posvećenih kontroli budućih modela veštačke inteligencije.

Nedavno smo sugerisali da bi Australia Group, osnovana tokom uznemirujućeg hemijskog ratovanja tokom rata između Irana i Iraka, mogla biti pravo mesto za početak izgradnje arhitekture koja bi mogla nadgledati presečne tačke veštačke inteligencije i nekonvencionalnog naoružanja. Ova grupa je prvobitno osnovana radi sprečavanja protoka prekursora hemikalija do udaljenog bojišta na Bliskom istoku, ali je kasnije postala široki savez zemalja posvećen harmonizaciji regulacije komponenti koje se koriste u hemijskom i biološkom naoružanju. U grupu bi trebalo dodati i velike jezičke modele i druge alate veštačke inteligencije koji bi mogli biti iskorišćeni kao pomoćna sredstva za izgradnju novog oružja.

Bivši državni sekretar Sjedinjenih Američkih Država Henri Kisindžer je nedavno pozvao Vašington i Peking da sarađuju u uspostavljanju i vođenju novog režima „kontrole naoružanja veštačke inteligencije“. Kisindžer i njegov koautor Grejam Alison tvrde da i Sjedinjene Američke Države i Kina imaju preovlađujući interes da spreče proliferaciju modela veštačke inteligencije koji bi mogli ugroziti ljudsku prosperitet ili dovesti do globalne katastrofe. Međutim, uspon nove hladne rata nameće težak kompromis: može li Vašington realistično nagovoriti Peking da pomogne u izgradnji nove arhitekture neproliferacije, istovremeno sprovodeći režim kontrakcije koji se specifično usmerava na Kinu? Izgleda da je to malo verovatna pretpostavka.

Upavo ta dilema bi uskoro mogla naterati donosioce odluka da biraju između dva odvojena pravca kontrole. Kontrole izvoza u oktobru 2022. godine predstavljaju oblik kontrole u originalnom smislu Hladnog rata: sprečavanje konkurenta na vrhu tehnologije da dobije ključne tehnologije u strateškom domenu, slično viziji kontrole Sovjetskog Saveza Džordža Kinenana. Međutim, Sulejman drugačije tumači pojam kontrole: to je zaduženje za kontrolisanje opasnosti veštačke inteligencije radi očuvanja globalne ljudske bezbednosti, na sličan način na koji se (uobičajeno) kontrolišu biološko, hemijsko i nuklearno oružje. Za takvo nastojanje biće potrebna saradnja Kine.

Ove nedelje, lideri Sjedinjenih Američkih Država i Kine prisustvuju APEC samitu u San Francisku. Na ovom forumu Kisindžer predlaže da se zajedno angažuju u pokušaju uspostavljanja novog režima kontrole naoružanja veštačke inteligencije. U međuvremenu, kampanja se zaoštrava na Tajvanu, čiji građani će uskoro glasati na žestoko kontroverznim izborima pod sve agresivnijim pogledom Pekinga. Prošao je više od mesec dana od kada je Hamas otvorio brutalno novo poglavlje na Bliskom istoku, a punom snagom se nastavlja rat u Ukrajini koji ulazi u svoju drugu godinu.

Kakav god ishod bude u San Francisku, on može odrediti oblik budućih sukoba i oružja koja će se koristiti u njima. Nadamo se da će se izdvojiti konture prvog ozbiljnog režima kontrole naoružanja u dobu generativne veštačke inteligencije, umesto da se produbi podela nove hladne rata.

FAQ

1. Koje su tectonic shifts u tehnologiji i međunarodnoj bezbednosti bili evidentni u 2020-im godinama?

Tectonic shifts u tehnologiji i međunarodnoj bezbednosti koji su bili evidentni u 2020-im godinama uključuju ruski napad na Ukrajinu u februaru 2022. godine, eskalaciju na Bliskom istoku sa potencijalom da dovede do regionalnog rata, kao i pandemiju Covid-19 koja je stvorila nepoverenje između Sj