Roboti u sigurnosnim operacijama: rastući interes i izazovi

Interes za uvođenje robota u sigurnosne, policijske i vojne operacije postepeno raste poslednjih nekoliko godina. To je već istraženo i u Severnoj Americi i u Evropi.

Uključivanje robota u ove oblasti može se smatrati analogijom uključivanja pasa u policijske i vojne zadatke tokom 20. veka. Psi su služili kao čuvari, stražari, nosioci poruka i otkrivači mina, između ostalih uloga.

Roboti namenjeni za podršku ljudima, koji su dizajnirani da imitiraju naše četvoronožne drugare, ne samo da imitiraju njihov izgled, već i njihovu funkcionalnost. Opremljeni tehnologijom za nadzor i sposobni da prenose opremu, municiju i druge stvari kao deo lanca snabdevanja, oni bi značajno mogli smanjiti rizik od povreda za ljudske vojnike na bojnom polju.

Međutim, uloga robotskih robota bi se svakako promenila ako bi se na njih dodali sistemi oružja. U osnovi, postali bi verzije kopnenih MQ-9 Predator bespilotnih letelica koje trenutno koristi američka vojska.

U 2021. godini, kompanija Ghost Robotics predstavila je jednog od svojih četvoronožnih robota, nazvanog Q-UGV, koji je bio naoružan specijalnom namenskom automatskom puškom 4. Na predstavi je naglašena oružana primena robotskih robota.

Važno je primetiti kako svaki aspekt ovog spajanja oružja i robotike deluje na različit način. Iako je sam robot poluautonomni i može se kontrolisati daljinski, montirano oružje nema autonomne sposobnosti i potpuno je kontrolisano od strane operatera.

U septembru 2023. godine, američki marinaci su sproveli test koncepta koji je uključivao još jednog četvoronožnog robotskog pomagača. Testirane su njegove sposobnosti za „pronalazak i napad ciljeva uz pomoć M72 lakog protivtenkovskog oružja“.

Test je ponovo pokrenuo etičku debatu o upotrebi automatizovanih i polu-automatizovanih borbenih sistema. Ne bi bio veliki korak za ove platforme da uključe sistem prepoznavanja pretnji upravljan veštačkom inteligencijom i sposobnost „zaključavanja“ na ciljeve. Sistem za navođenje takve vrste već je dostupan na tržištu.

U 2022. godini, dvanaest vodećih kompanija u oblasti robotike potpisale su otvoreno pismo koje je objavljeno na veb stranici kompanije Boston Dynamics, koja je stvorila robotskog psa nazvanog Spot. U pismu, kompanije su se izjasnile protiv oružane upotrebe komercijalno dostupnih robota.

Međutim, pismo takođe kaže da kompanije nemaju problem „sa postojećim tehnologijama koje nacije i njihove vladine agencije koriste za odbranu i sprovođenje zakona“. S tim u vezi, valja razmotriti da li je već zakasnio voz u pogledu naoružavanja veštačkom inteligencijom. Sistemi oružja sa inteligentnom tehnologijom integrisanom u robotiku već se koriste u borbi.

Ovog meseca, Boston Dynamics je objavio video snimak koji pokazuje kako su dodali AI četbot ChatGPT svom robotu Spotu. Mašina se može videti kako odgovara na pitanja i razgovor sa jednim od inženjera kompanije koristeći nekoliko različitih „ličnosti“, poput engleskog batlera. Odgovori dolaze od AI četbota, ali Spot izgovara reči.

To je fascinantan korak za industriju i potencijalno pozitivan. Međutim, dok Boston Dynamics možda održava svoje obećanje da neće naoružati svoje robote, druge kompanije možda neće imati isto mišljenje. Takođe postoji mogućnost zloupotrebe takvih robota od strane ljudi ili institucija koje nemaju moralni kompas. Kao što nagoveštava otvoreno pismo: „Kada je moguće, pažljivo ćemo pregledati namene naših klijenata kako bismo izbegli moguće naoružanje“.

Stav Velike Britanije

Velika Britanija već je zauzela stav o naoružavanju veštačkom inteligencijom svojom strategijom za veštačku inteligenciju odbrane, objavljenom 2022. godine. Dokument izražava nameru da se veštačka inteligencija brzo integriše u sisteme ministarstva odbrane kako bi se ojačala bezbednost i modernizovale oružane snage.

Međutim, poseban prilog strategijskom dokumentu posebno prepoznaje potencijalne izazove koji su povezani sa samostalnim oružanim sistemima na bazi veštačke inteligencije.

Na primer, stvarni podaci se koriste za „treniranje“ AI sistema ili za njihovo poboljšanje. Sa ChatGPT-om, ti podaci se prikupljaju sa interneta. Iako pomaže AI sistemima da postanu korisniji, svi ti „stvarni“ podaci mogu takođe prenositi iskrivljene pretpostavke i predrasude samom sistemu. To može dovesti do algoritamske pristrasnosti (gde AI favorizuje jednu grupu ili opciju nad drugom) ili neodgovarajućih i nerazmerenih odgovora AI sistema. Zbog toga uzorci obuke za sisteme oružja moraju pažljivo da se pregledaju s obzirom na etički rat.

Ove godine, Dom lordova osnovao je odbor za selekciju AI sistema u oružanim snagama. Njegov zadatak je da sagleda kako oružane snage mogu izvući korist od tehnoloških dostignuća, istovremeno minimizirajući rizike kroz implementaciju tehničkih, pravnih i etičkih zaštita. Takođe se razmatra dovoljnost politike Velike Britanije i međunarodnog stvaranja politike.

Roboti psi još uvek ne nišane oružje na suprotne snage. Ali sve što je potrebno za ovaj scenario već je tu, ako se ne preduzmu mere. Brzi razvoj i AI i robotike stvaraju oluju koja bi mogla dovesti do moćnog novog oružja.

Nedavni samit o bezbednosti veštačke inteligencije u Bletchley Parku imao je pozitivan ishod po pitanju regulacije veštačke inteligencije, kako u Velikoj Britaniji, tako i u međunarodnim okvirima. Međutim, bilo je naznaka filozofske podele između ciljeva samita i ciljeva odbora za AI u oružanim sistemima.

Samit je bio usmeren na definisanje veštačke inteligencije, procenu njenih mogućnosti i ograničenja i stvaranje globalnog konsenzusa u vezi sa njenom etičkom upotrebom. Pokušao je to da postigne putem deklaracije, vrlo slično otvorenom pismu kompanije Boston Dynamics. Međutim, ni jedno ni drugo nije obavezujuće. Odbor nastoji da integriše tehnologiju jasno i brzo, i to u skladu sa etikom, propisima i međunarodnim pravom.

FAQ:

1. Da li su roboti već uključeni u vojne operacije?
– Da, roboti su već uključeni u vojne operacije i njihova upotreba se stalno razvija.

2. Da li se roboti mogu koristiti sa oružjem?
– Da, roboti se mogu naoružati, ali to nosi nove etičke i sigurnosne izazove.

3. Kako tehnologija veštačke inteligencije utiče na oružane sisteme?
– Tehnologija veštačke inteligencije može unaprediti sposobnosti oružanih sistema, ali istovremeno može dovesti do problema kao što su pristrasnost i neadekvatni odgovori.

4. Koje mere se preduzimaju za regulisanje upotrebe robota i veštačke inteligencije u vojnim operacijama?
– U Velikoj Britaniji i drugim zemljama postoje politike i odbori koji se bave regulisanjem upotrebe robota i veštačke inteligencije u vojnim operacijama, ali još uvek se radi na pronalaženju adekvatnih rešenja.