AI tehnologija i programi socijalne zaštite: Rizici i prednosti

Nova izvršna naredba predsednika Džoa Bajdena o veštačkoj inteligenciji posebno je pomenula programe državnih beneficija kao oblast gde bi tehnologija mogla biti korisna, iako su stručnjaci upozorili da je ispravna implementacija ključna kako bi se umanjili bilo kakvi rizici. Naredba upućuje ministru poljoprivrede da izda smernice za administratore javnih beneficija u državama, lokalnim zajednicama, plemenima i teritorijama „o korišćenju automatizovanih ili algoritamskih sistema pri obezbeđivanju beneficija ili pružanju korisničke podrške za programe beneficija“.

Emergentna tehnologija se smatra načinom da se ubrza proces apliciranja i donošenja odluka koji može trajati nedeljama ili mesecima. Na primer, zvaničnici države Džordžije traže savezno odobrenje za korišćenje veštačke inteligencije kako bi rešili stalne zastoje u programu za dodatak ishrani ili SNAP.

Trooper Sanders, izvršni direktor neprofitne organizacije Benefits Data Trust koja se zalaže za olakšan pristup državnoj pomoći, rekao je da iako AI može pomoći u rešavanju nekih administrativnih problema, lideri ne smeju gledati na njega kao na čarobno rešenje.

Bajdenova izvršna naredba propisuje da programi koji koriste automatizovane i algoritamske sisteme moraju obezbediti maksimalni pristup programu korisnicima beneficija; žalbe na odluke o beneficijama ili korisničku podršku moraju vršiti ljudska bića; dostupna mora biti provođenje revizije kako bi se prikazala osnovna odluka sistema i ostavljena otvorena opcija ispravljanja grešaka; i algoritamski sistemi koji se koriste u programima beneficija moraju postizati pravične rezultate.

U zasebnim smernicama koje su upućene šefovima saveznih agencija o korišćenju veštačke inteligencije u vladi, Ured za upravljanje budžetom upozorio je da se pretpostavlja da tehnologija negativno utiče na prava ljudi ako donosi odluke „u vezi sa pristupom, kvalifikacijama ili ukidanjem vladinih beneficija ili usluga“.

Alexandra Reeve Givens, izvršna direktorka Centra za demokratiju i tehnologiju, izjavila je na nedavnom vebinaru da je serija tužbi tokom poslednjeg desetleća informisala te smernice. Odluke i otkrivanje prevare su u tim slučajevima bili automatizovani „bez adekvatnih ljudskih resursa ili alternativa i doveli su do uskraćivanja beneficija ljudima“.

Givens je rekla da kao rezultat toga gotovo da nema šanse da veštačka inteligencija bude jedini način za određivanje kvalifikacija aplikanta za državne beneficije. „Mi nećemo zameniti ljudsku autonomiju ili ljudsku agenciju ni na koji način“, ponovio je Abi Nemani, viši potpredsednik za strategiju proizvoda u softverskoj kompaniji Euna Solutions. „Mi ćemo je samo dopuniti.“

Ta dopuna, koju su drugi vladini lideri nazvali prioritetnom prilikom usvajanja veštačke inteligencije, mogla bi pomoći u otkrivanju prevara koja je došla van kontrole tokom pandemije COVID-19 i nastavila se od tada. AI može upozoriti aplikante na izostale dokumente, pomoći vladi prilikom skeniranja dokumenata tokom odlučivanja o beneficijama i, uz odgovorno deljenje podataka, može pokazati da li je neko kvalifikovan za dodatne programe.

Sanders je rekao da donošenje tehnologije u programe beneficija nije „ništa novo“, iako je napredak nekad možda bio spor. To uključuje prelazak SNAP-a sa fizičkih markica za hranu na plastičnu karticu koja se automatski puni i prelazak na elektronski potpis na dokumentima umesto zahteva za „potpis u mastilu“ na dokumentaciji koju treba poslati poštom.

Taj napor čini se da se ubrzava poslednjih godina, rekao je Sanders, s Bajdenovom izvršnom naredbom iz 2021. godine o transformaciji korisničkog iskustva i isporuci usluga, u nameri da se obnovi poverenje u vladu. To zajedno sa nedavnom izvršnom akcijom koja se odnosi na veštačku inteligenciju moglo bi se smatrati „talasom koji se nadvija“ dok vlade procenjuju kako da programi funkcionišu, da tretiraju ljude s više dostojanstva i smanje administrativno opterećenje.

S obzirom na to da su države i lokalne zajednice odgovorne za sprovođenje programa beneficija kao što je SNAP, ideja prihvatanja veštačke inteligencije može biti zastrašujuća, posebno ako dolazi u obliku neocačunatog federalnog naloga. Ali Sanders je rekao da bi federalna vlada trebala postavljati pravila za države, kako u pogledu alata veštačke inteligencije koje mogu koristiti, tako i načina na koji im je dozvoljeno da sprovode beneficije. Države, posebno, ne žele kršiti federalna pravila, pa iako je njihova obaveza biti „prikladan kupac“, Sanders je rekao da federalna vlada mora obezbediti „jasnoću“.

Nemani je rekao da bi federalna vlada čak mogla preuzeti „smerniju ulogu“ u postavljanju standarda za veštačku inteligenciju, kao što to radi s Federalnim programom upravljanja rizikom i odobravanju, koji osigurava standardizovan pristup sajber bezbednosti i sigurnosti proizvoda u oblačnom računarstvu. Imajući uticaj federalne vlade „dramatično bi ubrzalo usvajanje“, rekao je.

U međuvremenu, na svim nivoima vlasti mora biti ključno da upravljaju rizicima vežanim za veštačku inteligenciju, posebno mogućim pristrasnostima koje mogu diskriminisati određene grupe. Izveštaj Kraljevske komisije u Australiji – najvišeg oblika javne istrage u zemlji – oštro je kritikovao njihovu vladu zbog automatiziranog sistema za procenu dugova poznatog kao Robodebt, koji je doveo do lažnih ili netačnih obaveštenja o dugovima i bio predmet gotovo univerzalnih kritika.

Izveštaj je opisao Robodebt kao „grub i okrutan mehanizam“ koji je „natjerao mnoge ljude da se osećaju kao kriminalci“. Nemani je istakao da će za vladu biti teška ravnoteža dok usvaja tehnologiju i istovremeno stavlja ljudski faktor u centar procesa donošenja odluka. I dok programi beneficija mogu biti glavni izvor frustracije među stanovnicima, oni su dizajnirani na taj način da se izbegne kriminalnost.

„Vlada je osmišljena da bude ljudska“, rekao je Nemani. „Sam pojam znači da želimo da ljudi donose ove odluke. Ona ima trenje i treba da ima trenje da bi funkcionisala.“

FAQ
Q: Šta je izvršna naredba predsednika Džoa Bajdena o veštačkoj inteligenciji?
A: Izvršna naredba predsednika Džoa Bajdena o veštačkoj inteligenciji je direktiva koja se odnosi na upotrebu veštačke inteligencije u programima socijalne pomoći, sa ciljem da se olakša pristup i smanje administrativni zastoji.

Q: Kakvu ulogu ima veštačka inteligencija u programima beneficija?
A: Veštačka inteligencija može pomoći u bržem procesiranju aplikacija za beneficije i donošenju odluka. Takođe može pomoći u otkrivanju prevara i pružanju korisničke podrške.

Q: Koje su smernice izvršne naredbe za korišćenje veštačke inteligencije?
A: Smernice izvršne naredbe propisuju da programi koji koriste automatizovane ili algoritamske sisteme moraju obezbediti pravedne rezultate, omogućiti žalbe korisnicima od strane ljudi, biti transparentni u svojim odlukama i osigurati pristup revizijama.

Q: Kakvi su rizici korišćenja veštačke inteligencije u programima socijalne pomoći?
A: Rizici uključuju moguće pristrasnosti koje mogu diskriminisati određene grupe, kao i automatsko oduzimanje beneficija bez adekvatnih mehanizama za žalbu. Postoje i rizici od grešaka u odlučivanju i nedostatka ljudske interakcije.