Etika veštačke inteligencije: Ensuring Accountability and Addressing Risks
Summary
Razvoj veštačke inteligencije (VI) donosi ogromne mogućnosti za poslovanje, ali postavlja važna pitanja za regulatorne organe i pravne profesionalce o tome kako osigurati da tehnologija ne postane premoćna ili ima negativne posledice, i o tome ko će biti odgovoran ako […]
Razvoj veštačke inteligencije (VI) donosi ogromne mogućnosti za poslovanje, ali postavlja važna pitanja za regulatorne organe i pravne profesionalce o tome kako osigurati da tehnologija ne postane premoćna ili ima negativne posledice, i o tome ko će biti odgovoran ako do toga dođe. U ovom članku, kao nastavak našeg podcasta Digitalna otpornost o pitanjima intelektualne svojine i privatnosti u vezi sa VI, David Méheut, partner u našem pariskom odeljenju, razgovara o tome kako se građanska odgovornost u vezi sa VI inspiriše etičkim principima.
Mogućnosti VI su se razvile tako brzo u poslednjih nekoliko godina da preduzeća preispituju način na koji grade tehnologiju, obavljaju svoje operacije i koriste svoje resurse kako bi maksimizirali njegov potencijal. Međutim, ova nagla promjena uključivanja VI takođe je izazvala značajne zabrinutosti i povećala hitnost velikih pitanja o stepenu autonomije koje ovi sistemi mogu postići, našoj sposobnosti da ih kontrolišemo i kako se primenjuju okviri građanske odgovornosti ako nešto pođe naopako.
Dana 14. juna 2023. godine, Evropski parlament je odobrio svoju verziju nacrta Akta o veštačkoj inteligenciji EU, koji bi, zajedno s drugim zakonodavnim nacrtima na nivou EU, bio prvi sveobuhvatni zakon o VI na svetu. Ali, kao i kod svake nove tehnologije, izazov leži u ravnoteži između potrebe ublažavanja rizika, ali ne toliko da se sputava napredak. Neki tvrde da nacrt ne ide dovoljno daleko, dok drugi tvrde da on onemogućava inovacije.
Dobar način za početak razmišljanja o VI i građanskoj odgovornosti je upućivanje na etičke principe koji su razvijeni od strane različitih institucija, uključujući CNIL (Nacionalna komisija za informacione tehnologije i slobode) u Francuskoj i Unesko na globalnom nivou. U osnovi svih ovih principa je ideja da, s obzirom na to da će VI imati određenu autonomiju i da je samim tim veoma nepredvidljiva, veoma je važno da svako ko je koristi meri i prati njen uticaj u slučaju bilo kakvog nepovoljnog razvoja, bilo da se radi o razvoju pristrasnosti, diskriminacije ili gubitku kontrole.
Možemo videti da se etički principi odražavaju u nacrtu Akta EU, koji kategorizuje upotrebe VI na osnovu rizika koje nose sa sobom i u „visoko rizičnim“ slučajevima ističe važnost mapiranja rizika i praćenja nepovoljnih uticaja. Primer primene ovog principa može se naći u slučaju u Francuskoj koji se odnosi na trgovanje visoke frekvencije (HFT), gde je jedno preduzeće izgubilo kontrolu nad algoritmom, što je uticalo na cenu trgovanja jedne hartije od vrednosti. Iako je korisnik porekao odgovornost, na kraju je utvrđeno da je odgovoran zbog nedostatka predviđanja takvog događaja i nedostatka predostrožnosti.
Ovako postavljen pristup takođe prati širi trend kompatibilnosti koji se usredsređuje na predviđanje i ublažavanje rizika, umesto eksplicitnog specifikovanja mera koje moraju biti na snazi. Međutim, ono što je još uvek nejasno i nerazjašnjeno u slučaju VI jeste šta se dešava u slučaju nepovoljnih događaja. Da li će biti dovoljno jednostavno „isključiti“ sistem VI i preuzeti kontrolu? Lako je zamisliti situaciju u kojoj to možda nije moguće. Na primer, u specijalizovanim okruženjima poput zdravstva, gde su životi u opasnosti, šta bi se dogodilo ako ne postoji dovoljno kvalifikovanih ljudskih stručnjaka koji bi preuzeli kontrolu?
Za sada, gde organizacije razmatraju mogućnost uvođenja VI u svoje poslovanje, etički principi su mudro polazište. To podrazumeva detaljno mapiranje rizika i procene uticaja, kao i planiranje šta će se preduzeti ako sistem VI propadne. Još je rano, ali s obzirom na brzinu kojom se tehnologija VI razvija, malo je sumnje da će se građanske odgovornosti početi postavljati kao pitanje.