EU AI Act: Napredak u regulaciji veštačke inteligencije

EU Parlament i članice su završile četvrtu rundu pregovora o regulativi o veštačkoj inteligenciji (AI Act) 24. oktobra 2023. godine. Postignut je dogovor o klasifikaciji visokorizičnih AI sistema, kao i razvijanje opštih smernica za korišćenje „unapređenih“ temeljnih modela. Međutim, pregovori nisu doveli do značajnog napretka u vezi sa zabranom korišćenja veštačke inteligencije od strane organa reda. Naredna runda pregovora će se održati 6. decembra 2023. godine.

Trenutno stanje AI Act-a u EU

Do nedavno, očekivalo se da će politički dogovor biti postignut tokom decembarskih pregovora sa ciljem završetka i usvajanja tekstualnog predloga AI Act-a do kraja ove godine. Međutim, nakon tehničkih pregovora održanih 10. novembra 2023. godine, dogovor o tekstu više nije izvestan zbog nekoliko članica EU, uključujući Francusku i Nemačku, koje se protive trenutnoj regulaciji temeljnih AI modela, smatrajući je prezahtevnom i štetnom po njihove sopstvene domaće kompanije za AI.

Ipak, 15. novembra 2023. godine ko-raporter AI Act-a je naveo da je AI Act i dalje na putu da postigne dogovor 6. decembra, iako postoje tri ključna sporna pitanja:

1. Korišćenje AI sistema za biometrijsku identifikaciju lica u javno dostupnim prostorima u kontekstu organa reda. Trenutni tekst AI Act-a zabranjuje korišćenje biometrijske identifikacije u stvarnom vremenu u javno dostupnim prostorima, dok je originalni predlog EU Komisije sadržavao izuzetak za ovu zabranu kada se takva identifikacija smatra neophodnom u svrhe organa reda. Vlade članica EU su u saglasnosti sa stavom Komisije po ovom pitanju, ali ko-raporter AI Act-a smatra da ne treba praviti ustupke u vezi sa tim zbog visokog rizika od „masovnog nadzora“. Zakonodavci trenutno smatraju da je ovo politički najteže pitanje za prevazilaženje.

2. Regulacija temeljnih AI modela, koja se smatra najizazovnijom za tehnički dogovor. Ko-raporter smatra da je ključno postići dogovor o regulaciji ovih modela jer oni mogu predstavljati veće rizike od tradicionalnih AI modela zbog svoje brze razvojne brzine i tehničkih mogućnosti. Istovremeno, istaknuto je da ovde ima mnogo interesa i da EU želi biti oprezna da ne omete inovacije. Jedan od predloga je da se temeljni AI modeli procenjuju u skladu sa korišćenom računarskom snagom, obučavanjem i ekonomskim resursima pružaoca.

3. Upravljanje i sprovođenje AI. Trenutni tekst AI Act-a predviđa decentralizovani model sprovođenja gde većinu ovlašćenja ima nadležni organ države članice EU. Međutim, iz iskustva sa sprovođenjem GDPR-a, ovaj model se sada preispituje u korist sprovođenja i upravljanja na nivou EU.

Ukoliko se ne postigne dogovor tokom pregovora 6. decembra, rasprave o tekstu će se nastaviti početkom 2024. godine. Takođe, jedna od opcija, prema ko-raporteru AI Act-a, je „delegacija“ oblasti u kojima se ne postigne dogovor 6. decembra planiranoj kancelariji EU za veštačku inteligenciju (koja, između ostalog, će biti zadužena za postavljanje standarda).

Kada bude usvojen, AI Act će biti prva horizontalna zasebna regulativa u svetu koja reguliše AI sisteme, uvodeći pravila za bezbedno i pouzdano plasiranje proizvoda sa AI komponentom na tržište EU. Trenutna verzija AI Act-a definiše AI kao „sistem baziran na mašini koji je dizajniran da radi sa različitim nivoima autonomije i može, u cilju eksplicitnih ili implicitnih ciljeva, da generiše izlaze kao što su predikcije, preporuke ili odluke koje utiču na fizičko ili virtuelno okruženje.“ Međutim, definicija „AI“ u AI Act-u još uvek je predmet diskusije.

Za više informacija o AI Act-u, uključujući definicije zabranjenih, visokorizičnih i temeljnih / generativnih AI sistema i nekoliko ključnih odredbi, pogledajte naše prethodne blog postove ovde i ovde.

FAQ

• 1. Kakvo je trenutno stanje AI Act-a u EU?
• Trenutno stanje AI Act-a u EU pokazuje da su političari postigli dogovor o klasifikaciji visokorizičnih AI sistema i razvili opšte smernice za korišćenje temeljnih modela. Međutim, nema značajnog napretka u vezi sa zabranom korišćenja veštačke inteligencije od strane organa reda.
• 2. Ko su glavni učesnici u pregovorima o AI Act-u?
• Glavni učesnici u pregovorima o AI Act-u su EU Parlament i članice, uz učešće ko-raportera AI Act-a.
• 3. Koja su tri ključna sporna pitanja u vezi sa AI Act-om?
• Tri ključna sporna pitanja u vezi sa AI Act-om su korišćenje AI sistema za biometrijsku identifikaciju lica, regulacija temeljnih AI modela i upravljanje AI.
• 4. Šta se događa ako se ne postigne dogovor tokom pregovora 6. decembra?
• Ako se ne postigne dogovor tokom pregovora 6. decembra, rasprave o AI Act-u će se nastaviti početkom 2024. godine.
• 5. Šta će AI Act učiniti kada bude usvojen?
• Kada bude usvojen, AI Act će regulisati AI sisteme i postaviti pravila za bezbedno i pouzdano plasiranje proizvoda sa AI komponentom na tržište EU.