Novi AI zakon predviđa uspostavljanje AI kancelarije za regulisanje veštačke inteligencije

AI zakon je predlog zakona koji ima za cilj regulisanje veštačke inteligencije (AI) na osnovu njenog potencijala da izazove rizik. U skladu sa tim, članovi Evropskog parlamenta koji su zaduženi za AI zakon održaće razgovore o upravljanju aspektom zakonodavstva u vezi sa nedavnim diskusijama o najmoćnijim AI modelima.
Prema novom tekstu, AI kancelarija će nadzirati sprovođenje opštih AI modela (GPAI), dok će države članice EU trebati da olakšaju njihove zadatke. Kancelarija će nadzirati i zahtevati sve relevantne informacije koje se odnose na primenu odredbi AI zakona u vezi sa pružaocima GPAI modela, uključujući i njihovo pridržavanje odobrenih kodeksa prakse.
Osnovni ekonomski akteri koji izgrade sistem na osnovu GPAI modela imaju pravo da podnesu opravdanu pritužbu zbog navodnog kršenja AI zakona.
Kancelarija ima ovlašćenja da, nakon konsultacija sa Odborom, vrši eks-post evaluacije GPAI modela kako bi procenila njihovu usaglašenost sa AI regulativom u slučajevima kada sakupljene informacije nisu konkretno definisane ili da istražuje sistemski rizik na nivou EU.
Kancelarija može, u tim slučajevima, postaviti nezavisne stručnjake iz naučnog panela da evaluiraju u ime kancelarije. Takođe, kancelarija može zatražiti pristup modelima putem interfejsa za programiranje aplikacija (API) ili drugih tehničkih sredstava.
Vodeći zakonodavci smatraju da bi zahtev za pristup trebalo prethoditi strukturiranom razgovoru između AI kancelarije i pružaoca modela.
Osim toga, AI kancelarija može zatražiti od pružalaca GPAI modela da preduzmu odgovarajuće mere kako bi se uskladili sa svojim obavezama ili da preduzmu mere ublažavanja u slučajevima kada postoje osnovane zabrinutosti zbog sistemskog rizika na nivou EU, uključujući ograničavanje njihove dostupnosti ili povlačenje sa tržišta.
Ako pružalac GPAI modela u okviru strukturiranog dijaloga ponudi obavezne mere ublažavanja, AI kancelarija može ove obaveze učiniti obavezujućim i suzdržati se daljih akcija.
Regim sankcija za kršenje AI zakona i za nepoštovanje saradnje sa AI kancelarijom pominje se, ali bez navođenja maksimalne visine procenta globalnog prometa kompanije. Modaliteti za primenu kazni će biti definisani u sekundarnom zakonodavstvu.
Korespondenti takođe žele da AI kancelarija pruža koordinacionu podršku za zajednička istraživanja.
Evropski odbor za veštačku inteligenciju će, prema kompromisu, imati jednog predstavnika po državi EU, koji se imenuje na period od tri godine, sa mogućnošću ponovnog imenovanja. Vodeći poslanici žele da Evropski nadzornik za zaštitu podataka, Agencija za osnovna prava i Evropska agencija za kibernetičku bezbednost ENISA učestvuju kao posmatrači.
Odbor mora usvojiti svoja interna pravila većinom od dve trećine i imati dve stalne podgrupe koje se bave nadzorom tržišta i obaveštavanjem nadležnih tela. AI kancelarija je zadužena za tajnost Odbora.
Slično Evropskom odboru za zaštitu podataka, AI odbor će biti zadužen za obezbeđivanje dosledne primene pravila o AI u bloku, kao i za savetovanje o sekundarnom zakonodavstvu, kodeksima ponašanja i tehničkim standardima.
Poslanici takođe predlažu da naučni stručnjaci daju savete o relevantnim okvirima za GPAI modele, kao i razlikovanju između kategorija GPAI modela i sistema.
Što se tiče nacionalnih organa, stručnjaci će podržavati njihov rad i prekogranična istraživanja po zahtevu. AI kancelarija će morati da upravlja potencijalnim sukobima interesa članova panela.
Savetodavni forum će okupljati predstavnike industrije, MSP, startapove, civilno društvo i akademiju kako bi pružili tehničku ekspertizu Odboru i AI kancelariji.