Pentagon predstavio alat za odgovornu veštačku inteligenciju

Ministarstvo odbrane (DoD) Pentagon je predstavio alat za odgovornu veštačku inteligenciju kako bi nastavio da promoviše odgovornu upotrebu ove tehnologije u celokupnom resoru za odbranu i pronašao nove primene za nju, istovremeno pokušavajući da umanji potencijalne štete.

Alat koji se zove „Toolkit za odgovornu veštačku inteligenciju“ obezbeđuje centralizovan proces koji identifikuje, prati i poboljšava usaglašenost projekata veštačke inteligencije sa najboljim praksama i etičkim principima DoD-a, istovremeno iskorišćavajući mogućnosti za inovacije, navodi se u izveštaju DoD-a objavljenom prošle nedelje. Tehnologija takođe omogućava korisnicima da inkorporiraju koncepte transparentnosti i verifikacije tokom ciklusa razvoja AI.

Kao deo ovog alata, Ministarstvo odbrane imaće repozitorijum za incidente veštačke inteligencije i bazu podataka o incidentima veštačke inteligencije. Repozitorijum, koji je još u razvoju, sakupljaće incidente i neuspehe vezane za veštačku inteligenciju, kako bi se dalje unapredio razvoj AI u budućnosti. Baza podataka će indeksirati kolektivnu istoriju šteta ili potencijalnih šteta u stvarnom svetu usled primene veštačke inteligencije. Ova baza podataka ima za cilj da pomogne DoD-u da uči na osnovu prethodnih iskustava i spreči ili umanji štetne posledice.

Kao deo neprekidnog napora DoD-a da smanji rizike, ovaj alat za veštačku inteligenciju uključuje i alat za dokumentovanje rizika koji proističu iz korišćenja veštačke inteligencije, kao i alat za izračunavanje i umanjenje tih rizika. Tu je takođe vodič za razmišljanje o pitanjima koja se javljaju pri kreiranju sistema veštačke inteligencije.

„Odgovoran pristup veštačkoj inteligenciji znači inovirati brzinom koja može nadmašiti postojeće i nastajuće pretnje, i sa nivoom efikasnosti koji pruža opravdanu sigurnost u tehnologiji i njenom korišćenju“, navodi se u pozadinskim informacijama toolkit-a. „Odgovorna veštačka inteligencija podrazumeva da se osiguramo da naša tehnologija odgovara našim vrednostima. To našoj naciji omogućava da predvodi u tehnološkoj inovaciji, istovremeno ostajući posvećena i zagovornica naših demokratskih principa. Da bi postigli ovaj cilj, RAI rad u DoD-u prevodi etičke principe u konkretne ciljeve za svaki slučaj upotrebe. Toolkit pruža resurse za obavljanje ovog posla i dizajniran je da bude pristupačan, modularan i prilagodljiv.“

DoD takođe želi da minimizira štetu. Jedan od 70 alata u toolkit-u je alat za reviziju koji pomaže DoD-u da ispitati, prijavi i umanji diskriminaciju i pristrasnost u modelima mašinskog učenja, pružajući metrike za alate veštačke inteligencije. Takođe postoji i skup alata za smanjenje ljudske pristrasnosti u projektima veštačke inteligencije. Toolkit za odgovornu veštačku inteligenciju ima okvir za umanjenje pretnji veštačke inteligencije i mašinskog učenja.

Toolkit ima alate koji pomažu tokom projekta. Na primer, tu je alat za postavljanje odgovornih ciljeva veštačke inteligencije za projekat i vodič za vrhovno rukovodstvo da procene menadžere projekata veštačke inteligencije. Tu je takođe alat koji definiše i uspostavlja uloge i odgovornosti za projekte veštačke inteligencije. Još jedan alat navodi primere upotrebe veštačke inteligencije. Ovaj alat za primenu slučajeva koristi se nakon što je Pentagon kreirao Projekat Lima kako bi istražio primere upotrebe generativne veštačke inteligencije.

Toolkit je objavljen prošle nedelje, nakon usvajanja etičkih principa za veštačku inteligenciju od strane DoD-a 2020. godine i nakon usvajanja RAI strategije i implementacionog puta 2022, kojim je definisano preko 60 napora DoD-a na podršci svojih etičkih principa. Toolkit za odgovornu veštačku inteligenciju pomaže DoD-u da sprovede svoju strategiju i plan implementacije. Takođe dolazi nakon nove AI strategije DoD-a, koja je objavljena ranije ovog meseca, a koja se fokusira na agilnu implementaciju veštačke inteligencije u celom DoD-u. Toolkit istovremeno prati napore Kancelarije šefa za digitalno i veštačku inteligenciju DoD-a da poveća znanje o AI u celom resoru putem digitalne platforme za učenje.

FAQ:
1. Ko je predstavio Toolkit za odgovornu veštačku inteligenciju?
– Ministarstvo odbrane (DoD) Pentagon je predstavio ovaj alat.

2. Koje su ključne karakteristike Toolkit-a?
– Toolkit pruža centralizovan proces za identifikaciju, praćenje i poboljšanje usaglašenosti AI projekata sa etičkim principima DoD-a, kao i alate i resurse za inkorporiranje transparentnosti i verifikacije tokom razvojnog ciklusa AI.

3. Kako Toolkit pomaže u umanjenju rizika?
– Toolkit uključuje alate za dokumentovanje i umanjenje rizika vezanih za veštačku inteligenciju, kao i vodič za razmišljanje o pitanjima prilikom kreiranja AI sistema.

4. Kakve su prednosti baze podataka o incidentima veštačke inteligencije?
– Baza podataka indeksira istoriju šteta i potencijalnih šteta u stvarnom svetu zbog primene veštačke inteligencije, što pomaže DoD-u da uči iz prethodnih iskustava i spreči slične incidente u budućnosti.