Microsoft razvija softver za stvaranje sintetičkih avatara i glasova

Microsoft je nedavno predstavio svoj novi doprinos trci veštačke inteligencije na svojoj konferenciji za programere: softver koji može generisati nove avatare i glasove ili replicirati izgled i govor postojećeg korisnika. Ova najava izazvala je zabrinutost da bi ovaj softver mogao ubrzati stvaranje duboko lažiranih video klipova, tj. AI napravljenih događaja koji se nisu desili.

Nazvan Azure AI Speech, ovaj softver je obučen sa ljudskim slikama i omogućava korisnicima da unesu skript koji će zatim biti „pročitan“ naglas od strane fotorealističnog avatara stvorenog veštačkom inteligencijom. Korisnici mogu odabrati prethodno učitanog avatara od strane Microsofta ili učitati snimak osobe čiji glas i izgled žele replikirati. Softver omogućava izgradnju „razgovornih agenata, virtuelnih asistenata, čet-bota i još mnogo toga“, kako je navedeno u objavi na Microsoftovom blogu.

Ovu objavu kontroverznog Microsoftovog softvera pratile su kritike da je kompanija lansirala „duboko lažiranog stvaraoca“ (deepfakes creator), što bi omogućilo lakše reprodukovanje nečijeg izgleda i omogućilo da govori i čini stvari koje ta osoba nije izrekla ili uradila. Međutim, Microsoft je odgovorio na kritike ističući da su personalizovani avatari sada alatka „sa ograničenim pristupom“ za koju korisnici moraju da se prijave i budu odobreni od strane Microsofta. Takođe, korisnici će biti obavezni da otkriju kada je veštačka inteligencija korišćena za kreiranje sintetičkog glasa ili avatara.

Kao poslednje dodavanje na polju veštačke inteligencije, ovaj softver za stvaranje avatara predstavlja najnoviji alat koje vodeće tehnološke kompanije koriste kako bi iskoristile bum veštačke inteligencije u poslednjih nekoliko godina. Sa porastom veštačke inteligencije došli su i rastući strahovi o mogućnostima ove tehnologije, s obzirom da su deepfakes posebno opasni kada je reč o mešanju u izborne procese.

FAQ:
Q: Šta je Azure AI Speech?
A: Azure AI Speech je softver koji omogućava generisanje sintetičkih avatara i glasova.

Q: Može li ovaj softver pomoći u stvaranju deepfake video klipova?
A: Postoji zabrinutost da bi ovaj softver mogao olakšati stvaranje duboko lažiranih video klipova.

Q: Da li Microsoft planira da zaštiti od zloupotrebe ovog softvera?
A: Microsoft je najavio da su implementirane određene mere za sprečavanje zloupotrebe, a korisnicima će biti potrebno odobrenje za pristup ovom alatu.

Q: Kako se deepfakes mogu koristiti u izbornim procesima?
A: Deepfakes mogu predstavljati posebnu opasnost kada je reč o mešanju u izborne procese, jer se mogu kreirati lažni video klipovi političara ili kandidata koji mogu uticati na javno mnjenje.