*EN Вештачка интелигенција

Model veštačke inteligencije DALL-E 3 ima bezbednosne propuste, tvrdi inženjer Microsofta

Summary

Novi model veštačke inteligencije DALL-E 3, razvijen od strane startapa OpenAI u saradnji sa Microsoftom, suočava se s bezbednosnim propustima koji bi mogli da omoguće kreiranje nasilnih ili eksplicitnih slika, tvrdi vođa inženjerskog tima i menadžer u Microsoftu, Šejn Džons. […]

Model veštačke inteligencije DALL-E 3 ima bezbednosne propuste, tvrdi inženjer Microsofta

Novi model veštačke inteligencije DALL-E 3, razvijen od strane startapa OpenAI u saradnji sa Microsoftom, suočava se s bezbednosnim propustima koji bi mogli da omoguće kreiranje nasilnih ili eksplicitnih slika, tvrdi vođa inženjerskog tima i menadžer u Microsoftu, Šejn Džons. Nakon što je obavestio svoje nadređene, Džons je probao da upozori javnost putem društvenih mreža, ali je navodno bio ućutkan od strane Microsofta preko pravnog tima.

Ovaj problem je sličan nedavnom slučaju pevačice Tejlor Svift, koja je postala žrtva lažnih slika generisanih od strane veštačke inteligencije koje su se pojavile na internetu. Zbog toga je Džons odlučio da svoju poruku prenese američkim vlastima, direktno na Kapitol Hil.

U svom pismu senatorima SAD i državnom tužiocu Vašingtona, Džons je izneo svoje zaključke o rizicima koje DALL-E 3 predstavlja po javnu bezbednost i predložio je obustavu javne upotrebe modela sve dok se ovi rizici ne reše. Iako je Microsoft uputio Džonsa da se direktno obrati OpenAI, on tvrdi da je otkrio da je bezbednosni propust povezan sa DALL-E 3.

Microsoft je navodno zahtevao brisanje Džonsove objave o propustima na društvenoj mreži LinkedIn, ali nije pružio detaljnije objašnjenje. Kompanija tvrdi da je posvećena rešavanju bilo kakvih problema koje zaposleni imaju, ali Džons tvrdi suprotno.

Uz uveravanja kompanija Microsoft i OpenAI da su istražili ovaj slučaj i preduzeli odgovarajuće mere, Džons poziva američke vlasti da uspostave sistem za prijavljivanje i praćenje propusta u razvoju veštačke inteligencije, kao i zaštitu zaposlenih koji ih prijave.

Često postavljana pitanja (FAQ) u vezi sa problemima DALL-E 3 veštačke inteligencije:

1. Šta je DALL-E 3 veštačka inteligencija?
DALL-E 3 je novi model veštačke inteligencije razvijen u saradnji između startapa OpenAI i Microsofta. Ona može da generiše slike na osnovu unapred određenih parametara.

2. Kakve bezbednosne propuste ima DALL-E 3?
DALL-E 3 se suočava sa bezbednosnim propustima koji bi mogli da omoguće kreiranje nasilnih ili eksplicitnih slika.

3. Ko je upozorio na ove bezbednosne propuste?
Šejn Džons, vođa inženjerskog tima i menadžer u Microsoftu.

4. Šta je Džons uradio nakon što je otkrio propuste?
Džons je obavestio svoje nadređene u Microsoftu i pokušao da upozori javnost putem društvenih mreža.

5. Da li je Džons dobio podršku od Microsofta?
Navodno nije, jer je bio ućutkan od strane Microsofta preko pravnog tima.

6. Šta je Džons uradio nakon toga?
Džons je direktno kontaktirao američke vlasti, prenoseći svoju poruku senatorima SAD i državnom tužiocu Vašingtona na Kapitol Hilu.

7. Koju je meru predložio Džons u svom pismu?
Džons je predložio obustavu javne upotrebe modela DALL-E 3 sve dok se bezbednosni propusti ne reše.

8. Kako je Microsoft reagovao na ovaj slučaj?
Microsoft je uputio Džonsa da se direktno obrati OpenAI. Takođe, kompanija je navodno tražila brisanje Džonsove objave o propustima na društvenoj mreži LinkedIn.

9. Kakva je pozicija OpenAI u vezi sa ovim problemima?
OpenAI tvrdi da je istražio slučaj i preduzeo odgovarajuće mere, ali detaljnije informacije nisu pružene.

10. Da li postoje predlozi za unapređenje sistema za otkrivanje propusta u veštačkoj inteligenciji?
Da, Džons poziva američke vlasti da uspostave sistem za prijavljivanje i praćenje propusta u razvoju veštačke inteligencije, kao i da zaštite zaposlene koji ih prijave.

Srodni linkovi:
Microsoft
OpenAI