Googleovo ulaganje u stvaranje AI sadržaja stvara nove probleme s moderiranjem sadržaja na Google platformama

Google je odlučio ući u budućnost umjetne inteligencije punom parom, što znači da će se različiti dijelovi tvrtke sigurno sudarati jedni s drugima – na primjer, pretraživač sada generira rezultate sažetaka koristeći AI tehnologiju, ali preplavljivanje interneta tekstom generiranim pomoću umjetne inteligencije otežava pretraživanje. Bit će to komplicirano, zanimljivo i sigurno popraćeno nekim problemima. U suštini, dijelovi Googlea koji su zaduženi za moderiranje platformi (kao što su YouTube i Pretraživanje) sudarit će se s dijelovima Googlea koji pomažu ljudima stvarati sadržaj (kao što su Gmail i Bard). Možete ih jednostavno podijeliti u dvije liste, povući crtu između njih i predvidjeti dugačak popis zanimljivih problema koji će neminovno nastati.

Kako će YouTube označavati „izmijenjeni ili sintetički sadržaj“?

Ovaj tjedan zabilježen je sudar dva Google AI projekta – Pixel 8 i YouTube. Pixel 8 ima značajku Best Take koja koristi umjetnu inteligenciju za zamjenu izraza lica na grupnim fotografijama kako bi postigli „savršene“ snimke, dok je YouTube upravo objavio prvu verziju politike sadržaja generiranog AI-jem koja zahtijeva da „autori otkrivaju kada su stvorili izmijenjeni ili sintetički sadržaj koji je realističan“. U blog objavi se posebno navodi da treba označiti sadržaj koji „realistično prikazuje događaj koji se nije dogodio“ i napominje da kazne za nedosljedno označavanje realističnog sintetičkog sadržaja mogu uključivati uklanjanje sadržaja i gubitak mogućnosti zarađivanja.

Pixel 8 uz značajku Best Take i Magic Editor u Google Photos može vrlo jasno stvoriti realistične fotografije događaja koji se nikada nisu dogodili. Kod Best Take značajke možete stvoriti trenutke među ljudima koji se nikada nisu dogodili odabirom između nekoliko izraza lica, a Magic Editor jednostavno može ukloniti stvari iz pozadine. Lako je napraviti da ljudi izgledaju kao da gledaju istu stvar, ili različite stvari, ili reagiraju jedni na druge na način koji se nikada nije dogodio. Pixel 8 fotografija Taylor Swift i Travisa Kelcea može vrlo lako prikazivati sasvim drugačiju priču od stvarnosti. Također, Pixel 8 fotka Donalda Trumpa tijekom predstojećih izbora može biti samo nekoliko dodira udaljena od ispričavanja sasvim drugačije priče. Sami oglasi za Google Pixel 8 odličan su primjer koliko je to zapravo lako:

Hoće li YouTube označavati Pixel 8 fotografije uređene s Best Take ili fotografije uređene s Magic Editorom u Google Photos? To smo ih pitali, a glasnogovornik YouTubea Jack Malon rekao je da će kontekst biti bitan i ponudio nekoliko smjernica. „Cilj ove ažuriranja je informiranje gledatelja o sadržaju koji je realističan, ali izmijenjen – a ne kažnjavanje autora zbog korištenja AI tehnologije“, rekao je. „Ako koristite Best Take za odabir slike gdje je svima otvoren pogled, to je nešto što ste vrlo vjerojatno mogli postići i sami snimajući više fotografija (i vjerojatno nije nešto što biste trebali otkriti). No, ako koristite tehnologiju da biste stvorili dojam da ste bili na mjestu na kojem zaista niste bili ili da biste izmijenili fotografiju povijesnog događaja, vjerojatno ćete morati otkriti svojim gledateljima da ste koristili tehnologiju za izmjenu okruženja.“

Čini se da je ovo pravi odgovor – iako je izuzetno teško provoditi vrlo zamagljene standarde poput „možda bi se to moglo dogoditi da ste samo snimili više fotografija“. Osim toga, taj standard vrlo je suprotan odluci YouTuba da njegove AI alate uvijek označavaju sintetički sadržaj kao takav – fotografije uređene pomoću Magic Editora imaju metapodatke koji pokazuju da su promijenjene pomoću AI tehnologije, ali Pixel 8 fotografije ureditane s Best Take značajkom to nemaju.

U konačnici, ne postoji točan ili netočan odgovor – postoji samo vrlo zamagljena, spletka granica koje određeni tvorci alata, kreatori i distribucijske platforme crtan posve sami. Jedino što je jasno jest da će Googleovi alati prisiliti vlastite platforme tvrtke da brzo izvuku te granice.