Први кинески кривични случај који укључује АИ Цхатбот: Човек ухапшен због ширења лажних вести са ЦхатГПТ-ом

Полиција у Кини ухапсила је човека који је користио АИ цхатбот, ЦхатГПТ, за креирање и ширење лажних вести, у ономе што државни медији називају првим кривичним предметом у земљи у вези са употребом АИ цхат бота. Осумњичени, по презимену Хонг, наводно је користио ЦхатГПТ да генерише лажни извештај о несрећи воза, који је потом објавио на мрежи како би зарадио. Чланак је прикупио око 15.000 прегледа, наводи се у саопштењу које је у недељу објавила полиција северозападне провинције Гансу.

ЦхатГПТ, који је развио ОпенАИ који подржава Мицрософт, забрањен је у Кини, иако му корисници могу приступити преко виртуелних приватних мрежа (ВПН). Железничке несреће су осетљиво питање у Кини од 2011. године, када су се власти суочиле са притиском да објасне зашто државни медији нису успели да обезбеде благовремено ажурирање о судару возова метка у Венџоуу који је резултирао 40 смртних случајева.

Како се наводи у саопштењу полиције Гансуа, хапшење Хонга догодило се 5. маја у Донггуану, граду у јужној провинцији Гуангдонг. У саопштењу се наводи да је Хонг испитиван због наводне употребе „савремене технологије за фабриковање лажних информација, ширећи их на интернету, које су биле широко распрострањене“. У полицијском саопштењу се такође наводи да је Хонг оптужен за „свађање и изазивање невоља“, што је кривично дело које је оптужен.

Ово хапшење долази након што је кинеска влада предузела неколико корака да регулише употребу вештачке интелигенције и дубоких лажних технологија. У јануару је кинеска администрација за сајбер простор донела нове прописе за ограничавање употребе дубоких лажњака. Дубоки лажни се односе на веома реалистичан текстуални и визуелни садржај који генерише вештачка интелигенција. Ново законодавство забрањује корисницима да генеришу дубоке лажне садржаје о темама које су већ забрањене постојећим законима на кинеском Интернету са великом цензуром. Такође наводи процедуре за уклањање садржаја који се сматра лажним или штетним.

У марту су интернет гиганти Баиду и Алибаба покренули сопствене верзије услуге ЦхатГПТ у покушају да сустигну ОпенАИ. Баиду је представио „Венкин Иииан“ или „ЕРНИЕ Бот“, док је Алибаба лансирао „Тонгии Кианвен“ (што се отприлике преводи као тражење истине постављањем хиљаду питања) два месеца касније.

Кинески регулатор сајбер простора такође је издао нацрт смерница које захтевају да генеративне услуге вештачке интелигенције прођу безбедносне прегледе пре рада, а провајдери услуга ће морати да провере стварне идентитете корисника и пруже детаље о њиховим техничким информацијама, укључујући врсту и обим података које користе. Смернице су отворене за повратне информације јавности.

Хапшење Хонга такође је дошло усред 100-дневне кампање коју је у марту покренула интернет филијала Министарства јавне безбедности како би се сузбило ширење интернет гласина. Кампања има за циљ да се позабави онлајн гласинама, илегалним садржајем, преварама и другим онлајн злочинима.

Употреба АИ цхат робота и других напредних технологија постаје све заступљенија у ширењу лажних вести и дезинформација на мрежи. Напори кинеске владе да регулише ове технологије одражавају растућу забринутост због њиховог потенцијала за злоупотребу и потребу за борбом против неистина на мрежи.