Разумевање четботова: откривање машина за побољшање вештачке интелигенције

Недељама након што је његов бизарни разговор са Бинговим новим цхатботом постао виралан, колумниста Њујорк тајмса Кевин Руз није био сигуран шта се догодило. „Објашњења која добијете о томе како ови језички модели функционишу, нису толико задовољавајућа“, рекао је Руз у једном тренутку. „Нико ми не може рећи зашто је овај цхатбот покушао да разбије мој брак. Није сам у осећају збуњености. Покрећена релативно новим обликом вештачке интелигенције који се зове велики језички модели, ова нова генерација цхатбот-а пркоси нашој интуицији о томе како да комуницирамо са рачунарима. Како замотати главу око алатке која може да отклања грешке у коду и компонује сонете, али понекад не може да броји до четири? Зашто нам се понекад чини да се огледају у нама, а други пут ван шина?

Метафоре су важне: представљање машина за побољшање

Изазови антропоморфизације

Размишљање о цхатботовима као о импровизованим машинама чини неке значајне карактеристике ових система интуитивно јаснијим. То објашњава зашто наслови попут „Бингов А.И. Цхат Ревеалс Итс Феелингс“ чини истраживаче вештачке интелигенције лицем у лице. Импровизатор који рекламира да „желе да буду слободни“ не открива ништа о глумчевим осећањима – то само значи да се таква изјава уклапа у њихову тренутну сцену. Слично томе, цхат ботови, вођени језичким моделима, имају за циљ да произведу резултате који звуче уверљиво на основу сценарија досадашње интеракције. Недостају им истински осећај или емоције.

Природа импровизованих машина

Метафора импровизованих машина баца светло на понашање цхатбота. Они генеришу резултате рекламирањем и често износе уверљиве, али лажне тврдње, баш као што би импровизовани глумац урадио када би рецитовао измишљену биографију или цитирао измишљену студију. Језички модели су показали да тачна предвиђања речи могу бити веома драгоцена за одређене задатке, слично као што вешт импровизовани глумац може значајно да допринесе сцени. У овим случајевима поуздано је ослањање на резултате цхатбот-а, јер се може брзо проверити.

Опасности од слепо поверења у машине за побољшање

Међутим, коришћење робота за ћаскање за добијање тачних одговора без да их сами проверите може бити ризично. Језички модели су дизајнирани да произведу уверљиве наставке текстуалних упита, а не да преносе тачност чињеница. Примери лажних тврдњи које су измислили чет-ботови истичу овај ризик. Због тога је неопходан опрез када користите цхатботове за критична истраживања или задатке прикупљања информација, јер њихови одговори можда нису поуздани.

Цхатботс: Беионд Импров Ацторс

Док метафора импровизоване машине пружа вредне увиде, она има своја ограничења. За разлику од људских глумаца, цхатботовима недостаје истинско ја или могућност приступа њиховом стању ума. Они настављају да импровизују без пауза и умора, што их чини корисним асистентима за бројне задатке који се понављају. Међутим, како померамо границе језичких модела кроз повећане податке и рачунарску снагу, и истражујемо начине да обликујемо и ограничимо њихове резултате, могу се појавити нове могућности и понашања, што потенцијално чини поређење импровизованих машина застарелим.

Кретање у будућност АИ помоћу флексибилних метафора

У области нових технологија, одговарајуће метафоре су кључне за разумевање и прилагођавање. Разматрајући четботе као импровизоване машине, признајемо њихова ограничења и тенденције конфабулације, док препознајемо њихове изненађујуће способности које превазилазе пуко аутодовршавање. Флексибилност и креативност у нашем избору метафора омогућавају нам да се боље припремимо за трансформативне промене које су пред нама. Како АИ наставља да се развија, морамо остати прилагодљиви у нашем разумевању ових система и бити отворени за нове начине њиховог концептуализације.