Главни официр за дигиталну технологију у Министарству одбране упозорава на несметану употребу великих језичких модела и вештачке интелигенције

Пораст великих језичких модела и генеративних агената вештачке интелигенције, као што је ЦхатГПТ, привукао је пажњу јавности, али је такође изазвао забринутост због њихове потенцијалне злоупотребе. Крег Мартел, главни службеник за дигиталну и вештачку интелигенцију Министарства одбране, недавно је изразио забринутост због ових алата и њиховог утицаја на друштво и националну безбедност. Мартел, који има искуство у академским круговима, као и у управљању машинским учењем у Лифту, упозорава да би ови алати могли изазвати дубоки хаос у друштву ако се не користе уз одговарајуће заштитне мере.

Мартелл је „насмрт уплашен“ због тога како би људи могли да користе ЦхатГПТ и друге агенте вештачке интелигенције окренуте потрошачима. Иако ови алати могу да одговоре на једноставне упите са дугим текстуалним одговорима, они не производе увек истинит садржај, јер извлаче информације из извора које је створио човек. Мартел се плаши да се људи могу превише ослањати на информације које генеришу ови мотори, чак и ако су нетачне. Штавише, он упозорава да би противници који желе да воде кампање утицаја на Американце могли да користе ове алате са великим ефектом за дезинформације. Садржај који производе велики језички модели толико је стручно написан да би лако могао да подстакне психологију људи да о њему мисли као о ауторитативном, чак и ако није.

Мартел упозорава да, иако коришћење ових алата може да се осећа као размена са људским бићем, недостаје им људско разумевање контекста. Аза Раскин је успео да се представља као 13-годишњак и да добије велики језички модел да му да савет како да заведе 45-годишњег мушкарца, показујући како се ове алатке лако могу преварити.

Главна канцеларија за дигиталну и вештачку интелигенцију, на чијем је челу Мартелл, првенствено је одговорна за напоре АИ Министарства одбране и сву компјутерску инфраструктуру и организацију података која иде у те напоре. Говорећи на АФЦЕА-овом ТецхНетЦибер догађају у Балтимору, Мартелл је позвао индустрију да развије механизме за откривање како би се разликовао садржај генерисан од вештачке интелигенције од садржаја генерисаног од стране људи. Нагласио је важност инфраструктуре за размјену података и политика у остваривању тежњи Министарства одбране за заједничком командом и контролом у свим доменима (ЈАДЦ2).

Док неки, попут генерал-потпуковника Роберта Скинера, шефа ДИСА-е, верују да вештачка интелигенција представља изазов на који Министарство одбране може да се суочи, Мартел упозорава на претерано ослањање на вештачку интелигенцију и наглашава потребу за праћењем имовине коју води људи. Он верује да је вештачка интелигенција изузетно добро вођена људима и да лакоћа коришћења таквих алата преноси идеју да корисник не мора да обавља тежак посао обучавања и надгледања. Ниједан модел никада не преживи први контакт са светом, а сваки модел који је икада направљен је већ застарео у време када је постављен, пошто је обучен на старим, историјским подацима. Стога, морамо да изградимо алате који омогућавају да се системи надгледају како бисмо осигурали да они и даље доносе вредност за коју су првобитно плаћени.

У закључку, велики језички модели и генеративни агенти вештачке интелигенције као што је ЦхатГПТ имају огроман потенцијал, али њихова злоупотреба може довести до катастрофалних последица. Како се крећемо ка свету који више покреће вештачка интелигенција, кључно је поставити одговарајуће заштитне мере и механизме за откривање како би се осигурало да се ови алати користе одговорно.