АИ скенери за оружје су под лупом док је ученик нападнут неоткривеним ножем

Безбедносна фирма специјализована за продају скенера за оружје са вештачком интелигенцијом образовним институцијама суочава се са новом контролом ефикасности своје технологије након што је ученик нападнут ножем који је остао непримећен у систему вредном 3,7 милиона долара.

Прошле ноћи вештица, Ехни Лер Хтоо, ученик из Јутике у Њујорку, шетао је ходницима своје школе када му је други ученик пришао с леђа и убо га ножем. Адвокат жртве је, ексклузивно за Би-Би-Си, открио да је 18-годишњак задобио вишеструке убодне ране на различитим деловима тела.

Нож који је коришћен у нападу био је у стању да заобиђе систем за откривање оружја вредан више милиона долара који је обезбедила Еволв Тецхнологи, безбедносна фирма која има за циљ да замени конвенционалне детекторе метала са АИ скенерима. Еволв-ови скенери користе напредну технологију сензора и вештачку интелигенцију за откривање скривеног оружја као што су ножеви, ватрено оружје и експлозивни уређаји, активирајући упозорење када се открије претња.

Компанија тврди да има високу прецизност и раније се хвалила стварањем „зона без оружја“ користећи њихову технологију. Извршни директор Еволв-а, Петер Георге, изјавио је да њихови системи обухватају свеобухватне потписе за сво постојеће оружје. У претходним саопштењима за штампу су наведене врсте оружја које систем може да идентификује, укључујући ватрено оружје, експлозивне направе и ножеве.

Међутим, истрага Би-Би-Сија спроведена прошле године открила је да је систем имао проблем са поузданошћу у откривању великих ножева. У 24 прегледа, Еволв-ов скенер није успео да открије 42% великих ножева, што је изазвало забринутост у погледу његове ефикасности. Резултати тестирања су показали да потенцијални клијенти, укључујући школе, треба да буду обавештени о овом ограничењу. Упркос налазима, Еволв је проширио своје присуство у школама и сада тврди да има инсталације у стотинама образовних институција широм Сједињених Држава.

Инцидент убода:
У марту 2022. Школски одбор Утике је купио Еволвов систем за скенирање оружја за 13 школа, а инсталиран је током летњег распуста. 31. октобра, ЦЦТВ снимци су наводно ухватили нападача како улази у средњу школу Проктор и пролази кроз Еволв скенере оружја. Брајан Нолан, управник школа у Утици, упитао је како је ученик успео да унесе нож у школу када је гледао узнемирујући снимак инцидента.

Нож коришћен за убадање био је дуг преко 9 инча (22,8 цм). Накнадна интерна истрага коју је спровео школски округ Утица открила је да Еволв систем за откривање оружја није дизајниран да открива ножеве, према г. Нолану. Скенери су уклоњени из средње школе Проктор и замењени са 10 детектора метала, али се скенери и даље користе у преосталих 12 школа у округу због буџетских ограничења.

Од напада, три додатна ножа су откривена на ученицима у другим школама у округу где су системи Еволв још увек у функцији. Ножеви су пронађени јер су пријављени особљу, а не зато што их је скенер оружја открио. Г. Нолан је изјавио да су студенти који су имали ножеве тврдили да су без проблема прошли кроз систем за детекцију оружја, додатно потврђујући његову неспособност да открије ножеве.

Еволв-ов веб-сајт:
Након инцидента са убодом, Еволв је изменио формулацију на својој веб страници. Раније се на почетној страници хвалило „Зоне без оружја“, али је касније промењено у „Сигурне зоне“. Тренутна верзија сада гласи „Сигурније зоне“.

Еволв тврди да његов систем користи најсавременију АИ технологију за детекцију оружја. Међутим, критичари тврде да нема довољно информација о томе како систем функционише и колико је ефикасан у откривању различитих врста оружја.

Би-Би-Си се обратио Еволв-у са детаљним упитима о инциденту у Јутици, укључујући питања о томе шта је компанија саопштила школама у вези са могућностима и ограничењима система. Међутим, Еволв није одговорио на упите.

Цонор Хеали из ИПВМ-а, фирме специјализоване за анализу безбедносне опреме, оптужио је Еволв да преувеличава ефикасност система. Хили је нагласио да се школски званичници, којима недостаје стручност у откривању оружја, често ослањају на смеле маркетиншке тврдње, да би открили скривене недостатке у технологији након улагања милиона долара. Он је критиковао Еволв и друге компаније што су искористили незнање ових званичника када су у питању безбедносни производи који штите младе људе.

Иако је Еволв одбио да коментарише, ББЦ је упутио на блог свог генералног директора Питера Џорџа, бранећи ограничено откривање компаније о унутрашњем функционисању технологије. Џорџ је тврдио да маркетиншка безбедност детекције оружја захтева деликатан баланс између едукације заинтересованих страна о новој технологији и спречавања потенцијалне злоупотребе.

ББЦ је контактирао још седам школских округа који користе Еволвове скенере оружја. Пет није одговорило, док су двоје одбили да коментаришу ово питање.