Generativna AI i eksplozija phishing emailova – kako koristiti AI za borbu protiv njih

Generativna AI (GenAI), posebno ChatGPT, stigla je na svjetsku tehnološku scenu poput tsunamija krajem 2022. godine – a efekti te valovite sve veći rastu tokom 2023. godine.

Iako GenAI nije nova alatka, poboljšanja u računarskoj snazi omogućila su najnovijim chatbotovima da se pojave kao sljedeća tehnologija koja će revolucionirati način na koji živimo i radimo. Ali zajedno s tim, vidimo reakciju protiv AI-a s naglaskom na percipirane opasnosti – jedna od njih je korištenje AI-a u zlonamjerne ili zločinačke svrhe, posebno u cyber-kriminalu.

Zbog široke dostupnosti, GenAI je unaprijedio sposobnosti napadača da izvedu phishing napade putem emaila, što ih čini mnogo efikasnijim.

Ranije ove godine, Darktrace je objavio istraživanje koje pokazuje da je broj phishing napada putem emaila naših klijenata ostao stabilan od trenutka puštanja ChatGPT-a, ali je smanjen broj napada koji zavise od preusmjeravanja žrtava na zlonamjerne linkove. Istovremeno, primijetili smo porast od 135 posto u „novim napadima socijalnog inženjeringa“ među hiljadama aktivnih korisnika Darktrace / Email od januara do februara 2023. godine, što je usklađeno sa širokom upotrebom ChatGPT-a.

Ova tendencija izaziva zabrinutost da GenAI, poput ChatGPT-a, može pružiti prostor napadačima da kreiraju sofisticirane i ciljane napade brzinom i obimom – poput emaila koji izgleda kao da ga je poslao vaš šef, sa pravilnim pravopisom, gramatikom, interpunkcijom i tonom.

Kako se razvija landscape generativne AI u phishing emailovima

Najnovije informacije ukazuju da su napadi koji zloupotrebljavaju povjerenje evoluirali između maja i jula ove godine. Zlonamjerne emailove više ne šalje neko ko izgleda kao vaš šef, već izgledaju kao da dolaze od IT tima. Naši istraživači su otkrili da je imitacija VIP osoba – phishing emailovi koji se pretvaraju da dolaze od viših menadžera – smanjena za 11 posto, dok se imitacija internog IT tima povećala za 19 posto.

Ove promjene su tipične za ponašanje napadača: mijenjanje taktika da bi izbjegli odbranu. Ovi rezultati ukazuju na to da su napadači prešli na imitaciju IT timova kako bi izveli svoje napade, jer su zaposleni postali svjesniji imitacije viših menadžera. Sa GenAI na dohvat ruke, možemo očekivati dalji rast ovog problema putem alatki koje povećavaju jezičku složenost i koriste veoma realne glasove kako bi prevarili zaposlene sa većim uspjehom.

S obzirom da email kompromis ostaje primarni izvor ranjivosti poslovnog svijeta, generativna AI je dodala novi sloj složenosti u odbranu od cyber napada. Kako GenAI postaje mainstream – uključujući slike, audio, video i tekst – možemo samo očekivati dalje erodiranje povjerenja u digitalne komunikacije.

Nije sve loše: AI takođe može biti iskorištena za dobro

Iako se puno priča i spekulira o negativnim aspektima AI-a i sigurnosti, važno je zapamtiti da nijedan AI nije suštinski loš, već kako ljudi ga primjenjuju može stvoriti negativne posljedice, kao što je zloupotreba od strane cyber napadača. Ali bitno je da ljudi – posebno timovi za cyber sigurnost – mogu koristiti AI za dobro, kako bi pomogli u borbi protiv cyber napada, bili oni AI-pokretani ili ne.

Defanzivna AI koja poznaje poslovanje i razumije ponašanje zaposlenih – AI koji sam uči i analizira normalne obrasce komunikacije kao što su tonalitet i dužina rečenica zaposlenih – može odrediti da li je svaki email sumnjiv ili legitimni. Prepoznajući ove suptilne nijanse, ona će uvijek biti jača od AI-a napadača koji se trenira samo na globalno dostupnim podacima. Jednostavno rečeno, način za zaustavljanje hiper-personalizovanih, AI-pokretanih napada putem emaila je da imate AI koji poznaje vaše poslovanje bolje nego eksterni GenAI ikad mogao.

U krajnjoj liniji, borba u cyber sigurnosti je i dalje borba između ljudi. Bez obzira na ishod, tu postoji prava osoba, zlokobni prijetelj iza ekrana – AI je zapravo nevin u tom pogledu. Moramo osigurati da kao timovi za sigurnost gledamo na AI kao na rješenje za naše sigurnosne probleme, a ne samo kao prijetnju. Ako to zajednički postignemo, imamo šansu za borbu protiv prijetnji koje koriste AI.