Пресек вештачке интелигенције и сајбер безбедности: утицај и ограничења ЦхатГПТ-а

Забринутост око употребе АИ и МЛ у сајбер нападима није нова. Како ове технологије постају све софистицираније и приступачније, актери претњи их такође прилагођавају и користе у злонамерне сврхе. Истраживачи сајбер безбедности су већ демонстрирали потенцијалну злоупотребу ЦхатГПТ-а, језичког модела који је развио ОпенАИ, у креирању полиморфног малвера који може избећи безбедносну заштиту и отежати ублажавање.

У једној студији, истраживачи из ЦиберАрк Лабс-а пронашли су начине да заобиђу филтере садржаја експериментисањем са креативним упутствима. Успели су да наговоре ЦхатГПТ да генерише континуирано мутирајући код за убризгавање, креирајући модуле за претрагу и шифровање неопходних за ширење рансомваре-а и других злонамерних садржаја. Такође су открили да коришћењем АПИ-ја ЦхатГПТ-а са одређеним упитом могу у потпуности да заобиђу све филтере садржаја.

Слично томе, истраживачи из компаније Цхецк Поинт Ресеарцх анализирали су неколико подземних заједница како би открили случајеве употребе ЦхатГПТ-а за креирање малвера за крађу информација, дизајнирање вишеслојног алата за шифровање и покретање аутоматизованог тржишта мрачног веба за нелегалну робу.

Потенцијал вештачке интелигенције и МЛ за сајбер нападе постао је забринутост и за доносиоце ИТ одлука. Према Блацкберри Глобал Ресеарцх студији из 2023. године, 51% испитаника верује да ће успешан сајбер напад бити приписан ЦхатГПТ-у у току године. Испитаници су највише забринути због способности цхатбот-а да помогне актерима претњи у креирању веродостојнијих и легитимнијих пхисхинг емаил-ова (53%). Такође су забринути због вештачке интелигенције која шири дезинформације (49%) и мање искусних нападача који користе вештачку интелигенцију да побољшају своје знање и вештине (49%).

Како се јавна дебата и регулаторна контрола око АИ и МЛ интензивирају, тимови за сајбер безбедност предузећа морају остати на опрезу, а да не изгубе из вида ширу слику. Сајбер напади су неизбежни, али штета није. Организације могу да заштите оно што је најважније обезбеђивањем свих идентитета током циклуса приступа било ком ресурсу преко било које инфраструктуре. Потребан је холистички приступ који уједињује визионарске технологије и људску експертизу. Права платформа за безбедност идентитета мора да заштити критичне податке и системе од безброј претњи поверљивости, интегритету и доступности. Прави партнер за безбедност идентитета мора бити саветник од поверења, који подиже безбедносне тимове и стратегије на начин на који технологија не може.

Како се могућности вештачке интелигенције и МЛ брзо шире, заједница сајбер безбедности мора да настави да тестира и помера границе вештачке интелигенције, дели информације и залаже се за важне заштитне ограде. Заједнички рад је од суштинског значаја за „дефинисање како добијамо најбоље и ублажавамо најгоре од вештачке интелигенције“, како је изразио Алекс Фридман, суоснивач и главни директор за иновације у ЦиберАрк-у.