Двострука природа вештачке интелигенције у здравству: од спаса до потенцијалне претње

Машинско учење се појавило као моћан алат у здравству, омогућавајући брже и прецизније дијагнозе рака од било ког појединачног лекара. Међутим, његове потенцијалне предности долазе руку под руку са могућношћу нове пандемије, коју ће оркестрирати релативно нискоквалификовани програмер.

Значај равнотеже између иновација и етичких брига

Област здравља је сведок изузетних напретка вештачке интелигенције (АИ). Ипак, АИ се такође може користити као оружје против самих људи које жели да излечи. Светска здравствена организација (СЗО) упозорава на опасности од пристрасности, дезинформација и кршења приватности повезаних са применом великих језичких модела у здравству.

Забринутости СЗО и налази истраживања

Званичници СЗО изражавају бојазан због распоређивања скупова података који не успевају да на адекватан начин представљају целокупну популацију, јер могу да генеришу погрешне или нетачне информације. Истраживање које је спровела СЗО открива 1 од 300 шанси да се неко повреди током целог путовања пацијента, првенствено због грешака у подацима.

Шира перспектива: спашавање живота и ризиковање живота

Док АИ у здравству нуди брзину, тачност и исплативост, као што су убрзани развој вакцине и побољшана дијагноза смртоносних срчаних стања, она такође носи инхерентне ризике. Један погрешан клик или кршење безбедности може довести до катастрофалних последица.

Побегли вируси: све већа забринутост
Индустрија синтетичке биологије, која се састоји од око 350 компанија у 40 земаља, представља највећу забринутост. Како се ствара више вештачких организама, ризик од случајног ослобађања супербактерица отпорних на антибиотике ескалира, потенцијално доводећи до још једне глобалне пандемије. Уједињене нације предвиђају да би супербактерије могле да изазову више смртних случајева годишње од рака до 2050. Одбегли вештачки организми могу пореметити екосистеме и надмашити постојеће врсте због своје толеранције на екстремне услове.

Лабораторијске незгоде и тероризам

2022. године, истраживачи су демонстрирали своју способност да генеришу 40.000 нових једињења хемијског оружја у року од шест сати користећи АИ моделе дизајниране да предвиде и смање токсичност. Међутим, они су репрограмирали моделе да би уместо тога повећали токсичност, што је изазвало забринутост због потенцијалног наоружања истраживања вођеног вештачком интелигенцијом.

Халуцинације у АИ моделима представљају смртоносне ризике
Велики језички модели који се користе у здравственим установама често производе измишљене информације, познате као халуцинације, када се суоче са упитима на које не могу одговорити. У критичним здравственим контекстима, ове халуцинације могу имати тешке последице. Клинички АИ модели могу имати значајне слепе тачке које се погоршавају додавањем података. Неки стартупи за медицинска истраживања се одлучују за мање скупове података, као што је 35 милиона рецензираних студија о ПубМед-у, како би ублажили високе стопе грешака и недостатак цитата који преовладавају у моделима обученим на отвореном интернету.

Рјешавање диспаритета и осигурање једнаког приступа АИ у здравству

АИ у здравству такође представља ризик од погоршања расних, полних и географских диспаритета, пошто пристрасни подаци често леже у основи обуке ових модела. Штавише, обезбеђивање једнаког приступа технологији је кључно. На пример, немачка деца са дијабетесом типа 1 из различитих средина сада постижу бољу контролу нивоа глукозе захваљујући приступу паметним уређајима и брзом интернету, док такве привилегије нису уједначено доступне у Сједињеним Државама.

Регулаторне празнине и потреба за ажурираним упутствима

Тренутни регулаторни оквир за медицинске уређаје, који је успоставила ФДА, не успева у ефикасном управљању приливом апликација и уређаја са вештачком интелигенцијом који преплављују тржиште. Слично томе, Центри за контролу и превенцију болести (ЦДЦ) се и даље ослањају на водич из 1999. за решавање проблема биотероризма, не узимајући у обзир напредак вештачке интелигенције. Ажуриране смернице ЦДЦ-а и ФДА су императив за решавање ових изазова који се развијају.

Тражење транспарентности алгоритма и заштита демографских података пацијената

Одељење за здравство и социјалне услуге активно тражи допринос за предложено правило у вези са транспарентношћу алгоритма, укључујући заштиту демографије пацијената. Такве мере имају за циљ успостављање равнотеже између технолошког напретка и заштите интереса и добробити пацијената.

У закључку, иако вештачка интелигенција има огроман потенцијал да револуционише здравствену заштиту, њој се мора приступити са опрезом. Балансирање иновације са етичким разматрањима, ублажавање ризика од бекства вируса, спречавање злоупотребе вештачке интелигенције у истраживању, решавање халуцинација у АИ моделима и обезбеђивање равноправног приступа и регулаторног надзора су витални кораци ка искориштавању трансформативне моћи вештачке интелигенције уз минимизирање потенцијалне штете.