Transparentnost i Etika Korišćenja Veštačke Inteligencije u Finansijskim Uslugama

U okviru naše Wealth Ops: Live! manifestacije u oktobru, imali smo fascinantnu diskusiju sa izvršnim direktorom kompanije Intelliflo, Nikom Itokom, i finansijskim planerom Čanel Patinson o budućem uticaju veštačke inteligencije na rad bogatstva i uslugu korisnicima. Tokom diskusije postavljeno je pitanje o etičkoj vrednosti korišćenja veštačke inteligencije i o tome koliko transparentne organizacije treba da budu u priznavanju svojim klijentima da je neka vrsta nelinearne inteligencije intervenisala u procesu.

Kako sve više vidimo primere korišćenja veštačke inteligencije – na primer, u procesu savetovanja, u webchatovima i u razumevanju uzoraka ponašanja klijenata i komuniciranju sa klijentima u kontakt centrima, postavlja se pitanje transparentnosti mora biti ozbiljno razmotreno od strane kompanija.

Poverenje

Zašto je uloga veštačke inteligencije i rizici povezani sa njenom upotrebom toliko relevantni u finansijskim uslugama, posebno u finansijskom savetovanju, u odnosu na druge industrije?

Proces savetovanja zahteva određenu dozu poverenja i dugoročni odnos koji zahteva da dve strane jasno definišu ostvarivanje ciljeva koji značajno utiču na živote i izvore prihoda ljudi.

Ako veštačka inteligencija treba da ima ulogu, ta uloga je u svetu gde poverenje leži u osnovi formiranih odnosa. Ovo nisu transakcione interakcije; one su mnogo obimnije i zahtevaju veću dugotrajnost.

Ako ih zameni veštačka inteligencija, tada je veoma važno da organizacija može da izgradi poverenje kroz dokaze i transparentnost.

Naša istraživanja među više od 250 bogatih korisnika – naša bela knjiga – Making Waves: Istraživanje budućnosti operacija bogatstva – istraživala je neke povratne informacije korisnika o tome kako su angažovani i kako se koristi njihovim podacima. Preovlađujuće, malo je podrške za prednosti chatbotova i malo interesovanja za upotrebu korisničkih podataka u širem smislu da bi se povezali događaji iz života ili promovisala ciljana prodaja (što već postoji u vidu internet kolačića).

S obzirom na postojanje nepoverenja, razumno je razmotriti da kako se usvajanje mogućnosti veštačke inteligencije proširuje, pitanje transparentnosti postaje još važnije.

Šta tačno znači transparentnost u praksi?

1. Biti sposoban da objasni klijentu ako i kada je veštačka inteligencija korišćena da bi informisala o ishodu;
2. Biti sposoban da objasni klijentu kako je veštačka inteligencija korišćena, koje podatke i uvide je koristila i koji je proces pratila da podrži taj ishod; i
3. Biti sposoban da pokaže pravičnost, doslednost i prikladnost u tome kako je veštačka inteligencija došla do zaključka i da li bi čovek došao do drugačijeg rezultata. Izuzetno je važno izbeći optužbe za pristrasnost u dizajnu veštačke inteligencije.

Dokazivanje korišćenja veštačke inteligencije

Ako se veštačka inteligencija usvoji da pomogne ubrzavanju ishoda, kako kompanije mogu osigurati da kada klijent zatraži pojašnjenja i dokaze o procesu koji je praćen, to bude jednostavno reprodukovano i dokazano na efikasan i jasan način?

Davatelji koji žele ponuditi potpunu transparentnost moraju razmotriti neželjene posledice i uključiti rutine, postupke i procese koji omogućavaju objašnjenje unutrašnjeg delovanja na način koji je usmeren na klijenta. Ovo je ključno za izgradnju poverenja. Klijenti će želeti da znaju da je veštačka inteligencija korišćena na siguran i dosledan način i davatelji moraju moći da to dokažu po potrebi.

Sve ovo pretpostavlja da davatelji izaberu da budu transparentni u vezi sa upotrebom veštačke inteligencije. Može biti suptilna razlika u tome i neće svaki davatelj doći do istog zaključka za svaku upotrebu. Međutim, važno je imati svest o mogućem nezadovoljstvu ili nepoverenju potrošača, pogotovo u kontekstu tehnološke inovacije.

Na primer, danas retko kada klijenti traže da savetnici dokažu svoje kvalifikacije da bi pokazali njihovu stručnost i retko se traži da otkriju svoje istorijske preporuke kako bi istakli da njihovi izbori investicija donose očekivane prinose. Korisnici to obično ne traže jer ljudska interakcija često počinje iz pozicije poverenja i često putem lične preporuke ili preporuke.

Kada se uključi mašina, za neke klijente odmah se pojavljuju barijere i poverenje postaje ključno područje fokusa. Bezličan i besmislen izgled veštačke inteligencije znači da ne može da brani svoje odluke i ishode, i često će zahtevati ljudsku intervenciju da opravda svoju upotrebu.

Danas vidimo primere chatbota i webchat interakcije koji su predstavljeni kao avatari, ali takođe vidimo primere gde nema pokušaja da se otkrije da je interakcija sa računarom. Razgovor često na kraju otkriva, ali pitanje je, da li je važno? Da li klijentu mrazi kako će biti odgovoreno na njihova pitanja i od koga, ako je to brzo i efikasno?

Dok veštačka inteligencija „uči“ i gradi bazu aktivnosti, istoriju i informacija na koju se može osloniti, proširiće svoj uticaj i sve više će postati deo svakodnevnog života. To se sve dešava bez obzira na to da li potrošač to želi ili ne, ili čak zna za to. Davatelji moraju pažljivo odmeriti etičku liniju i donositi odluke o transparentnosti dosledno u interesu jedne od svojih najvažnijih vrednosti – svojih klijenata.

Ovaj tekst je napisao Karl Vudvard, zajednički osnivač i direktor Simplify Consulting. [Dodajte izvor – International Adviser]

FAQ

1. Zašto je transparentnost u korišćenju veštačke inteligencije važna u finansijskim uslugama?

Transparentnost je važna u korišćenju veštačke inteligencije u finansijskim uslugama jer klijenti imaju pravo da znaju kada i kako je veštačka inteligencija upotrebljena da bi uticala na rezultate. Ovo pomaže u izgradnji poverenja među klijentima i pruža im sigurnost da su njihovi interesi adekvatno zastupljeni.

2. Šta podrazumeva transparentnost kada je u pitanju veštačka inteligencija?

Transparentnost u korišćenju veštačke inteligencije podrazumeva mogućnost objašnjenja klijentu kada je veštačka inteligencija korišćena za donošenje odluka, kako je korišćena, koje podatke je koristila i koji proces je pratila. Takođe, transparentnost zahteva da veštačka inteligencija donese odluke koje su pravične, dosledne i adekvatne, a koje bi i čovek doneo u istoj situaciji, kako bi se izbegao utisak pristrasnosti.

3. Kako kompanije mogu obezbediti dokaze o korišćenju veštačke inteligencije?

Kompanije mogu obezbediti dokaze o korišćenju veštačke inteligencije tako što će razviti rutine, postupke i procese koji omogućavaju da unutrašnje delovanje veštačke inteligencije bude objašnjeno na način koji je usmeren na klijenta. Ovo se može postići pružanjem jasnih informacija o tome kako je veštačka inteligencija korišćena, koje podatke je koristila i kako je donela zaključke. Kompanije treba da budu spremne da dokažu upotrebu veštačke inteligencije na zahtev klijenta.

4. Da li je transparentnost u korišćenju veštačke inteligencije u finansijskim uslugama obavezna?

Transparentnost u korišćenju veštačke inteligencije nije obavezna, ali je važno da kompanije budu svesne potencijalnog nezadovoljstva ili nepoverenja klijenata ukoliko nisu transparentne. U kontekstu tehnološke inovacije, potrošači mogu postavljati pitanja o korišćenju veštačke inteligencije i očekivati da imaju uvid u procese koji su praćeni. Kompanije će morati pažljivo da odluče o stepenu transparentnosti u skladu sa svojim vrednostima i ciljevima.

[International Adviser](https://www.international-adviser.com/news/4012553/carl-woodward-ethical-questions-surrounding-ai-and-financial-services)