Umetna inteligenca kot zaveznica ali nasprotnica

Umetna inteligenca lahko pozitivno ali negativno vpliva na zavarovanost in solidarnost.

Nizozemski organ za finančne trge (AFM) in nizozemska centralna banka (DNB) predvidevata, da bo uporaba umetne inteligence (AI) v nizozemskem zavarovalniškem sektorju hitro rasla. Pomembno je, da je umetna inteligenca uvedena na odgovoren način in v skladu z zahtevami za kakovostno in nadzorovano poslovanje, poudarjata nadzornika.

AFM in DNB sta predstavili raziskovalno študijo z desetimi ključnimi vidiki uporabe umetne inteligence v zavarovalniškem sektorju. Ta razmišljanja služijo kot sredstvo za ozaveščanje in pomoč pri spodbujanju smiselnega dialoga.

Potreba po spremljanju tveganj

Uporaba umetne inteligence ponuja številne priložnosti za zavarovalnice, a prinaša tudi negotovosti in tveganja. Ustrezno zavedanje tega je ključnega pomena za zagotavljanje rabe umetne inteligence v skladu z zahtevami za kakovostno in nadzorovano poslovanje, upravljanje izdelkov in dolžnost skrbnega ravnanja.

Nizozemske zavarovalnice trenutno eksperimentirajo z aplikacijami umetne inteligence, ki so jih same razvile oziroma kupile na trgu. Primeri vključujejo aplikacije za izboljšanje odkrivanja goljufij za odškodninske zahtevke in napovedovanje povpraševanja strank.

V prihodnjih letih se pričakuje večji poudarek na uporabi umetne inteligence na področjih, kot sta določanje premij in sprejemanje.

Deset ključnih vidikov uporabe umetne inteligence (AI):

1. Določitev politike za aplikacije AI. Upravni odbor zavarovalnice bi moral skrbno preučiti, ali in kako naj se uporablja umetna inteligenca.
2. Komunikacija o aplikacijah AI in njihovi vgradnji. Jasna interna komunikacija o viziji/politiki odbora v zvezi z aplikacijami umetne inteligence zagotavlja smernice za uporabo umetne inteligence.
3. Nadzor nad vhodnimi podatki
4. Izbira modela AI/strojnega učenja (Machine Learning). Modeli za določanje cen, sprejemanje strank in odkrivanje goljufij: te vrste modelov neposredno vplivajo na stranko, zlasti če se uporabljajo za avtomatizirano odločanje.
5. Razložljivost rezultatov. Razložljivost rezultatov aplikacij AI je zelo pomembna, zlasti kadar se uporabljajo za občutljive procese. Razložljivost v prvi vrsti pomeni, da je zavarovalnica sposobna navesti, kako vneseni podatki vodijo do določenega izida.
6. Izogibanje uporabi vzorcev, ki vodijo do protipravne diskriminacije. Zavarovalnica mora imeti vzpostavljene sisteme in procese, ki preprečujejo, da bi aplikacije AI ustvarjale diskriminatorne rezultate.
7. Uporaba zunanjih podatkov in modelov. Ko so aplikacije umetne inteligence oddane zunanjim izvajalcem, je bistveno spremljanje, testiranje in izziv teh zunanjih aplikacij. Zavarovalnice v veliki meri uporabljajo zunanje strokovno znanje in izkušnje v obliki podatkov ali algoritmov/modelov. To običajno vključuje pridobivanje zunanjih baz podatkov, sodelovanje z zunanjimi svetovalci za usposabljanje modelov strojnega učenja ali pridobivanje vnaprej usposobljenih modelov.
8. Validacija. Pomembno je, da so procesi validacije strukturirani tako, da je mogoče ugotoviti, ali aplikacije umetne inteligence ustrezajo svojemu namenu.
9. Oblikovanje okolja odločanja
10. Preizkušanje aplikacij glede družbene razložljivosti. Družbena razložljivost presega zmožnost razlage tehnologije ali rezultatov modelov AI. Dotakne se vprašanja, ali je mogoče rezultate zavarovalniških modelov šteti za družbeno in etično sprejemljive ter pravične.

Pri nekaterih od naštetih desetih vidikov se AFM in DNB osredotočata na tehnične značilnosti in organizacijske pogoje. To vključuje jasno politiko in zahteve glede tega, kako je umetna inteligenca vgrajena v aplikacije in programe, a tudi kritičen pogled na osnove aplikacij umetne inteligence: vnos, model in ustvarjene rezultate.

Študija se osredotoča tudi na poslovne procese in procese strank. Te se na primer nanašajo na vprašanje, kako lahko aplikacije in programi AI potrošnike spodbudijo k sprejemanju odločitev, ki so v njihovem najboljšem interesu.

Študija je raziskala tudi potencialni učinek umetne inteligence na solidarnost. Odvisno od uporabe lahko umetna inteligenca pozitivno ali negativno vpliva na zavarovanost in solidarnost.

S ključnimi premisleki iz študije želita AFM in DNB prispevati k razumevanju možnih učinkov uporabe umetne inteligence. Cilj je zagotoviti njeno nadzorovano uporabo in preglednost.

Oba nadzornika pričakujeta, da bo zavarovalniški sektor te ključne vidike uporabil kot izhodišče pri razmišljanju o uporabi umetne inteligence.

Raziskovalna študija v celoti je dostopna na povezavi Artificial intelligence in the insurance sectoAgencija za zavarovalni nadzor.

Umetna inteligenca kot zaveznica ali nasprotnica (PDF, 135.16 KB)