Kunstig intelligens i finanssektoren: En teknologi med to ansigter

AI revolutionerer finanssektoren med løfter om lavere omkostninger, øget inklusion og forbedret datasikkerhed. Men uden kritisk regulering og ansvarlig implementering risikerer vi at forstærke diskrimination og ulighed – ikke bekæmpe den

De seneste gennembrud inden for generativ kunstig intelligens har accelereret både potentialet og risiciene ved teknologien. På blot få år er AI gået fra nichefænomen til hverdagsværktøj. Men udviklingen rejser også alvorlige spørgsmål. AI er ikke bare et neutralt værktøj – det er en teknologi, der formes af de data og beslutninger, vi fodrer den med. Samtidig stiller den nye krav til beskyttelsen af privatliv og lige adgang til økonomiske ydelser. Hvis vi ikke er opmærksomme, risikerer vi at gentage, eller endda forstærke, gamle uligheder i nye digitale klæder.

De nyeste udviklinger af generative AI har accelereret fordelene og risiciene ved teknologi. Selvom AI stadig er i sin spæde begyndelse, viser undersøgelser at i 2024 bruger 22% af medarbejdere AI i deres arbejde.  Det samme gælder for studerende. Studier viser at 86% af studerende globalt bruger AI til deres studier.  Disse tal viser, hvordan AI hurtigt er blevet en normal del af hverdagen mange steder.

AI bruger store mængder energi og fremskrivninger viser at i 2028 vil AI bruge lige så meget elektricitet årligt som 22% af alle amerikanske husholdninger. Dertil er det estimeret, at træningen af OpenAI’s modeller har brugt omtrent  lige så meget energi, som hele San Francisco forbruger på 3 dage. Dermed er det ingen hemmelighed, at AI bruger store mængder energi.

Men ligesom AI stiller os over for nye miljømæssige udfordringer, rejser det også en række komplekse spørgsmål om menneskerettigheder og retfærdighed. Ét af de områder, hvor denne dobbeltsidighed tydeliggøres, er i den finansielle sektor. Her bliver AI i stigende grad taget i brug for at effektivisere arbejdsgange, reducere omkostninger og forbedre kundeservice. Men udviklingen rummer ikke kun teknologisk potentiale, den bringer også alvorlige risici for diskrimination, udelukkelse og brud på privatlivets fred.

AI brug har tre konkrete risici. Den første er risiko for databrud. Virksomheder og organisationer kan krænke individers ret til privatliv ved at indsamle, lagre og anvende personfølsomme data uden tilstrækkeligt samtykke, gennemsigtighed eller sikkerhed. Dette kan omfatte alt fra overvågning og sporing af adfærd til videregivelse af data til tredjeparter. Især i AI-sammenhænge kan store datamængder fra kunder anvendes til træning af modeller, hvilket øger risikoen for misbrug eller datalæk, hvis ikke der er klare etiske og juridiske rammer.

Den næste risiko er for menneskerettigheder. AI-teknologier er uundgåeligt trænet på historiske data, og kan derfor selv være biased, hvis træningsdataene er forudindtagede, diskriminerende eller ikke-repræsentative. Det betyder, at hvis de data, som kunstig intelligens lærer af, indeholder systematiske skævheder, som f.eks. kønsstereotyper, racemæssige forskelle eller sociale uligheder, så vil AI-systemet sandsynligvis videreføre disse skævheder i sine analyser og beslutninger. Med andre ord: “garbage in, garbage out”. Bias i data kan opstå både gennem menneskelige beslutninger (hvad man vælger at måle og hvordan), og gennem strukturelle uligheder, der er indlejret i de samfund, dataene kommer fra.

Medmindre disse bias bliver håndteret, vil AI-teknologiernes vurderinger og forudsigelser også kunne være biased og føre til diskriminerende resultater.
 Hvis ikke der aktivt arbejdes med at identificere og korrigere for skævheder i datagrundlaget eller i algoritmens opbygning, kan det føre til uretfærdige og ekskluderende konsekvenser. Det er især problematisk, når AI anvendes i beslutningsprocesser med betydelige konsekvenser for individers liv, såsom adgang til job, kredit, sundhedsydelser eller bolig.

Der har været veldokumenterede tilfælde af sådanne effekter, som eksempelvis online jobopslag med høje lønninger, der kun blev vist til mænd, baseret på historiske datasæt, som viste, at mænds lønninger var højere end kvinders. 
 Dette er et tydeligt eksempel på, hvordan fortidens uligheder kan blive reproduceret af teknologier, der mangler bevidsthed om ligestilling. AI-systemet ‘lærer’ af tidligere mønstre og forstærker dem, hvilket i praksis betyder, at kvinder ekskluderes fra muligheder, simpelthen fordi historiske data viser, at de ikke tidligere har haft dem i samme omfang.

Når algoritmer og automatisering er involveret, øges risikoen. Algoritmiske beslutninger bliver ofte betragtet som objektive, netop fordi de ikke involverer menneskelige følelser. Men denne opfattelse er misvisende, da algoritmer er designet af mennesker og trænes på menneskeskabte data. Det gør det vanskeligt at gennemskue, hvordan beslutninger bliver truffet, og hvem der bærer ansvaret for eventuelle negative konsekvenser.

I den finansielle sektor kan dette føre til diskriminerende resultater, f.eks. i forhold til om en person får adgang til bestemte finansielle ydelser, hvilken pris vedkommende skal betale, eller hvordan deres kreditværdighed vurderes. Et AI-system kan f.eks. vurdere en persons kreditrisiko lavere baseret på faktorer som postnummer eller uddannelsesinstitution, selv hvis disse faktorer indirekte afspejler race, køn eller social klasse. Det kan føre til, at visse grupper får dårligere vilkår eller helt bliver nægtet adgang til finansielle produkter.

Risikoen kan også omfatte, at personer i bestemte grupper må vente længere på afgørelser eller skal igennem flere trin for at få godkendt deres ansøgninger. Diskriminationen behøver altså ikke være eksplicit eller åbenlys. Den kan også opstå i form af systematisk ineffektivitet, hvor f.eks. minoritetsgrupper eller lavindkomstgrupper oplever flere barrierer, længere sagsbehandlingstid eller lavere sandsynlighed for godkendelse, blot fordi de tilhører en demografisk gruppe, der i datahistorikken har haft mindre finansiel succes.

Sidst men ikke mindst indebærer brugen af AI en betydelig risiko for, at personer uretfærdigt bliver udelukket fra adgang til finansielle ydelser. Særligt anvendelsen af AI til at profilere enkeltpersoners kreditværdighed eller andre former for risikovurdering skærper denne risiko.

AI-systemer, der er trænet på historiske datasæt, risikerer at gentage og forstærke eksisterende skævheder, især hvis dataene er biased, diskriminerende eller ikke repræsentative for hele befolkningen. Baseret på eksisterende forskelle på områder som f.eks. kreditvurdering (hvor personer med kaukasisk udseende generelt har højere kreditværdighed end etniske minoriteter), kan AI-værktøjer, der udvikles på baggrund af eksisterende datasæt, være med til at forstærke forudindtagede antagelser om, hvem der udgør en kreditrisiko. Hvis AI-modeller fortsat bygges på biased data uden kritisk justering, risikerer vi at cementere disse uligheder. Konsekvensen kan være, at enkeltpersoner får afslag på finansielle services som bl.a. bankkonti, forsikringer eller lån, og ikke fordi de reelt udgør en høj risiko, men fordi en algoritme har truffet en beslutning baseret på biased eller skæve antagelser. Dette er særligt problematisk i en tid, hvor mange långivere i forvejen har lav risikovillighed, og store dele af befolkningen kæmper for adgang til basale finansielle ydelser.

Risikoen for diskrimination forstærkes yderligere, hvis der mangler effektiv menneskelig kontrol og gennemsigtighed i beslutningsprocesserne. Når automatiserede beslutninger får lov at stå alene uden mulighed for appel eller indsigt, øges risikoen for fejl og uretfærdig behandling markant.

Virksomheder i den finansielle sektor integrerer og anvender i stigende grad AI for at reducere omkostninger, øge effektiviteten, understøtte investeringsanalyser og levere en bedre service til kunder og klienter. Den stigende brug af AI-teknologier kan enten afhjælpe eller forværre eksisterende menneskerettighedspåvirkninger i den finansielle sektor. Selvom anvendelsen af AI i den finansielle sektor rejser en række vigtige spørgsmål om datasikkerhed og diskrimination, rummer teknologierne samtidig et stort potentiale for at forbedre både privatlivsbeskyttelse og adgang til finansielle ydelser, især hvis de implementeres ansvarligt og med blik for menneskerettigheder.

AI kan bidrage positivt til den finansielle sektor på tre centrale områder.
For det første kan AI spille en central rolle i at styrke beskyttelsen af privatlivets fred. AI-baserede cybersikkerhedsløsninger gør det muligt for virksomheder at identificere og reagere på trusler mod persondata hurtigere og mere præcist end tidligere. Ved at analysere store mængder netværks- og systemdata i realtid kan AI hjælpe med at opdage uregelmæssigheder, som kan indikere cyberangreb eller datalæk, og derved forebygge brud på datasikkerheden, inden skaden sker. Dette kan være særligt værdifuldt i en tid, hvor både cyberkriminalitet og mængden af følsomme kundeoplysninger vokser markant.

Dernæst kan AI også bidrage til at mindske risikoen for diskrimination i finansielle beslutningsprocesser. I mange tilfælde opstår forskelsbehandling, fordi mennesker ubevidst lader sig påvirke af bias, når de træffer beslutninger om f.eks. kreditvurdering, lånevilkår eller forsikringspræmier. Her har AI potentiale til at levere mere objektive og konsistente vurderinger, hvis teknologierne trænes på repræsentative og ikke-diskriminerende datasæt. Derudover kan AI bruges aktivt til at identificere mønstre af forskelsbehandling i eksisterende praksisser, hvilket gør det lettere for virksomheder at opdage og rette op på uretfærdige mekanismer. Skulle der alligevel opstå diskriminerende resultater, er det som regel nemmere at revidere og genoptræne en algoritme end at ændre på dybt forankrede menneskelige beslutningsprocesser.

Endelig rummer AI også muligheder for at fremme finansiel inklusion. Mange mennesker, som i dag er udelukket fra det finansielle system, f.eks. fordi de ikke har en traditionel kredithistorik, kan gennem AI få adgang til tjenester, de tidligere ikke kunne opnå. Ved at analysere alternative data og skabe mere nuancerede risikoprofiler kan AI identificere kreditværdige kunder, som tidligere blev overset. Samtidig kan automatisering og effektivisering af interne processer reducere virksomhedernes driftsomkostninger, hvilket kan omsættes til lavere priser og dermed gøre produkter som lån, forsikringer og opsparingskonti mere tilgængelige for flere. Et studie fra 2019 viste for eksempel, at FinTech-virksomheder i USA, der anvendte AI-baserede kreditvurderingsmodeller, reducerede racediskrimination med op til 40 %. Det peger på, at teknologien, hvis den bruges ansvarligt, kan være et effektivt redskab i kampen mod social og økonomisk ulighed.

Sammenfattende viser det sig, at AI kan være en vigtig drivkraft for positiv forandring i den finansielle sektor, både når det gælder beskyttelse af individets rettigheder og i forhold til at fremme en mere inkluderende og retfærdig adgang til finansielle ydelser. Det kræver dog en bevidst og ansvarlig tilgang, hvor virksomheder sikrer, at teknologierne ikke blot optimerer forretningen, men også gavner de mennesker, de påvirker.

AI’s indtog i den finansielle sektor rummer både risici og muligheder. Teknologien kan styrke beskyttelsen af personoplysninger, mindske diskrimination og fremme finansiel inklusion, men kun hvis den anvendes med omtanke og ansvarlighed. De algoritmiske beslutninger, der i stigende grad former menneskers økonomiske muligheder, må ikke overlades til tilfældigheder, biased data eller uigennemsigtige processer. Hvis vi i stedet arbejder aktivt med etiske standarder, gennemsigtighed og datakvalitet, kan AI blive en kraftfuld allieret i kampen for retfærdighed, lighed og menneskerettigheder i en digital økonomi. Men det kræver, at både politikere, virksomheder og civilsamfundet tør tage ansvar og sætte mennesket, ikke teknologien, i centrum.