Kunstig intelligens setter den etiske beredskapen i finansnæringen på prøve.
Hvilke etiske og regulatoriske utfordringer oppstår for finansinstitusjoner når de tar i bruk kunstig intelligens (KI), og hvordan bør de håndteres? Det er spørsmål kollega Samson Yoseph Esayas og jeg utforsker i et kurs som inngår i et bransjeprogram for finansnæringen ved Handelshøyskolen BI.
Erfarne finansfolk deler sine inntrykk fra egen arbeidshverdag, og deltar i refleksjoner over hva som vil være rimelig og rettferdig praksis for KI-bruk. Vi bruker etisk teori til å analysere dilemmaer som oppstår ved innføring av KI-løsninger. Et viktig element i kurset er også å forberede aktørene på den nasjonale KI-forordningen som nå er ute til høring.
Underveis i kurset inviterer vi deltagerne til å peke ut konkrete utfordringer som de møter på jobb. Mangfoldet av innspill var stort, og her er fem hovedpunkter:
Lite gjennomsiktighet rundt beslutninger
Beslutninger om avslag og tilslag på søknader kommer fra KI-løsninger som ikke fullt ut gir forståelige begrunnelser. «The computer says no» som det het i komiserien Little Britain. Vurderingene skjer inni den såkalte sorte boksen, som gjerne er utviklet av eksterne aktører som regner prosessene som foregår i den for å være en forretningshemmelighet. Her er blir det stadig mindre gjennomsiktighet om grunnlaget for beslutninger.
Transkribering av samtaler
Utbredt bruk av Microsoft Copilot til å transkribere samtaler bidrar til at folk blir forsiktige med å ytre seg. Når egne ytringer lagres og dokumenteres for senere bruk, legger det bånd på engasjement og ærlighet. Flere etterlyser KI-frie samtalesoner, men møter motstand fra dem som dyrker det nye dokumentasjonsparadigmet.
Forsikringskunder bruker KI
Det er blitt vanlig at forsikringskunder bruker KI-verktøy til å formulere sine skademeldinger, for å øke sjansene for å få dekket skade. De mater inn forsikringsvilkårene + saksopplysninger, og ber om en melding som vil få et positivt svar. Kundene vet at det er en annen KI-løsning hos selskapet som skal vurdere skademeldingen deres. Terskelen for å overdrive skade ser ut til å være lavere når kunden opplever at det ikke er et menneske i den andre enden, men en maskin.
Smutthulletikk
Tempoet i utviklingen gjør det fristende å overkjøre etiske og regulatoriske vurderinger, eller i det minste praktisere smutthulletikk; Det som regelverket er taust om, kan vi gjøre. Etikken bremser farten i egen utvikling, og gjør at konkurrenter får forsprang. Etisk friksjon kan være nødvendig for å gjøre ting forsvarlig og riktig, men bidrar til forsinkelser som kan slå negativt ut på bunnlinjen. Vi får tilløp til moralsk nøytralisering: Hvorfor skal vi avstå og være etiske når alle andre kjører på?
Økte forskjeller?
Digital personalisering via KI-løsninger fører til mer presise forsikrings- og lånevilkår, tilpasset det enkelte individ. Dette kan slå positivt ut for mange, men svært negativt for andre med dårligere utsikter. Blir dette rettferdig og solidarisk på sikt? Hvordan unngå å bidra til sosialt utenforskap og økte forskjeller i samfunnet?
Ved å identifisere etiske utfordringer som dette, kan finansbransjen gjøre et systematisk arbeid for å møte dem på konstruktive måter. Det gjelder å finne tid til dette og ikke bli en slave av det høye tempoet i den teknologiske utviklingen. Nå ser det ut til at hensynet til personvern, sikkerhet og rettigheter blåses over ende uten at det tas initiativ til å yte konstruktiv etisk friksjon.
Merking av KI-bruk
Et annet tema under kurset er merking av KI-bruk. Det skal være klart for utenforstående hva som er produsert av et KI-verktøy og hva som er resultat av menneskelig arbeid. Etter hvert vil det meste bli merket som en felles leveranse, men som en spøkefull deltager påpekte: Hvis jeg merker alle saker hvor jeg har brukt KI, så vil det se ut som om jeg ikke har gjort noe som helst. Her finnes det en alvorligere grunntone, som er at mye av arbeidet som gjøres av mennesker i dag, kan gjøres vesentlig mer effektivt av KI-løsninger.
Burde ansatte i finansnæringen være skeptiske til den nye teknologien med tanke på at de kan bli overflødige og miste jobbene sine?
Jeg deltok på en samling i regi av Finansforbundet om dette temaet for en stund siden. Der fikk vi høre den flaue historien om hvordan forbundets folk en gang hadde vært svært negative til innføringen av bankautomater på gatehjørner og i butikker. Dette var teknologi som ville sette arbeidsplasser i fare, var argumentet. I ettertid var det åpenbart at denne teknologien var et vesentlig gode for kundene, og ikke fikk særlig negative utslag for de ansatte. Nye produkter og tjenester oppsto og skapte nye behov for arbeidskraft.
Spørsmålet er om KI kan gi samme type utslag. Tradisjonelle oppgaver kan løses lynraskt av teknologien, men oppstår det nye aktiviteter som forhindrer masseoppsigelser? Ingen vet.
Denne kronikken ble først publisert av DN.