Åpenhet om KI kan svekke tilliten til virksomheten

Kunstig intelligens (KI) er i ferd med å bli en naturlig del av arbeidslivet, både i privat og offentlig sektor. På stadig flere arbeidsplasser oppfordres medarbeidere til å bruke KI for å utføre oppgaver raskere og med antatt bedre kvalitet. Ledere og it-avdelinger byr ofte på en meny av KI-verktøy, ikke minst såkalte generative språkmodeller, analyseverktøy og bildegeneratorer, som medarbeiderne forventes å bruke aktivt.

Lønner det seg da å informere kolleger, kunder eller klienter om at KI er blitt brukt i forbindelse med visse oppgaver, eller å la være?

Forskerne Schilke og Reimann så nylig på dette i 13 eksperimenter. De tok for seg mange typer arbeidsoppgaver der KI-støtte ofte blir brukt, både enkle skriveoppgaver og mer komplekse analytiske eller kreative oppgaver. Eksempler er utforming av cv-er, jobbsøknader, årlig vurdering av medarbeideres ytelse, e-poster, ansettelsestilbud, oppsigelsesbrev, markedsundersøkelser og -kampanjer, beslutninger om finansielle investeringer og valg av skattemessige disposisjoner.

Schilke og Reimann så også på om måten man informerte om KI-bruk hadde betydning. For eksempel kan man informere generelt om at KI er brukt, at KI kun er brukt til språkvask, at alt innhold er godkjent av et menneske, at det kan være feil i KI-generert innhold, eller om at åpenhet om KI-bruk er sett på som viktig. Tillit ble også målt på mange ulike måter.

Lavere tillit til medarbeidere som opplyser om KI-bruk

Resultatene viste at tilliten til en leder eller medarbeider sank når de informerte om bruk av KI. Dette gjaldt uansett hvilke arbeidsoppgaver det var snakk om, uansett hvilke begrunnelser eller beskrivelser som ble oppgitt, og uansett om åpenheten om KI-bruk var frivillig eller pålagt.

Skjult KI-bruk ga altså høyere tillit enn åpenhet, men bare så lenge brukeren ikke ble avslørt. Medarbeidere og ledere som ikke opplyste om bruk av KI og ble avslørt, fikk den største svekkelsen i tillit.

Den negative effekten av åpenhet om bruk av KI, var naturlig nok minst når den som vurderte hadde positive holdninger til KI eller forventet at KI-generert innhold ville være korrekt og pålitelig. Erfaring med bruk av KI så derimot ikke ut til å ha noen betydning. Heller ikke om man selv var åpen om egen KI-bruk eller ikke.

Forskerne peker på at svekket tillit til ledere eller medarbeidere også reduserer tilliten til virksomheten, dens tjenester og merkevarer, og ikke minst omdømmet.

Verst å bli avslørt i et forsøk på å skjule KI-bruk

Forskernes råd er likevel å være åpen om KI-bruk og gjøre åpenhet obligatorisk. Konsekvensene av å bli avslørt for skjult KI-bruk ser ut til å være betydelig verre. Et krav om åpenhet bør dessuten følges opp med retningslinjer for hvordan informasjon om KI-bruk skal presenteres, for eksempel i form av ulike standardtekster.

Når åpenhet om KI gjøres obligatorisk, kan det bidra til at åpenhet blir sett på som en norm og et ideal, både internt og eksternt, skriver Schilke og Reimann. På denne måten kan man også redusere de negative effektene av åpenhet for enkeltmedarbeidere, som ellers kan bli mer skeptiske til å bruke potensielt nyttige KI-verktøy. Eller i verste fall, forsøke å skjule det.

Kanskje man bør snu på det? Mye tyder på at blir KI så vanlig fremover, og så integrert i tradisjonelle IT-verktøy, at man nærmest kan ta for gitt at KI er brukt med mindre noe annet er eksplisitt oppgitt. Mange av oss bruker antagelig allerede KI i mange sammenhenger uten å være klar over det. Kanskje ler vi om få år av at åpenhet (eller ikke) om bruk av såkalt kunstig intelligens i det hele tatt var en problemstilling.

PS! Denne teksten er for øvrig skrevet uten bruk av KI.

Teksten ble først publisert i Dagens Næringsliv: https://www.dn.no/ledelse/ledelse/kunstig-intelligens/tillit/apenhet-om-bruk-av-kunstig-intelligens-kan-svekke-tilliten-til-en-virksomhet/2-1-1911804