Algoritmer: Hvem har ansvaret for maskinene?

20. februar 2020

Datamaskiner tar flere og flere avgjørelser på egenhånd. Et nytt forskningsprosjekt ledet av Professor Christian Fieseler skal se på hvordan bedrifter, myndigheter og brukere kan håndtere uforståelige algoritmer.

Centre for Internet and SocietyProsjektgruppen fra BI forskningssenter for internett og samfunn.

For å beholde konkurransedyktigheten tar bedrifter og andre organisasjoner i bruk mer effektive metoder for beslutningstaking. Innen media, aksjehandel, helse og offentlig sektor (for å nevne noen) overlates flere og flere avgjørelser helt eller delvis til maskiner.

Maskiner tenker ikke på samme måte som mennesker. Mens vi kan spore beslutningene våre tilbake til forståelige data kan komplekse algoritmer være grunnleggende uforståelige. Det gjelder både informasjonen de bruker, prosessen frem til en avgjørelse tas og selve avgjørelsen.

Resultatene av algoritmenes avgjørelser kan være relativt uviktige, for eksempel filmanbefalinger, eller enormt viktige, for eksempel lengden på en fengselsstraff eller sannsynligheten for å bli smittet av en sykdom.

Legitime, påvirkelige og inkluderende algoritmer

Her kommer forskningsprosjektet ‘Algorithmic Accountability: Designing Governance for Responsible Digital Transformation’ inn. Målet er å lage et rammeverk organisasjoner, myndigheter og borgere kan bruke til å tydeliggjøre ansvaret for beslutningsprosesser.

Prosjektet er tildelt 10 millioner kroner fra Forskningsrådet og varer ut 2023. Det holder til ved BI Forskningssenter for internett og samfunn. I tillegg til Professor Fieseler deltar Førsteamanuensis Christoph Lutz, Førsteamanuensis Alexander Buhmann og Assistant Professor Eliane Bucher.

Prosjektet gjennomføres i samarbeid med KIN Center for Digital Innovation ved Vrije Universiteit Amsterdam (VU) der Professor Marleen Huysman, Assistant Professor Mark Boons og Assistant Professor Ella Hafermalz forsker på hvordan organisasjoner tar i bruk ansvarliggjørende algoritmer.

Andre partnere er Berkman Klein Center for Internet and Society ved Harvard University, the Humboldt Institute for Internet and Society, the University of St. Gallen, the University of Surrey, the University of Groningen og the University of Leipzig.

Les mer:

BI Forskningssenter for internett og samfunn

BI Business Review: Tre trinn for å håndtere omdømmerisiko fra kunstig intelligens

Du kan også se alle nyheter her.