Vårt politiske system står overfor en digital trussel. Kan Stortinget ta makten tilbake fra robotene på Facebook?
KRONIKK: Jan Ketil Arnulf om digitalisering
Artikkelen er først publisert som kronikk i Aftenposten 25. mars 2018.
Sosiale medier er i ferd med å rive ned våre politiske strukturer slik de kjenner dem. Dette er ikke synsing, det er en nøktern tilstandsrapport fra forskning på forutsigbarheten av oppfatninger hos alminnelige folk.
Algoritmer på Facebook, Twitter og andre sosiale medier kan uten problemer forenkle komplekse politiske spørsmål og gjøre dem uhåndterlige for tradisjonelle institusjoner.
- Les også: Roboter er rasistiske og diskriminerer
Dramatisk trussel
De siste seks årene har jeg og mine kolleger drevet forskning på hvordan digitale algoritmer kan brukes til å forutse resultatene av spørreskjemaer før de foreligger.
Dette kan kanskje høres underlig ut, men vi har vist at dette er mulig gjennom en serie publikasjoner siden 2014, der vi viser hvordan folk er langt mer forutsigbare enn de selv tror.
Dessverre er de også langt mer manipulerbare. Avsløringene av den omfangsrike og illegale datafangsten som firmaet Cambridge Analytics har gjort på Facebook viser hvilken dramatisk trussel åpne samfunn står overfor.
Jeg skal kort beskrive hvordan dette er mulig, men mitt korte budskap så enkelt som dette: Vårt politiske system står overfor en digital trussel, som vi ikke har vært rustet til å takle fordi vi ikke har forstått den.
- Les også: Klar for å jobbe med maskiner?
Algoritmer kan forutsi hva folk vil mene
Spørreskjemaer har vært brukt i politisk og sosialvitenskapelig forskning siden 1920-tallet. Den vanlige oppfatningen om disse har vært at de gjenspeiler underliggende «holdninger» hos respondentene. Det har derfor vært utviklet kompliserte statistiske modeller for å kartlegge og forstå hvordan folks holdninger oppstår og varierer.
Det har alltid vært knyttet en viss uro til hvorvidt slike undersøkelser i seg selv kan påvirke holdningene. Dette har blant annet ført til at noen land har restriksjoner på meningsmålinger tett oppunder valg. Stort sett har imidlertid forskerne hatt et nøkternt synspunkt på dette, og har ikke trodd at deres egne metoder påvirker holdninger blant folk.
Programmerbare holdninger
I vår forskning har vi påvist at digitale algoritmer kan forutsi hva folk vil mene om de fleste svar på spørreskjemaer, basert på hvilket språklig utgangspunkt de tar.
Teknologien skal ikke beskrives i detalj her, men algoritmene kan se den systematiske «labyrinten» folk blir lokket inn i av spørreskjemaer og lignende konstruksjoner.
Årsaken er at språklige konstruksjoner av sosiale spørsmål har sin egen logikk. På sine egne premisser vil folk stort sett være konsekvente overfor de formuleringene de først har lagt seg på. Dermed er deres «holdninger» stort sett programmerbare fra et minimalt omfang av informasjon i utgangspunktet.
Lett å manipulere folks oppfatninger
Dette er mekanismen som blir brukt av mange roboter som manipulerer folk på sosiale medier.
Et firma som har engasjert seg i dette er Cambridge Analytics, som i forrige uke ble anmeldt i Storbritannia og USA for illegalt å ha utsatt mer enn 50 millioner mennesker for manipulerende informasjonsinnsamling.
Slike firmaer kan samle informasjon om brukernes personlighet og emosjonelle tilstand og sende dem målrettet informasjon som hisser dem videre opp.
I vår forskning har vi sett at personlighet er mer stabilt enn oppfatninger om ting som ligger lenger unna personen, slik som oppfatninger om ledelse, organisasjon og antagelig politiske temaer.
Det er derfor lett å bruke digitale algoritmer, altså «roboter», til å manipulere folks oppfatninger. Dette består stort sett i å forenkle budskapet retorisk, spille inn elementer som mobiliserer emosjonelt, og dermed er prosessen i gang.
Skrot begrepet ekkokammer
Effekten av dette er kjent som «ekkokammer», men det er antagelig på tide å skrote dette begrepet. Et ekko er et passivt fysisk fenomen der lyden en selv lager blir kastet.
Vi snakker heller om et kompressorkammer der meninger blir spisset og kontrastert med retoriske motstykker. Den emosjonelle dynamikken i dette vil gjøre den saktmodige irritabel og den oppfarende til aktivist.
Under normale forhold vil menneskehjernen kjøle seg ned i prosesser som tar lengre tid og må avklares ansikt til ansikt. Dette skjer ikke under utviklingen av lange «tråder» på sosiale medier. I stedet mobiliseres store brukergrupper i et eskalerende tempo som våre institusjoner ikke er laget for å tåle.
Resultatet blir økende politikerforakt
Vi er altså i en situasjon der komplekse politiske problemstillinger forenkles og distribueres i et digitalt tempo, og der folk blir oppfordret til å avgi stemmer, dvs. «like og dele» basert på retorikk og magefølelsen alene.
Når slike spørsmål når politiske organer blir de håndtert av et system skapt av stortingsrepresentanter som reiste over fjellet med kløvhest. Den kompleksiteten som da oppstår virker dobbelt irriterende på de sosiale medienes brukergrupper, og resultatet blir eskalerende politikerforakt.
Stopp Facebook-parlementet
Dette er bare tilsynelatende partipolitikk. Trusselen er større enn som så, den er mot vårt bestående system.
Det skal være usagt hvor mye av denne utviklingen som kan tilskrives ondsinnede aktører, men to ting kan sies helt sikkert: Våre institusjoner mangler fullstendig kapasitet til å håndtere denne dynamikken, og det er helt sikkert meget sterke krefter der ute som vil demokratiene vondt.
Det er ingen grunn til å være naiv. Den som ser rundt seg på sosiale medier, vil oppdage at de er omgitt av spionerende roboter som lakselus på oppdrettslaksen.
Vår forskning på algoritmenes evne til å forutsi og programmere politisk adferd bør gjøre det maktpåliggende for norske politikere å legge inn bremser på den dynamikken som oppstår i sosiale medier.
Facebook, Twitter og andre sosiale medier har allerede monopol nok på kommersiell reklame. Stopp Facebook-parlamentet før det er for sent!
Referanse:
Artikkelen er publisert som kronikk i Aftenposten 25. mars 2018 (og publisert på nett dagen før).
Tekst: Professor Jan Ketil Arnulf, Institutt for ledelse og organisasjon ved Handelshøyskolen BI.