Multiplikator-effekten: Når intelligens krever mer enn algoritmer

Vi har snakket med BI-forskerne Jan Ketil Arnulf, professor i organisasjonspsykologi, og Tarje B. Gaustad, førsteamanuensis i markedsføring, for å dekonstruere mekanismene bak maskinen. Sammen uthever de hva som skiller de som blir styrt av teknologien, fra de som lærer seg å styre den.

Psykologien bak maskinen 

Jan Ketil Arnulf, psykolog og professor i ledelse, samt ansvarlig for det nye kurset Kunstig intelligent organisasjonspsykologi, ser på KI som en utvidelse av den menneskelige kognisjonen. Han mener vi må slutte å snakke om å erstatte tenkning, og heller lære oss å akselerere den. 

Skal vi lykkes, må vi først erkjenne at de nye verktøyene tvinger frem en fundamental endring i hvordan vi tar beslutninger.

– Dersom disse språkmodellene (KI) ikke påvirker måten du tenker, lærer og tar beslutninger på, så bruker du dem feil. Vi mennesker har alltid brukt verktøy utenfor hodet til tenkning, det er ingen som tenker med bare hjernen, og alle tankeverktøy krever læring hos den som bruker dem. Hvis du oppfører deg overfor språkmodeller som om du ikke trenger å tilpasse deg, da bruker du dem feil. Utover dette vil påvirkningen være kraftig i årene som kommer, på måter vi foreløpig ikke kan forutsi.

Frykten for at vi «outsourcer» vår egen kompetanse er reell, men Arnulf argumenterer for at vi heller må se på teknologien som en forsterker. Det handler ikke om hvem som gjør jobben, men om hvordan verktøyet endrer brukerens kapasitet.

– Med litt trening vil dette være som å gå fra tråsykkel til motorsykkel. Vi skal ikke overlate tenkningen vår til KI. Kunstig intelligens er ikke i seg selv intelligent, men en intelligens-multiplikator. Hvis du bruker den på en intelligent måte, blir du selv mye mer intelligent. Hvis du bruker den på en dum måte, blir du selv mye dummere. Det er ikke verktøyet som er intelligent, det er brukeren.

Dette krever en ny form for dannelse. Det er ikke lenger nok å mestre et fagfelt, man må også mestre grensesnittet mellom menneske og maskin. Arnulf peker på to spesifikke ferdigheter som vil definere fremtidens vinnere.

– Den første ferdigheten man bør utvikle er et mer avansert forhold til hva språklige representasjoner egentlig er, i hjerner og maskiner. Til nå har vi vært spart for å forstå hva språk er bare vi kan snakke norsk. Det er slutt, vi må forstå at språk bare er en bestemt type kart. Den andre ferdigheten er å forstå sosial samhandling, fordi all teknologi må fungere sammen med mennesket for å være en nyttig, relativt ufarlig hjelp. Teknologi som ikke er forankret i menneskelige samspill står i fare for å destabilisere bedrifter og samfunn, både økonomisk og teknologisk.

Jan Ketil Arnulf er professor ved Institutt for organisasjon og ledelse, og forfatter av boken Kunstig intelligent psykologi. 

Strategisk dømmekraft i praksis 

Når de psykologiske mekanismene er forstått, gjenstår bruken. Som forsker advarer Tarje B. Gaustad mot en verden som drukner i det gjennomsnittlige. Når alle har tilgang til de samme algoritmene, forsvinner det tekniske forspranget, og den strategiske kvaliteten på vurderingene blir det eneste som skiller aktørene.

– Kvaliteten på markedsføring blir mindre knyttet til selve produksjonen, og mer til vurderingene som ligger bak. Fordi KI gjør det ekstremt effektivt å være generisk. Derfor holder det ikke lenger å lage noe som ser profesjonelt ut. Det dårlige er ikke nødvendigvis det som ser svakt ut ved første øyekast. Det kan like gjerne være kommunikasjon som er velformulert og effektiv, men strategisk svak. God markedsføring handler fortsatt om å forstå hva virksomheten prøver å oppnå, hvilke kunder som faktisk er viktige, og hvilke valg som styrker posisjonen over tid. 

Dette reiser et kritisk spørsmål om kreativitetens overlevelse, og hvordan vi skal differensiere produkter og tjenester. Gaustad mener utfordringen blir å motstå gravitasjonen mot det middelmådige.

– Når mange bruker de samme verktøyene øker risikoen for generisk markedsføring. Språkmodellene er gode til å gi plausible, ryddige og brukbare svar, men sjeldnere til å gi noe som virkelig skiller seg ut. De bygger på sannsynlighetsberegninger og gir deg det som fremstår som det mest troverdige svaret. Derfor trekkes de også ofte mot et språklig og innholdsmessig gjennomsnitt. Kreativitet og differensiering kommer ikke av at man bruker KI. Det kommer av det du selv tilfører utover det verktøyene gir alle tilgang til. 

Det er en utbredt misforståelse at teknologien skal avlaste oss for tankearbeid. I virkeligheten krever den at vi er mer til stede enn før. Faren oppstår i det øyeblikket vi slutter å stille spørsmål.

– Forskningen forteller oss at verdien av KI-bruk i stor grad avhenger av om brukeren faktisk vurderer, overprøver og korrigerer det som kommer ut. Metakognisjon blir da viktig: evnen din til å overvåke og korrigere egen tenkning underveis, stille spørsmål ved det første svaret og bruke output som et startpunkt, ikke en konklusjon.

Gaustad advarer virksomheter mot å la seg forføre av effektiviteten, og dermed ende opp med det han kaller for «kognitiv kapitulasjon».

– Virksomheter må passe seg for å tro at høyere tempo automatisk gir høyere verdi. KI gjør det lett å produsere mer, men også lett å fylle kanalene med kommunikasjon som er glatt, forutsigbar og uten tydelig særpreg. Mer aktivitet er ikke det samme som bedre markedsføring. 

Forskeren ser en tendens til at den kritiske sansen viker til fordel for bekvemmelighet, og medfører en umerkelig delegering av selve faget:

– Alle fagfolk, enten det er ledere eller spesialister, bør passe seg for å havne i kognitiv kapitulasjon. Altså at man venner seg til å gå rett til KI og adopterer svaret før man egentlig har tenkt selv. Risikoen er at man slutter å gjøre det faglige arbeidet som virkelig skaper verdi: å vurdere, prioritere, korrigere og ta ansvar. For en virksomhet er det særlig risikabelt i spørsmål som gjelder merkevare, posisjon og langsiktig utvikling.

Tarje Gaustad er førsteamanuensis ved Institutt for markedsføring og har publisert flere artikler på temaet KI og markedsføring.

Når støyen stilner

Vi befinner oss i en tid der det teknisk mulige truer med å overskygge det strategisk fornuftige. Vi avsluttet derfor samtalen med å stille det samme spørsmålet til begge forskerne.

Hva er det viktigste vi bør forstå om kunstig intelligens for å skape mer verdi, ikke bare mer output?

Arnulf: – Det er en reell fare for at maskinene drukner oss i støy, det vil si uvesentlig informasjon. Motgiften mot støy ligger i det tekniske ordet «kompresjon». Kompresjon er begrepet som brukes i informasjonsteori for å koke informasjonsmengder ned til den viktigste essensen. Begrepet finnes i mange tekniske sammenhenger og vi kjenner det fra dagliglivet i fenomener som sammendrag, formler, kodebok eller ekspertise.

Gaustad: – Spørsmålet er om du klarer å bruke KI til noe ikke alle andre klarer. Skal det skape verdi, må verktøyet brukes til å støtte analyse, frembringe alternativer, utfordre hypoteser og komme raskere frem, uten at du gir fra deg vurderingsansvaret. Derfor blir det avgjørende å kunne spørre om svaret faktisk er godt, om problemet er riktig formulert, og om anbefalingen passer med virksomhetens mål og posisjon.

Lederskap i en tid med «intelligens-multiplikatorer» 

Skjæringspunktet mellom Arnulf og Gaustad avdekker en fundamental sannhet: Kunstig intelligens er ikke en erstatning for lederskap, men en test av det. Enten vi snakker om å mestre «kompresjon» eller å unngå «kognitiv kapitulasjon», forblir ansvaret det samme.

Verdien skapes ikke i prompten, men i den kritiske korrigeringen som følger etterpå. For å beholde styringen må vi forstå mer, ikke mindre.

Relatert til saken: 
Tarje Gaustad, Markedsstrategi
Jan Ketil Arnulf, Kunstig intelligent organisasjonspsykologi
Kurs innen AI
Videreutdanning på BI

Tekst: Jo-Inge Mandt