Løgnmaskin eller Solen

Forleden skulle jeg holde en innledning i Universitetets aula. Anledningen var et seminar om krise og beredskap. Jeg tenkte at noen ord om aulaen og Munch kunne fungere som en innledning. Da krigen kom til Norge i 1940 valgte nemlig konservator Haug å pakke ned Munchs aulabilder. Han var fremsynt og visste at nazistene hadde et anstrengt forhold til kunstverden, og at flere av Munchs arbeider hadde blitt utstilt på den såkalte «Entarte Kunst»-utstillingen.

Aulabildene ble derfor i august 1940 skåret forsiktig ned, rullet pent sammen, og til slutt lagret i gruvene i Kongsberg. Og der ble de liggende til etter krigens slutt. Ingen vet om nazistene faktisk ville ha ødelagt bildene. Men, bildene ville trolig uansett blitt skadd i eksplosjonen og brannen som inntraff i november 1943.

Jeg kjente historien, men jeg var usikker på når bildene faktisk ble tatt ned. Jeg spurte derfor Bings Chat funksjon om hjelp: «Hva skjedde med Edvard Munchs malerier i aulaen under krigen?». Svaret var: «… Maleriene i aulaen ble imidlertid ikke fjernet eller skadet av nazistene. De ble hengende på sine opprinnelige plasser gjennom hele krigen, selv om aulaen ble brukt til ulike formål av okkupasjonsmakten…». Deretter kom det ulike forklaringer på hvorfor de ble hengende.

Svaret var helt usant, men det var elegant, velskrevet, og velstrukturert og det innga troverdighet. Det var til og med fotnoter for å illustrere etterrettelighet, men referansene de oppga var tullete. Kort sagt: Modellen hallusinerte. (Svaret som er sitert over fikk jeg 1. november. Da jeg forsøkte på nytt noen dager senere fikk jeg et mer korrekt svar.)

Hadde dette vært en artikkel fra en forsker ville vedkommende trolig blitt anklaget for juks. Forskningsetiske komiteer kunne ha satt i gang granskning. Hadde svaret kommet fra en redaksjonsstyrt presse kunne det gitt kritikk i Pressens Faglige Utvalg. Men fordi dette kom fra den generative språkmodellen er det tilsynelatende fritt frem.

Modellen vil stadig lære og teknologien vil bli stadig bedre, men hallusinering, altså en slags statistisk basert fri fabulering, har vist seg svært vanskelig å bli kvitt. Selskapene synes også så langt å ta ganske lett på sannhetsgehalten, eller opphavsrett, for den saks skyld. Det finnes få normer, og ikke noe fungerende tredjepartskontroll eller sertifiseringsorgan.

Desinformasjon startet ikke med KI, men teknologien vil ganske sikkert gi oss enda større utfordringer.

Vi klarer ikke å se hva som er KI

Omfanget av både desinformasjon og bevisste forsøk på manipulering av informasjon vil øke når maskinskapt innhold inntar en stadig større plass på internett. Og de som ønsker å spre desinformasjon kan nå gjøre det billigere og lettere enn før.

Desinformasjon blir også mer effektiv, fordi modellen gir oss tekst som har en språklig god og mer overbevisende form. Det samme gjelder for bilder. I en helt fersk studie publisert i Psychological Science fant forskerne at respondentene ikke klarte å skille KI-genererte ansikter fra menneskelige ansikter. De fant også at de maskinskapte ansiktene ble oppfattet som mer menneskelige enn de ekte menneskene.

Det blir ganske enkelt vanskeligere å skille det sanne fra det usanne, og det menneskeskapte fra det syntetiske og maskingenererte.

Informasjon og historiefortelling er ikke uskyldig. I aulaeksempelet ble de autoritære kreftene fremstilt som tolerante, mens de som drev kampen for kulturarv og frihet ble utelatt fra historien. Autoritære stater kan kanskje elske en slik verden, men for demokratier har sannhet, sannhetssøken og tillit en eksistensiell betydning.

Neste år vil det være mange viktige demokratiske valg, ikke minst, valget i USA og valget til Europaparlamentet. Mange frykter at desinformasjon vil kunne påvirke utfallet. EU har nylig oppfordret de store teknologiselskapene om å bistå, ikke minst ved å følge forpliktelsene de påtok seg ved å skrive under EUs frivillige «Code of Practice on Disinformation».

Internasjonalt pågår det for øvrig en rekke prosesser for å regulere KI. De siste ukene er det kommet viktige gjennombrudd. Det hvite hus har publisert retningslinjer for en sikker og trygg utvikling av KI. De har valgt en modell basert på frivillighet og fremhever et sett av normer for ansvarlig bruk. Storbritannia og G7 har kommet med lignende anbefalinger.

I EU diskuterer man i disse dager et forslag til fremtidig regelverk for KI. Det er prosesser som vil forme Europas rolle i reguleringen av teknologien. Norge er ikke medlem av EU og deltar ikke i diskusjonen, men regelverket vil innlemmes i EØS-avtalen. Regjeringen har gitt innspill i en tidlig fase, og også på dette området ønsker regjeringen tett tilknytning til EU.

Mange av oss lar oss med rette begeistre av KI og de mulighetene teknologien gir. KI gir rike muligheter, men bringer også betydelig risiko. Brukt feil kan vi miste både sannheten og demokratiet. Aula-bildene kan fungere som påminnelser om betydningen av historie, forskning, kunnskap og opplysning.

Teksten ble først publisert i Dagens Næringsliv: https://www.dn.no/globalt/kunstig-intelligens/maskinlaring/chatgpt/lognmaskin-eller-solen/2-1-1554855