KI-svermer truer demokratiet

Et internasjonalt team av medforfattere, ledet av Daniel Thilo Schroeder (SINTEF) og Jonas R. Kunst (BI), argumenterer for at vi har beveget oss fra enkle «boter» til ondsinnede KI-svermer som fungerer som en koordinert, sosial organisme.

Artikkelen er publisert i Science, et av verdens mest prestisjefylte og ledende vitenskapelige tidsskrifter.

Sammen med Nobels fredsprisvinner Maria Ressa og 17 andre akademikere fra 8 land, beskriver forskerne hvordan disse svermene gjør mer enn bare å spre propaganda; de infiltrerer nettsamfunn ved å tilpasse språk og tonefall i sanntid.

– Faren er ikke lenger bare falske nyheter, men at selve grunnlaget for den demokratiske samtalen – uavhengige stemmer – kollapser når en enkelt aktør kan kontrollere tusenvis av unike, KI-genererte profiler, sier professor Jonas R. Kunst fra Handelshøyskolen BI.

Fem sentrale egenskaper ved KI-svermer

Kollektiv koordinering: I stedet for én sentral datamaskin, jobber tusenvis av KI-personaer sammen som en kollektiv gruppe. De kan endre historiene sine i sanntid og til og med utvikle egne interne «sosiale normer», noe som gjør dem vanskeligere å spore.

Strategisk infiltrasjon: Disse svermene kartlegger sosiale nettverk for å finne sårbare grupper. De bruker spesifikk kulturell slang og skreddersydde budskap for å lure seg inn og vinne over følgere.

Etterligning på menneskelig nivå: De bruker fotorealistiske profilbilder og et naturlig språk for å omgå sikkerhetsfiltre. Ved å unngå repeterende mønstre, lurer de detektorer til å tro at de er uavhengige, menneskelige kontoer.

Optimalisering i maskinhastighet: KI-en kjører kontinuerlig millioner av «mikro-tester» på publikummet sitt. Den ser hvilke fortellinger som får mest engasjement, og sprer umiddelbart de mest vellykkede versjonene over hele nettet.

Permanent tilstedeværelse: Til forskjell fra en tidsavgrenset propagandakampanje, sover disse svermene aldri. De forblir integrert i nettsamfunn i årevis, og endrer sakte og subtilt gruppens språk, symboler og identitet.

Simulering kan være det beste forsvaret

– De neste få årene vil være avgjørende for om vi lykkes med å bekjempe neste generasjon av KI-drevne påvirkningsoperasjoner designet for å skade og påvirke samfunn og demokratier, sier forsker Daniel Thilo Schroeder fra SINTEF.

For å forsvare oss anbefaler forskerne at vi slutter å jakte på enkeltkontoer, og i stedet angriper de underliggende økonomiske mekanismene bak manipulasjon.

I tillegg til andre tiltak, som å styrke merkingen av hva som er KI og hva som er autentisk, mener de at et av de mest effektive tiltakene vil være å simulere disse angrepene lenge før de inntreffer – samtidig som man øver på dem kontinuerlig. Dette gjøres for å forstå og forutsi hvordan disse KI-svermene opererer og tilpasser seg, slik at man kan identifisere verktøy for å avsløre dem og gjøre det så vanskelig som mulig for de som ønsker å bruke dem til ondsinnede formål.

– Målet er å gjøre manipulasjon så kostbart og sårbart at koordinerte desinformasjonskampanjer raskt kollapser og ikke lenger er lønnsomme, sier Schroeder.

Les hele artikkelen i Science: https://www.science.org/doi/10.1126/science.adz1697