I 2024 står vi overfor et historisk øyeblikk: Nesten halvparten av verdens befolkning forbereder seg på å delta i nasjonale valg. Blant disse finner vi Storbritannia, USA og India – noen av verdens mest folkerike nasjoner.
2024 markerer også det første valgåret der kraftfulle generative KI-verktøy er tilgjengelige for tilnærmet hvem som helst. I en tid preget av rask teknologisk utvikling, bringer fremveksten av kunstig intelligens (KI) med seg både muligheter og store utfordringer.
En av de mest presserende utfordringene er det potensialet som KI-generert desinformasjon har til å underminere offentlig opinion og demokratiske prosesser.
Desinformasjon har vært en faktor i valgprosesser i mange år. Men nylige og raske fremskritt innen KI innebærer at det nå er billigere og enklere enn noen gang å manipulere innhold. Dette skjer samtidig som mange teknologiselskaper reduserer størrelsen på sine sikkerhetsteam, særlig de som jobber med desinformasjon, som følge av omfattende kutt i teknologisektoren i 2023. Denne kombinasjonen utgjør på mange måter en oppskrift på katastrofe.
:quality(70)/cloudfront-eu-central-1.images.arcpublishing.com/mentormedier/YXHD4366MFGZPO3JBSJDNPJKWU.jpg)
Vi har allerede sett dette utspille seg under valget i Slovakia i 2023. Bare to dager før valget ble et lydopptak lagt ut på Facebook. Problemet i dette tilfellet var at opptaket ble publisert under et 48-timers valgkampforbud for kandidatene før valglokalene åpnet – en periode der medier og politikere er pålagt å holde seg i ro.
Dette medførte at det var vanskelig for kandidatene å avkrefte innlegget offentlig. Dermed var det i stor grad opp til Meta, som har redusert i sitt team for desinformasjon og sikkerhet, å faktisk avkrefte det. Og siden innlegget var et lydopptak, utnyttet det et smutthull i Metas retningslinjer for manipulerte medier, som fastslår at det kun er «forfalskede videoer», der en person er redigert til å si noe de aldri har sagt, som faktisk bryter med reglene.
Én ting er tydelig. Det er at KI legger en helt ny dimensjon til desinformasjon.
I hvilken grad dette påvirket valgutfallet er ikke klart, men én ting er tydelig: Det er at KI legger en helt ny dimensjon til desinformasjon, og at dette kanskje bare er en liten smakebit på hva man kan vente seg.
KI-generert falsk innhold har også utspilt seg under den amerikanske valgkampen, der vi allerede har fått en forsmak på de dystre sidene ved kunstig intelligens. Spesielt oppsiktsvekkende var tilfellet i New Hampshire, der demokratiske velgere ble mål for «robocalls» med en KI-skapt stemme som hevdet å være Joe Biden. Stemmen oppfordret folk til å holde seg hjemme på valgdagen. Dette var første gang KI ble brukt i en såpass målrettet aksjon for å påvirke valgdeltakelsen direkte.
Teknologien har avansert til et punkt der det nesten uten unntak er mulig å skape troverdige, men fullstendig falske beskrivelser av personer og hendelser. Dette er et stort sprang fra noen år tilbake, da KI hovedsakelig ble assosiert med underholdning i politiske prosesser.
Stian Bromark: Desinformasjonskrigen
Det overordnede problemet her strekker seg utover teknologien selv, som bare fungerer som et verktøy. Kjernen i saken er den tilliten som er demokratiets fundament. Når det stilles spørsmål ved hva som er ekte i en verden hvor ord står mot ord, når informasjon kan fremstå som autentisk selv når den er falsk, eller når ekte informasjon avfeies som falsk, undergraves selve tilliten som demokratiet hviler på.
Teknologien har avansert til et punkt der det nesten uten unntak er mulig å skape troverdige, men fullstendig falske beskrivelser av personer og hendelser.
Utfordringene forsterkes ytterligere når teknologi brukes til å spre og skape innhold som er skremmende realistisk, men falsk. Det kan ha dype og varige konsekvenser for samfunnets evne til å skille sannhet fra løgn – og dermed for den demokratiske prosessen selv.
I en ny rapport fra World Economic Forum har bekymringer knyttet til kunstig intelligens og dens potensial til å forstyrre valgresultater toppet listen over de største risikoene for 2024. Rapporten nevner også at utover valgprosesser, er det sannsynlig at oppfatninger av virkeligheten også vil bli mer polariserte og påvirke samfunnsdebatten om emner som spenner fra folkehelse til sosial rettferdighet. Når sannheten blir mindre tydelig, kan det også føre til mer propaganda og sensur.
I USA er det flere som nå snakker om å fremme ny lovgivning om KI-generert falsk innhold. EU tar også et ledende skritt med utviklingen av sin KI-lov, som er den første reguleringen av kunstig intelligens i sitt slag.
Les også: Setter ikke ned foten for KI i skolen
Problemet er at internett ikke kjenner noen landegrenser. Den digitale informasjonsflyten er grenseløs, derfor kreves det en global innsats for å håndtere disse utfordringene effektivt.