Kunstig intelligens og demokrati: En ny utfordring for valgprosessen

Kunstig intelligens (KI) er i ferd med å revolusjonere måten vi kommuniserer, samhandler og tar beslutninger på. Men hvordan påvirker dette demokratiet vårt, og hvilke tiltak kan vi iverksette for å sikre frie og rettferdige valg?

I dag lanserte ekspertgruppen for «Kunstig intelligens og demokratiske valg» sin rapport og overleverte til det som faktisk ble første opptreden for den nye kommunalministeren Kjersti Stenseng (Ap). Som mente dette var et viktig arbeid, og visste også til det initiativet som hun gjorde som partisekretær i Arbeiderpartiet, for å få til en enighet mellom Stortingspartiene, om å beskytte stortingsvalget mot deepfakes. 

Jeg var spent tilhører til lanseringsseminaret, og antok at ekspertgruppen hadde identifisert en rekke utfordringer, men ville de komme med tilstrekkelige forslag til tiltak og løsninger?

Slik jeg ser det er det særlig fem områder som bør tas særlig tak i og som det bør komme konkrete tilttak på straks. Ja, det haster faktisk, for Stortingsvalget 2025 er kun 8 måneder unna, og vi må ikke være naive og tro at dette ikke kan slå inn hos oss i Norge, når vi ser påvirkning i flere andre liberale demokratier.

1. Desinformasjon og deepfakes – en trussel mot sannheten

KI gjør det enklere enn noensinne å manipulere bilder, lyd og video, og deepfake-teknologi kan brukes til å spre falsk informasjon som undergraver velgernes tillit. Under det amerikanske presidentvalget så vi at ble deepfakes brukt til å skape falske videoer av politikere, noe som illustrerer hvordan slike teknologier kan påvirke valgprosesser globalt. Vi så nær våre egne grenser, da dansk Folkeparti tok i bruk en deepfake-video med statsminister Mette Frederiksen.

Her mener jeg viktige tiltak er:

• Styrking av mediekompetanse: Befolkningen må rustes med kritisk tenkning for å identifisere falsk innhold. I Finland har myndighetene allerede implementert programmer i skoler for å lære elever å gjenkjenne desinformasjon. Dette mener jeg er helt avgjørende, også for å dempe de negative konsekvensene vi også ser av sosiale medier, og som jeg mener er et langt bedre grep for også håndtere negative effekter av sosiale medier, enn å øke aldersgrensene.
  
• Samarbeid med teknologiselskaper: Plattformene må ta et større ansvar for å utvikle avanserte verktøy som kan oppdage og merke deepfake-innhold. Her må plattformselskapene stilles til ansvar for å bekjempe falsk informasjon gjennom KI-drevne verifikasjonsverktøy. Å ha dialog med disse selskapene er viktig, og derfor er møteinitiativene til digitaliseringsminster Karianne Tung viktig, også for å kunne ha dialog om denne problematikken.
  
• Rask faktasjekk: Mediene må bli mer effektive i å avdekke og tilbakevise desinformasjon i sanntid. Faktasjekk-organisasjoner som Snopes og Faktisk.no har vist at tidlig intervensjon kan redusere spredningen av falsk informasjon. Dessverre ser vi nå at Musk/X og Zuckerberg/Meta, legger ned sine egne faktasjekkere og dermed åpner opp for mer desinformasjon og spredning av det jeg vil adressere i punkt 2 og 3.

2. Mikromålretting i valgkampanjer – demokrati eller manipulering?

Politiske aktører kan bruke KI til å skreddersy budskap til spesifikke velgergrupper basert på detaljerte dataprofileringer. Cambridge Analytica-skandalen viste hvordan datainnsamling og KI kan brukes til å manipulere velgere ved å eksponere dem for spesifikke budskap.

Her mener jeg viktige tiltak er:

• Regulering av politisk annonsering: Krav om åpenhet rundt hvordan politiske kampanjer bruker KI og hvem de retter seg mot, slik som EUs «Digital Services Act» foreskriver.
  
• Begrensning av datainnsamling: GDPR-regelverket må håndheves strengere for å forhindre misbruk av personlig data i politiske valgkamper.
  
• Tydelig merking av KI-generert innhold: Velgere må vite når de blir eksponert for KI-generert kommunikasjon. En rekke land vurderer å innføre krav om at KI-generert innhold i politisk reklame må merkes tydelig.

3. Automatiserte bot-nettverk – forvrengning av den offentlige debatten

KI-drevne bot-nettverk kan skape et kunstig inntrykk av folkelig støtte eller motstand, og dermed manipulere den offentlige opinionen. Under Brexit-avstemningen i 2016 ble det dokumentert omfattende bruk av bots for å spre polarisert innhold. Nylig så vi slik bot-nettverk kjøre ut den fabrikerte påstanden om at presidentkandidat Kamala Harris var involvert i en påkjørsel i 2011, og en deepfake-video som feilaktig anklaget Minnesotas guvernør og visepresidentkandidat Tim Walz for seksuelle overgrep.

Her mener jeg viktige tiltak er:

• Identifikasjon av automatisert innhold: Plattformene bør merke innhold generert av KI-drevne kontoer.
  
• Utvikling av deteksjonsverktøy: Investering i teknologi for å oppdage og motvirke skadelige bot-nettverk, slik som Google DeepMind, som har utviklet avanserte KI-verktøy for dette formålet.
  
• Tilsyn og regulering: Myndighetene bør stille krav til sosiale mediers ansvar for å forhindre manipulering. EU vurderer nå en egen lovpakke for å begrense bruk av automatiserte nettverk i politiske prosesser. Det vil også hindre spredning av slike bot-nettverk.

4. Sårbarheter i valginfrastrukturen – KI som cybertrussel

Valgsystemer blir stadig mer digitaliserte, men dette åpner også for nye sårbarheter. Kan KI brukes til å manipulere valginfrastrukturen? Eksempler fra USA har vist at hackere kan utnytte svakheter i elektroniske stemmegivningssystemer.

Her mener jeg viktige tiltak er:

• Sikkerhetsrevisjoner: Regelmessige tester for å identifisere og lukke sikkerhetshull. Estland har etablert et robust cybersikkerhetssystem rundt sin digitale valginfrastruktur.
  
• Beredskapsplaner: Utvikling av prosedyrer for å håndtere KI-relaterte cyberangrep mot valgsystemer. I Canada har myndighetene utarbeidet en nasjonal strategi for å beskytte valgprosesser mot digitale angrep.
  
• Internasjonalt samarbeid: Felles strategier for å beskytte demokratiske institusjoner mot teknologiske trusler. NATO har nylig etablert en KI-enhet for å håndtere slike utfordringer på tvers av medlemsland.

5. Behov for regulering og etiske retningslinjer – hvem har ansvaret?

For at KI skal kunne brukes ansvarlig i demokratiske prosesser, må det etableres tydelige regler og retningslinjer. Uten dette risikerer vi en utvikling der teknologi brukes til å manipulere velgere i stedet for å styrke demokratiet.

Her mener jeg viktige tiltak er:

• Utvikling av etiske retningslinjer: KI må utvikles og brukes i tråd med demokratiske verdier. OECD har allerede etablert retningslinjer for ansvarlig KI-bruk.
  
• Lovgivning: Eksisterende lover må tilpasses for å regulere bruken av KI i politisk sammenheng. EU jobber med en ny «AI Act» som vil regulere KI-bruk i demokratiske prosesser.
  
• Åpenhet og ansvarlighet: Myndigheter og teknologiselskaper må sikre at velgere forstår hvordan KI påvirker politiske prosesser. Flere forskningsinstitusjoner, som MIT, jobber nå med modeller for større åpenhet rundt KI-algoritmer.

Veien videre

Ekspertgruppen peker på utfordringene KI skaper for demokratiske valg, men det er behov for flere konkrete og forpliktende tiltak. Teknologien utvikler seg raskt, og det er avgjørende at lovgivning og reguleringer holder tritt. Demokratiet er avhengig av tillit, og det er et felles ansvar å sørge for at kunstig intelligens ikke undergraver, men styrker de demokratiske prosessene. For i KI ligger det, som med sosiale medier også, en stor demokratisk mulighet også. Men vi må ikke være naive, ved å samtidig slippe til de negative påvirkningene. Den vanskelige debatten er:

=> Hvordan kan vi sikre at KI tjener demokratiet fremfor å true det?

Den debatten må vi ta nå, før det er for sent.