AI-risker · Deepfakes, desinformation och val

Kan AI-förfalskningar påverka val?

AI gör det billigt att skapa realistiska falska bilder, ljud och filmer, och skadorna av sådant innehåll är väl dokumenterade. Belägg för att det har avgjort val är hittills begränsade, och vid riksdagsvalet 2026 sågs ingen samordnad utländsk påverkanskampanj.

Sker redanSamhällspåverkan:

Vad som har observerats

Generativ AI kan skapa text, bilder, ljud och film som är svåra att skilja från verkligheten. Den internationella AI-säkerhetsrapporten 2026 hänvisar till studier där deltagarna trodde att AI-skriven text var skriven av människor i 77 % av fallen och tog AI-genererade röster för riktiga i 80 % av fallen. Många verktyg är gratis eller billiga, kräver inga tekniska kunskaper och kan användas anonymt.

Den tydligast dokumenterade skadan är inte politisk utan personlig. Studier som rapporten hänvisar till visar att 96 % av alla deepfake-filmer på nätet är pornografiska, och att de som drabbas oftast är kvinnor och flickor. Rapporten konstaterar samtidigt att det saknas systematiska data om hur vanliga och allvarliga skadorna är, bland annat för att många som drabbas inte anmäler.

Påverkan och val

I laboratorieförsök är AI-system ofta minst lika övertygande som människor utan expertkunskap. Enligt AI-säkerhetsrapporten är beläggen för effekten i verkligheten fortfarande begränsade, och viss forskning tyder på att kostnaden för att nå ut och svårigheten att få människor att byta åsikt sätter en gräns för hur stor påverkan kan bli.

Sverige har ett konkret exempel på båda sidor. I september 2026 beskrev Myndigheten för psykologiskt försvar (MPF) ett AI-drivet botnätverk som kallas Holiday: cirka 1 200 falska konton på X som under 2025 och 2026 gjorde över 50 000 inlägg, kommentarer och delningar och tog motsatta ställningar i politiska frågor för att polarisera. MPF bedömer att en statlig aktör köpt nätverket av ett företag i Östasien. X stängde kontona sommaren 2026. Efter riksdagsvalet den 13 september 2026 konstaterade MPF och Nationellt cybersäkerhetscenter att valet inte utsatts för några större cyberangrepp eller någon samordnad utländsk informationspåverkan.

Varför det är svårt att lösa

Verktyg som ska upptäcka förfalskningar har svårt att hänga med i hur bra innehållet blir, och det är ofta svårt att spåra en förfalskning till den som gjort den. Visst innehåll, som sexuella bilder av barn, gör skada även när alla vet att det är AI-genererat – därför räcker det inte att bara upptäcka det.

Vad som görs

Sedan augusti 2026 kräver EU:s AI-förordning att deepfakes, och AI-genererad text som publiceras för att informera allmänheten, märks tydligt. Den som tillhandahåller generativ AI ska göra innehållet identifierbart, och chattbottar ska tala om att man pratar med en maskin. En frivillig uppförandekod för märkning kompletterar reglerna. Från den 2 december 2026 är AI-system som skapar sexuellt innehåll utan samtycke eller övergreppsmaterial mot barn förbjudna i EU.

Forskare ser vattenmärkning och spårbarhet för innehåll som lovande, tillsammans med källkritik och medie- och informationskunnighet. I Sverige arbetar MPF tillsammans med andra myndigheter och plattformarna för att kartlägga och stoppa påverkansoperationer, som i fallet Holiday.

Det här kan du göra

  1. Innan du delar en uppseendeväckande bild, film eller citat: kolla vem som publicerade först och om etablerade medier rapporterar samma sak.
  2. Var extra vaksam på känsloladdat innehåll inför val – det är då förfalskningar sprids snabbast.
  3. Anmäl falska konton och manipulerat innehåll till plattformen.
  4. Om någon gör sexuella deepfakes av dig eller ditt barn: spara bevisen och polisanmäl, och anmäl till plattformen.

Källor

  1. International AI Safety Report 2026 – International AI Safety Report (chair: Yoshua Bengio), 2026
  2. AI Act – regulatory framework for AI – European Commission, 2026
  3. Botnätverket ”Holiday” användes mot Sverige – kunde stängas ner efter kartläggning av MPF – Myndigheten för psykologiskt försvar (MPF), 2026
  4. Inga större informations- eller cyberangrepp mot svenska valet – Myndigheten för psykologiskt försvar (MPF), 2026

Data uppdaterad: 2026-11-19

Fler risker

AI-risker