AI-risker · Bias och diskriminering

Kan AI diskriminera?

AI-system lär sig av data som speglar befintliga orättvisor och kan upprepa eller förstärka dem när de används för beslut om människor. Det är dokumenterat, även i Sverige, och EU inför nu bindande regler för högriskanvändning.

Sker redanSamhällspåverkan:

Hur bias uppstår

Med bias menas systematiska fel som gynnar vissa grupper framför andra. Den internationella AI-säkerhetsrapporten 2025 konstaterade att AI-system för allmänna ändamål ofta uppvisar bias kopplad till etnicitet, kön, kultur, ålder, funktionsnedsättning och politisk åsikt. En orsak är träningsdata, där engelskspråkigt och västerländskt material är överrepresenterat. Även designval spelar in. Ny forskning har också hittat mer subtila former, till exempel att svaren skiljer sig beroende på vilken dialekt användaren skriver på.

Tekniska åtgärder har gjort stor skillnad men fungerar inte alltid, och gränsen mellan en skadlig stereotyp och korrekt kunskap om världen kan vara svår att dra.

När bias påverkar beslut

Risken blir konkret när AI används för att avgöra vem som ska kontrolleras, anställas eller beviljas något. EU:s byrå för grundläggande rättigheter (FRA) visade 2022 hur bias kan växa över tid i prediktivt polisarbete: om polisen patrullerar där algoritmen pekar registreras mer brott just där, vilket i sin tur matas in i nästa version av algoritmen. FRA fann också tydlig bias kopplad till etnisk bakgrund, kön, religion och sexuell läggning i verktyg som ska upptäcka kränkande språk.

I Sverige inledde Integritetsskyddsmyndigheten (IMY) i juni 2025 en tillsyn av hur Försäkringskassan valde ut personer för riktade kontroller av tillfällig föräldrapenning (vab), och om ett AI-system användes. Försäkringskassan svarade att myndigheten hade använt en maskininlärningsbaserad riskprofil men slutat med det och inte planerade att ta upp den igen. IMY skrev därför av ärendet i november 2025 utan vidare utredning.

Vad som görs

EU:s AI-förordning förbjuder social poängsättning och AI som förutsäger en enskild persons risk att begå brott; förbuden gäller sedan februari 2025. AI som används inom anställning, utbildning, tillgång till viktiga offentliga och privata tjänster, brottsbekämpning, migration och rättsväsende klassas som högrisk. Sådana system ska uppfylla krav på datakvalitet, loggning, dokumentation och mänsklig kontroll. Efter ändringarna 2026 gäller reglerna från december 2027.

FRA rekommenderar återkommande tester för bias både innan och efter att ett system tas i bruk, och starkare tillsynsorgan för likabehandling med specialistkompetens. Diskrimineringslagen och dataskyddsreglerna gäller redan i dag även för automatiserade beslut.

Det här kan du göra

  1. Får du ett beslut från en myndighet eller ett företag kan du fråga hur det fattades och om automatiserade verktyg användes.
  2. Överklaga beslut som du tycker är fel; ofta går det att få en mänsklig prövning.
  3. Misstänker du diskriminering kan du anmäla till Diskrimineringsombudsmannen (DO).
  4. Använder din organisation AI för beslut om människor: testa utfallet för olika grupper både före och efter införandet.

Källor

  1. International AI Safety Report 2025 – International AI Safety Report (chair: Yoshua Bengio), 2025
  2. Bias in algorithms – Artificial intelligence and discrimination – European Union Agency for Fundamental Rights (FRA), 2022
  3. Beslut efter tillsyn enligt dataskyddsförordningen – Försäkringskassan (IMY-2025-11828) – Integritetsskyddsmyndigheten (IMY), 2025
  4. AI Act – regulatory framework for AI – European Commission, 2026

Data uppdaterad: 2026-11-19

Fler risker

AI-risker