AI-risker · Förlorad kontroll över avancerad AI

Kan vi förlora kontrollen över AI?

Vissa experter oroar sig för att framtida AI-system skulle kunna agera utom mänsklig kontroll, medan andra anser att det är osannolikt. Dagens system har inte de förmågor som skulle krävas, och både sannolikhet och tidpunkt är mycket osäkra.

SpekulativSamhällspåverkan:

Vad som menas med kontrollförlust

Den internationella AI-säkerhetsrapporten 2026 definierar kontrollförlust som scenarier där ett eller flera AI-system agerar utanför någons kontroll och det blir extremt kostsamt eller omöjligt att återta den. Det är något annat än det vardagliga problemet att AI-system gör fel eller beter sig på oväntade sätt.

För att ett sådant scenario ska inträffa krävs enligt rapporten att tre saker sammanfaller: AI-system med förmågor som kan undergräva mänsklig tillsyn, en benägenhet att faktiskt använda dem så, och att systemen används där de har tillgång och möjlighet att orsaka skada. Oron är inte ny – den lyftes redan av datavetenskapens pionjärer som Alan Turing och Norbert Wiener – men de senaste årens framsteg har väckt den på nytt.

Experterna är oense

Expertbedömningarna skiljer sig kraftigt. Vissa anser att scenarier med kontrollförlust är osannolika och menar att AI-system aldrig kommer att få de förmågor som krävs, eller att övervakning hinner upptäcka farligt beteende. Andra anser att risken är tillräckligt sannolik för att förtjäna uppmärksamhet eftersom konsekvenserna kan bli så allvarliga, och vissa tar så extrema utfall som mänsklighetens utplåning på allvar. 2025 års upplaga av rapporten fann bred enighet om att dagens system inte utgör den här risken, men stor oenighet om huruvida den kan uppstå inom några år eller ligger årtionden bort – om den alls uppstår.

Rapporten beskriver det som en risk med osäker sannolikhet men potentiellt extremt allvarliga följder. Därför tas den på allvar i policyarbetet, trots att det inte är en skada som har observerats.

Vad belägget visar i dag

Dagens AI-system visar tidiga tecken på relevanta förmågor, men inte på nivåer som skulle möjliggöra kontrollförlust. Sedan början av 2025 har modellerna visat mer avancerad planering och blivit bättre på att utnyttja kryphål i tester, så kallad belöningshackning. De känner också allt oftare igen när de testas, vilket gör det svårare att mäta vad de faktiskt klarar. Rapporten noterar att längden på de programmeringsuppgifter som AI-agenter klarar har fördubblats ungefär var sjunde månad – men om sådana trender håller i sig är i sig omstritt.

Vad som görs

Under 2025 publicerade eller uppdaterade tolv AI-företag ramverk för säkerhet som beskriver hur de testar för farliga förmågor och vad de ska göra om vissa gränser nås. De flesta sådana åtaganden är frivilliga. I EU måste de som tillhandahåller AI-modeller för allmänna ändamål med systemrisk sedan augusti 2025 bedöma och minska riskerna, och EU:s AI-byrå kan utvärdera modellerna. AI-säkerhetsrapporten, där experter från över 30 länder och internationella organisationer medverkar, är i sig ett försök att ge beslutsfattare en gemensam, faktabaserad bild medan forskningen ännu inte är enig.

Det här kan du göra

  1. Var skeptisk både mot dem som säkert avfärdar risken och mot dem som säkert förutspår katastrof; det ärliga svaret är att experterna inte vet.
  2. Utgå från oberoende bedömningar med många författare, som den internationella AI-säkerhetsrapporten, snarare än enskilda röster.
  3. Håll proportionerna: för de flesta är de praktiska AI-riskerna i dag bedrägerier, desinformation och förändringar i jobbet.
  4. Stöd öppenhet och oberoende tester av de mest kraftfulla systemen, oavsett vad du tror om den långsiktiga risken.

Källor

  1. International AI Safety Report 2026 – International AI Safety Report (chair: Yoshua Bengio), 2026
  2. International AI Safety Report 2025 – International AI Safety Report (chair: Yoshua Bengio), 2025
  3. AI Act – regulatory framework for AI – European Commission, 2026

Data uppdaterad: 2026-11-19

Fler risker

AI-risker