av Andreas Wadström, senior rådgivare inom krisledning, civil- och totalförsvar.
Under en paneldiskussion med en tjänsteman från Ukrainas försvarsministerium fälldes ett uttalande som fångade min uppmärksamhet:
”Robots should fight, not humans.”
Detta uttalande speglar det teknologiska skifte vi står inför, där maskiner alltmer kan ta över mänskligt beslutsfattande på slagfältet. Den stora frågan är hur detta påverkar Totalförsvarets civila komponenter och de juridiska ramar som styr utvecklingen av både defensiva och offensiva vapensystem. Om våra motståndare tillåter full autonomi i sina vapenplattformar, vad innebär det för västerländska demokratier och våra egna regler? Står vi inför en situation där vi måste anpassa vår juridik för att möta dessa nya hot och gör det isfall någon skillnad för utvecklingen på området?
Lärdomar från historien: Historien har visat hur krigets realiteter gjort att länder snabbt omprövat sina juridiska och etiska ståndpunkter. Ett tydligt exempel är USA dramatiska omsvängning under andra världskriget. Efter första världskriget var USA en stark förespråkare för att förbjuda ”unrestricted submarine warfare” – en taktik där civila handelsfartyg attackerades utan förvarning. Men efter attacken på Pearl Harbor 1941 blev denna fördömda metod en nödvändig taktik. Sex timmar efter attacken gav USA marinchef ordern: ”Execute unrestricted air and submarine warfare against Japan.”
Två år senare hade närmare 300 japanska civila fartyg sänkts. Detta visar hur snabbt demokratier kan tvingas anpassa sig när nationens säkerhet står på spel. Denna lärdom är än mer relevant idag när vi står inför radikala förändringar, drivna av AI och autonoma system som kan minska den mänskliga faktorn i beslutsprocesser.
AI i frontlinjen av modern krigföring: Rysslands pågående krig mot Ukraina
Västerländska nationer, inklusive Sverige, har dock varit försiktiga med att utveckla fullt autonoma vapen på grund av oro för bristande mänsklig kontroll, risken för felaktiga beslut och potentiella brott mot internationell humanitär rätt. Samtidigt investerar länder som Kina.
AI betydelse för Totalförsvaret: AI har potential att revolutionera totalförsvaret och stärka Sveriges krisberedskap och civilförsvar. Genom att automatisera databehandling kan AI hjälpa till att identifiera hot mot kritisk infrastruktur, informationspåverkan och cyberattacker. I dagens hybridkrigföring, där gränsen mellan krig och fred ofta är suddig, är detta avgörande.
AI kan även underlätta samarbetet mellan militära och civila aktörer genom att integrera data från olika källor och skapa en gemensam lägesbild. För totalförsvaret är detta särskilt viktigt, då både civila och militära komponenter måste samverka för att effektivt möta hot i alla konfliktskalor.
Juridiska och etiska utmaningar med AI i krigföring: Att överlåta krigföring till maskiner väcker svåra juridiska och etiska frågor. Hur säkerställer vi att AI-system agerar inom internationell humanitär rätt? Hur garanterar vi att det mänskliga ansvaret för liv och död inte undermineras när teknologin utvecklas?
Transparens, spårbarhet och robusthet är nyckelord för att säkra AI-systemens pålitlighet. Dessa system måste kunna granskas i efterhand och agera inom tydliga juridiska ramar. Detta gäller särskilt i krigssituationer, där beslut om liv och död inte får lämnas helt till algoritmer.
Ett centralt problem med AI i krigföring är ansvarsfrågan. Vem bär ansvaret om en autonom drönare gör ett misstag eller om AI-system manipuleras av en fientlig aktör? Med tillräcklig kunskap om hur ett specifikt AI-system fungerar kan det manipuleras för att ge felaktiga resultat, med potentiellt katastrofala konsekvenser. Därför är det avgörande att vi utvecklar robusta säkerhetsåtgärder och standarder för att minimera dessa risker.
Totalförsvaret i en ny tid: Med Sveriges nya roll inom Nato måste vi harmonisera vårt totalförsvar med alliansens standarder. Det handlar inte bara om gemensamma övningar, utan även om att utveckla juridiska ramverk som kan hantera de komplexa hotbilder vi står inför. Ett särskilt fokus måste läggas på AI och autonoma system, cybersäkerhet och informationskrigföring – områden där lagstiftningen ännu inte är tillräckligt utvecklad för att möta dagens och morgondagens utmaningar.
NIS 2-direktivet (Network and Information Systems Directive) och CER-direktivet (Critical Entities Resilience Directive), är båda bra initiativ som syftar till att skydda våra demokratier under fredstida förhållanden men är otillräckliga för att hantera militära konflikter, särskilt när det gäller autonoma vapensystem och AI. Här krävs juridisk utveckling som går i takt med teknologins snabba framsteg.
Slutsats: Att försvara rättsstaten i en ny tid: Historien visar att krig ofta nödgar fram förändringar i hur länder tolkar och tillämpar juridiska och etiska normer. I dag ser vi en tydlig asymmetri mellan västerländska demokratier och länder som Ryssland och Kina, särskilt när det gäller hur vi förhåller oss till utvecklingen och användningen av AI och andra nya teknologier. Västerländska demokratier har generellt varit mer försiktiga med att implementera autonoma vapensystem på grund av oro för mänsklig kontroll och internationell humanitär rätt. Samtidigt investerar Ryssland och Kina aggressivt i AI-teknologi utan att nödvändigtvis följa samma etiska och juridiska ramar.
Denna asymmetri skapar en farlig värld, där våra motståndare inte bara kan agera snabbare och mer beslutsamt, utan också kan använda dessa teknologier på ett sätt som utmanar våra demokratiska värderingar. När AI-teknologi konvergerar med andra teknologier, som hypersoniska vapen och avancerade cyberverktyg, blir detta än mer påtagligt. Det riskerar att rubba balansen och öka sårbarheten för de länder som försöker hålla sig inom de ramar som internationell rätt ställer upp.
Det är därför avgörande att vi lyfter debatten om hur vi hanterar denna utveckling. Vi måste säkerställa att vi inte halkar efter i utvecklingen av både defensiva och offensiva system samtidigt som vi håller fast vid våra juridiska och etiska principer. Om vi inte tar detta på allvar, kan vi hamna i en situation där våra motståndare har ett avgörande teknologiskt övertag, vilket allvarligt skulle kunna hota vår säkerhet och stabilitet.
Genom att föra en bredare diskussion kring dessa frågor kan vi skapa en större förståelse för de risker och utmaningar vi står inför, och samtidigt arbeta för att stärka vårt totalförsvar i en värld där teknologin utvecklas snabbare än våra lagar.
Fotnot: Nästa vecka, den 22 oktober håller Andreas Wadström det kostnadsfria webbinariet ”Sveriges totalförsvar i praktiken – en introduktion”.
