REPLIK – av Ulf Lundqvist, konsult i svensk och internationell
rätt.
Public affairs-rådgivaren Daniel Claesson skriver den 25 november på Dagens Juridik om system med artificiell intelligens och undrar varför domstolarna behövs i samhället. Artikeln väcker många frågor och jag väljer några av dem i min kommentar.
AI och samband med rättsordningen och rättstillämpningen är förstås ett relevant område att se närmare på, vilket också praktiker och forskare har gjort. Problematiken är bred och djupgående och den spänner över flera områden, såsom kultur, filosofi, demokrati, krigets lagar och internationell fred och säkerhet där internationellt samarbete är centralt. Mötet mellan AI och juridik är komplicerat, särskilt beträffande rättsordningen och rättstillämpningen.
Sverige har som bekant valt att vara bunden vid det internationella ekosystemet av mänskliga rättigheter genom internationella avtal och internationell sedvanerätt. Åtaganden finns bland annat till den Internationella brottmålsdomstolen i Haag (ICC), Internationella domstolen i Haag (ICJ), EU-domstolen och Europadomstolen om att effektivt och praktiskt upprätthålla dessa rättigheter och värden.
Utvecklingen av den svenska konstitutionen över 800 år med både skriven rätt, kungaförsäkringar och konungaeder visar också att domstolarnas oberoende ställning har varit av stor betydelse för det svenska samhället och dess utveckling över tiden. Maktdelning, principerna för rättsstaten, mänskliga rättigheter och skydd för människovärdet är idag kännetecknande för det svenska rättssystemet, som nära ansluter till Sveriges medlemskap i FN och EU med tillhörande grunddokument och rättspraxis.
Den offentliga makten utövas under och enligt lag där den sedan länge obsoleta Uppsalaskolan och dess princip om värdenihilism – att värden och rättigheter inte existerar utan är ren fiktion – är övergiven och begravd. 1930-talet och dess auktoritära strömningar och samhällssystem ligger lyckligtvis bakom oss. Makt är inte rätt. I annat fall kunde staten ”uppfostra” sina undersåtar fritt efter gottfinnande. Eftersom rättigheter inte existerar som den enskilde kan hävda mot staten kan staten inte heller hållas ansvarig för utövandet av makten och valet av medel och metoder för det — några fel har ju inte begåtts. Därmed råder obegränsad makt och ett fritt utövande av den utan konsekvenser. Makten utgår inte längre från folket.
Domstolarna och maktdelning är en garanti bland flera och utgör ett skydd för den enskilde mot en godtycklig och maktfullkomlig stat. Utomrättsliga, summariska och godtyckliga förfaranden är följdriktigt straffbelagda, vilket redan rättsfallet the Justice Case från andra världskriget beskriver.
Det är i modern tid både oväntat och mycket tvivelaktigt att idealisera och argumentera en härskande princip om att ändamålet helgar medlen eller att makt är rätt. Under de senaste decennierna har domstolarna fått en ännu starkare ställning enligt grundlagen samtidigt som principer om rättssäkerhet och mänskliga rättigheter stärkts ytterligare. Vi ska minnas att genom historien så har minoriteter varit exponerade mot majoritetssamhället och dess maktstrukturer där steriliseringar ägt rum av romer under 1930-talet och följande årtionden (Ds 2014:8). Längre tillbaka i tiden hade Sverige slavkolonier och deltog i den internationella slavhandeln, och inledde en kolonisering av de norra landsdelarna. Vi bör lära oss av historien, inte upprepa den.
Det är mot den bakgrunden som tekniken med artificiell intelligens ska förstås beträffande dess uppgifter att beröva eller förneka människor att utöva och åtnjuta rättigheter och värden. Men vilken värdegrund tekniken noga räknat vilar på vet vi väldigt lite om, om ens något. Tyvärr finns det ett motstånd mot att tekniken får en rättslig reglering så att den så långt möjligt lyder under grundläggande regler och rättigheter för människan och den naturliga miljön och följer internationell rätt i övrigt. Det är förstås frestande att låta olika slags uppgivna ändamål vara avgörande i det avseendet, men ett syfte säger inget om rättslig grund och gräns för tekniken och betydelsen av dess resultat givet både rättsordningen och rättstillämpningen. Insyn, kontroll och ansvarsutkrävande är för övrigt besvärliga problem att komma till rätta med, och ibland ”hallucinerar” systemet och vid upprepad tillämpning på samma fakta uppvisar den olika resultat. Tekniken knyter med andra ord an till betänkligheterna kring Uppsalaskolan och dess förnekande av rättigheter och värden som rättssystemet tillskriver den enskilde.
Tekniken är också en maktfråga. Ingenjörer och bakom stängda dörrar företagen och dess styrelser med ett uttalat vinstintresse låter system med artificiell intelligens med möjliga kända och okända moment av diskriminering och osäkerhet ersätta domaren vid prövningen i det enskilda målet av skuld, ansvar och påföljd. Men i dömandet sorteras inte människor efter typegenskaper eller beror av avkastningen av gjorda investeringar, och vid befarat jäv är det givetvis uteslutet att delta i handläggningen av målet.
Dömandet handlar om att låta parterna komma till tals och utmana varandras bevis, och att sedan pröva om villkoren för en rättsföljd enligt en författning bevisligen är uppfyllda och att skriftligen motivera utfallet av den prövningen. Den statistik som tekniken vilar på saknar dock ett kausalt samband med den unika situation som prövningen inför domstol avser, och är i den meningen en främmande fågel. Den förtrogenhetskunskap som domare får med åren kan inte heller översättas i fasta mått eller termer. Det vore då en återgång till förhållanden som förelåg under 1734-års lag, och i strid gällande rätt och fri bevisvärdering. Hur tekniksystemet prövar och beslutar värdet av muntlig bevisning i skilda konstellationer är viktigt för att undvika felaktigt fällande domar. Rättskipning handlar inte om att bevisa en moralisk överlägsenhet.
Även om statistik ibland har goda skäl för sig och eventuellt kan anses att uttrycka ett tekniskt ändamål kan statistik inte godtas som alternativ till fakta och bevis för att förneka eller beröva den enskilde fri- och rättigheter. Hit räknas inte bara liv och personlig frihet utan även egendom och hälsa, vilket erkändes redan av tidig konstitutionell rätt och kunglig ed och försäkran. Det förhållandet att det är sant att algoritmerna har opererat korrekt betyder inte att resultatet av operationerna är sant, det är äpplen och päron.
Till det ansluter även frågor om informations- och cybersäkerhet och ett oräkneligt antal varianter på inre och yttre risker och möjliga angrepp på konfidentialitet, integritet och tillgänglighet av data och system. Cyberangrepp och bland annat ransomeware är dessvärre realiteter med omfattande och långgående konsekvenser. Även om risk i första led hanteras kan nya risker uppkomma som en följd av åtgärden, och då etablera en kaskad av risker med stigande grad av acceleration. Redan idag utgör generativ AI problem.
Vore vi villiga att låta döma en egen familjemedlem till livstids fängelse med ett AI-program? Svensk militär personal eller företagsledare för krigsbrott? Vem tjänar på att samhället inte har domstolar?
