DEBATT – av Ulf Lundqvist, konsult i svensk och internationell rätt
I media förekommer allt oftare ny information om system med artificiell intelligens, vilket beror av den snabba teknikutvecklingen på området. De enorma vinster som ett fåtal stora företag inom tekniksektorn gör passerar inte heller obemärkt förbi i spalterna. Återkommande är också uppgifter om allvarliga cyberhot mot verksamheter och direkta eller indirekta sårbarheter
relaterade till dessa. Det finns beaktansvärda – och ibland högst substantiella – risker att hantera för organisationens ledning med dess anställda och konsulter. Det är strängt angeläget att upprätthålla och säkerställa informationens konfidentialitet, integritet, och tillgänglighet i tid för den som har behörighet till den.
Det har med tiden visat sig att det finns brister hos svenska företag och myndigheter beträffande cybersäkerheten, vilket AI-modeller såsom Mythos och Moltbots förstärker de negativa följderna av. Inom den offentliga förvaltningen på regional nivå har det för övrigt vid flera tillfällen förekommit långvariga och kostsamma problem med journalsystem som inte fungerat korrekt eller inte alls. Det har allvarligt äventyrat patientsäkerheten och orsakat stora förluster i effektivitet i arbetsflöden i den samhällskritiska verksamhet som hälso- och sjukvården utgör.
Rättskipning utgör en central del av den demokratiska rättsstaten med människan i centrum med skydd för mänskliga rättigheter och människovärdet. Enligt grundlagen råder maktdelning mellan den lagstiftande makten, den dömande samt styrande makten. Domstolarna är inrättade
enligt lag med oberoende och opartiska domare. Förtroendet från allmänheten är viktigt för att domstolarna ska anses vara legitima institutioner: justice must not only be done, but must also publicly seen to be done, är en känd etisk princip som vägleder domare vilken också har antagits i rättspraxis av Europadomstolen i Strasbourg.
System med artificiell intelligens i rättskipningen väcker flera komplexa och djupgående frågor om makt, rätt och rättvisa (jag har noterat några i mitt bidrag till festskrift tillägnad Bengt Lindell, Iustus Förlag 2021), och det är fel forum att utveckla ämnet mera ingående här. Men några reflektioner finns det plats för.
Vi lever nu liksom vid arbetet med gällande rättegångsbalk i en tid av ovisshet med krig i närområdet och flera andra allvarliga konflikter runt om i världen. Det svenska medlemskapet i NATO har resulterat i stora och stigande utgifter för det militära och civila försvaret där avancerade cyberhot och hybridkrigföring förekommer frekvent. Politisk diskussion förs kring att
inrätta en helt ny myndighet för informationsinhämtning med stora organisatoriska förändringar som följd om det blir av. På straffrättens område sker stora förändringar liksom beträffande straffprocessuella tvångsmedel. I dagarna beslutar riksdagen huruvida polisen får använda system med artificiell intelligens för ansiktsigenkänning i realtid, vilket utgör en mycket allvarlig integritetskränkning med risk för diskriminering.
Takten för förändring är uppskruvad med en sektorövergripande betydelse och stora följder för centrala institutioner i samhället, och har ofta bäring på den enskilda människan och hennes ställning gent emot staten. Kritik har förts fram om att tiden inte varit tillräcklig för att ingående överväga den praktiska tillämpningen och de långsiktiga konsekvenserna av olika lagförslag, och att Lagrådets kritiska yttranden lämnats utan beaktande vid den fortsatta beredningen av förslaget. Det har sagts att kvaliteten i vissa lagar ställer tillämparen i svåra situationer som en följd av mindre genomtänkta produkter. Det är inte uteslutet att en rättsovisshet försvårar och försenar för den enskilde att få sin rätt prövad och för domstolarna att rätt förstå och tillämpa sådan lagstiftning. Såvitt kan bedömas hittills saknas indikationer på en ökad tillämpning av institutet om lagprövning enligt stadgandet i 11 kap. 14 § regeringsformen.
Det är mot denna bakgrund tveksamt om tiden är rätt vald och mogen för att upphäva och ersätta delar av rättegångsbalken med tekniska system och automatiserat eller autonomt beslutsfattande. Om så ändå befanns att vara motiverat uppkommer bland annat följande frågeställningar:
- Vad händer med nämndemannens uppgift vid rättegången? Blir den lättare eller svårare?
- Hur påverkas offentligheten vid rättegången och allmänhetens möjlighet till insyn i
domstolarnas arbete för att värna dess legitimitet, och för medierapporteringen? Insyn
och offentlighet var en viktig uppgift vid antagandet av nuvarande rättegångsbalk. - Urholkas förhandlingens omedelbarhet och försvagas den fria bevisvärderingen? En AI-sammanfattning av målet riskerar att utgöra ankare och en omedveten snedvridning med
risk för bristande opartiskhet. Domaren får inte ha en förutfattad mening vid
förhandlingen och dom i målet, och ska även av en utomstående betraktare uppfattas
som opartisk. - Försvagas och förminskas rätten för den misstänkte att berika utredningen respektive att
vara passiv utan att lida nackdelar av det valet? Ingen står i ”skuld” till samhället där
åklagaren har bevisbördan för ansvarspåståendet (ställt utom rimligt tvivel). - Hur bör problemen med generativ AI hanteras inom rättskipningen?
- Tekniken inbjuder till invändningar och överklaganden och skolstrider mellan
sakkunniga: ska det vara partssakkunniga eller utsedda av domstolen? - I konsekvensens namn bör system med artificiell intelligens även användas för att pröva
och besluta i skiljeärenden. Inte helt sällan överstiger kostnaderna i sådana mål vida det
omtvistade beloppet och en autonom procedur vore kanske ett bättre alternativ för
klienten.
En bristande tilltro bland befolkningen med avseende på system med artificiell intelligens i allmänhet och särskilt vid en användning inom rättskipningen utgör i förekommande fall incitament för ett ökat antal överklaganden och som följd ökade målbalanser och stigande kostnader.
AI-system kanske bättre hör hemma i common law-familjer med jurysystem där några skäl inte ges för skuld och ansvar. Sverige tillhör emellertid inte den anglo-amerikanska rättsfamiljen och domar ska vara väl motiverade för att part ska förstå utgången och rätt kunna överväga möjligheten att överklaga eller avge en nöjdförklaring för att direkt påbörja verkställigheten av den beslutade påföljden. Erfarenheten visar för övrigt att erkännanden ibland är felaktiga på
grund av missförstånd, felskrivningar, frånvaro av försvarare eller utgör så kallade taktiska erkännanden för egen del eller annans räkning. Det är inte heller möjligt att på civilrättslig grund samtycka till en straffrättslig påföljd.
Svenska åklagare har en skyldighet att väcka åtal när det föreligger skäl för det. I common law-familjer däremot är det vanligen en fråga om lämplighet på skönsmässig grund – inte laglighet – och en rimlig indikation från ett AI-system om att brott statistiskt sett föreligger och att en viss karaktär vanligen innebär tillhörighet till en grupp av gärningsmän är då tillräckligt för åtal. Enligt svensk rätt är det gärningens farlighet som räknas, inte tanken eller karaktären hos en person. Vid rättegången prövas en unik händelse som redan utspelat sig, inte en AI-prognos om en mer eller mindre (o)sannolik framtida händelse. Svenska åklagare kan för övrigt hänvisa till rättegångsbalken för att väcka åtal om det skulle förekomma påtryckningar eller etiskt svåra situationer. En lämplighetsprincip erbjuder inte samma skydd för målsägaren.
Som alternativ till system med artificiell intelligens i rättskipningen märks bland annat att åklagaren får utfärda strafförelägganden, vars område för tillämpning kan ses över och bli vidare jämfört med idag. Av intresse är också bevisöverenskommelser mellan parterna, och det bör inte vara uteslutet att domaren borde ha mandat att begränsa antalet åtalspunkter och antalet
vittnen och tiden för förhör med vittnen och andra. Sådana frågor kan avhandlas vid en muntlig förberedelse inför huvudförhandlingen. Ett av part sent åberopat bevis borde kanske avvisas om det saknas giltig ursäkt eller andra godtagbara skäl för dröjsmålet (jämför stadgandet i 35 kap.
7 § femte punkten rättegångsbalken).
Enligt grundlagen utgår den offentliga makten från folket och makten utövas under och enligt lag. Men med artificiell intelligens i rättskipningen synes makten snarast att utgå från aktieägare och ingenjörer och makten utövas i allt väsentligt under algoritmer och system med artificiell intelligens. Dessa system är eklektiska eftersom de består av en mix av filosofi, matematik, ekonomi, neurovetenskap, psykologi, tekniken för att konstruera datorer, tekniken om att föremål reglerar sig själva, och lingvistik. Här finns möjligen en förklaring till att AI-modeller ibland ”hallucinerar”. Tydligt är att algoritmer inte utgör rättsregler eller väcker sådana till liv, inte heller gör tekniska standarder det. Dessa ingår inte i rättsordningen. Det är riksdagen i egenskap av folkets främsta företrädare som stiftar lag.
En människocentrerad rättskipning kommer till uttryck i 2 kap. 11 § st. 2 RF om rätt till en rättvis rättegång, Europakonventionen om mänskliga rättigheter, EU-rätten, och både skriven internationell rätt och internationell sedvanerätt. Den misstänkte förlorar inte sina grundläggande fri- och rättigheter vid brott och inte heller sitt människovärde.
Ett eventuellt möte mellan kommersiella intressen och den statliga förvaltningen av vålds- och åtalsmonopolet i det hegemoniska statsystemet med utbildade professionella domare bör inte underskattas i sina konsekvenser. En M&A av förvaltning och rättskipning strider mot kravet enligt regeringsformen och internationell rätt på maktdelning mellan den lagstiftande, den dömande samt den styrande makten, och äventyrade den enskildes fri- och rättigheter i snabbt föränderlig värld. Fri- och rättigheter ska i rättskipningen vara effektiva och praktiska, inte teoretiska och illusoriska.
