DEBATT: ”Värna konsumenttryggheten i AI-miljön”

DEBATT – av Mikael Eskilandersson, Civilpolitisk talesperson för Sverigedemokraterna,
Martin Westmont, ledamot i Civilutskottet för Sverigedemokraterna och
Rashid Farivar, ledamot i Trafikutskottet för Sverigedemokraterna 

Fördelarna med artificiell intelligens (AI) är stora, för konsumenter såsom för andra målgrupper. Debatten är också omfattande om AI, dess möjligheter, baksidorna, behoven av styrning och säkerhetsåtgärder. Internationellt har ett offentligt brev¹ författats om att bromsa AI-kapplöpningen tills nödvändiga regleringar finns på plats. Förutom många tunga techledare inom just AI-utvecklingen är även en svensk organisation involverad. Ett arbete pågår med den första förordningen som reglerar AI, förhandlingar ska ske med EU-länderna i rådet om utformningen av lagen. Det tar lång tid innan lagstiftning kommer på plats, förväntat är år 2026. Vi anser att den svenska regeringen inte bör vänta utan bör undersöka hur vi i Sverige kan förtydliga och stärka konsumenttryggheten relaterat till tjänster och funktioner där automatiserat beslutsfattande ingår. 

AI är till stor hjälp och innebär utvecklingsmöjligheter. Det är en exponentiell teknologi, teknik med kraftfull utvecklingskurva, speciellt när det gäller generativ AI och Large Language Modelling (LLM). Exponentiella teknologier kan bland annat bidra till att tillgodose människors behov av hälsosam mat, rent vatten, energi, medicin och sjukvård och har en kumulativ verkan – teknisk utveckling inom ett område påverkar möjligheterna inom andra områden. Sverige bör ligga i framkant inom teknologisk utveckling. En nationell nämnd bör inrättas för att se till utvecklingsmöjligheter och Sverige som en nation att räkna med. En AI-nämnd skulle kunna bestå av företrädare från riksdagens partier och experter från akademi, näringsliv och myndigheter, med syfte att uppdatera sig med det senaste inom utvecklingen vilket möjliggör att i tidigt skede se behovet av eventuell styrning.  

Men det finns också behov av regelskärpningar i digitala miljöer. Detta så att svaga konsument- och indirekta konsumentgrupper, såsom barn och unga, värnas. Unga är extra mottagliga för budskap och hanterar i hög grad digitala system där automatiskt beslutsfattande ingår. Konsumenttryggheten behöver även generellt stärkas relaterat till AI. Riskerna är stora för minderåriga, som utsätts för uppmaningar att handla och att köpa på avbetalning, vilket kan ske genom integrerad Chat GPT-funktion i olika tjänster. Det kan även finnas risker med hur generativ AI hanterar personlig integritet. AI är alltmer involverat i algoritmiska beslutssystem (ADS), vilket kan ge stora effekter för konsumenter när det exempelvis gäller kreditvärdighet. Konsumenter behöver först och främst veta att det system de använder innehåller AI-algoritmer, sedan få tydlig information om hur de AI-system de använder fungerar, något som inte alltid sker. Det är en särskild utmaning hur konsumenter kan få stöd i juridiska spörsmål såsom då de behandlats felaktigt eller orättvist av AI-algoritmer. En undersökning om konsumenters inställning till AI år 2022 visade bland annat att mer än hälften är bekväma med helautomatiska interaktioner om hänsyn tas till individuella önskemål, och acceptansen växer. Men även om en majoritet ser positivt på tekniken vill de fortfarande ha möjlighet att prata med en mänsklig representant. Personlig kontakt behövs också enligt undersökningen, när en kundfråga blir mer komplicerad. En majoritet konsumenter menar att det är viktigt att företag är tydliga med när de använder AI i kundinteraktion. 

Faran med att vänta med lagstiftning är att väldigt många kommer i kläm då aggressiv försäljning och osäkrade tjänster utan reglering pågår. Det gäller inte minst utsatta konsumenter. Konsumentmakten och konsumentperspektivet förloras när det saknas reglering av AI-system i samband med konsumentfrågor. 

Nyligen träffades regeringens Digitaliseringsråd i ny tappning. Rådet ska främst främja genomförandet av den allmänna digitaliseringspolitiken, lyfta fram vad Sverige kan göra för att stärka sin konkurrenskraft i den digitala ekonomin och rådet ingår i regeringens strategiska arbete på digitaliseringsområdet. Civilministern har uttalat att välfärden går miste om mycket när digital potential såsom AI inte utnyttjas, men lyfte inte då behoven av att stärka konsumentsäkerheten inom AI.  

Vi förordar att: 

• Regeringen inom sitt strategiska arbete på digitaliseringsområdet även särskilt undersöker behoven av lagreglering i Sverige för att stärka konsumenttryggheten relaterat till tjänster och funktioner där automatiserat beslutsfattande ingår.  

• Digitaliseringsrådet ges ett tydligt uppdrag att även ta hänsyn till frågor kring AI-relaterad användar- och konsumenttrygghet. 

• Särskilt se över behoven av regelskärpningar i digitala miljöer och funktioner där barn och unga vistas för att värna dem som indirekta eller direkta konsumenter.  

• Inrätta en AI-nämnd som ska uppdatera sig med det senaste inom teknikutvecklingen inom AI vilket möjliggör att i tidigt skede se behoven av eventuell styrning.