Kommuner, regioner och myndigheter börjar nu införa algoritmer och AI för att fatta beslut. Det ger fantastiska möjligheter, men vi ser också med oro bristen på transparens och respekt för skattepengar. Utvecklingen går snabbt och Sverige behöver både stora investeringar och en strategi.
Alltför ofta betyder nya digitala system att datan hamnar i andra länder, i privat ägo, och att det som skulle ha underlättat för de anställda snarare resulterar i en högre arbetsbelastning. Något är trasigt i svensk digitalisering.
Livsförändrande beslut har nästan rutinmässigt automatiserats. Beslut om boende, stöd, vård och arbetsförmåga överlämnas till automatiserade algoritmer. Ofta är det helt omöjligt för den enskilde att ta reda på hur beslutet togs och på vilka grunder.
Det riskerar att undergräva principen om offentlighet och möjligheten att överklaga beslut och förstå grunderna för de fattas. Det offentliga Sverige lyckas inte kombinera rättssäkerhet, öppenhet och teknisk utveckling och då riskerar demokratin att bli en svart låda som ingen litar på.
I Nederländerna infördes ett system med offentligt finansierade barnomsorgstjänster. Skatteverket upprättade ett datasystem för kontroll av bidragen där systemet valt ut misstänkta fall för kontroll med stöd av en AI-baserad självlärande funktion för riskklassificering.
En av flera riskfaktorer för bedrägeri var förmånstagares medborgarskap, med utländskt medborgarskap som en särskild riskfaktor. I kombination med oproportionerligt hårda sanktioner blev resultatet ett beslutsstöd som konsekvent diskriminerade utifrån nationalitet, och i dess spår följde mänskliga tragedier. När omfattningen av skandalen avslöjades tvingades holländarna regeringen att avgå.
I Göteborg fick familjer veta vilken skola deras barn antogs till. Barnen placerades på tvären över stadens vattendrag med en orimligt lång skolväg som följd. En grupp föräldrar lade ett pussel och såg att 12 000 placeringsbeslut fattades samma dag, och att placeringsbesluten baserades på fågelperspektivet, inte barnens faktiska skolväg runt ån.
Det blev tydligt att en algoritm hade fattat besluten, och att många av besluten hade varit felaktiga. Även om stadens egna revisorer fastställde att besluten fattades av en algoritm, lämnades inte källkoden till föräldrarna och majoriteten av besluten korrigeras inte.
Det är livsfarligt när vi bygger in våra fördomar i källkoden – kan det leda till skeva resultat som riskerar att gå långt utöver det ursprungliga syftet med algoritmen. Riskerna är särskilt stora när algoritmer i praktiken fattar myndighetsbeslut. Utan transparens är det också ofta nästan omöjligt för individen eller media att granska, vilket sliter sönder förtroendet för det offentliga Sverige.
Öppen källkod gör tekniken mer transparent, granskningsbar och öppen för samskapande.
Makten måste föras tillbaka till de demokratiska institutionerna. Ett sätt att säkerställa att rätt frågor ställs i de algoritmer som används inom offentlig förvaltning är att förvaltningen designar och kodar dem själva från grunden. Öppen källkod gör tekniken mer transparent, granskningsbar och öppen för samskapande. Det skulle göra den offentliga sektorn mindre beroende av enskilda företags egna patenterade lösningar och patenterade system.
Det är inte rimligt att regioner och kommuner lämnas ensamma i frågor, det krävs att staten tar ansvar för samordning och regelverk.
AI är en del av framtiden, vare sig vi gillar det eller inte. De potentiella vinsterna med effektivitet och ökad precision genom AI är stora. Men en risk är att det blir svårare att ta ansvar. Vi ser faror med att beslutsfattare har en naiv attityd där AI-system framställs som bortom mänsklig förståelse, och därmed mänsklig kontroll.
Demokratiskt inflytande över teknik som AI krävs nu. För att gå vidare mot en hållbar introduktion av AI i den offentliga sektorn har vi tre konkreta förslag:
1. Synlighet och transparens. Vårt demokratiska system bygger på att medborgare, tillsynsmyndigheter och media ska kunna granska och ifrågasätta offentliga beslut. I Sverige är vi ofta stolta över vår offentlighetsprincip, men idag fungerar det inte för automatiserade beslut.
2. Autonomi. Offentlig sektor ska vara en ledande innovatör och kompetent beställare inom digital utveckling, inte en passiv kund. När kommuner och regioner tar fram egna modeller undviker de att fastna i kommersiella modeller och upphandlingar med tveksamma villkor. Lösningarna kräver egen utvecklingsförmåga eller förstärkt beställare- och tillsynskompetens.
3. Staten måste gå framåt. Regleringar och incitament måste ses över. Förstärkt transparens genom tillsyn och revision är centrala verktyg för att säkerställa korrekt användning av AI i förvaltningens arbete.
När grundläggande förutsättningar för transparens, opartiskhet och transparens är uppfyllda är det utmärkt att vår offentliga sektor stärks av AI. Tills dess krävs mod i offentlig sektor att kräva att grundläggande demokratiska förutsättningar uppfylls och att i övrigt våga säga nej till AI-lösningar.
Läs fler artiklar från DN Debatt.
Upptäck mer från idag nyheter
Prenumerera för att få de senaste inläggen skickade till din e-post.
