Regeringskansliets tystnad förvånar oss

Nu har remisstiden för regeringens utredning om automatisering av beslut i Sveriges kommuner gått ut. Ska algoritmer, som redan börjat ta allt mer plats i offentlig förvaltning, nu få ta beslut utan mänsklig översyn – och, som vi redan sett, utan insyn och granskning? Utredningens förslag är att tillåta detta, och det har vi vänt oss emot.

När kommunala kärnverksamheter automatiseras berör det i första hand individer som kämpar med sjukdom, arbetslöshet och ekonomiskt obestånd.

Utsatta drabbas hårdast

Förbundet och våra medlemmar har inget emot automatisering eller algoritmer när det handlar om att förbättra och effektivisera den offentliga sektorn, tvärtom. De har en viktig roll att fylla och enorm potential att förverkliga. Vi ser däremot att om detta som föreslagits ska införas på bred front behövs reglering, precis som i all annan teknisk utveckling. Alternativet är att de som redan är mest utsatta drabbas hårdast av den nya teknikens baksida och dess oförutsedda konsekvenser.

Vilka som drabbas hårdast när kommunerna experimenterar med algoritmer i sina verksamheter vet vi redan. När kommunala kärnverksamheter automatiseras berör det i första hand individer som kämpar med sjukdom, arbetslöshet och ekonomiskt obestånd. Socialtjänsten möter barn och föräldrar som mest av allt behöver stöd och skydd från samhället, inte buggar och betaversioner.

Krävs seriös reglering

I Sverige har redan känsliga uppgifter läckt ut från den kommun som sedan ett antal år på egen hand har bedömt att automatisering är lagligt. Internationellt finns det så många rapporter att det knappt går att räkna dem om hur artificiell intelligens diskriminerar utifrån hudfärg, kön eller social tillhörighet, kring algoritmer som fattar beslut ingen begriper sig på, liksom av godtycklig statlig övervakning och profilering.

Därför har vi svarat nej på förslaget om att legalisera automatiseringen av kommunala beslut, om det inte samtidigt kompletteras med seriös reglering. Vi måste säkra insynen för att inte kommunernas beslut ska bli svarta lådor som ingen förstår. Vi behöver en etik för AI och maskininlärning, inklusive en svart lista kring vilka beslut som måste fattas av människor. Vi kräver att medborgarens intressen styr utvecklingen – inte konsultföretagens resultaträkning.

Förvånande tystnad

Vi hoppas nu att de ledande politikerna på området kliver fram och tar ansvar för situationen. Från Regeringskansliet har det hittills varit helt tyst, vilket förvånar oss. Under sommaren har vi sett en omfattande debatt om vikten av insyn i de offentliga algoritmerna i både svensk och internationell press, som vi utgår att relevanta politiska företrädare tagit del av även om de inte tagit plats i den.

Detta kan bli en vinnarfråga för Sverige. Vi talar ofta som att vi ligger i täten, men sanningen är att vi har en jumboplats och är bland de sista inom OECD när det kommer till öppna data i förvaltningen. För att vända det krävs att samhället går före, och det krävs handlingskraft och politik. Utredningen har lagts fram – men en klok regering kan komplettera förslaget och bryta ett förlorat decennium av utebliven algoritmpolitik.