Glem effektivisering med AI - gå efter forbedring!

Jeg har tænkt en del over regeringens meget ambitiøse plan om at ville spare 30.000 årsværk i den offentlige sektor ved hjælp af AI. Som flere eksperter har konkluderet, så er de 30.000 årsværk sandsynligvis hyperbolsk ønsketænkning, som ikke har nogen forankring i virkelighedens verden. Erfaringer fra kommunerne viser da også, at man indtil videre har sparet… hold fast… 34,35 årsværk ved hjælp af AI. Der er med andre ord langt igen!!!

Men det virkelige problem er ikke, at planen er urealistisk. Det virkelige problem er, at effektivisering og besparelser bare er et virkelig dårligt udgangspunkt, når man skal måle på effekten af nye og uprøvede teknologier som AI. Når man udelukkende fokuserer på effektivisering og besparelser bliver resultatet nemlig ofte halvfærdige og menneskefjendske it-systemer, som sparer mandetimer, men som i sidste ende leverer dårligere kvalitativ velfærd for borgerne.

Tænk bare på Skats forsøg på at spare mandetimer ved at automatisere vurderingen af boligpriser. En total katastrofe, som ikke alene har undergravet borgernes tillid til skattesystemet, det har også kostet skatteborgerne milliarder af kroner i forsøget på at rette op på den fejlslagne automatisering.

Man får, hvad man måler

Problemet opstår fordi effektivisering er et alt for simpelt måltal for succes. Det er forholdsvist simpelt at lave et AI-system, der effektiviserer en eller anden proces og så måle på, om man efterfølgende kan fyre nogle medarbejdere. Og når man først er begyndt at måle, kan man efterfølgende skrue på parametrene i AI-systemet og optimere og optimere indtil, man ikke kan vride flere årsværk ud af maskinen. Og hvis man ovenikøbet er tvunget til at optimere maskinen til at finde 30.000 årsværk, ja så forsvinder alle andre hensyn end den maskinelle optimering af den simple målsætning: at spare og effektivisere.

I denne proces forsvinder alle hensyn til, om AI-systemet nu også leverer bedre service til borgerne, om det er brugervenligt, om det er forståeligt, og om det i det hele taget opfører sig etisk. Selvfølgelig er alle disse hensyn sandsynligvis med i en kravspec, men de ligger nede på side 1573 i bilag 23, afsnit 7, stykke 4. Så længe der ikke optimeres på kvalitet, borgertilfredshed og etik, vil disse hensyn altid komme i anden række, hvilket i sidste ende vil resultere i ganske forfærdelige offentlige AI-systemer.

Mål på at gøre en positiv forskel

Min egen erfaring med at udvikle digitale systemer – og særligt når det handler om AI og automatisering – er, at man får de bedste resultater, når målsætningen ikke er besparelser, men derimod forbedringer. Med andre ord at bygge produkter, hvor man måler på brugertilfredshed og produkternes evne til at gøre en positiv forskel i borgernes liv. Det er langt mere komplekst og mudret at måle på den slags kvalitative mål, men det er faktisk også hele pointen. Hvis målingen er kompleks og potentielt tvetydig, tvinger det udviklerne til at tænke bag om løsningen og for alvor forstå, hvordan et produkt anvendes, og hvordan det gør en forskel – negativt eller positivt – i borgernes liv.

Og selvfølgelig kan automatiseringsteknologier som AI også bruges til at effektivisere og finde besparelser. Min pointe er blot, at man bør vente med at lede efter besparelser til teknologien er så moden og gennemprøvet, at man forstår præcis, hvordan man sparer penge og ressourcer, og man forstår hvilke positive og negative trade-offs, man kan forvente af automatiseringen.