Automatisering
08. Er der nogen i virksomheden, der står klar til at gribe ind, når automatiseringen fejler?
Kunstige intelligenser kan forekomme overmenneskelige og ufejlbarlige, fordi de kan finde mønstre og lave beregninger på data, som er uforståelige for mennesker. Men kunstige intelligenser laver også fejl, og ofte er fejlene overraskende banale,
fordi de kunstige intelligenser mangler menneskers forståelse af, hvordan verden hænger sammen.
Det er derfor vigtigt, at mennesker aldrig fjernes fuldstændigt fra automatiserede beslutningssystemer.
For det første bør I sikre jer, at I har mennesker, der løbende holder øje med fejl og uregelmæssigheder i de automatiserede systemer. For det andet bør I altid sikre jer, at jeres kunder og brugere kan komme i kontakt med et menneske, hvis jeres automatiserede system svigter. Når det handler om kritisk automatisering, er sidste punkt et krav i GDPR.
Anbefalinger:
-
Vær altid meget forsigtige, hvis I fjerner mennesker fuldstændigt fra jeres automatiserede systemer.
-
Sørg altid for at have en tydelig “tal med et menneske”-knap i jeres digitale løsninger.
-
Sørg for at have rigtige mennesker stand-by til at gribe ind, når automatiseringen svigter.
-
Vær opmærksom på, at arbejdet som kontrollant af automatiserede systemer kan være monotont, kedeligt og ubehageligt.
Det dårlige eksempel:
I 2011 udviklede den amerikanske t-shirt-virksomhed, Solid Gold Bomb, en algoritme, som kunne lave sjove slogans over memet “Keep calm and carry on”. Systemet var fuldt automatiseret, så t-shirts med sjove slogans blev sat til salg på Amazon.com, uden at nogen mennesker havde kontrolleret det enkelte budskab.
Man mente ikke, at det var nødvendigt at tjekke alle t-shirts, for man producerede dem kun, hvis folk købte dem. Kort tid efter begyndte algoritmen at sætte t-shirts til salg med budskaber som “Keep calm and kill her” og “Keep calm and rape a lot”.
Sagen eksploderede på sociale medier, og kort tid efter var virksomheden gået konkurs på grund af dårlig omtale.
Det gode eksempel:
Den danske virksomhed Holo arbejder med selvkørende busser, som lige nu kører rundt i Nordhavnen i København, i Aalborg og i Oslo.
På trods af at busserne aldrig har været involveret i alvorlige uheld og aldrig kører hurtigere end 15 km/t, har Holo placeret et levende menneske i alle deres busser, som står klar til at gribe ind, hvis bussen fejler, eller hvis der opstår andre problemer med passagererne i bussen.