Automatisering

08. Er der nogen i virksomheden, der står klar til at gribe ind, når automatiseringen fejler?

Kunstige intelligenser kan forekomme overmenneskelige og ufejlbarlige, fordi de kan finde mønstre og lave beregninger på data, som er uforståelige for mennesker. Men kunstige intelligenser laver også fejl, og ofte er fejlene overraskende banale,
fordi de kunstige intelligenser mangler menneskers forståelse af, hvordan verden hænger sammen.


Det er derfor vigtigt, at mennesker aldrig fjernes fuldstændigt fra automatiserede beslutningssystemer.
For det første bør I sikre jer, at I har mennesker, der løbende holder øje med fejl og uregelmæssigheder i de automatiserede systemer. For det andet bør I altid sikre jer, at jeres kunder og brugere kan komme i kontakt med et menneske, hvis jeres automatiserede system svigter. Når det handler om kritisk automatisering, er sidste punkt et krav i GDPR.

Anbefalinger:

  • Vær altid meget forsigtige, hvis I fjerner mennesker fuldstændigt fra jeres automatiserede systemer.

  • Sørg altid for at have en tydelig “tal med et menneske”-knap i jeres digitale løsninger.

  • Sørg for at have rigtige mennesker stand-by til at gribe ind, når automatiseringen svigter.

  • Vær opmærksom på, at arbejdet som kontrollant af automatiserede systemer kan være monotont, kedeligt og ubehageligt.