Automatisering
09. Er jeres automatiserede system forandringsparat?
Automatiserede systemer bliver som regel designet på baggrund af fortidens data. Man automatiserer handlinger og arbejdsgange, som fungerer i dag, og så
regner man med, at de også vil fungere i fremtiden.
Men menneskers verden er i konstant forandring. Mennesker ændrer præferencer, holdninger og handlemønstre, hvilket betyder, at de fleste automatiserede systemer, der interagerer med mennesker, vil holde op med at virke, hvis de ikke
løbende opdateres.
Der kan være flere etiske konsekvenser af statiske automatiserede systemer. En selvkørende bil, der ikke får opdateret sine algoritmer med nye kort, vil ganske
simpelt køre galt. Men statiske algoritmer kan også fastholde uønskede fordomme, som måske var acceptable i fortiden, men som har ændret sig med tiden. Eksempelvis diskriminering af kvinder på arbejdspladser.
Anbefalinger:
-
Betragt altid jeres automatiseredesystem som work-in-progress. Det er aldrig færdigt.
-
Træn altid jeres maskinlærende systemer på nye data.
-
Vær opmærksom på, at jeres automatiserede system måske har brug for helt nye typer af data.
-
Sørg for at designe “nysgerrige” kunstige intelligenser, som afprøver og afsøger forandring og nye mønstre.