Automatisering
09. Er jeres automatiserede system forandringsparat?
Automatiserede systemer bliver som regel designet på baggrund af fortidens data. Man automatiserer handlinger og arbejdsgange, som fungerer i dag, og så
regner man med, at de også vil fungere i fremtiden.
Men menneskers verden er i konstant forandring. Mennesker ændrer præferencer, holdninger og handlemønstre, hvilket betyder, at de fleste automatiserede systemer, der interagerer med mennesker, vil holde op med at virke, hvis de ikke
løbende opdateres.
Der kan være flere etiske konsekvenser af statiske automatiserede systemer. En selvkørende bil, der ikke får opdateret sine algoritmer med nye kort, vil ganske
simpelt køre galt. Men statiske algoritmer kan også fastholde uønskede fordomme, som måske var acceptable i fortiden, men som har ændret sig med tiden. Eksempelvis diskriminering af kvinder på arbejdspladser.
Anbefalinger:
-
Betragt altid jeres automatiseredesystem som work-in-progress. Det er aldrig færdigt.
-
Træn altid jeres maskinlærende systemer på nye data.
-
Vær opmærksom på, at jeres automatiserede system måske har brug for helt nye typer af data.
-
Sørg for at designe “nysgerrige” kunstige intelligenser, som afprøver og afsøger forandring og nye mønstre.
Det dårlige eksempel:
I 2009 formåede Google Flu Trends på baggrund af millioner af brugeres søgninger at spore en influenzaepidemi i USA to uger hurtigere end det amerikanske center for sygdomsforebyggelse.
Herefter blev det forventet, at Googles algoritme præcist kunne forudsige, hvor og hvornår en epidemi ville ramme i fremtiden.
Men efter 2009 blev Googles forudsigelser upræcise, og flere gange overvurderede tjenesten omfanget af epidemierne i en sådan grad, at Google Flu Trends efter fem år “uddøde”.
Det gode eksempel:
Når man lytter til musik på Spotify, indsamler virksomheden data om brugerens musiksmag, som bruges til at generere anbefalingslister for musik. Det ville nemt kunne udvikle sig til et ekkokammer, hvor brugeren lytter til noget musik, får anbefalet mere af det samme og derfor bliver ved med at lytte til det samme musik. Men Spotifys algoritmer er faktisk rigtig gode til at prøve grænserne af for brugerens musiksmag, hvilket betyder, at brugerne løbende får mulighed for at lytte til ny musik og prøve grænser af.
Resultatet er, at algoritmen både kan være med til at skubbe til folks musiksmag, og at den følger med, når folk over tid ændrer smag for musik (hvis de altså ikke hænger uhjælpeligt fast i gamle firser numre).