Automatisering
02. Overholder jeres automatiserede systemer lovgivning og menneskerettigheder?
Automatiserede systemer bruges i stigende grad til at træffe beslutninger, der kan have betydning for menneskers liv.
Det første etiske spørgsmål, I bør stille jer selv, er derfor, om det automatiserede system træffer beslutninger, som respekterer de helt grundlæggende menneskerettigheder.
Et stort problem ved automatiserede systemer handler om, at de med deres beslutninger kan komme til at diskriminere uretfærdigt. Diskriminering kan være etisk i orden, men ikke hvis der diskrimineres på grundlag
af faktorer som køn, race, etnicitet, genetik, sprog, religion, politisk overbevisning, handicap, alder eller seksuel orientering (ikke udtømmende liste).
Vær også opmærksom på, at jeres automatiserede system ikke skader børn, at det respekterer retten til privatliv og retten til ytringsfrihed.
Anbefalinger:
-
Tilstræb at jeres udviklingsteam har en bred diversitet og dermed en åbenhed over for minoriteters brug af jeres løsning.
-
Inddrag minoriteter og udsatte målgrupper i jeres brugerundersøgelser.
-
Sørg for at få jeres automatiserede system kontrolleret af eksperter i menneskerettigheder.