Data
06. Oplyser du dine brugere om, hvordan de bliver profileret?
Kunstige intelligenser og algoritmer bliver bedre og bedre til at finde mønstre i data, og ofte finder de mønstre i data, som ikke umiddelbart er synlige for det menneskelige øje. Det betyder, at virksomheder og
organisationer kan udvikle profiler om deres kunder og brugere – profiler som indeholder viden, som ikke engang brugerne selv har kendskab til. Virksomheder kan f.eks udlede folks kreditværdighed, deres præferencer i bøger, men også psykiske sygdomme, seksuelle præferencer og politiske holdninger.
Det skaber nogle åbenlyse etiske udfordringer, både i forhold til ulighed og menneskerettigheder.
Profilering kan skabe en høj grad af ulighed mellem virksomheden, der profilerer og mennesket, som (måske uvidende) er udsat for profilering.
Profilering kan også komme i konflikt med grundlæggende rettigheder, som handler om, at man ikke må opbevare personfølsomme data eller diskriminere på baggrund
af køn, race, seksualitet osv.
Anbefalinger:
-
Vær opmærksom på, at databaseret profilering kan overtræde grundlæggende menneskerettigheder.
-
Undlad at skabe profiler, der ender med at blive personfølsomme data.
-
Oplys altid jeres brugere og kunder om, hvordan de bliver profileret.
-
Gør det nemt at forstå for brugerne, hvordan profilerne er skabt.
-
Profildata er også brugernes ejendom, og de har krav på at kunne tilgå og slette denne type data.
Det dårlige eksempel:
Target er en amerikansk retailer, som indsamler store mængder af data om folks købsadfærd, og bruger data til at skabe profiler af deres kunder. Profilerne bliver brugt til at sende mails ud med tilbud på produkter. Virksomheden lavede blandt andet profiler på, om kunder udviser tegn på at være gravide, så de kunne sende tilbud på graviditets- og babyprodukter.
I 2012 resulterede det i en historie om, at en ung gymnasiepige fik tilsendt graviditetsrelaterede tilbud, selvom hverken hun selv eller hendes forældre havde kendskab til hendes graviditet. Det skabte en del problemer i den lille familie, og fik Target til at genoverveje deres brug af profilering i marketing.
Det gode eksempel:
Facebook er sjældent en virksomhed, som fremhæves som specielt dataetisk, men Facebook er faktisk rigtig gode til at vise, hvordan deres indsamlede data bliver brugt til at kategorisere (profilere) den enkelte bruger i forskellige interesseområder. Det kan annoncører bruge til målretning af annoncer.
Man finder området under privatlivsindstillinger på Facebook. Området er nemt at finde, og det er brugervenligt sat op, så man nemt får et overblik over de hundredvis af interesser, som knytter sig til ens profil på Facebook.
Brugerne kan også vælge at slette interesser, så de ikke i fremtiden vil blive ramt af markedsføring inden for dette emneområde.