Data
06. Oplyser du dine brugere om, hvordan de bliver profileret?
Kunstige intelligenser og algoritmer bliver bedre og bedre til at finde mønstre i data, og ofte finder de mønstre i data, som ikke umiddelbart er synlige for det menneskelige øje. Det betyder, at virksomheder og
organisationer kan udvikle profiler om deres kunder og brugere – profiler som indeholder viden, som ikke engang brugerne selv har kendskab til. Virksomheder kan f.eks udlede folks kreditværdighed, deres præferencer i bøger, men også psykiske sygdomme, seksuelle præferencer og politiske holdninger.
Det skaber nogle åbenlyse etiske udfordringer, både i forhold til ulighed og menneskerettigheder.
Profilering kan skabe en høj grad af ulighed mellem virksomheden, der profilerer og mennesket, som (måske uvidende) er udsat for profilering.
Profilering kan også komme i konflikt med grundlæggende rettigheder, som handler om, at man ikke må opbevare personfølsomme data eller diskriminere på baggrund
af køn, race, seksualitet osv.
Anbefalinger:
-
Vær opmærksom på, at databaseret profilering kan overtræde grundlæggende menneskerettigheder.
-
Undlad at skabe profiler, der ender med at blive personfølsomme data.
-
Oplys altid jeres brugere og kunder om, hvordan de bliver profileret.
-
Gør det nemt at forstå for brugerne, hvordan profilerne er skabt.
-
Profildata er også brugernes ejendom, og de har krav på at kunne tilgå og slette denne type data.