Data

06. Oplyser du dine brugere om, hvordan de bliver profileret?

Kunstige intelligenser og algoritmer bliver bedre og bedre til at finde mønstre i data, og ofte finder de mønstre i data, som ikke umiddelbart er synlige for det menneskelige øje. Det betyder, at virksomheder og
organisationer kan udvikle profiler om deres kunder og brugere – profiler som indeholder viden, som ikke engang brugerne selv har kendskab til. Virksomheder kan f.eks udlede folks kreditværdighed, deres præferencer i bøger, men også psykiske sygdomme, seksuelle præferencer og politiske holdninger.


Det skaber nogle åbenlyse etiske udfordringer, både i forhold til ulighed og menneskerettigheder.

 

Profilering kan skabe en høj grad af ulighed mellem virksomheden, der profilerer og mennesket, som (måske uvidende) er udsat for profilering.

 

Profilering kan også komme i konflikt med grundlæggende rettigheder, som handler om, at man ikke må opbevare personfølsomme data eller diskriminere på baggrund
af køn, race, seksualitet osv.

Anbefalinger:

  • Vær opmærksom på, at databaseret profilering kan overtræde grundlæggende menneskerettigheder.

  • Undlad at skabe profiler, der ender med at blive personfølsomme data.

  • Oplys altid jeres brugere og kunder om, hvordan de bliver profileret.

  • Gør det nemt at forstå for brugerne, hvordan profilerne er skabt.

  • Profildata er også brugernes ejendom, og de har krav på at kunne tilgå og slette denne type data.