Automatisering

01. Er jeres brugere klar over, at de interagerer med en automatiseret løsning?

Automatiserede systemer og kunstige intelligenser bliver bedre og bedre til at kommunikere og agere som rigtige mennesker. De skriver flydende og grammatisk
korrekte tekster, og de kan tale og føre samtaler på en måde, som kan lyde næsten menneskelig. Det åbner for helt nye muligheder, hvor man sætter maskiner til at varetage kommunikationsopgaver så som kundesupport, salg, sekretærfunktioner og så videre.


De etiske udfordringer opstår, når mennesker ikke længere er klar over, at de kommunikerer med et automatiseret system. Automatiserede systemer er blevet gode til at simulere menneskelig adfærd, men de er stadig ikke mennesker, og derfor gør de ting, som ikke er menneskelige. De laver uforudsigelige fejl, og de er ikke selv i stand til at “forstå” eller forklare deres fejl.

 

Mennesker har derfor et behov for og en ret til at vide, når de interagerer med et automatiseret system. Dette er naturligvis særligt vigtigt, hvis det automatiserede system træffer vigtige beslutninger med stor betydning for menneskers liv. Der er forskel på en automatisk e-mail, der bekræfter dit online varekøb og et automatiseret afslag på retten til samkvem med dit barn.

Anbefalinger:

  • Gør det tydeligt for jeres brugere, at de kommunikerer med et automatiseret system.

  • Lad være med at designe jeres automatiserede system på en måde, så det minder om mennesker (Når du chatter med en robot, bør det ikke foregå i præcis samme interface, som når man chatter med et menneske).

  • Gør jeres automatiserede systemer mere maskinelle (bevar robotstemmen og et stift robotagtigt sprog).