Automatisering
01. Er jeres brugere klar over, at de interagerer med en automatiseret løsning?
Automatiserede systemer og kunstige intelligenser bliver bedre og bedre til at kommunikere og agere som rigtige mennesker. De skriver flydende og grammatisk
korrekte tekster, og de kan tale og føre samtaler på en måde, som kan lyde næsten menneskelig. Det åbner for helt nye muligheder, hvor man sætter maskiner til at varetage kommunikationsopgaver så som kundesupport, salg, sekretærfunktioner og så videre.
De etiske udfordringer opstår, når mennesker ikke længere er klar over, at de kommunikerer med et automatiseret system. Automatiserede systemer er blevet gode til at simulere menneskelig adfærd, men de er stadig ikke mennesker, og derfor gør de ting, som ikke er menneskelige. De laver uforudsigelige fejl, og de er ikke selv i stand til at “forstå” eller forklare deres fejl.
Mennesker har derfor et behov for og en ret til at vide, når de interagerer med et automatiseret system. Dette er naturligvis særligt vigtigt, hvis det automatiserede system træffer vigtige beslutninger med stor betydning for menneskers liv. Der er forskel på en automatisk e-mail, der bekræfter dit online varekøb og et automatiseret afslag på retten til samkvem med dit barn.
Anbefalinger:
-
Gør det tydeligt for jeres brugere, at de kommunikerer med et automatiseret system.
-
Lad være med at designe jeres automatiserede system på en måde, så det minder om mennesker (Når du chatter med en robot, bør det ikke foregå i præcis samme interface, som når man chatter med et menneske).
-
Gør jeres automatiserede systemer mere maskinelle (bevar robotstemmen og et stift robotagtigt sprog).
Det dårlige eksempel:
Vi kender alle Facebooks newsfeed, hvor vi følger med i vores venner og families liv. Newsfeedet er kurateret af et automatiseret system, der regner ud – på vores vegne – hvilke opdateringer, vi skal se, og hvilke vi aldrig ser.
Da Facebook begyndte på den automatiserede kuratering, var det dog kun meget få brugere, der forstod, at sorteringen blev foretaget af en maskine. Mange mennesker troede bare, at de fik vist alle opdateringer, og undrede sig derfor over, at venner og familie nærmest var holdt op med at eksistere på Facebook. Facebook burde have gjort det meget tydeligere, at deres brugere interagerede med et automatiseret system. Det ville have givet brugerne bedre kontrol og forståelse over deres brug af Facebook.
Det gode eksempel:
Mange medievirksomheder benytter sig af nyhedsrobotter til at skrive simple artikler om f.eks. sportsresultater eller aktiekurser. I langt de fleste tilfælde gør medievirksomhederne opmærksom på dette. Jysk Fynske Medier benytter eksempelvis bylinen: “Skrevet af Jysk Fynske Mediers artikelrobot”.