Automatisering

04. Er jeres automatiserede system transparent, så man kan kigge ind i maskinrummet?

Automatiserede systemer bliver ofte designet til at træffe mange og hurtige beslutninger, men de er ikke designet til, at folk skal kunne forstå disse beslutninger. Men I mange tilfælde er det faktisk vigtigt, at folk forstår, hvordan et automatiseret beslutningssystem fungerer.


Algoritmer kan lave fejl, og de kan være trænet på dårlige data, som gør, at de systematisk diskriminerer. Hvis man ikke kan åbne motorhjelmen på det automatiske system, kan man heller ikke finde fejlene og uretfærdighederne.


Det er naturligvis de færreste almindelige mennesker, der kan åbne motorhjelmen og forstå de bagvedliggende algoritmer, men åbenhed kan også betyde, at man gør sine algoritmer tilgængelige og gennemsigtige for eksperter og lovgivere, som handler påvegne af almindelige mennesker.

 

Hvis algoritmerne indeholder forretningshemmeligheder, kan man også invitere uafhængige eksperter indenfor til lukkede etiske reviews, så man ikke behøver at afsløre forretningshemmeligheder.

Anbefalinger:

  • Forsøg at forklare til offentligheden, hvordan jeres automatiserede systemer træffer beslutninger.

  • Gør jeres algoritmer åbne og tilgængelige, så eksperter kan “åbne motorhjelmen”.

  • Invitér eksperter indenfor til at lave reviews af jeres algoritmer.

  • Forklar hvordan jeres automatiserede system er trænet eller bygget.

  • Forsøg så vidt muligt at udvikle simple algoritmer med menneskeligt forståelige logikker.

  • Undgå så vidt muligt black boxsystemer, hvor I ikke engang selv forstår, hvordan algoritmerne fungerer.