peter svarre

Automatiserede systemer bliver ofte designet til at træffe mange og hurtige beslutninger, men de er ikke designet til, at folk skal kunne forstå disse beslutninger. Men I mange tilfælde er det faktisk vigtigt, at folk forstår, hvordan et automatiseret beslutningssystem fungerer.

Algoritmer kan lave fejl, og de kan være trænet på dårlige data, som gør, at de systematisk diskriminerer. Hvis man ikke kan åbne motorhjelmen på det automatiske system, kan man heller ikke finde fejlene og uretfærdighederne.

Det er naturligvis de færreste almindelige mennesker, der kan åbne motorhjelmen og forstå de bagvedliggende algoritmer, men åbenhed kan også betyde, at man gør sine algoritmer tilgængelige og gennemsigtige for eksperter og lovgivere, som handler påvegne af almindelige mennesker.

 

Hvis algoritmerne indeholder forretningshemmeligheder, kan man også invitere uafhængige eksperter indenfor til lukkede etiske reviews, så man ikke behøver at afsløre forretningshemmeligheder.