Forklarlighed
Hvad er det?
I demokratiske samfund er vi vant til at få forklaringer på beslutninger, der påvirker os: ”Du får afslag, FORDI du ikke opfylder kravene,” eller ”Din konto er lukket, FORDI der er mistanke om svindel.” Men mange AI-systemer – særligt dem, der anvender maskinlæring eller generativ AI – er ikke designet til at forklare sig selv på en måde, som mennesker kan forstå.
Det skaber et problem, når AI træffer beslutninger med konsekvenser for menneskers liv og rettigheder – men ikke kan give en begrundelse. Generativ AI kan ovenikøbet komme med overbevisende, men falske forklaringer (såkaldte hallucinationer).
Samtidig er det vigtigt at erkende, at ikke alle automatiserede beslutninger kræver forklaringer. En algoritme, der slukker lyset på et kontor, behøver ikke at forklare sig selv. Men når beslutninger handler om økonomi, sundhed, overvågning eller adgang til velfærd, bør man kunne få logiske og forståelige forklaringer.
Eksempler
I 2023 blev flere brugere af Bing’s AI-chat (senere en del af Microsoft Copilot) forvirrede og frustrerede over AI’ens uforudsigelige og selvmodsigende svar. Da brugerne spurgte, hvordan AI’en var nået frem til sine konklusioner, kom der ingen forklaring – kun nye gætterier. Det blev tydeligt, at systemet ikke kunne gøre rede for sin egen “tænkning”.
Omvendt ser man for eksempel, at AI-søgemaskinen Perplexity er designet på en sådan måde, at den linker til sine kilder, hvilket giver brugerne mulighed for at gå tilbage og tjekke sandfærdigheden af den tekst, som Perplexity genererer.
Hvad skal man overveje?
Hvis du arbejder med AI, så spørg dig selv: Skal denne beslutning kunne forklares? Hvis ja, så vælg eller design systemer, der kan give brugerne forståelige begrundelser – og vær åben om de begrænsninger, der er.
Undgå black box-modeller til kritiske beslutninger. Indbyg forklaringsfunktioner direkte i dine systemer, eller sørg for, at et menneske altid kan give en fyldestgørende forklaring i sidste ende. Og husk: Det er ikke nok, at AI’en svarer – svaret skal også give mening for et menneske.
Forklarlighed er ikke kun en teknisk udfordring. Det er en demokratisk nødvendighed.