Hacking og data-hacking
Hvad er det?
Kunstig intelligens åbner for nye muligheder – men også for nye former for hacking. Hvor traditionel hacking handler om at bryde ind i et system, handler AI-hacking ofte om at snyde systemet udefra. Det særlige ved maskinlæring er, at systemerne reagerer på omgivelser og data – og derfor kan manipuleres uden adgang til selve teknologien.
Eksempelvis har det været demonstreret, at selvkørende biler kan hackes ved at ændre omgivelserne omkring dem. Hvis man sætter et lille stykke tape på et stopskilt, kan bilens AI blive forvirret og fejllæse skiltet – selvom en menneskelig bilist aldrig ville være i tvivl. Det er ikke nødvendigvis ondsindet; ofte handler det om mennesker, der tester grænserne for teknologien – eller leger med den. Men uanset hensigten er det en form for adfærdsbaseret hacking, som alle folk der arbejder med og bruger AI bør tage højde for.
Eksempler
Et vietnamesisk sikkerhedsfirma har demonstreret, hvordan man kan bypasse Apples ansigtsgenkendelse på iPhone X med en 3D-printet maske, lavet ud fra et billede af ejeren. Det krævede hverken stor teknisk viden eller adgang til systemet – blot en kreativ udnyttelse af, hvordan AI’en genkender ansigter.
Et andet eksempel kommer fra Googles kamp mod black hat SEO – altså forsøg på at manipulere søgemaskinens algoritmer ved at skabe falske links, overdreven nøgleordsbrug eller netværk af hjemmesider, der henviser til hinanden. Det er ikke hacking i klassisk forstand, men det er stadig et forsøg på at snyde AI’en til at træffe forkerte beslutninger.
Hvad skal man overveje?
Hvis du arbejder med AI, bør du ikke kun tænke på klassisk it-sikkerhed. Du bør også overveje, hvordan dine AI-systemer kan manipuleres udefra – og hvordan folk kan reagere på dem. Det gælder især systemer, der interagerer med den fysiske verden eller træffer beslutninger ud fra input fra brugere, billeder, sensorer eller tekst.
Tænk i worst-case-scenarier: Hvad sker der, hvis nogen forsøger at snyde jeres system? Overvej også, hvordan I kan teste og forbedre jeres systemer, så de tåler virkelighedens kreativitet og modstand.
Endelig: Uetiske eller uigennemsigtige systemer inviterer ofte til hacking – enten som protest eller som eksperiment. Jo mere ansvarligt og transparent et AI-system er, desto mindre bliver behovet for at “stikke til det”.