Automatisering
10. Kan jeres automatiserede system hackes?
Selvkørende biler anvender kunstig intelligens til at tolke de sanseindtryk, de møder fra bilens mange sensorer.
Problemet er, at disse sanseindtryk kan hackes uden at bryde ind i bilen men simpelthen ved at ændre på bilens omgivelser. Eksempelvis har folk fundet ud af, at man kan få selvkørende biler til at overse stopskilte,
hvis man klæber hvid tape på skiltet i bestemte mønstre. Man skal naturligvis sikre sine digitale løsninger mod traditionel hacking, hvor folk bryder ind i et system, men moderne maskinlærende systemer, som er baseret på læring fra den virkelige verden, åbner for helt nye muligheder for hacking.
Ofte er der ikke engang tale om ondsindet hacking men bare folk, der vil lave sjov med “robotterne”. Som f.eks. når folk hopper ud foran selvkørende biler for at teste, om de rent faktisk bremser.
Anbefalinger:
-
Tænk i worst-case scenarier: Der vil altid være nogen, der forsøger at snyde jeres automatiserede
system. -
Overvej og test evt. hvordan mennesker vil reagere på jeres automatiserede system og tag højde for deres reaktioner i videreudviklingen.
-
Vær opmærksom på, at uetiske systemer i højere grad vil motivere til hacking og datamanipulation.
Det dårlige eksempel:
Et vietnamesisk it-sikkerhedsfirma har demonstreret, at de kan hacke ansigtsgenkendelsen på en iPhone X. Det foregår ved, at man laver en 3D printet “tvillingemaske”, som kan fremstilles for under 2000 kroner.
Man behøver altså ikke at være ekspert i computere for at bryde ind i en iPhone, man skal blot have et billede af sit offer og adgang til en 3D printer.
Det gode eksempel:
Google er verdens vigtigste søgemaskine, og det kan være liv og død for virksomheder, om de ligger øverst i Googles søgeresultater. Derfor er der naturligvis mange, der forsøger at gennemskue Googles algoritmer, så de kan komme højere op på resultatsiden.
Nogle gange går folk over grænsen og benytter sig af metoder, som forsøger at hacke Googles algoritme. Det er også kendt som black hat søgemaskineoptimering. Google ligger i en evig kamp mod disse hackere, som ikke bryder ind i Googles systemer men forsøger at hacke de data, som Google bruger til at rangere resultater.
Google har foreløbigt vundet kampen mod de sorte hatte, men det er en evig kamp, som kræver tusindvis af dedikerede medarbejdere, der hele tiden videreudvikler Googles algoritmer.