Automatisering

10. Kan jeres automatiserede system hackes?

Selvkørende biler anvender kunstig intelligens til at tolke de sanseindtryk, de møder fra bilens mange sensorer.

 

Problemet er, at disse sanseindtryk kan hackes uden at bryde ind i bilen men simpelthen ved at ændre på bilens omgivelser. Eksempelvis har folk fundet ud af, at man kan få selvkørende biler til at overse stopskilte,
hvis man klæber hvid tape på skiltet i bestemte mønstre. Man skal naturligvis sikre sine digitale løsninger mod traditionel hacking, hvor folk bryder ind i et system, men moderne maskinlærende systemer, som er baseret på læring fra den virkelige verden, åbner for helt nye muligheder for hacking.


Ofte er der ikke engang tale om ondsindet hacking men bare folk, der vil lave sjov med “robotterne”. Som f.eks. når folk hopper ud foran selvkørende biler for at teste, om de rent faktisk bremser.

Anbefalinger:

  • Tænk i worst-case scenarier: Der vil altid være nogen, der forsøger at snyde jeres automatiserede
    system.

  • Overvej og test evt. hvordan mennesker vil reagere på jeres automatiserede system og tag højde for deres reaktioner i videreudviklingen.

  • Vær opmærksom på, at uetiske systemer i højere grad vil motivere til hacking og datamanipulation.