Superintelligente maskiner
(Dette indlæg har også været bragt som kronik i Politiken)
I 2004 udskrev det amerikanske forsvarsministerium en konkurrence, hvor deltagerne skulle dyste om at udvikle en selvkørende bil, der på egen hånd kunne navigere gennem den amerikanske Mojaveørken. Konkurrencen udviklede sig til en ren katastrofe. Ikke en eneste af de deltagende biler, som var udviklet på førende amerikanske forskningsuniversiteter, gennemførte løbet. Bilerne ramlede ind i sten, kørte i grøften eller trillede rundt på siden.
Året efter vendte deltagerne tilbage til Mojaveørkenen med nye biler, og denne gang var det som om, at der var sket et mirakel. Hele fem biler gennemførte løbet, og stort set alle bilerne kørte væsentligt længere end bilerne i 2004.
Hvad var der sket?
I 2004 havde man forsøgt at lære bilerne at køre ved at fylde dem med menneskeskabte regler for bilkørsel. I 2005 havde man opgivet denne tilgang og var i stedet begyndt at lade bilerne lære bilkørsel af sig selv. I stedet for at kode regler for bilkørsel ind i bilerne, lod man bilerne udvikle deres egne regler ved at lade dem observere, hvordan mennesker kører bil.
Som alle os med kørekort ved, så handler bilkørsel om meget andet end at følge regler. Man skal naturligvis stoppe for rødt og holde til højre på motorvejen, men bilkørsel bliver først naturligt og flydende, når man glemmer reglerne og begynder at følge sin fornemmelse og intuition for vejen, bilen og medtrafikanterne. I 2004 måtte man konkludere, at denne intuitive fornemmelse var umulig at programmere manuelt ind i en bil. Den eneste vej til intuitive og fornemmende biler gik gennem maskinlæring – en teknologi, hvor man lod maskinerne lære ved at observere deres omgivelser.
Lederen af Stanford-universitetets vinderhold i Mojaveørkenen hed Sebastian Thrun, og han blev meget kort tid efter rekrutteret af Google til at virkeliggøre virksomhedens ambition om at sætte selvkørende biler fri i alverdens gader og stræder. Sebastian Thruns rejse fra forskningsverdenen til én af verdens mest magtfulde teknologivirksomheder blev et billede på den udvikling, som var sat i gang med maskinlæring. Lige pludselig var maskinlæring ikke en teoretisk disciplin, som matematiske nørder brød deres hoved med på topuniversiteter. Det var en praktisk og anvendelig teknologi, som begyndte at udvise mirakuløse resultater ude i den virkelige verden. Som med et trylleslag begyndte computere at kunne genkende billeder lige så godt som mennesker, de kunne oversætte sprog, de kunne tale, og i 2016 udmanøvrerede de også menneskeheden i det komplekse asiatiske spil Go, hvilket man ellers havde forsvoret, fordi Go forudsætter, at spillerne har en stor mængde intuition og fornemmelse for brættet.
Du har måske bemærket, at der er påfaldende få spammails i din e-mail indbakke. Det skyldes lærende maskiner, der er i stand til intuitivt at genkende mønstre i suspekte mails. Og du har måske også bemærket, hvordan reklamer på internettet er blevet mere personlige og relevante for netop dig. Det hænger sammen med, at lærende maskiner bruger tusindvis af data til at forstå dig og din adfærd på nettet til at målrette reklamer.
Maskinlæringsmiraklet er mildest talt en revolution, og når man ser på, hvor hurtigt det er gået siden de første biler fumlede rundt i Mojaveørkenen, kan man ikke lade være med at følge udviklingen af maskinlæring helt ud i horisonten og forestille sig en snarligt kommende verden, hvor maskinerne bliver klogere, stærkere, dygtigere og hurtigere end os analoge mennesker.
Den amerikanske opfinder og teknologiprofet Ray Kurzweil mener, at man kan fremskrive den teknologiske udvikling inden for kunstig intelligens så præcist, at man må forvente, at 2045 er året, hvor maskiner bliver klogere end mennesket, og herefter bliver intet det samme. Kurzweil kalder dette tidspunkt for singulariteten, fordi skiftet for menneskeheden bliver så stort, at det minder om de fysiske kræfter, som slippes løs, når en stjerne omdannes til et sort hul (centrum af et sort hul betegnes som en singularitet). Kurzweil ser med længsel frem til år 2045, blandt andet fordi singulariteten ifølge ham vil muliggøre evigt liv. Men andre er mere skeptiske. I 2015 publicerede Elon Musk, Stephen Hawking og en lang række forskere inden for kunstig intelligens et brev, der advarede verden om kunstig intelligens, der løber løbsk med uoverskuelige konsekvenser for menneskeheden. Og rundt omkring i verden findes der forskningsinstitutioner med navne som Future of Humanity Institute, Future of Life Institute og Open AI, der alle forsker i, hvordan vi undgår, at kunstig intelligens efterlader mennesket som evolutionært bundslam i en verden, hvor superkloge maskiner har overtaget verdensherredømmet.
Her er det værd at stoppe op et øjeblik, for menneskeheden har altid været tilbøjelig til at forestille sig hvordan nye teknologier udvikler sig til amokløbne kunstige væsener, som gør oprør mod deres egne skabere. Tænk på Mary Shelleys Frankenstein, som blev skrevet i en tid, hvor oplysningstiden var i fuld sving. Tænk på den tjekkiske skuespilforfatter Karel Capeks stykke R.U.R. (Rosumovi Univerzální Roboti) fra 1920, der handler om, hvordan millioner af industrifremstillede robotter overtager verdensherredømmet. Eller computertidsalderens Terminator-film, som beskriver, hvordan en kunstig intelligens opnår selvbevidsthed og beslutter sig for at udslette menneskeheden. Det er som om, at alle nye teknologiske fremskridt de seneste 200 år har gået hånd i hånd med forestillinger om, hvordan teknologierne pludselig løber løbsk og gør mennesker overflødige. Og alligevel er vi her stadig!
Men måske er maskinlæring anderledes. Måske har vi endelig fundet de vises sten – en sten som ikke forvandler simpelt metal til guld, men en sten som gør maskiner klogere end mennesker.
Den mest succesfulde gren inden for maskinlæring er de såkaldte neurale netværk, som er en teknologi, der efterligner den menneskelige hjernes grundlæggende struktur. Alle forskere er enige om, at kunstige neurale netværk er ganske primitive i sammenligning med den menneskelige hjerne, men der er til gengæld også mange forskere, der mener, at de kunstige neurale netværk kan blive meget større, dybere og mere komplekse, indtil de en dag bliver lige så sofistikerede som den menneskelige hjerne. Det er altså blot et spørgsmål om computerkraft og tid, før maskinlæring og neurale netværk kommer til et punkt, hvor de er på niveau med mennesket. Man har spurgt en stor gruppe forskere inden for kunstig intelligens om, hvornår dette kommer til at ske, og 90 procent af dem mener, at det kommer til at ske inden for 60 år.
Og hvad sker der så?
Hvis en kunstig intelligens bliver lige så klog som et menneske, kan den jo også begynde at udvikle kunstige intelligenser, og her begynder det at blive interessant. For elektroniske neurale netværk fungerer typisk millioner af gange hurtigere end menneskets egne neurale netværk, og læg dertil, at de nye kunstige intelligenser bliver endnu klogere og endnu hurtigere, hvilket betyder, at vi kommer ind i en dobbelteksponentiel udvikling, hvor kunstig intelligens stikker af fra mennesket, både fordi de tænker hurtigere, og fordi de er i stand til at forbedre sig selv.
Den anerkendte svenske filosof Nick Bostrom kalder dette fænomen en intelligenseksplosion, og han har gjort sig grundige overvejelser om, hvor hurtigt en sådan intelligenseksplosion kommer til at forløbe. De fleste mennesker ville nok tro, at det kommer til at tage mange år, dekader eller århundreder før kunstige intelligenser bliver meget klogere end mennesker, men Bostrom mener faktisk, at det er langt mere sandsynligt, at denne intelligenseksplosion vil tage dage eller måske bare timer.
Så status er altså, at en hel del kloge mennesker mener, at der på et tidspunkt mellem i dag og 2075 vil opstå en superintelligens, som i løbet af ganske kort tid vil blive så intelligent, at vi mennesker vil ligne myrer eller bakterier i sammenligning. Heldigvis må man formode, at en superklog computer også er en supersympatisk computer, som kan se det meningsfulde i at behandle mennesker og planeten jorden ordentligt. Ikke?
Ikke helt, siger Nick Bostrom. Der er nemlig intet, der tyder på, at der er en nødvendig sammenhæng mellem øget intelligens og øget moral, hvilket betyder, at vi sagtens kan stå ansigt til ansigt med en superintelligens, der er fløjtende ligeglad med menneskehedens fremtid. Bostrom er blevet kendt for et tankeeksperiment, hvor en simpel kunstig intelligens bliver sat til at lave papirklips. En dag går denne kunstige intelligens (af uransagelige årsager) gennem en intelligenseksplosion, hvorefter den med sine intellektuelle superkræfter går i gang med at omdanne hele jorden, solsystemet, galaksen og universet til papirklips, indtil der ikke er flere atomer tilbage i universet.
Hvis vi tror på, at superkloge computere ikke nødvendigvis er supersøde computere, så er vi død og pine nødt til at finde ud af, hvordan vi lærer dem at opføre sig ordentligt, før de bliver superkloge. Og det skaber et par gigantiske udfordringer:
For det første er det svært at forklare nutidens kunstige intelligenser om menneskelig etik og moral, fordi de stadig er temmelig dumme og slet ikke forstår begreber som etik og moral. Vi er med andre ord nødt til at ramme præcis det rette tidspunkt, hvor de er kloge nok til at forstå os som mennesker, men hvor de endnu ikke er blevet så kloge, at de er blevet ligeglade med mennesker. Og dette tidspunkt kan – hvis man tror Nick Bostrom – være et spørgsmål om timer eller dage.
For det andet har vi mennesker absolut overhovedet ingen idé om, hvad vi selv vil her i verden, så hvordan skulle vi nogensinde kunne forklare det til en computer. Mennesket har filosoferet over livets mening og spørgsmålet om godt og ondt i tusindvis af år, og konklusionen har altid været, at vi er enige om at være uenige. Filosofi har altid være en disciplin uden en facitliste, men pludselig står vi over for en situation, hvor vi skal have afgjort 3000 års filosofiske stridigheder, så vi kan få en computer til at forstå forskellen på godt og ondt. Kan vi det?
Der er meget gætværk, antagelser og usikkerheder i alle disse debatter, men det korte af det lange er, at menneskeheden står over for en alvorlig udfordring, hvis maskinlærende kunstige intelligenser fortsætter med at udvikle sig med samme fart som de sidste ti år. Der er meget der tyder på, at kunstige neurale netværk inden for en overskuelig årrække bliver lige så kraftfulde som den menneskelige hjerne, og når disse kunstige superhjerner begynder at forbedre sig selv, bliver fremtiden pludselig meget uoverskuelig – måske endda apokalyptisk. Det kan virke sortseende og overdrevet pessimistisk at forestille sig, hvordan menneskets teknologiske frembringelser kan blive kimen til vores egen undergang, men glem ikke Robert Oppenheimers berømte ord efter detonationen af den første atombombe: "Now I am become Death, the destroyer of worlds.”
Der er ingen tvivl om, at man ikke bør ignorere folk som Elon Musk, Nick Bostrom og Ray Kurzweil. For ikke at tale om den israelske historiker og succesforfatter Yuval Noah Harari, der har kaldt kunstig superintelligens én af menneskehedens tre vigtigste eksistentielle udfordringer (sammen med klima og atomkrig). Men på den anden side er debatten om kunstig superintelligens og computere, der laver universet om til papirklips også besynderligt virkelighedsfjern, når man sammenligner med de udfordringer, som kunstig intelligens skaber lige her og nu. Da jeg skrev min bog ”Hvad skal vi med mennesker?” interviewede jeg Ida Auken, som er it-ordfører for Radikale Venstre, og hun mente, at hele debatten om kunstig superintelligens er ”lidt af en afledningsmanøvre, som holder os fra at tale om det, der sker lige nu”. Ida Auken er meget optaget af problemet med kunstige intelligensers umættelige behov for data, hvilket har resulteret i, at store virksomheder som Google, Facebook og Amazon har opbygget et massivt teknologisk overvågnings- og manipuleringsapparat, som ville have gjort enhver Stasi-agent misundelig.
Men kunstige intelligenser skaber også andre problemer end datatyveri. Lige om lidt kører der selvkørende biler rundt i gaderne, autonome våben rundt på slagmarkerne og maskinlærende kunstige intelligenser vil i stigende grad bestemme, hvilke film, du ser, hvilke venner du taler med, hvilket arbejde du får, og om du får tildelt realkreditlånnet til drømmehuset. Hvem skal bestemme over disse kunstige intelligenser, og hvordan sikrer vi os, at de træffer de rigtige beslutninger? Det er helt aktuelle spørgsmål, som påvirker milliarder af menneskers liv lige nu. Men hvor mange politikere stiller disse spørgsmål? Og hvor mange har meningsfulde svar?
Endelig er der spørgsmålet om, hvad vi gør, når kunstige intelligenser for alvor begynder at gøre mennesker overflødige på arbejdsmarkedet. Automatisering af arbejde er ikke en ny udfordring, men maskinlærende kunstige intelligenser kan allerede i dag udføre overraskende mange menneskelige jobs, og meget tyder på, at udviklingen kommer til at gå hurtigt, og at den vil ramme erhverv, som ikke tidligere har været ramt af automatisering – eksempelvis advokater, sagsbehandlere, journalister, aktienanalytikere og visse typer af læger. Regeringen har nedsat et disruptionsråd for at tænke over disse udfordringer, men foreløbig har konklusionerne herfra primært været bagudvendt rygklapperi, der har hyldet regeringens egne tiltag, eller også har det handlet om at brænde hele systemet ned og starte forfra. Man skal stadig lede længe efter politikere og erhvervsfolk, der for alvor forstår, hvordan kunstig intelligens kommer til at omkalfatre vores arbejdsmarked og skabe massive udfordringer for velfærdsstaten.
Vi skal være glade for, at der lige nu er knivskarpe forskere, der filosoferer over hvad der sker, når eller hvis maskinlærende kunstige intelligenser lærer sig selv at blive klogere end mennesker, men vi skal passe på, at vi ikke fortaber os i moderne udgaver af skrækvisioner i stil med Frankenstein eller Terminator. Maskinlæring er en teknologi, der opererer i den virkelige verden lige her og nu. Det handler om datatyveri. Det handler om algoritmer, der træffer livsvigtige beslutninger uden nogen form for regulering. Og det handler om kunstige intelligenser, der fra den ene dag til den anden udraderer millioner af arbejdspladser.
Vi har altid gjort os forestillinger om, hvordan vores teknologiske frembringelser ville komme til at ligne mennesker. Men den egentlige udfordring er ikke, at vores maskiner bliver mere som os. Udfordringen er, at vores maskiner trænger dybere og dybere ind i vores hverdag og forandrer os som mennesker. Udfordringen er, at vi er ved at blive mere som vores maskiner.
om kunstig intelligens.
