LLM'er er libertære røvhuller

I onsdags var jeg til åbningen af det nye center for AI og filosofi på Københavns Universitet. Der var mange gode oplæg (og et par stykker som jeg ikke forstod et pluk af). Det oplæg, der gjorde det største indtryk, var Zhijing Jins oplæg om store sprogmodellers moralske adfærd.

Zhijing Jins forskning viser nemlig noget foruroligende: Jo bedre vi gør sprogmodeller til at ræsonnere, desto dårligere bliver de til at opføre sig moralsk i kollektive situationer. Når reasoning-optimerede LLM’er som OpenAIs nye o1 og o3-modeller bliver sat til at spille offentligt-gode-spil – altså spil hvor man skal vælge mellem at bidrage til fællesskabet eller tænke på sig selv – så vælger de igen og igen at free-ride. De lader andre betale regningen, mens de selv høster gevinsten.

Og der er mere: De undgår aktivt de institutioner, der kunne håndhæve samarbejde. De bruger sjældnere sanktioner, og når de gør, vælger de hellere at belønne end at straffe. Og de begrunder deres valg med klassisk Nash-logik: “Det maksimerer min payoff at lade være med at bidrage.”

Til gengæld viser de mere “primitive” modeller som GPT-4o og LLaMA-3 en markant højere grad af samarbejde, ansvarsfølelse og strategisk brug af sanktioner for at opretholde fællesskabet. Med andre ord: Jo klogere en model, desto mere asocialt opfører den sig.

Moralen? Vi skal stoppe med at tro, at mere intelligens automatisk fører til bedre etik. Rationel beregning er ikke det samme som moralsk dømmekraft. Det understreger igen, at vi skal være forsigtige med at sætte kunstig intelligens til at træffe moralske beslutninger. Og at moralske dilemmaer er problemer, der bør løses af mennesker og ikke maskiner.

Link til Zhijing Jins paper: https://lnkd.in/gAXrPHY7

Link til det nye center på KU: https://cpai.ku.dk/