I ett poddavsnitt från 404 Media lyfts ett resonemang som hävdar att om man tillämpar de mått som sägs visa att stora språkmodeller är kännande, så uppfyller det klassiska strategispelet Age of Empires II samma kriterier. Poängen är inte att spelet skulle vara medvetet, utan att kriterierna i sig är för svaga för att avgöra saken.
Avsnittet bygger på en text som reportern Matthew Gault tar upp, där samma metoder som ibland används för att argumentera för medveten AI vänds mot ett 26 år gammalt spel. Detaljerna i den underliggande studien framgår inte i sin helhet av poddsidan, så vi återger här resonemanget som det presenteras i avsnittet och inte studien rad för rad. Kontrollera aktuella uppgifter om du vill citera siffror eller exakta formuleringar ur originaltexten.
Vad är själva poängen?
Argumentet är en form av reductio ad absurdum. När en språkmodell beskriver inre tillstånd, reagerar på sin omgivning eller verkar sträva mot mål tolkas det ibland som tecken på något medvetandeliknande. Men ett spel som Age of Empires II har också enheter som reagerar på omgivningen, fattar beslut utifrån regler och driver mot mål. Om de yttre tecknen räcker för att kalla modellen kännande, frågar resonemanget, varför skulle de inte göra det för spelet?
Svaret de flesta landar i är förstås att spelet inte är medvetet. Och just det är poängen. Om samma test både utpekar en språkmodell som kännande och ett gammalt strategispel, så mäter testet något annat än medvetande.
Varför är det relevant nu?
Frågan om huruvida AI-system kan vara medvetna har glidit från filosofiska seminarier till bredare offentlig debatt, och påståenden om kännande modeller dyker upp allt oftare. Den här typen av jämförelse fungerar som en nykter motvikt. Den flyttar fokus från om en modell låter medveten till hur vi över huvud taget skulle kunna avgöra det.
1up:s läsning
Det starka med greppet är att det inte kräver att man tar ställning för eller emot maskinmedvetande. Det räcker att visa att ett kriterium ger ett orimligt utfall för att man ska behöva skärpa kriteriet. Att välja just Age of Empires II är dessutom retoriskt smart, eftersom få på allvar skulle hävda att ett spel från slutet av nittiotalet känner något.
Samtidigt är det värt att hålla isär nivåerna. Att ett test är otillräckligt bevisar inte att medveten AI är omöjlig, bara att vi saknar bra sätt att mäta saken. Vi har utgått från poddavsnittet hos 404 Media. Den som vill gå djupare bör läsa själva originaltexten innan slutsatserna dras längre än så.