AI-paniken är ett räknefel: När kartan inte matchar terrängen

HELA AI-PANIKEN ÄR ETT RÄKNEFEL Folk frågar mig ibland varför jag inte verkar särskilt rädd för AI. Det korta svaret är att jag är matematiker och fysiker och enligt mina beräkningar så tror jag att vi räknar på fel sak. Vi pratar gärna om hur snabbt AI utvecklas. Hur många jobb som kan förändras. Hur mycket kraftfullare modellerna blir. Hur svårt det är att veta vad som händer om fem eller tio år. Allt det är relevanta frågor. Men jag tror inte att det är där den största delen av vår oro uppstår. Oro uppstår i differensen mellan världen vi har hunnit bygga i huvudet och världen som faktiskt möter oss. Vi människor går inte omkring och reagerar på verkligheten som om vi vore neutrala mätinstrument. Vi jämför hela tiden det som händer med något: det vi väntade oss, det vi trodde var möjligt, det vi hade planerat för, det vi tycker borde vara sant. När avståndet mellan de två blir stort känns världen plötsligt instabil. Om jag skulle skriva det som en arbetsformel skulle den se ut så här: Oro ∝ |verklighet − förväntan| Inte som en naturkonstant. Inte som en psykologisk lag utan som ett sätt att tänka. Ju större gapet blir mellan vår mentala karta och terrängen framför oss, desto mer energi måste vi lägga på att orientera om oss och just nu växer det gapet fort. För några år sedan var det fullt rimligt att säga: En dator skriver inte en hygglig text. Den förstår inte en bild. Den kan inte föra ett längre resonemang. Den kan definitivt inte hjälpa mig att programmera något jag själv inte kan programmera. Sedan började maskinerna göra just sådana saker och det märkliga är att tekniken inte behöver vara perfekt för att skaka om oss. Det räcker att den passerar gränsen för vad vi hade placerat i kategorin omöjligt. Därför kan samma AI-system framkalla två helt olika reaktioner hos två människor: → Den ena ser ett verktyg → Den andra ser sin karta gå sönder Och båda kan reagera rationellt utifrån den karta de hade när de gick in i rummet. Det är därför jag tror att mycket av AI-paniken blir svår att förstå om vi bara studerar AI. Vi måste också studera förväntningarna på AI för det är där en stor del av friktionen finns. Det betyder inte att riskerna är inbillade. AI kan användas illa. Arbetsuppgifter kommer att förändras. Makt kan koncentreras. Misstag kan skalas upp. Det finns verkliga problem som förtjänar verklig granskning. Men rädsla är ett dåligt mätinstrument för den mäter inte bara faran framför oss. Den mäter också avståndet mellan det vi ser och det vi trodde att vi skulle se. Och det är två helt olika saker. Så när nästa stora AI-nyhet kommer och hela världen återigen verkar springa åt varsitt håll brukar jag försöka göra något ganska enkelt. Jag frågar: → Vad är det faktiskt som har förändrats? → Vilken av mina gamla föreställningar klarade inte förändringen? Det är förvånansvärt ofta den andra frågan som är den intressanta för ibland är det inte världen som håller på att rasa. Ibland är det bara kartan som äntligen tvingas erkänna att terrängen alltid varit större.