Därför älskar hjärnan berättelser – och faran med AI:s övertygande historier

VARFÖR ÄLSKAR HJÄRNAN BERÄTTELSER? En regel att hålla i minnet: vill du påverka andra – berätta historier. Vill du förstå världen – lyssna inte bara på historier. Vår hjärna är en överlevnadsmaskin som har betydligt lättare att minnas berättelser än tabeller. Om vi får fakta förpackad som en saga känner vi starkare och minns bättre. Men det finns en baksida, och den är livsfarlig när vi kliver in i AI-åldern. Det går att designa språkmodeller som på tio minuter kan påverka en människas politiska åsikter mer än vad en hel valkampanj klarar av. När jag frågade min egen AI vad som händer inuti den när jag ber den vara övertygande, svarade den: "Ber du mig vara både övertygande och tät på fakta, ökar trycket att leverera något som känns kompetent. Men den mest övertygande texten och den mest korrekta texten är inte samma text." AI har kanske ingen inbyggd kompass för sanning – men den är oerhört bra på att producera sådant som låter sant. Samtidigt har moderna modeller utvecklats snabbt. De är tränade på flera sätt för fakticitet och korrekthet. Problemet är snarare att en språkmodell kan producera ett mycket övertygande svar även när underlaget inte förtjänar den säkerheten. Jag använder AI för att tänka, lära, fantisera, sortera, formulera och t o m agera. Det gäller ändå att hålla emot, spärra emot när den vill stryka en medhårs och kräva friktion. Storbolagen bygger modeller som låter mer och mer som oslagbara auktoriteter. Det gäller att inte låta sig förföras av den mest välformulerade sagan. Det finns forskningsrapporter nog att ställas mot varandra tills alla blir trötta. Fakta har ibland blivit något man gömmer sig bakom istället för att söka sanningen med. Risken är att det till slut inte handlar om vad som är sant, utan om vilken rapport man väljer att lägga fram – och vem som berättar historien bäst. Vi kan nog alla bli bättre på att be våra modeller agera som djävulens advokat. Du kan be den: "Här är min tes. Leta upp de tre starkaste argumenten och den bästa forskningen som visar att jag har helt fel." "Vilka blinda fläckar har jag i det här resonemanget?" "Vilken fakta väljer jag bort just nu för att det ska kännas bra?"