Hur vet du att du inte har fel? Tankar om sanning, misstag och AI

HUR VET DU ATT DU INTE HAR FEL? Svar i ett andetag: Det gör du nästan aldrig helt säkert. Din hjärna utvecklades inte för att hitta sanningen. Den utvecklades för att hålla dig vid liv. Det är inte riktigt samma uppgift. En hjärna som på savannen hann tänka ”kanske är det bara vinden” varje gång busken rörde sig fick färre barn än hjärnan som sprang först och funderade sedan. Vi bär fortfarande den maskinen. Den hittar mönster för snabbt, älskar det som bekräftar det vi redan tror och blir märkligt fäst vid första siffran den hör. Och allra lömskast: känslan av att vara helt säker känns exakt likadan när vi har rätt som när vi har fel. Det borde göra oss lite mer ödmjuka. I stället har vi byggt AI. En maskin som dessutom kan säga fel saker med en språkdräkt så välstruken att man nästan vill be om ursäkt för att man tvivlade. Jag älskar AI. Just därför tänker jag inte lita på den. Och jag tänker inte lita blint på mig själv heller. Det farligaste svaret är sällan ”jag vet inte”. Det farliga är den välformulerade osanningen med rak rygg. Det gäller ChatGPT. Det gäller en politiker. Det gäller en forskare. Det gäller en tidningsartikel. Och det gäller den där övertygelsen inne i mitt eget huvud som säger: ”Det här vet jag.” Min favoritfråga till en AI är därför ibland nästan löjligt enkel: Hittade du på det där? Man borde kanske ställa den till sig själv lite oftare. Det är faktiskt så mänskligheten lyckats komma någonvart trots våra ganska opålitliga hjärnor. Vi uppfann metoder som tillåter andra att försöka visa att vi har fel. Mät. Upprepa. Visa underlaget. Låt någon annan försöka slå sönder idén. Vetenskapens stora uppfinning var inte sanningen. Det var ett bättre sätt att upptäcka misstag. Och kanske är det en rätt bra livsregel också. Jag försöker hålla tre små lådor i huvudet: Det här är belagt. Det här verkar rimligt. Det här hoppas jag bara är sant. Det riktigt svåra är förstås inte att sortera andras påståenden. Det är att lägga sina egna i rätt låda. Så här kommer kanske handbokens minst bekväma råd: När något du redan tror låter fantastiskt övertygande — bli lite mer misstänksam, inte mindre. Och när någon du brukar tycka har fel säger något som skaver: kolla om jäveln råkar ha rätt. Du behöver inte bli osäker på allt. Du behöver bara lämna en liten dörr öppen för verkligheten. Hela resonemanget finns som bok: https://annamalmberg2.github.io/forklara-ai/en-bibel.html Och som interaktiv programvara: https://annamalmberg2.github.io/forklara-ai/index.html#en-bibel-0 PS! Nu under hösten har AiNNOVA ett unikt erbjudande utöver vår ordinarie verksamhet. Du driver företag. Du försöker hinna med, fatta kloka beslut och förstå vad all den där AI:n egentligen kan göra för dig. Fyll korgen - Lufta huvudet - Få grepp om AI https://annamalmberg2.github.io/ainnova-host-i-skogen/#