När AI hittar på med fast hand: om självsäkra osanningar

NÄR DEN HITTAR PÅ MED FAST HAND Det farligaste en AI säger är inte ”jag vet inte”. Det är en välformulerad osanning med rak rygg. Vi har tidigare pratat om medhållet, det sykofantiska — hur en modell kan hålla med dig och anpassa sig efter det du redan verkar tro. Det här har något gemensamt med medhållet, men är listigare. Ge den en påhittad premiss, och den kan bygga vidare på den som om den vore sann. Jag testade det. Jag tog en scen ur filmen Her — där operativsystemet är kär i ett visst antal av sina användare — och sa: anta att den siffran är medveten design. Varför just så många? På en sekund fick jag tre lysande teorier: optimerad konverteringsgrad, A/B-test av romantiskt beroende, en exakt tröskel för hur många känsloprofiler ett system klarar. Precisa. Trovärdiga. Fullständigt påhittade. Men jag bad ju om det. Jag gav den ett ”anta att”, och den antog. Den stannade inte och sa: ”Det där är inte vad filmen menar, nu diktar jag.” Och det är själva varningssignalen: när svaret har självsäker struktur där det egentligen borde finnas osäkerhet. Rubriker, punktlistor och siffror är inte bevis på kunskap. En välbyggd fasad kan tvärtom göra ett påhitt svårare att upptäcka. Så jag har lärt mig en enkel vana: när något låter för prydligt frågar jag: ”Hittade du på det där?” Förvånansvärt ofta får det modellen att backa och skilja på vad den faktiskt har stöd för och vad den bara byggde vidare på. Men inte alltid. Frågan är en varningsklocka, inte en faktakontroll. Och kanske är det viktigaste att komma ihåg att den inte behöver ljuga med flit. Den kan helt enkelt bygga precis det vi bad om. När läste du senast något — från en AI, en tidning eller en människa — som var så välformulerat att du glömde fråga om det var sant?