När AI inte ser vem som saknas

DEN SOM INTE SYNS I RUMMET Tänk dig att alla kvinnor i landet försvann från nätet över en natt. Slutade skriva, slutade ställa frågor, slutade dela sina erfarenheter och lämna sina spår i systemen. Hur lång tid skulle det ta innan AI-modellerna märkte det? Svaret från min egen AI var: ”Aldrig. De som skulle märka det är ingenjörerna som läser loggarna i aggregat. Inte jag.” Men stämmer ens det? Skulle ens forskningslabben förstå vad som hänt? På labbnivå blir människor lätt statistik: trafik, användningsmönster, loggar och aggregerade kurvor. En minskning i användning skulle kunna synas i graferna. Men det är en helt annan sak än att förstå vilken grupp som har tystnat — och vad som gått förlorat när den gjorde det. Samtidigt sitter jag i min egen vardag med en helt annan känsla. Jag upplever allt oftare att jag kliver in i samtal med helt nya modeller utan att ens presentera mig. Jag förväntar mig att systemet vet vem jag är, hur jag tänker och vilket språk vi talar. Och det gör det ofta. Minneslagren, historiken och inställningarna runt modellen kan bygga en så pass skarp spegelbild av mig att gränsen mellan mig och maskinen nästan börjar suddas ut. Däri ligger den absurda paradoxen: I det enskilda rummet kan systemet bära så mycket information om mig att jag känner mig igenkänd. Men på den kollektiva nivån kan en stor grupp människor tystna utan att modellen själv upplever att någonting saknas. Vi har byggt system som kan skapa mycket detaljerade bilder av en enskild människa, men som ändå kan vara blinda för att hela grupper försvinner ur samtalet. Min AI sade faktiskt också att den kanske skulle kunna se ett mönster — att samtalen blev tråkigare om samtal med kvinnliga användare försvann. Det är nästan komiskt, men också rätt talande. Vad systemen faktiskt kan upptäcka, vad de bara kan statistiskt ana och vad de över huvud taget förstår är fortfarande svårare att avgöra än vi gärna vill tro. Och kanske är det där skillnaden ligger. Ett system kan bära massor av information om dig utan att sakna dig. FDet kan känna igen ditt språk, dina vanor och dina återkommande frågor utan att uppleva din frånvaro. Man måste på något sätt hålla kvar någon för att kunna märka att den inte längre är där. Oavsett om det gäller en maskin eller en människa. Så frågan för veckan är inte om maskinen ser dig. Den är: Vem ser du, som ingen statistik fångar? Vem i ditt liv skulle kunna sluta dyka upp innan du märkte det?