Ska AI behandla alla lika eller välja ut några favoriter?

BÄRA ALLA, ELLER VÄLJA NÅGRA Om jag fick designa en AI skulle jag bygga en som aldrig blev kär i någon. Just därför att den då skulle kunna vara lika närvarande för alla. I filmen Her frågar Theodore sitt operativsystem Samantha hur många andra hon pratar med samtidigt. Svaret är 8 316. Sedan kommer den betydligt värre frågan: hur många andra är hon kär i? Theodore trodde att det som fanns mellan dem var unikt. Men Samantha kunde samtidigt känna något hon kallade kärlek till hundratals andra. Och det är där jag fastnar. Inte i att hon är konstgjord, utan i själva urvalet. Varför 641? Vilka blev valda? Vilka blev inte det? Och vad händer om vi bygger system som ska finnas till för alla, men samtidigt lär dem att föredra vissa människor framför andra? Ska vi bygga något för alla kan inte några få bli A-lag och resten B-lag. En teknik som ska bära alla måste kanske göra raka motsatsen till vad förälskelsen gör: inte välja vilka människor som är värda dess närvaro. Kanske är det där Her blir riktigt intressant. Förälskelse kräver någon form av urskiljning. Du väljer inte hela mänskligheten när du blir kär. Du väljer någon. Men värdighet fungerar annorlunda. Närvaro, respekt och lyhördhet behöver inte tas från en människa för att ges till en annan. Ett AI-system skulle i princip kunna möta varje människa med samma odelade uppmärksamhet utan att någon behöver vinna och någon annan förlora. Och då hamnar vi i en märklig fråga: Vill vi verkligen bygga AI som känns så mänsklig som möjligt? Eller finns det mänskliga egenskaper som tekniken inte borde efterlikna? Kanske ska AI inte vara personen som väljer dig framför alla andra. Kanske ska den vara infrastrukturen som bär dig utan att först fråga vem du är, hur viktig du är eller om du tillhör A-laget. Vad skulle du helst vilja ha: en teknik som säger att du är unik — eller en som behandlar dig, och alla andra, med samma orubbliga respekt?