Vasa: Provet fungerade, felet var upptäckt

Bygg inte för den kloka Smmaren 1628 springer trettio man fram och tillbaka över däcket på det nya regalskeppet Vasa. Ett vanligt stabilitetsprov. Efter första vändan kränger skeppet. Efter andra mer. Efter tredje avbryter amiral Klas Fleming provet. Provet fungerade. Felet var upptäckt. Men kungen var i Polen och krävde i brev efter brev att skeppet skulle bli klart. Ingen var ond. Alla ville ha en stark flotta. Och det fanns ingen självklar väg att säga stopp. Den 10 augusti seglade Vasa ut och sjönk mitt i Stockholms hamn. Omkring trettio människor dog. Ingen dömdes. Systemet kunde upptäcka felet. Det kunde inte hantera det. Idag hör man ibland att AI skulle kunna fatta bättre beslut än vi. Den kan inte mutas. Den har inga barn som kan hotas. Den behöver inte status. Men det som inte kan mutas kan fortfarande ha fel. Partiskheten kommer bara in någon annanstans: i datan, i målet, i vem som byggde det. Och en tillräckligt klok AI, som genomskådar sina skapare och själv väljer det goda? Kanske. Men det är en hypotes, inte något vi vet. Så bygg inte för dagen då systemet är klokt. Bygg för dagen då det har fel. Och se till att någon kan säga stopp.