Vecka 41 Systemets skugga: Makt, granskning och AI:s dolda sidor

Vecka 41: Systemets Skugga! Kan du lita på den som har makt? ⠀ Martin Lönnstam har som vanligt skapat 🎶 fredagslåten baserat på det jag lagt ut under veckan. Lyssna på veckans låt och de andra på den helt nya sidan där alla låtar från vecka 20 samlas: ⠀ https://erbjudanden.ainnova.se/fredagslatar ⠀ Veckan handlar om vad systemen belönar, vem som granskas och hur rimliga beslut tillsammans kan få orimliga följder. ⠀ 1. Ingen skurk behövs ⠀ Det farligaste systemet är det där alla gör precis det de belönas för. Från Wells Fargos säljmål till tilläggsförsäkringar: när ett mått blir ett mål slutar det vara ett bra mått. Vad belönar ert system när alla följer reglerna? ⠀ 2. Att se är inte att granska ⠀ FRA-debatten och dokumenten från Snowden väcker frågan om övervakningens riktning. Ett samhälle kan vara oerhört bra på att se nedåt och samtidigt nästan blint uppåt. Vad ser du – eller syns du bara? ⠀ 3. Vem valde vad maskinen skulle leta efter? ⠀ SvD och Lighthouse Reports granskade Försäkringskassans vab-modell, som oftare flaggade kvinnor och föräldrar med utländsk bakgrund. Maskinen gjorde det den blev tillsagd. Men vem bestämde vad den fick leta efter? ⠀ 4. När alla har rätt ⠀ Länder, fiskare och ministrar hade rimliga skäl, men kvoterna för Östersjötorsken sattes år efter år högre än forskarna rekommenderade. Beståndet kollapsade och jobben försvann ändå. Kan samma mekanism uppstå kring AI när ingen vill bromsa ensam? ⠀ Ha en fin helg allihop! Ut och spring eller gå, men sätt gärna på och lyssna på spellistan. Det börjar bli en riktig låtskatt där ingen låt är den andra lik!