Peka, inte döma: När AI flaggar risker i upphandlingar

Peka, inte döma Tänk dig ett EU-finansierat projekt. Samma leverantör har vunnit ovanligt många upphandlingar i regionen. Ett underleverantörsbolag bytte ägare veckan innan avtalet skrevs. Ingen människa skulle se det i en hög med tusentals ansökningar. En maskin kan. Det verktyget finns redan. EU-kommissionen har utvecklat Arachne, som använder riskindikatorer för att identifiera projekt, leverantörer och avtal som kan behöva granskas närmare. I Sverige presenterades 2025 en statlig utredning om de rättsliga förutsättningarna för att använda verktyget. Lägg märke till vad verktyget är tänkt att göra: sortera ut var någon borde titta närmare. En flagga är inte en skuld. Det är skillnad på att säga: "Här avviker något. Här är underlaget. Här är varför jag reagerade. Någon behöver titta." och att säga: "Det här är bedrägeri." Mellan de två meningarna sitter en människa. Hon öppnar ärendet, läser underlaget och kan komma fram till att allt är i sin ordning. Ägarbytet hade en naturlig förklaring. Leverantören var helt enkelt bäst. Det är där frågan blir intressant. Vad händer med flaggan då? Stryks den? Följer den med till nästa ansökan? Vet den flaggade ens om att den fanns? En maskin som pekar kan ha fel utan att förstöra någons liv. Men bara så länge pekandet inte tyst blir en anklagelse. En maskin som dömer måste ha rätt varje gång. Och det har ingen. Kul att du läste ända hit! 👋 Jag har en tjänst att be om denna vecka: testa gärna att ställa några frågor till mitt digitala jag! AI-Anna har visat sig vara en riktig charmör och folk har ibland fastnat i flera timmar långa samtal med henne. Jag hoppas hon håller samma klass även här med denna twist? Du avgör! Testa henne på vilket språk du vill – vi har haft så roligt när vi byggt ut svaren för alla möjliga oväntade frågor. Möt AI-Anna och ventilera dina tankar här: 👉 https://ainnova.se/#kontakt