Ett seminarium med Alexander Berman, Institutionen för filosofi, lingvistik och vetenskapsteori, i seminariserien Text och interaktion
Seminariet handlar om problem som kan uppstå när AI används för att fatta beslut – och i synnerhet när AI används för myndighetsbeslut. Förvaltningslagen kräver nämligen att myndigheter på ett begripligt sätt visar hur den resonerat sig fram till, exempelvis, att en individ inte har rätt till sjukersättning. Jag kommer att utgå från en fallstudie jag gjort på Arbetsförmedlingen (Berman m.fl. 2024) och visa att det med AI som beslutsstöd kan vara svårt att leva upp till motiveringsskyldigheten, eftersom man delvis delegerat sitt resonerande eller sin bedömningsprocess till en maskin som inte nödvändigtvis resonerar på ett (för människor) transparent och begripligt sätt. I föredraget visar jag hur Arbetsförmedlingen har försökt hantera detta och hur man eventuellt hade kunnat göra bättre. Jag kommer också att lyfta mer allmänna frågor om språk och beslutstransparens, med eller utan inblandning av AI.
Berman, A., de Fine Licht, K., & Carlsson, V. (2024). Trustworthy AI in the public sector: An empirical analysis of a Swedish labor market decision-support system. Technology in Society, 76, 102471.