Tre röster om: AI och demokratin

Bild

Vilka risker ser du med att myndigheter använder AI?

David Suh

Jurist på Integritetsskyddsmyndighetens (IMY) innovationsenhet. IMY arbetar för att skydda medborgarnas personuppgifter så att de hanteras korrekt och inte hamnar i orätta händer.

”AI kan effektivisera arbete, avlasta administration och ge stöd till medarbetare. Det kan bidra till en snabbare, mer enhetlig och mer tillgänglig förvaltning, vilket är positivt. Samtidigt uppstår risker. Om beroenden till vissa leverantörer skapas krävs att frågor om hur inlåsningseffekter, datasäkerhet och personuppgifter hanteras, särskilt om leverantören är från ett land utanför EU.

Offentlig maktutövning ställer också krav på legalitet, rättssäkerhet och transparens. Det område där AI får störst betydelse för den enskilde är när system används i eller nära beslutsfattandet. Myndigheten måste då förstå hur systemet fungerar, kunna förklara resultatet och ta ansvar för utfallet. Annars riskerar effektivisering att ske på bekostnad av förvaltningens huvuduppgift: att tjäna den enskilde och samhället.”

Anna Ståhlbröst

Avdelningschef innovation, digitalisering och ledarskap, Göteborgs stad.

”Ur ett demokratiskt perspektiv ser vi som stad flera risker med användningen av AI. En central utmaning är digital inkludering – alla har inte tillgång till, eller förmåga att använda, AI, vilket riskerar att förstärka befintliga klyftor. Samtidigt väcker AI frågor om makt och kontroll, där ett fåtal aktörer kan få stort inflytande över teknik och information. Vi ser också en ökad risk för desinformation, inte minst i dessa valtider, där AI kan användas för att skapa trovärdigt men falskt innehåll. Det gör det allt svårare att avgöra vad som är sant. AI kan även möjliggöra riktade påverkanskampanjer mot specifika grupper, vilket kan hota det demokratiska samtalet och tilliten i samhället. Vi behöver fortsatt utveckla vår användning av AI med stor medvetenhet om dess påverkan på demokrati, tillit och inkludering.”

Staffan Truvé

Grundare och teknisk direktör på Recorded Future, en AI-baserad, privat underrättelsetjänst som hjälper företag, organisationer och nationer att skydda sig mot geopolitiska hot och cyberhot.

”AI erbjuder stora möjligheter för myndigheter att automatisera rutinprocesser och effektivisera i stort sett alla arbetsflöden. När man gör detta är personlig integritet och säkerhet fundamentala frågeställningar som måste hanteras. En blandning av kommersiella molnbaserade AI-tjänster och modeller som körs inom myndigheterna kommer att krävas för att garantera säkerhet i kritiska tillämpningar. För att säkerställa objektivitet och rättssäkerhet kommer AI att behöva kompletteras med mänsklig övervakning, både vid träning av AI-modeller och vid användning av dem. Under lång tid framåt kommer därför “kentaurer” – människor och maskiner i nära samarbete – att vara den viktigaste arbetsformen. AI medför alltså risker som måste hanteras, och transparens är oerhört viktigt för att bygga förtroende, men samtidigt vore det oansvarigt av myndigheter att inte dra nytta av möjligheterna med den nya tekniken.”