Algoritmer, storföretag och demokrati - en hållbar kombination?

Internet har gått ifrån att ha prisats som världens frälsning med ökad öppenhet, demokrati och tolerans – till att alltmer ifrågasättas. Detta i takt med den auktoritära utvecklingstendensen runt om i världen, samtidigt som algoritmer med anpassade nyhetsflöden och så kallade filterbubblor riskerar att bidra till snävare världsbild och mer begränsat offentligt samtal.

Detta var utgångspunkten för Jonseredsseminariet ”Algoritmer – frihet eller tyranni?” den 12 mars 2019.

Hur förstå dagens växande uppmärksamhetsekonomi, försvagade public service och centralisering av makt? Hur påverkas demokratin av den pågående tekniska utvecklingen? Dessa och andra frågor diskuterades på Jonsereds herrgård tillsammans med Karin Pettersson, director public policy vid Schibsted och aktuell med boken Internet är trasigt – Silicon Valley och demokratins kris och Jutta Haider, docent i biblioteks- och informationsvetenskap Lunds universitet, författare till regeringskansliets rapport Algoritmer i samhälle och ledare för projektet Algoritmer och källkritik. Deltog gjorde även Agneta Ranerup, professor i informatik vid Göteborgs universitet och forskare på robotiserat beslutsfattande.

Uppmärksamhetsekonomin, känslorna och storföretagen

Karin Pettersson berättade om hur hon studerat internet och sociala medier under de många år hon pendlat mellan journalistik och politik. En bakgrund som var avgörande i arbetet med boken Internet är trasigt – Silicon Valley och demokratins kris, som hon skrev tillsammans med journalistkollegan Martin Gelin. För tio år sedan var Karin Pettersson, som så många andra, övertygad om att internet och sociala medier skulle bidra till en ökad demokratisering. Att journalistiken tack vare internet skulle nå ut på nya sätt, involvera läsare och ge ett ökat samarbete med publiken. Visst har det blivit så, konstaterar hon, men inte på det vis man trodde och hoppades på.

Som ledarskribent på en av Sveriges största tidningar har hon under årens lopp sett hur det offentliga samtalet successivt kommit att spåra ur, och hur det inte minst som kvinna blivit allt svårare att befinna sig i det offentliga samtalet. I mejlkorgen steg nivån på hot och hat till en anmärkningsvärd nivå, som tvingar fram en uppmärksamhet mot den extrema aggressionens bakgrund och orsaker.

Karin Petterson lyfter fram några av resultaten av den granskning av offentlighetens baksidor som görs i boken Internet är trasigt. Det handlar om faktorer i den nya informationsteknologin, som driver på och förstärker de starka känslorna i offentligheten; alltifrån hur Google suger till sig annonsintäkter och hur vita fläckar skapas i journalistiken och försvagar den granskande delen av journalistiken, till hur internetaktörer opererar med att förstärka känslolägen hos sina användare för att få dem att stanna kvar på vissa sidor längre än på andra. Framgångsrika företag som Youtube och Facebook drar nytta av de här mekanismerna genom att presentera material som ger starka känslomässig upplevelser. Såväl positiva som negativa.

Den så kallade uppmärksamhetsekonomin och storleken hos aktör Facebook och Youtube blir en farlig kombination, menar Karin Pettersson. Vi får en offentlighet som är en maskin där valutan är vår vrede, konstaterar hon.

Algoritmer + objektiv information = falskt

Jutta Haider tog avstamp i en uppmärksammad händelse från 2015, när en ung man i Kina drabbades av en elakartad cancer som till att börja med behandlades med skolmedicin, men där mannen så småningom övergick till alternativa behandlingsmetoder som han funnit via letande på Internet. Innan sin död skrev mannen, som aldrig blev fri från sin cancer, ett långt blogginlägg där han riktade skarp kritik mot Kinas motsvarighet till Google: den sökmotor som hade lett honom fram till alternativmedicinens företag. Fallet togs upp av den kinesiska regeringen, och senare framkom att företagets information om behandlingen inte bara hade varit felaktig, utan därtill borde ha märkts som annonsmaterial.

Händelsen exemplifierar vilka ödesdigra konsekvenser olika aktörers hantering av Internet kan få, menar Jutta Haider. Vi människor har överlag en strävan efter objektivitet. Men att få objektiv information utifrån de algoritmer som alstras i det egna internetflödet är inte möjligt, konstaterar hon. Ändå har vi en tendens att förlita oss på att de digitala plattformarna ska leverera information, trots att de till stor del styrs av algoritmer utifrån vad vi själva redan har tagit del av på nätet.

Jutta Haider konstaterar också att algoritmernas styrande av våra flöden också kan fungera relativt problemfritt, exempelvis när det kommer till hur sociala medier och streamingtjänster fungerar. En streamingtjänst som Netflix vet oftast vad vi gillar och vad vi kan tänkas ha lust att utforska mer av. Jutta Haider poängterar därför vikten av att fortsätta undersöka människor som en del av det algoritmiska systemet.

När blir tjänsten en otjänst?

Inledningsvis konstaterade Agneta Ranerup att algoritmer kan var många olika saker. Hon drar sig till minnes ett föräldramöte för 15 år sedan, där det talades om att man skulle lära ut algoritmer, i meningen division och multiplikation. Själv har hon forskat på Robot Processeda Automation (RPA), alltså hur vi kan ersätta en tjänstepersoners olika beslut och arbetsinsats med hjälp av digitala tjänster, i detta fall med fokus på Socialtjänsten. Även CSN arbetar på detta sätt idag. En slags ”AI-light”, kallar Ranerup det för.

RPA kan samtidigt användas på andra sätt. I den så kallade Trelleborgsmodelen har man exempelvis med digitala metoder fokuserat på hur individer ska kunna klara sig utan stöd från kommunen och istället bli självförsörjande. RPA kan likaså hjälpa till med att snabba upp handläggningen och den enskilde handläggaren blir inte utsatt för påtryckningar. Tekniken kan även hjälpa den enskilde att överklaga och förklara avslag. En digital ansökan kan minska stigmatiseringen och ökar förtroendet för den offentliga verksamheten.

Och här finns en tydlig koppling mellan RPA, demokrati och algoritmer, konstaterar Agneta Ranerup. 2018 skrev två forskare att man ska vara transparent med hur algoritmerna är uppbyggda och i synnerhet hur de faktiskt styr offentlig verksamhet. Man samtidigt kan transparens innebära för mycket information, och likaså vara utformad på ett sätt som är svår för den enskilde att tolka. Ökad transparens är därför inte alltid lösningen.

Ranerup ställer samtidigt den ömtåliga frågan om mänsklig kompetens: hur behåller man handläggares kompetens när dessa ersätts med teknologi? Och får man alls låta beslut fattas av en algoritm, eller måste en människa också kasta ett öga på sådan avgörande handläggning?

Komplexa frågor på bordet

Den efterföljande diskussionen var ytterst engagerad, och kom att handla om alltifrån möjligheter att avlasta överbelamrade hjärnor i vår stressade tidsålder, till etiska frågeställningar kring robotiserade myndighetsbeslut, och om komplexiteten i vårt algoritmstyrda informationssamhälle. Likaså fördes resonemang kring så kallad internetpsykologi och vår rädsla för mänsklig kontakt, om mötet med den andre och vikten av mellanmänskliga möten. Att det ibland kanske kan behövas en motkraft mot instinkten att ibland undvika möten med andra. Vissa deltagare såg även möjligheter i att plocka bort rutinmässiga arbetsuppgifter, så som repetitiva frågeställningar till sökande, vilket kan leda till en mer kärnfull verksamhet.

Sällan har ett till synes smalt teknikämne resulterat i att så många komplexa samhällsfrågor kastats på bordet. Hur laga ett trasigt Internet? Vilka samhälleliga och existentiella konsekvenser får det att teknifiera beslut? Hur långt ska maskiner tillåtas interagera med mänskligt liv? Sist men inte minst. Hur stora företag tål demokratin och det globala samhället?