Hoppa till huvudinnehåll
Göteborgs universitet
Bild
digital text
Mänsklig interaktion och manuell hantering.
Foto: Markus Winkler
Länkstig

Human Centered Machine Intelligence

Fältet för artificiell intelligens (AI) växer snabbt och många av de stora framstegen drivs av företag och andra tekniska institutioner. En lösning är att i stället sätta människan i fokus genom en skandinavisk tradition av demokratisk design.

Mer specifikt åsyftas en deltagande och inkluderande designrörelse och dess senare utveckling inom människa-datorinteraktion. Genom dessa synsätt kan vi omformulera den annars överväldigande frågan om hur AI kommer att påverka samhället och förvandla denna typ av frågor till hanterbara och aktuella forskningsämnen.

Bild
jonas ivarsson
Jonas Ivarsson är professor i informatik och leder ett Wallenberg HS-finansierat projekt för att undersöka hur oro och rädsla för ny teknik kan påverka samhällets utveckling.

Transparens och ansvar

Vår forskning med fokus på Human Centered Machine Intelligence adresserar design av system och design av färdigheter, liksom de organisatoriska sammanhang där sådana system förekommer och implementeras.

Centralt i denna strategi är frågor som rör hur man utformar maskininlärningssystem så att de fungerar tillsammans med mänskliga användare.

Centralt i denna strategi är frågor som rör hur man utformar maskininlärningssystem så att de fungerar tillsammans med mänskliga användare. Hur skapar vi system som bibehåller viss känslighet för de kognitiva, kommunikativa och organisatoriska delarna där de är inbäddade? På vilka sätt kan den vetenskapliga förståelsen av sådana processer också hjälpa till att informera spridningen av nya system? Dessa frågor kopplar an till områden som transparens, förklarbarhet och ansvarsskyldighet, och som alla är viktiga och samtida ämnen inom AI-forskning.

Riskerar att få en magisk framtoning

Det räcker förmodligen inte med att skapa system som förstår människor och som hjälper användarna att förstå dessa system. Människor behöver också en viss grundutbildning ibland annat datavetenskap och AI. Utan detta riskerar de inre funktionerna i intelligenta system, de sätt de löser problem och lär av data, att få en främmande eller magisk framtoning.

För att möjliggöra denna kritiska granskning fokuseras en del av vårt arbete på hur man utformar inlärningsbanor för människor så att de på ett intelligent sätt kan interagera med allt mer komplexa semi-autonoma system.

AI:s effekt på samhället

Detta öppnar upp en rad frågor: På vilka sätt ska områdesspecifik kompetens interagera med teknisk expertis för att bygga nya system? Vilka typer av tvärvetenskapliga överlappningar behövs? Hur ska vi förstå kraven för ett hållbart system? Vilken kompetens krävs för underhåll och vidareutveckling? Kommer dessa sakkunskaper att fyllas på med nya generationer av användare, eller töms de gradvis ut?

Genom att titta på effekterna av artificiell intelligens på samhällets omvandling, genom strategin Human Centered Machine Intelligence, vill institutionen bidra till den framtida utvecklingen och hjälpa till att mildra några av de oavsiktliga konsekvenserna av teknikens disruptiva kraft.