När AI gör jobbet – vad händer med vårt omdöme?
När AI fick hjälpa till med både frågor och svar i en intervju om AI blev resultatet vid första anblick rimligt. Men enligt designprofessorn Johan Redström gick själva poängen förlorad.
Upplägget var ganska enkelt. Jag, kommunikatör på HDK-Valand, skulle intervjua HDK-Valands designprofessor Johan Redström om en vetenskaplig artikel om design och artificiell intelligens. Som vanligt bad jag ChatGPT om en sammanfattning och förslag på intervjufrågor att utgå från.
När frågorna landade hos forskaren bad han sin egen AI att formulera svar. Modellen hade inte bara tillgång till den aktuella artikeln utan även till ett större forskningsmaterial och en prompt om hur han ville uttrycka sig.
Resultatet blev på sätt och vis en intervju där AI ställde frågor till AI. Och svaren blev bra.
– Absolut, det var bra svar. Bara det att några av artikelns viktigaste poänger försvinner, säger Johan Redström när vi träffas över en kaffe några dagar senare.
Vad ska vi människor göra?
Särskilt reagerade han på svaret på den sista frågan som handlar om hur en AI-tjänst skulle kunna se ut om designers började tänka på AI som något mer än ett vanligt verktyg.
AI föreslog en söktjänst som tydligare skulle visa varför ett svar ser ut som det gör, vilka källor som ligger bakom och vilka intressen som påverkat resultatet.
Ett rimligt svar, enligt Johan Redström. Problemet är att det i princip är motsatsen till den tanke som han försöker utveckla i sin artikel.
– AI:n utgår från att frågan handlar om vad maskinen ska göra. Men jag menar att den grundläggande frågan borde vara: vad ska vi människor göra? Först då kan vi fråga oss vilken roll maskinerna ska spela i det vi gör.
Vad gör min hammare när jag inte är där?
För att förstå varför den skillnaden spelar roll behöver man gå nästan hundra år tillbaka i tiden. I sin forskning har Redström studerat den tidiga svenska industridesignen. Även 1930-talets designers stod inför en utveckling där maskiner förändrade samhället och människors vardag.
Deras reaktion blev att placera människan i centrum och göra vardagens föremål till användbara ting och verktyg. Verktygen underordnades människans handlingar. Det var människan som skulle bestämma vad som skulle göras – inte maskinen.
Den föreställningen lever fortfarande kvar. Vi pratar om AI-verktyg på ungefär samma sätt som vi talar om andra redskap: människan bestämmer vad hon vill åstadkomma och använder tekniken för att göra det. Men jämförelsen haltar.
– Det är inte så att min hammare hemma håller på med något när jag inte är där. Men de här grejerna gör ju precis hur mycket som helst hela tiden utan att vi ens vet om vad de gör.
Hur hamnade jag här?
AI-system förutser, förbereder och förändrar. De reagerar inte bara på våra handlingar utan är delar av tekniska system som också påverkar vilka val som presenteras för oss. Det blir tydligt i ett helt vanligt samtal med en chattbot.
– Vi skriver en fråga och får ett svar. Därefter kommer ofta förslag på nästa steg: vill du att jag gör det här? Ska jag hjälpa dig med det här?
Jag har alltid sett det som en servicefunktion. Men förslagen gör samtidigt något med samtalet.
– Till slut sitter man där 45 minuter senare och undrar: hur hamnade jag här? Vi agerar fortfarande. Vi skriver, klickar och väljer. Men frågan är hur självklart det är att vi styr riktningen.
Vem gör jobbet?
Det var också ungefär vad som hände med intervjusvaren i vårt experiment. AI hade fått ett omfattande material att arbeta med. Ändå var det något som försvann på vägen.
– AI är skicklig på att extrahera det som verkar viktigt och formulera ett rimligt svar. Men den kan samtidigt missa det som är betydelsefullt för någon som verkligen känner materialet. När forskningen har en kritisk udd finns dessutom en risk att den slipas ned. Det blir utsmetat, utslätat. Eller tvärtom, att det blir överdrivet polemiskt.
Sett ur det ljuset blir vårt lilla intervjuexperiment någonting mer än en lustig rundgång. För om AI kan hjälpa journalisten att välja vilka frågor som verkar viktigast, och sedan hjälpa forskaren att avgöra vad som ska sägas i svaren, då har tekniken fått en roll i två av de bedömningar som tillsammans avgör vad intervjun faktiskt kommer att handla om. För att kunna avgöra om förslagen är bra krävs något annat: omdöme.
– Den som känner sitt material kan titta på sex AI-genererade förslag och upptäcka att inget av dem riktigt fångar det viktiga – eller inse att ett sjunde alternativ är bättre. Men har du inte ett tränat omdöme, då ser man helt plötsligt världen genom det som presenteras.
Om maskinen gör allt detta – vad gör vi då?
Just detta bekymrar honom bland annat när det gäller dagens studenter. Att sätta sig in i ett material handlar inte bara om att samla information. En del av arbetet är att själv lära sig avgöra vad som är centralt, vad som är perifert och vad som är värt att undersöka vidare.
Lämnar man över den bedömningen kan man också lämna över en del av sin egen handlingsförmåga.
– Automatisering är förstås inget nytt. När vi skriver på en dator behöver vi inte tänka på hur orden formas eller att radavståndet ska hållas jämnt. Tekniken har länge tagit över delar av arbetet. Skillnaden är att automatiseringen nu börjar krypa allt längre in där det krävs kreativitet, kritiskt omdöme, reflektion.
Då uppstår en fråga som är större än huruvida AI kan skriva en bra text: om maskinen gör allt detta åt oss – vad gör vi då?
Vad är egentligen värt det?
Johan Redström berättar om en kollega som föreställer sig en framtid där forskare inte längre skriver vetenskapliga artiklar. I stället skulle de kunna producera forskningsmaterial och sedan låta AI skapa den text som behövs för stunden: en konferensartikel, en rapport till en finansiär eller en text för allmänheten.
Men något händer om skrivandet reduceras till produktion av en färdig text. Skrivande består också av alla små beslut på vägen: vad som ska tas med, vad som ska tas bort och hur olika saker hänger ihop. Det är genom sådana beslut som omdömet tränas.
Kanske kan AI därför tvinga fram en annan fråga. Inte bara hur mycket arbete tekniken kan göra åt oss, utan varför vi överhuvudtaget gör vissa saker själva.
När en maskin på några sekunder kan producera musik, bilder och texter som uppfyller de grundläggande kraven blir ”tillräckligt bra” plötsligt väldigt lätt. Då blir den intressanta frågan vad som krävs för att något ska bli mer än så.
– Vad är det som gör att någonting blir värt det? Den här tiden vi lägger ner på att skriva till exempelvis, i stället för att bara få en AI att generera åt oss.
Något definitivt svar har han inte. Men i en tid när allmänna svar är lätta att få känns det allt viktigare att uppehålla sig vid frågan.
Text: Cecilia Köljing
1. Skribenten bad ChatGPT sammanfatta forskarens vetenskapliga artikel:
Prompt: Hej! Vad handlar den här vetenskapliga artikeln om:
Arts of Living with Machines
2. ChatGPT svarade:
När maskiner och industrialisering förändrade samhället uppstod en fråga för designers: Vad händer med människans kontroll och handlingsförmåga när maskiner kan göra allt mer själva? Artikeln tittar särskilt på tidig svensk industridesign och undersöker hur designers historiskt hanterade spänningen mellan teknisk utveckling och mänsklig agens – alltså människans möjlighet att själv handla, påverka och fatta beslut.
Ett viktigt svar på industrialiseringen blev enligt artikeln att design fokuserade på ”useful things” och verktyg. Tekniken utformades som något som människan använder: människan har intentionen och kontrollen, medan föremålet eller maskinen är redskapet som hjälper henne att genomföra något. Det här sättet att tänka har blivit en väldigt grundläggande del av modern design.
Problemet med AI är att den relationen börjar bryta samman. Generativ AI är inte riktigt ett traditionellt verktyg som bara gör exakt vad användaren säger. Systemet kan exempelvis generera innehåll, föreslå lösningar, tolka instruktioner och påverka resultatet på sätt som gör att agensen blir fördelad mellan människa och teknik – det som abstractet kallar distributed agencies.
Författarens argument verkar därför vara att design inte längre kan nöja sig med den gamla modellen:
människa → använder → passivt verktyg
utan behöver utveckla nya sätt att tänka kring situationer som mer liknar:
människa ↔ AI ↔ andra människor/system, där flera aktörer bidrar till vad som faktiskt händer.
När abstractet säger att den tidigare ”aesthetic and conceptual foundation has reached its limits” betyder det alltså inte bara att AI behöver snyggare eller annorlunda gränssnitt. Det är ett mer grundläggande argument: själva föreställningen om vad vi designar, vem som agerar och vad ett verktyg är kanske behöver omprövas.
Väldigt kort sammanfattat
Artikeln frågar ungefär:
Om design historiskt har gjort tekniken begriplig genom att behandla maskinen som ett verktyg under människans kontroll – vad händer med design när AI inte längre fungerar som ett passivt verktyg?
Författaren använder svensk designhistoria och industrialiseringen som en parallell till dagens AI-utveckling och argumenterar för att generativ AI kräver nya designperspektiv där handlingskraft inte självklart tillhör enbart människan.
3. Skribenten bad ChatGPT om följande:
Prompt: Intervjun ska bli en artikel/reportage snarare än en akademisk intervju. Kan du hjälpa mig att välja ut kanske 5–6 frågor i en bra ordning, från en lätt inledningsfråga till mer kritiska följdfrågor?
4. ChatGPT svarade:
Absolut. För ett reportage eller en journalistisk intervju skulle jag bygga samtalet så att ni börjar konkret och begripligt, går in i forskningen och avslutar med framtiden. Då slipper intervjun kännas som ett akademiskt seminarium.
Jag skulle köra dessa sex huvudfrågor, med möjliga följdfrågor i bakfickan:
- Vi pratar ofta om AI som ett verktyg. Men du menar att den beskrivningen börjar bli otillräcklig – varför?
Följdfråga: När slutar AI egentligen vara ett verktyg? - I din forskning går du tillbaka till den tidiga svenska industridesignen. Vad kan den historien lära oss om den AI-omställning vi befinner oss i idag?
Följdfråga: Ser du några tydliga paralleller mellan människors reaktioner på maskiner då och på AI idag? - Du skriver om “distributed agency”, alltså att handlingskraften blir fördelad. Hur märks det i praktiken när jag exempelvis använder ChatGPT för att skapa något?
Följdfråga: Vem är egentligen skaparen av resultatet i en sådan situation? - Om människan inte längre har full kontroll över vad tekniken producerar – vad händer då med designerns ansvar?
Följdfråga: Kan vi fortfarande hålla en enskild designer ansvarig när resultatet formas av människor, AI-modeller och andra system tillsammans? - Finns det en risk att vi gör AI mer revolutionerande än den faktiskt är? Varför kan vi inte helt enkelt betrakta generativ AI som ett väldigt avancerat verktyg?
Den här skulle jag definitivt ha med. Den testar forskarens tes och kan ge ett mycket mer intressant citat än en fråga där du redan accepterat artikelns utgångspunkt.
- Om den gamla idén om människan som användare och tekniken som verktyg har nått sin gräns – vad kommer efter den? Hur borde vi designa framtidens relation mellan människor och AI?
Följdfråga: Finns det något konkret exempel på hur en AI-tjänst skulle se annorlunda ut om designers började tänka så redan idag?
Om du bara får 10–15 minuter med forskaren: prioritera 1, 2, 5 och 6. De ger tillsammans en väldigt bra berättelse: Vad har förändrats? → Vad lär historien oss? → Är premissen verkligen sann? → Vad händer nu?
Ett journalistiskt knep här är också att be om exempel varje gång svaret blir abstrakt. Om forskaren börjar prata om agency, autonomy, aesthetics osv., bryt gärna in med: ”Kan du ge mig ett konkret exempel på hur det skulle kunna se ut?” Det är ofta där du får materialet som faktiskt fungerar i en text.
5. Forskaren bad ChatGPT om följande:
Prompt: For this task I need you to be my communications manager, assisting me in sharing research results to a general audience. I have received a set of questions from a journalist about the paper "arts of living with machines" (in the source folder) that I need help answering. The questions are in Swedish and I need the answers in the same language, but keep my tone overall. I want the answers to be short, not much longer than the questions. I also want the answers to bring out what is most important about the article.
6. ChatGPT svarade:
- Vi pratar ofta om AI som ett verktyg. Men du menar att den beskrivningen börjar bli otillräcklig – varför?
Ett verktyg är något som väntar på att vi ska använda det; avsikten och handlingen antas ligga hos människan. AI-system agerar däremot delvis självständigt, formar vad vi ser och samlar samtidigt data om oss. Då blir det oklart vem som använder vem, och verktygsbilden döljer mer än den förklarar.
- I din forskning går du tillbaka till den tidiga svenska industridesignen. Vad kan den historien lära oss om den AI-omställning vi befinner oss i idag?
Den visar att vi har befunnit oss i liknande lägen förut. 1930-talets designers varken förnekade industrialismen eller gjorde tekniken till ett självändamål; de försökte utveckla ett nytt sätt att se på vardagen och knyta maskinerna till hur människor faktiskt levde. Lärdomen är att också vi behöver en ny tankefigur – men inte en ny universallösning.
- Om människan inte längre har full kontroll över vad tekniken producerar – vad händer då med designerns ansvar?
Ansvaret försvinner inte; det förändras och blir större. Designern kan inte bara ansvara för en färdig form, utan också för de relationer och villkor systemet skapar: vad det möjliggör, vad det hindrar och vilka aktörer eller konsekvenser som blir osynliga. Mindre direkt kontroll betyder alltså inte mindre ansvar.
- Finns det en risk att vi gör AI mer revolutionerande än den faktiskt är?
Ja. Mycket i dagens AI-retorik känns igen från tidigare möten med maskiner: både löften om frigörelse och farhågor om underkastelse. Historien hjälper oss att undvika att göra AI helt unik. Men den får inte heller dölja det nya: systemen handlar mer självständigt och omfördelar ansvar, resurser och makt.
- Om den gamla idén om människan som användare och tekniken som verktyg har nått sin gräns – vad kommer efter den? Hur borde vi designa framtidens relation mellan människor och AI?
Efter ”användaren och verktyget” behöver vi en mer relationell förståelse: människor, modeller, data, institutioner och andra berörda påverkar varandra. Frågan är inte bara om något är användbart, utan för vem, på vems bekostnad och med vilka följder. Vi bör designa flera ansvarsfulla sätt att leva med AI, inte söka en enda optimal lösning.
- Finns det något konkret exempel på hur en AI-tjänst skulle se annorlunda ut om designers började tänka så redan idag?
Ta en AI-baserad söktjänst. I dag framstår den som ett enkelt verktyg, medan rankning, spårning, datainsamling, reklam och beteendestyrning sker under ytan. En annorlunda tjänst skulle visa varför svaret ser ut som det gör, vilka källor och intressen som format det och göra systemets prioriteringar möjliga att påverka.