Kritisk syn kan göra AI bättre
Är vi för blåögda inför utvecklingen av artificiell intelligens? Med en mer ifrågasättande syn kan vi komma på AI-lösningar som tar hänsyn till fler röster och perspektiv, enligt teknikhistorieforskare.
– Kritisk forskning finns, men den har ofta väldigt liten makt över den tekniska utvecklingen, säger Lina Rahm, som undersöker hur AI-lösningar används i praktiken.
Robotkollegor, läs- och skrivteknologier och digitala assistenter – alltfler AI-verktyg tar plats i våra liv.
Men om tekniken ska gagna oss på bästa sätt behöver vi få en bättre helhetssyn och att fler vetenskapliga fält involveras när AI-system tas fram, menar Lina Rahm. Hon vill se både en ökad samverkan mellan olika ämnesdiscipliner och att fler drar nytta av tidigare gjord forskning.
Lina Rahm studerar AI och autonoma system ur ett användarperspektiv – människans och samhällets – och med historisk blick, om konsekvenser av teknikanvändningen från 1950-talet och framåt.
Flera av hennes undersökningar rör utbildningsområdet. Den senaste om en biblioteksrobot tänkt att få barn att älska böcker och att öva på att läsa högt. Tekniken framställdes som självgående, men behövde i praktiken mycket mänskligt arbete.
En massa extrajobb
– Det är något som ofta händer med ny teknik inom skola och läsning. Läraren får en massa extrajobb i samband med de nya verktygen, ett faktum som skolforskningen visat sedan 1970-talet.
Ofta brister synen på användaren, i det här fallet läraren:
– Man har en för snäv bild, en idé om vad läraren gör i sin profession utan att grunda det på forskning.
Genom kritisk granskning av AI vill hon synliggöra maktstrukturer: vilka som gynnas respektive marginaliseras av de tekniska framstegen. Lärare riskerar att förlora sin självständighet när AI-verktyg tar plats i klassrummet, påpekar hon.
– De tappar inflytande över organiseringen av arbetet, som snarare blir en teknisk fråga än en angelägenhet för lärarens pedagogiska kompetens.
AI ingen neutral kraft
Orsakerna till att automatisera lärarens arbete kan vara olika: lärarbrist, effektivisering, att underlätta arbetet:
– Men sällan frågar man lärare vilket sorts arbete som de vill ska automatiseras.
En fallgrop inom AI-utvecklingen, menar hon, kan vara att man försöker lösa tekniska problem genom att konfigurera användaren istället för tekniken, till exempel att anpassa läraren till AI-verktyget, och inte tvärtom.
Rahm vill lyfta fram hur makt formar teknologisk utveckling. AI kan inte förstås som en neutral kraft, utan måste granskas kritiskt eftersom dess potential och risker är djupt sammanvävda med samhällets maktstrukturer och sätt att se på kunskap, menar hon.
– Introduktionen av ny teknik är i sig ett sätt att omforma samhället, och här kan humanistisk och samhällsvetenskaplig forskning med ett kritiskt perspektiv användas för att tolka och bättre förstå komplexa samhällsprocesser.
Text: Christer Gummeson ( gummeson@kth.se )