Etisk AI-användning inom journalistik kan stärka demokratin
Agnes Stenbom, industridoktorand vid KTH Indek, verkar för att en etisk AI-användning av media ska kunna stärka samhället och demokratin.
Nyligen utsågs hon till Årets AI-svensk 2024 av TechSverige, och hon fick även ta emot Svenska Unescopriset 2024 för sitt etikarbete.
– Målet är att stödja en ansvarsfull AI-användning inom journalistiken, säger hon.
Agnes Stenbom, 31, är chef för inkluderingslabbet IN/LAB och ansvarig för förtroendefrågor på Schibsted Media. Dessutom är hon industridoktorand vid KTH, samt medgrundare till och driver branschnätverket Nordic AI Journalism .
– I vårt nordiska nätverk samlar vi experter och journalister för att utforska etiska AI-lösningar – lösningar som kan stärka både publicistiska värden och medborgarnas förtroende för media.
Vad ser du som viktigast att fokusera på för att skapa ansvarsfull AI-utveckling inom journalistiken?
– Samspelet mellan människor och AI, med en transparent journalistisk process som innebär ett tydligt mänskligt ansvarstagande. Det är helt avgörande.
Vad ser du som de största etiska riskerna när det gäller AI-användning i produktionen av redaktionellt material?
– När AI används för att skapa exempelvis texter, bilder, ljud eller videos är det viktigt att en människa står till svars för, och kan förklara, hur materialet blivit till. Annars urvattnas både den redaktionella processen och den särställning som redaktionellt innehåll har på informationsmarknaden.
Hur kan kvaliteten på redaktionellt material påverkas positivt av ökad AI-användning i produktionsprocessen?
– Det finns mängder av sätt för redaktionellt material och kommunikationskanaler att förbättras genom AI. Det kan till exempel handla om nya tekniska, och därmed även mänskliga, förmågor att gå på djupet i granskningar med hjälp av AI. Eller om att öka effektiviteten i repetitiva arbetsprocesser, och därmed frigöra tid för mer utforskande journalistiskt arbete, eller om att erbjuda nya format för olika medieanvändare.
Hur kan kvaliteten på redaktionellt material påverkas negativt av ökad AI-användning?
– Om AI-teknik enbart används för att öka, och inte förändra, medieproduktionen ser jag stora risker för kvalitetsförsämringar i journalistiken. Det handlar inte minst om frågor kring likformighet, där AI-system som tränats på tidigare exempel formar produktionen framåt på ett sätt som gradvis minskar originalitet och kreativitet.
– Därför är det av största vikt att skapare och användare av AI-teknik i redaktionella miljöer tar ansvar för att forma tekniken på sätt som istället premierar just originalitet, och låter AI-verktygen bli katalysatorer för kreativitet snarare än för konformitet.
Hur uppstod ditt intresse och engagemang kring etisk AI-användning inom journalistiken?
– Jag har alltid varit intresserad av mediernas roll i samhället, och inledde mitt yrkesliv i en tid då vi kunde börja se konkreta exempel på AI-teknikens potential och risker i det digitala informationslandskapet. Medierna har en spännande roll i AI-utvecklingen. Vi kan påverka framtiden både som användare och skapare av tekniken, och som informationsspridare, säger Agnes Stenbom.
– Narrativet i mediernas rapportering om tekniken kan bidra till allmänhetens attityder, både positivt och negativt. Så det är viktigt att mediebranschen har stor förståelse både för AI-användningens potential och för riskerna.
Text: Katarina Ahlfort
Foto: Emma-Sofia Olsson