I Jimmie Åkessons tal som arabisktalande AI-klon uppmanar han personer som inte anpassar sig till Sverige att återvända till sina hemländer. Han växlar mellan mottagare. Oklart vem jag som lyssnar förväntas vara. Efterlyst terrorist? Trogen Sverigevän? Tydligt någon som tror på orden från en robot.
”Genialiskt drag” sägs det i kommentarerna under videon. ”Populism” säger en representant från Alkompis, mediehuset som gör svenska nyheter på arabiska, till SVT. Joakim Wallerstein, kommunikationschef SD, menar att "Stora grupper i vårt samhälle förstår inte politisk kommunikation på svenska. Då behöver man tyvärr använda olika sätt för att få fram sitt budskap".
Tyvärr? Suck.
Oavsett, vad partiet ofrånkomligen lyckas göra med videon är att pressa fram behovet av källtillit hos befolkningen. Och väl här går det inte att spola tillbaka till tiden innan Tom Cruises AI-klon fick överraskade fans på Tiktok att dela in sig i två läger:
1: Han ser verkligen ung ut för att vara över 60. 2. Allt är fejk: ”You see it only in the way he runs”.
Videokreatören Chris Ume låg bakom videorna på Tom Cruise, ett praktexempel på viral succé. 2021 sa Ume till amerikanska nyhetssajten The Verge att deep fake inte var någon fara för framtiden: ”Det är som Photoshop för 20 år sedan. Då kände inte folk till vad fotoredigering var. I dag är man medveten om att bilder kan manipuleras.” En sak var Ume säker på; trots teknik som revolutionerar vår omvärld har samhällets uppfattning om sanning mer eller mindre överlevt.
Men anden kan inte sväva in i flaskan igen. Deep fake är här för att stanna: ”Alla tror på det."
Medierna gillar alltid ny teknik. AI är den nymonterade klätterställningen i mediernas lekpark, med brant välvda rutschkanor som kastar ut sina användare åt olika håll. Hela stan är där och köar. Någon slår sig fördärvat efter ett för snabbt åk. Någon trillar ned i ett klätternät.
Katrineholms-Kuriren följer i dag den AI-policy som tagits fram inom NTM, den koncern vi tillhör. Där slås bland annat fast att vi endast publicerar AI-genererade bilder om syftet är att skildra ett ämne nyhetsmässigt, att vi alltid ska vara tydliga och ange om text eller bild är AI-genererat och att en människa alltid ska kontrollera AI-genererat material innan det publiceras.
Fast vad händer när människor med makt använder deep fake för att sprida sina åsikter? Alla som vurmar för ny teknik, vurmar de även för källtillit? Kan vi verkligen vara säkra på att sanningen överlever?
Själva begreppet källtillit lanserades 2018 av forskarna Jutta Haider och Olof Sundin. Med internets inträde behövdes ett förhållningssätt som kompletterade källkritiken, vilken funnits med som begrepp i det svenska språket sedan åtminstone 1889. Källtillit handlar om att lita på information från trovärdiga källor. Människan kan inte i dag, vid varje enskilt tillfälle i myriader av digitala världar, ägna sig helhjärtat åt källkritik. Även om önskan finns.
Ingen skulle hinna göra annat.
Själva grundbulten för källtillit handlar mer specifikt om en tilltro till samhällets funktioner. Undersökningar som till exempel Förtroendebarometern visar att svenskar generellt har ett motståndskraftigt förtroende för samhällsinstitutioner. Men tilliten möter ständiga utmaningar i de kriser som uppstår i samhället, i backspegeln Estoniakatastrofen 1994, flodvågskatastrofen 2004, finanskrisen 2008-2009 och flyktingkrisen 2015-1016, för att bara nämna några.
I dag befinner vi oss i en tid med flera parallellt pågående kriser, och därmed är läget extremt tufft för källtilliten. Samhällsbygget är sårat av påverkanskampanjer och brottslig verksamhet. "Miljarder stjäls och pumpas ut i våra välfärdssystem, som är byggda för att man är ärlig", säger polismästare Carin Götblad till Studio Ett i september.
Faller förtroendet för samhället står landet naket och öppet för medborgarnas skepticism. Vem kan man då lita på? Den krokibilden vill i alla fall jag slippa se.
När teknik tillgängliggörs befinner sig många på samma planhalva, men syftet är inte detsamma för alla och inte heller tillvägagångssättet för hur tekniken används. Här är vårt uppdrag som lokaltidning att vara en aktör som prenumeranterna kan känna källtillit till, samtidigt som vi ansvarsfullt ska hänga med i den tekniska utvecklingen.
Med källtilliten går det att enkelt botanisera i den kunskap som tagit andra människor år att införskaffa. Källtilliten är praktisk. Framtiden däremot, är oviss och på internet ekar rösten från en dotter i USA som uppger att hon kidnappats. Mamman blir intervjuad av ABC News och räds orden hon fick höra i början av året: ”Mamma, de här elaka männen har tagit mig. Hjälp mig, hjälp mig.” Men dottern är inte kidnappad, bara hennes röst.
I Katrineholm och Vingåker ökade antalet anmälda bedrägeribrott genom social manipulation från 63 till 205 mellan åren 2022 och 2023 (under perioden januari till oktober), enligt polisen. Dessa anmälda brott utgörs till majoriteten av brottskoder som rör ”annan social manipulation”, alltså inte investerings-, romans- eller befogenhetsbedrägeri. Annan social manipulation kan till exempel handla om när någon låtsas ringa från banken eller utger sig för att vara en släkting och får en äldre person att skicka pengar.
Bedrägeribrotten har ökat i hela landet, där ökningen för polisregion Öst andelsmässigt är väldigt stor i jämförelse med de flesta av landets övriga regioner.
Och nu står vi inför nästa bedrägerivåg. Kombinationen klonad röst och fejkad video köar för att bli nästa svartlistade biljett in till andras rikedomar. I en DN-intervju från november uppger polisen att det bara är en tidsfråga innan den nya tekniken används för att lura privatpersoner i Sverige på pengar. För vem litar inte på sitt barnbarn?
Men medieanvändarna här i Katrineholms och Vingåkers kommun står rustade. Genom sin lokaltidning.