Hon avslöjade AI-tjejerna på TikTok: “Inte sunt att lita på allt du ser i ditt flöde”

En dag när journalisten Siri Christiansen scrollade på TikTok möttes hon av flera konton som postade videor på tjejer med samma slogans. Videoklippen utspelade sig i nästan identiska miljöer och uttryckte högerextrema tankar och stark kritik mot invandring. 

Trots att tjejerna vid en första anblick såg normala ut, om än väldigt snygga, väckte likheterna misstankar hos Siri. Vid en närmare titt var det flera saker som inte stämde: händer med sex fingrar, hårstrån som inte rörde sig och katter som såg disneyanimerade ut.  

”Tjejerna” hade tusentals följare och flera Uppsalastudenter som P4 Uppland pratade med hade trott att videoklippen var äkta. Senare bekräftade Bot-experten Matteo Magnani, professor i datavetenskap vid Uppsala universitet, att innehållet var AI-genererat. Avslöjandet fick stor spridning och uppmärksammades nationellt av olika medier.

– Det var chockartat, det är första gången jag gjort något som har blivit så stort, säger Siri. Kontona tros ha styrts av samma aktör och stängdes ned efter granskningen. 

Tidigare har Siri arbetat med faktagranskning och bland annat granskat rysk information om Sverige samt misinformation om valrörelser. Idag är hon expert på AI, desinformation och källkritik.

”Allergisk mot tanken att AI-tjejer är det enda som förleder oss”

Siris förhoppning är att nyheten om AI-tjejerna på Tiktok kan göra att folk blir mer vaksamma och förstår att allt man ser på nätet inte är verkligt, samt att medvetenheten kan spridas till misinformation som inte är AI-generad, men ändå felaktig. 

– Jag är ju verkligen allergisk mot tanken att AI-tjejer är det enda som förleder oss, men jag hoppas att det här är ett sätt att väcka den allmänna debatten om desinformation och misinformation, säger hon. 

“Det är inte sunt att lita på allt du ser i ditt flöde”

Siri betonar vikten av källkritik i dagens medielandskap. 
– Det är inte sunt att lita på allt du ser i ditt flöde. Dels finns det illvilliga aktörer som vill påverka den allmänna opinionen, dels finns det väldigt mycket vilseledande information som folk lätt går på och sprider och som sedan cirkulerar. Just därför är det så viktigt att man bekräftar informationen. 

AI och valpåverkan 

Siri har bland annat föreläst om AI-slopaganda, det vill säga massproducerat AI-innehåll som sprids för att påverka opinionen, och hur det kan påverka riksdagsvalet. 

Ett hot tror Siri är realistiska bot-konton, som i exemplet med AI-tjejerna.

– Förut såg AI lite för Disney-animerat ut för att vara verklighetstroget, medan man idag kan få till de här suddiga mobilfilmerna.

Hon lyfter även risken för manipulerade videoklipp som föreställer en viss händelse, eller röstinspelningar som påstås vara politiker. 

Däremot betonar Siri att misinformation inte behöver komma från en politisk aktör, utan ofta handlar om inkorrekt eller vilseledande information som ändå kan komma att gynna olika politiska partier. Exempelvis kopplat till hälso- eller miljöfrågor. 

– Desinformation och missinformation handlar mindre om politiska läggningar, och mer om sakfrågor som väcker känslor, säger hon.

Vanligt att bli lurad

Siris berättar att arbetet med missinformation har fått henne att förstå hur vanligt det är.
– Det var skrämmande, och har gjort mig ganska skeptisk till saker jag själv ser i mitt flöde, säger hon. 

Hon berättar att man inom faktagranskning ofta pratar om SIFT-metoden. Där är det första steget att stanna och ta avstånd, vilket har blivit en naturlig del av hur Siri konsumerar information på internet. 

Blir du trots allt själv någonsin lurad av AI? 
– Absolut, säger Siri direkt. Hon påpekar sedan att man bör vara ödmjuk på risken att bli lurad, och våga erkänna ifall man har gått på något som inte stämmer. Ofta har den som delat felaktig information själv trott att den varit sann. 

– Därför tycker jag att man borde börja prata mer om misinformation, snarare än desinformation. 

Skillnaden på begreppen är att desinformation är falsk eller vilseledande information som sprids med avsikt att manipulera, medan misinformation är felaktig men sprids utan syftet att luras. 

Siri upplever att just AI-generat innehåll är en ganska tacksam typ av desinformation att granska och avslöja, eftersom det är något som de flesta blir obekväma inför. 

– Det har varit skönt gällande granskningen av AI-tjejerna. Oavsett politisk läggning kan man ändå känna att det är obehagligt att bli lurad av AI-innehåll, medan andra typer av misinformation är mycket suddigare. 

Har du några tips för att upptäcka AI-genererat innehåll? 
– Det är svårt att ge konkreta tips, eftersom de kommer att vara irrelevanta inom kort. Men det viktigaste är att inte reagera spontant på allt man ser. Stanna upp, var nyfiken och sök mer trovärdiga källor. Det är ett roligt sätt att engagera sig i det man ser och gäller inte bara AI-innehåll.