Så vanligt är toxiskt språk i svenska sociala medier

Även om internet erbjuder fantastiska möjligheter för alla att delta i diskussioner när som helst och var som helst så finns det också baksidor. Ett exempel är när samtalsklimatet blir infekterat av toxiskt språk.

Toxiskt språk används för att beskriva kommunikation som förgiftar samtalsklimatet i sociala medier. I begreppet ryms kommunikation som är förbjuden i lag (exempelvis hets mot folkgrupp och förtal), men också andra former av kränkningar, som nedsättande tilltal, integritetskränkningar eller respektlöshet.

För att undersöka omfattningen av toxiskt språk i svenska sociala medier har data från fem olika källor analyserats. Dessa är Reddit, Flashback, Familjeliv, Twitter och kommentarsfält för nyhetsmedier på Facebook.

Det finns flera faktorer som kan påverka nivån av toxiskt språk. Dels beror det på vilka ämnen som diskuteras, dels i vilken omfattning forumen modereras. Det gör att andelen toxiskt språk skiljer sig åt i de olika källorna som undersökts, men om man slår ihop alla källor får man ett medelvärde på strax under 5 procent. Flashback, som är känt för att vara väldigt liberalt när det kommer till vad som publiceras, har den högsta nivån toxiskt språk, 10 procent. Därefter kommer Facebook (5,7 procent) och Reddit (4 procent). Familjeliv har den lägsta andelen toxiska kommentarer, 1,5 procent.

Det är speciellt diskussioner om politiker, politiska system, ideologier och samhällsinstitutioner som har en tendens att bli toxiska. Måltavlorna för toxiskt språk är framför allt enskilda individer som deltar eller som diskussionen handlar om.

Toxiskt språk på nätet är ett stort problem. De individer som utsätts upplever ofta psykologiska konsekvenser som kan leda till att de drar sig tillbaka från det offentliga samtalet. Det kan dels leda till att vissa röster tystnar men också att de mer lågmälda och diskuterande samtalen drunknar och försvinner. Ett sätt att minska andelen toxiska kommentarer är att använda sig av olika former av teknik för att identifiera toxiskt språk. Den snabba teknikutvecklingen framför allt inom AI (artificiell intelligens) gör det idag möjligt för oss att med relativt bra träffsäkerhet kunna identifiera texter som kan uppfattas som toxiska. Tekniken kan användas för att moderera diskussioner på olika sätt men eftersom tekniken (ännu?) inte är perfekt och dessutom fungerar olika bra på olika språk är det fortfarande viktigt att ha med människor i bedömningarna.

Lisa Kaati
Universitetslektor vid Institutionen för data- och systemvetenskap,
Stockholms universitet