Rapport om utnyttjande av artificiell intelligens vid uppföljning av hatretorik har publicerats

Justitieministeriet har i dag publicerat rapporten Utnyttjande av artificiell intelligens vid uppföljning av hatretorik. Rapporten ger en helhetsbild av den hatretorik som förekommer på finska i den offentliga debatten på webben. Rapporten är gjord av textanalysföretaget Utopia Analytics i kombination av mänskligt arbete och maskininlärning. Justitieministeriet beställde rapporten som en del av projektet Fakta mot hat som beviljats finansiering av EU.

I materialet ingår inte icke-offentliga debatter, alltså slutna Facebookgrupper och privata konton.

I rapporten avses med hatretorik kommunikation vars innebörd eller ton är förnedrande, förödmjukande, hotfull, fientlig, aggressiv eller omänsklig. Synonymer för hatretorik är hatpropaganda, hatskriverier, hatinlägg, hatspråk, hattal och hets. Hatretorik kan riktas mot personliga egenskaper såsom en persons ålder, religion eller övertygelse eller mot en viss grupp av människor.

Syftet med rapporten är inte att ta ställning till om ett enskilt uttryck är förbjudet enligt lag.

Hatretorik på offentliga diskussionsforum

Enligt rapporten förekommer 97 procent av hatretoriken på olika diskussionsforum, de flesta på webbplatsen Ylilauta. Av alla de meddelanden som identifierades som hatretorik påträffades 2,5 procent på Twitter. 

På de offentliga finskspråkiga plattformarna förekommer ca 150 000 meddelanden per månad som kan klassificeras som hatretorik. Detta motsvarar 1,8 procent av alla meddelanden. 

Hatretorik som stämplar och generaliserar människogrupper vanligast

Det material som samlats in från de största diskussionsforumen och nyhetssidorna, bloggar och offentliga diskussioner på Twitter, Facebook och Instagram analyserades närmare med hjälp av artificiell intelligens (AI).

Av materialet klassificerades 62 procent som hatretorik som stämplar eller generaliserar en människogrupp, 32 procent som förolämpning eller annan form av hatretorik, 4 procent som hatretorik som hänför sig till personliga egenskaper och 2 procent som hatretorik som riktar sig till en yrkesgrupp.

En heltäckande bild av den offentliga hatretoriken på finska på webben

Materialet består av ca 12 miljoner finskspråkiga kommentarer och skriverier på offentliga webbplatser under september–oktober 2020. Materialet omfattar bland annat de största diskussionsforumen och nyhetssidorna, bloggar och offentliga diskussioner på Twitter, Facebook och Instagram.

För rapporten samlade man också in material manuellt från webbplatserna Ylilauta och Hommaforum, till vilka sökrobotar har förhindrats tillträde.

Rapporten som är sammanställd av Utopia Analytics publiceras i justitieministeriets publikationsserie. Rapportörerna ansvarar helt för publikationens innehåll. Innehållet representerar inte nödvändigtvis ståndpunkter eller åsikter hos Europeiska kommissionen, som finansierat projektet Fakta mot hat, eller justitieministeriet.

Mer information: 

Utopia Analytics 
Mari-Sanna Paukkeri, TkD, CEO, Utopia Analytics, tfn 050 344 0501, [email protected]
Laura Kettunen, FM, doktorand, [email protected]

Justitieministeriet 
Milla Aaltonen, projektchef, tfn 0295 150 061, [email protected] 

Utnyttjande av artificiell intelligens vid uppföljning av hatretorik. Rapport.