Hatytringer på nett skal kartlegges av nytt verktøy

Antallet anmeldelser av hatkriminalitet er mer enn femdoblet siden 2012. Av disse utgjør rundt 40 prosent hatytringer.

Motivet er oftest hudfarge eller etnisitet, etterfulgt av seksuell orientering. Samtidig melder PST at også politikere og samfunnsdebattanter som gruppe oftere utsettes for trusler og trakassering.

Det har blitt særlig tydelig den siste tiden: Tidligere i år fortalte nå avgåtte AUF-leder Gaute Skjervø at han må bruke voldsalarm etter langvarig hets og gjentatte trusler. Nylig meldte også SV-nestleder Marian Hussein at hun ikke tar gjenvalg som nestleder av samme grunn.

Drevet av den digitale utviklingen

Stipendiat Ehtesham Hashmi ved NTNU i Gjøvik mener de siste årenes vekst i hatytringer må ses i lys av den raske utviklingen innen sosiale medier og andre digitale plattformer.

– Omfanget og hastigheten i dagens digitale kommunikasjon gjør at hatytringer kan spres raskere og nå flere enn noensinne, sier han.

Det har ført til at tradisjonelle måter å fange opp og stanse det på ikke lenger strekker til.

Derfor har han i samarbeid med NTNU-professor Sule Yildirim Yayilgan, Vestlandsforskning, Politiet og norske kommuner nå utviklet et verktøy som skal ta opp kampen.

• Les også: KI i helsevesenet kan gi oss nye problemer

«Massakrer begynner alltid med små ord»

Selv om hatytringer kan være straffbare etter straffeloven § 185, er ikke verktøyet nødvendigvis ment som en måte å spore opp og ta enkeltpersoner på, understreker forskerne.

– Det kan også være et redskap for å identifisere hvilke miljøer som har størst behov for målrettede tiltak. På den måten kan det hjelpe politi og kommuner å bruke ressursene sine på forebyggende og bevisstgjørende tiltak der det faktisk har noe for seg, sier professor Yayilgan.

Verktøyet har derfor en funksjon som kobler enkeltstående hatytringer sammen. Resultatet er et visualisert nettverk av ytringer som viser hvordan de har gitt opphav til eller har latt seg inspirere av hverandre.

– Det betyr at man både kan se hvor hatytringer kommer fra, hvordan de blir plukket opp av andre og hvordan samtalene de gir opphav til utvikler seg over tid, forklarer Hashmi.

I sin nyeste forskningsartikkel understreker forskerne viktigheten av å fange opp utviklingen i hatkriminalitet tidlig. Der viser de blant annet til FNs spesialrådgiver for forebygging av folkemord, Adama Dieng, som skal ha sagt at «store massakrer begynner alltid med små ord og små handlinger».

Komplekst fenomen

Det har krevd mange års forskning og finjustering for å få verktøyet til å identifisere en ytring som hatefull med den treffsikkerheten det i dag har.

Det skyldes blant annet at hatprat er et komplekst fenomen.

– Hva som juridisk sett teller som hatprat varierer fra land til land, og hva som oppfattes som hatefullt, varierer også mellom individer, sier Hashmi.

Derfor var forskerne nødt til å finne noen fellesnevnere mellom alle de ulike definisjonene av hatprat. Det resulterte i et fokus på fire typiske kjennetegn.

Det viser seg nemlig at hatytringer svært ofte dreier seg om etnisitet, kjønnsidentitet, religion eller seksuell orientering.

– Disse fire kategoriene er sentrale både i Norge og i FNs internasjonale konvensjonen om sivile og politiske rettigheter, sier Hashmi.

Det gjør verktøyet både anvendelig og relevant også utenfor norsk sammenheng.

• Les også: Roboten økte elevenes lærelyst og hjalp dem å prestere bedre

Oppdager «giftig» språk

Når verktøyet registrerer kommentarer som faller innenfor én eller flere av disse kategoriene, vurderer det innholdet etter tre nivåer av «giftighet». Det vil si hvor potensielt fornærmende, hatefullt eller aggressivt det er.

– En uttalelse kan gi utslag på flere av disse parameterne samtidig. Dersom det derimot ikke gir utslag på noen av dem, kategoriseres det som nøytralt, forklarer Hashmi.

For å kunne gjøre dette baserer verktøyet seg på maskinlærings-algoritmer som er trent på totalt 14 000 norske og engelske setninger fra plattformer som Facebook, Reddit og Twitter.

Samfunnsforskere ved Vestlandsforskning bisto i arbeidet med å samle inn og kategorisere datagrunnlaget.

Må forklare seg

Forskerne nøyde seg imidlertid ikke bare med at teknologien oppdager og kategoriserer hatytringer. Det måtte også fungere på en åpen og forståelig måte.

– Når verktøyet kategoriserer et utsagn som hatefullt, vil det forklare hvilke ord, fraser og vurderinger det legger til grunn for avgjørelsen sin. Det er viktig både for at alle skal forstå hva det er som er problematisk ved utsagnet, og for å bevare tilliten til teknologien, forteller Hashmi.

Tradisjonelle måter å fange opp og stanse hatefulle ytringer på, strekker ikke lenger strekker til. Forskerne Sule Yildirim Yayilgan og Ehtesham Hashmi tar opp kampen med å utvikle et verktøy. Foto: Mads Wang-Svendsen, NTNU

Forskerne jobber nå også med å gjøre verktøyet i stand til å fange opp hatytringer i sanntid.

– Per i dag må verktøyet mates utsagnene det skal vurdere manuelt. På sikt skal det settes opp på en måte som gjør at det kan hente ut data fra digitale plattformer fortløpende på egen hånd, forklarer professor Yayilgan.

Foruten at det blir mer automatisert, betyr det også at verktøyet vil være i stadig utvikling.

– Måten det er laget på, gjør at det blir bedre dess mer det blir brukt. Så jo mer data det utsettes for, dess flere anledninger får det til å finjustere seg selv og øke treffsikkerhet sin, sier Yayilgan.

Slik sett har verktøyet fremdeles ikke nådd sitt fulle potensial.

Forskerne er imidlertid opptatte av at det alltid skal være mennesker involvert i den videre utviklingen av verktøyet.

– Systemet vil hele tiden kunne ta inn og forbedre seg på bakgrunn av menneskelige tilbakemeldinger. Det bidrar til at det forblir pålitelig og etisk forsvarlig over tid, sier Hashmi.

Referanse:
Ehtesham Hashmi, Sule Yildirim Yayilgan: Ethical and Socially Aware English–Norwegian Hate Speech Detection: A Systematic Design Framework,  Machine Learning and Knowledge Extraction, 21. september 2026 https://doi.org/10.3390/make8090292