Bildet skal illustrere en overgriper på internett
Cybergrooming: En voksen mann kan gi seg ut for å være en gutt på 14 år på nettet. NTNU-teknologi kan avsløre han. Foto: NTB/Shutterstock

Algoritmer kan hindre overgrep på nett

Antall overgrepssaker mot barn via nett har økt med nesten 50 prosent på fem år. Det melder NRK. Forskere ved NTNU i Gjøvik har utviklet algoritmer som kan bidra til å avsløre planlagte nettovergrep ved å analysere samtalechatten.

Millioner av barn logger seg daglig på chatterom for å prate med andre barn. En av disse kan godt være en mann som utgir seg for å være en 12 år gammel jente med langt skumlere hensikter enn en prat om «My little Pony».

Dette håper NTNU-professor og oppfinner Patrick Bours i AiBA å forhindre. Nå tilbyr selskapet et verktøyet basert på adferdsbiometri og algoritmer som kan avsløre seksuelle overgripere i nettprat med barn.

Cybergrooming heter det når voksne ta kontakt med barn på nettet via en falsk profil. Formålet er ofte å få barna over på en privat kanal slik at de kan sende bilder av seg selv, med og uten klær, vise seg frem, og kanskje møte vedkommende til slutt.

Bildet viser Patrick Bours

Patrick Bours er professor i informasjonssikkerhet ved NTNU i Gjøvik. Hanhadde ideen til verktøyet som kan avsløre overgripere på nettet. Foto: Erik Børseth

Algoritmer som varsellampe

– Å kontroller alle disse samtalene for å hindre at overgrep skjer, er umulig for moderatorene som følger manuelt med. Det er behov for mer automatikk og noe som varsler om pågående samtaler, sier Bours.

Selskapet AiBA har utviklet et system med flere algoritmer som gir de store chatteselskapene et verktøy som kan avsløre om det er voksne eller barn som snakker. Her kommer atferdsbiometri inn.

En voksen mann kan gi seg ut for å være en gutt på 14 år på nettet. Men måten han skriver på, raskt eller sakte, ordvalg m.m., vil kunne avsløre at dette er en voksen mann på ca. 40.

Ved maskinlæring gjør systemet analyser av alle samtale, og risikovurderer de ut fra bestemte kriterier. Risikonivået går kanskje litt opp og ned gjennom samtalen, da systemet vurderer hver eneste melding. Når det blir for høyt, lyser det rødt. Da varsles moderatoren som går inn i samtalen og vurderer videre.

– Ved å analysere slike samtaler lærer vi hvordan slike menn «groomer» mottakeren med komplementer, gaver og annen smiger, til å gi mer og mer. Det er kaldt, kynisk og nøye planlagt.

Slik kan algoritmene avsløre samtaler som bør sjekkes opp når de pågår, og ikke i etterkant når kanskje skaden er skjedd og overgrep begått. De fungerer som en varsellampe.

Kaldt og kynisk

I utviklingen av algoritmen har Patrick Bours analysert mange samtaler fra gamle logger.

– Ved å analysere slike samtaler lærer vi hvordan slike menn «groomer» mottakeren med komplementer, gaver og annen smiger, til å gi mer og mer. Det er kaldt, kynisk og nøye planlagt.

Bilde viser en unge jente foran datamaskin

Det finnes en del voksne som ta kontakt med barn og unge på nettet via en falsk profil. Formålet er ofte å få barna over på en privat kanal slik at de kan sende bilder av seg selv, med og uten klær, vise seg frem, og kanskje møte vedkommende til slutt. Illfoto: NTB/Shutterstock

– Faren for at det ender med et overgrep er stor. Spesielt hvis overgriperen sender mottakeren over til andre plattformer med video for eksempel. I live-situasjoner vil algoritmen markere at dette kan være en samtale man må overvåke.

Analyse i sanntid

– Hensikten er å avsløre en overgriper så raskt som mulig, sier Bours.

– Venter vi til hele samtalen er ferdig, og avtaler er gjort kan det være for sent. Det er også mulig å si fra til barnet i chatten at dette er et voksent menneske og ikke barn du snakker med.

AiBA har jobbet med gamingselskaper om å installere algoritmen, og dette kan være på plass neste år. De har også jobbet mot en danske chatteplattform, MoviestarPlanet, som er rettet mot barn.  

De har også erfart at brukerne skriver annerledes på f.eks. Snapchat enn på TikTok.

–  Dette må vi ta høyde for når vi trener algoritmen. Det samme med språk. Tjenesten skal kunne utvikles til alle typer språk, sier Patrick Bours.

AiBA har utviklet algoritmen med økonomisk støtte fra NTNU Discovery og NFR Forny.

Hva er atferdsbiometri?

Atferdsbiometri handler om hvordan du gjør ting, f.eks. hvordan du taster på en mobil eller maskin. Får forskere innsikt i hvordan du bruker tastaturet, rytmen og slagkraften, kan de med 80 prosent sikkerhet fastslå om du er mann eller kvinne, ung eller gammel.

Og hvis det samtidig legges til hvilke ord du bruker, vil det gi over 90 prosent gjenkjenning på kjønn og alder.