Hatescan: AI för att känna igen toxiskt språk

Teknikerna kan användas för moderering av kommentarsfält men det kan också användas för att uppmärksamma skribenter på att kommentarer kan uppfattas som toxiska.

IVAs 100-lista 2023

Även om internet och digitala kommunikations erbjuder fantastiska möjligheter för alla att kommunicera när som helst och var som helst så finns det också baksidor. Ett exempel är när kommunikationen blir infekterad av toxiskt eller kränkande språk.

Eftersom det är omöjligt att manuellt övervaka allt som sägs på nätet behövs det tekniker som kan identifiera toxiskt språk automatiskt. Det finns idag ett flertal tekniker för att känna igen toxiskt språk på engelska men det saknas idag på många andra språk.

Inom ramen för ett flertal forskningsprojekt har vi utvecklat Hatescan - en AI modell som kan känna igen toxiskt språk på svenska. Hatescan har använts i ett flertal studier och används idag för att känna igen toxiskt språk i chattar.

Användningsområdena är många, exempelvis kan teknikerna användas för moderering av kommentarsfält men det kan också användas för att uppmärksamma skribenter på att kommentarer kan uppfattas som toxiska.

IVAs 100-lista 2023: Teknik i mänsklighetens tjänst

IVAs 100-lista 2023 lyfter fram en mångfald av forskningsprojekt från svenska lärosäten, på temat Teknik i mänsklighetens tjänst inom klimatomställning, energiförsörjning, välfärdsteknologi, cybersäkerhet och krisberedskap. Projekten har genom urval bedömts ha stor potential att skapa nytta, genom kommersialisering, affärs- och metodutveckling eller samhällspåverkan. Alla deltagande forskare är intresserade av ökade kontakter med näringslivet för tillämpning och fortsatt utveckling av sina projekt. 

Namngivna kontaktpersoner för respektive forskningsprojekt på 100-listan är ansvariga för att informationen som presenteras här är korrekt.

Allt om IVAs 100-lista - frågor och svar