KORTNYTT
Forskere mener det er viktig å ta gode designbeslutninger for at teknologi også fungerer godt for homofile og andre minoriteter. Illustrasjon: Adam Poulsen

Blir roboter designet for å inkludere minoriteter?

Er perspektivene til minoritetsgrupper som lesbiske og homofile tatt hensyn til når det utvikles roboter og kunstig intelligens?

Robotteknologi blomstrer i flere sektorer, inkludert handel, helsevesenet, industrien og utdanningssektoren. Men det er ikke sikkert at utviklere tar hensyn til minoritetsgrupper i samfunnet, som folk som ikke identifiserer seg som helt standard heterofil.

Hvorfor må folk som utvikler roboter og kunstig intelligens gjøre noe med dette? Hvordan kan lesbiske, homofile, bifile og transpersoner (LGBTQ+) forholde seg til roboter?

I en kortartikkel i journalen Nature Machine Intelligence diskuterer Roger A. Søraa fra NTNU saken sammen med medforfatterne Eduard Fosch-Villaronga fra Leiden Universitet i Nederland og Adam Poulsen fra Charles Sturt Universitet i Australia.

Søraa og kollegene diskuterer for eksempel en fersk studie som så på Twitter-kontoene til flere drag-artister. Disse ble vurdert av et kunstig intelligens-drevet verktøy laget av Jigsaw, en del av Google. Dette prøver å forutsi og konfrontere trusler som kan oppstå.

KI-verktøy fanger ikke konteksten godt

Verktøyet er designet for å måle hvor fiendtlig innholdet online forstås. Det flagget oftere kontoene til dragartistene som kontroversielle, enn andre profiler som åpenbart er fiendtlige, med nazistiske holdninger.

– Om ikke verktøyene som er drevet av kunstig intelligens forstår konteksten skikkelig, kan de hindre ytringsfriheten til marginaliserte samfunn, skriver forskerne.

De viser til at teknologi ikke utvikles i et vakuum, men isteden reflekterer partiske holdninger og reproduserer sosiale verdier og tro. Det betyr at det å inkludere LGBTQ+-grupper når teknologien og kunstig intelligens utvikles, kan styrke disse samfunnene betraktelig, skriver Søraa og kollegene.

KI for eldre og i utdanning må tilpasses

Innenfor eldreomsorgen kunne egen robotteknologi tilpasset LGBTQ+ hjelpe på ensomheten mange eldre innenfor disse gruppene føler.

Innenfor utdanningssektoren kunne slik teknologi støtte og informere barn og unge voksne som har ikke-heteronormative følelser knyttet til seksuell orientering og kjønnsidentitet.

Men til nå mener forskerne at slike perspektiver ikke er inkludert godt nok i utviklingen av roboter og maskiner. De argumenterer for at dette burde tas mer hensyn til både innenfor forskningen og designet av roboter og maskiner i fremtiden. Utviklere og designere må være mer inkluderende når de bygger og skaper maskinene, som i stadig større grad vil være blant oss.

– Det er avgjørende at vi konstruerer mekanismer og politikk som anerkjenner at det er viktig å være inkluderende, ikke-diskriminerende og ta hensyn til mangfoldet, også overfor LGBTQ+-grupper når vi utvikler og tar i bruk roboter og kunstig intelligens, skriver de.

Kilde: Poulsen, A., Fosch-Villaronga, E. & Søraa, R.A. Queering machines. Nat Mach Intelligence (2020).