Slik kan kunstig intelligens forsterke urettferdighet
Du har sikkert snakket med Siri som er i Apple-produktene. Dette er et eksempel på kunstig intelligens, en teknologi som kan være til enorm nytte, men ikke uten alvorlige dilemmaer. Et av dem er at dataprogrammene reproduserer fordommer, som at svarte mennesker er mer kriminelle.
Dette kommer frem i NTNUs nye podkastserie De store spørsmålene.
I denne podkastserien møter du i hver episode tre kunnskapsrike forskere som gir deg noen av svarene på de store spørsmålene som driver oss fremover.
Episoden som slippes i dag, handler om hvor smart den kunstige intelligensen egentlig er, og hvordan vi best mulig kan denne teknologien.
Hawking bekymret for utryddelse
Den verdenskjente fysikeren Stephen Hawking var bekymret for at datamaskiner skal utrydde menneskeheten. Det Hawking var urolig for er det som kalles generell kunstig intelligens.
Dette finnes ikke ennå, men han var ikke bekymret helt uten grunn, for det er dette forskerne som jobber med kunstig intelligens prøver å finne ut av: Hvordan lage datamaskiner som kan lære seg ting på egen hånd, og så endre på seg selv.
En av forskerne er professor Gunnar Tufte ved NTNU. Han mener at det må skje kvantesprang før generell kunstig intelligens kan skapes.
Hjelpe syke babyer og fjerne søppel i havet
Hvis forskerne en dag skulle greie å etterligne hvordan hjernen virker og utvikle generell kunstig intelligens, kan man se for seg at datamaskinene ikke vil la oss mennesker bestemme over dem. Hvorfor i all verden skal vi jobbe for å komme dit?
– Det er ikke lett å svare på, men det er et ubesvart spørsmål hvordan man skal lage slike datamaskiner. Det er derfor det tiltrekker seg forskere som fluepapir, sier Tufte.
Professor i datateknologi, Heri Ramampiaro, forteller at kunstig intelligens kan hjelpe syke babyer, og effektivt fjerne søppel i havet – blant annet på steder som er vanskelig å komme til for mennesker.
Mangler skjønn og medmenneskelighet
Sosiolog Heidrun Åm sier at kunstig intelligens kan forsterke urettferdighet.
– Ettersom systemer med kunstig intelligens lever fra omverdenen, forsterker de fordommene og partiskheten som finnes i verden fra før. Afroamerikanere i Wisconsin i USA har for eksempel fått strengere straff enn hvite for den samme forbrytelsen fordi den kunstige intelligensen rangerer afroamerikanere med større risiko, sier Åm.
Datamaskinene plukker altså opp og reproduserer våre fordommer, som ligger både på og mellom linjene i datasettene de analyserer. For selv om vi kaller dem kunstig intelligente, mangler de egenskapene som skal til for å sette fordommer til side.
– Vi mennesker utøver skjønn, og vi har en hel haug med taus kunnskap som vi bruker når vi gjør vurderinger. Det utøver ikke maskinene. De har ikke tilgang til medmenneskelighet, sier Åm.
Du finner hele serien «De store spørsmålene» i appene der du lytter til podkast.
Tema for podcastepisoder som NTNU slipper framover er klima, genredigering, kunstig intelligens, kreftmedisiner, grunnforskning, oljeøkonomien og krisepakker for korona.
