Selv intelligente system skal samhandle med oss. Det har mange utviklere glemt

Innimellom runger ett og samme varsko høylytt i kronikkspaltene: “Om vi ikke utdanner flere realister som kan gi oss mer teknolgi, vil det grønne skiftet slite og helsevesenet knele i møtet med eldrebølgen”.

Som forsker med psykologibakgrunn spør jeg meg:

Har Norge glemt at vellykket teknoloutiutvikling krever innsats også fra andre fagfelt? At teknologi ikke blir velfungerende hvis ikke brukervennlighet/design, etikk og jus er på plass i tillegg?

På teknologiens premisser

Som forsker snakker jeg mye med fagfolk som jobber med teknologidesign. De beskriver flere utfordringer som gjør det vanskelig å sikre at ny teknologi spiller på lag med menneskene som skal bruke den.

Mye teknologidesign preges av at teknologi lages på teknologiens egne premisser.

Men godt og menneskevennlig teknologidesign bør være målet uansett hvilket marked ny teknologi rettes inn mot. Og er det felt der dårlig teknologidesign kan ha fatale konsekvenser, så er det innen sikkerhetskritiske områder som transport, helsevesenet og energibransjen.

•    Les også: Her er teknologien som gir deg bruksanvisninga i øyet

Så galt kan det gå

Tre eksempler viser hvor galt det kan gå:

• I høst meldte forsikringsselskap at vi bulker bilene våre mer enn før, selv om vi har de mest høyteknologiske bilene noensinne. Å designe en bil med utstyr og funksjoner som krever at vi bruker synet til andre ting enn å følge med på veien, er en dårlig idé. Det tapper mental kapasitet fra de ressurssentrene i hjernen som kreves for å kjøre en bil trygt og sikkert.

• Granskningene etter de to store ulykkene med Boeings 737 Max-fly i Indonesia i 2018 og i Etiopia i 2019 viste at teknologidesignet ikke var godt nok tilpasset pilotene som skulle håndtere flyet i de kritiske situasjonene som oppstod.

• I granskningene etter Deepwater Horizon-utblåsningen i 2010 med dens påfølgende miljøkatastrofe ble det blant annet pekt på at mangelfull informasjon via skjermbilder, sensorer og instrumenter var en viktig medvirkende årsak til ulykken.

Utviklere glemmer noe fundamentalt

Gløttene jeg får inn i moderne teknologidesign gjennom forskningen min, viser at utviklere ofte glemmer noe fundamentalt: At teknologien skal brukes av mennesker i en gitt kontekst, med de begrensningene dette gir.

I tillegg styres ressurser teknologitungt i starten av mange utviklingsprosesser. Men å utsette viktige og grunnleggende endringer av designet til lengre ut i prosessen, kan vise seg å bli dyrt. Mulighetene for å lykkes med slikt i ettertid, er dessuten begrenset i mange tilfeller.

Vi finner også at det kan være vanskelig å vurdere kvalitet intuitivt ved design av ny teknologi som automatisering og kunstig intelligens. Den indre logikken i ulike systemer er nemlig forskjellig, avhengig av algoritmene og maskinlæringen som ligger til grunn.

Dermed er det ikke bare synlig layout som avgjør lenger hvor forståelig, forutsigbar og gjennomsiktig teknologien er for brukerne.

•    Les også: – Data blir like viktig som strøm fra sol og vind

Hjernen har begrensede ressurser

Et argument for å ikke innlemme brukerperspektivet tidlig i teknologiutvikling er ofte at dette er for ressurskrevende. Pluss at det tidlig i teknologiutvikling ofte ikke er gitt hvem den endelige sluttbrukeren skal være.

Men kognitivt sett er mennesker grunnleggende ganske like på en del områder. Vi har for eksempel alle begrensede oppmerksomhetsressurser og en begrenset korttidshukommelse.

Ved all teknologidesign bør det derfor legges opp til løsninger som ikke krever mer av disse begrensede ressursene enn nødvendig. Det vil komme teknologien til gode uavhengig av hvem den endelige brukeren blir.

Mennesker skal samhandle med systemene

Ny brytningsteknologi som kunstig intelligens har et enormt potensial. Men selv ved innføring av intelligente teknologier, skal mennesker i de fleste tilfeller samhandle med systemene.

Og teknologien skal fungere i en kontekst, enten det er i en industribedrift eller i helsevesenet.

Innføring av slik teknologi vil derfor kreve at utviklerne ikke bare har forståelse for hvor teknologien skal brukes, men også at de tar hensyn til menneskehjernens evne til å motta og bearbeide informasjon.

•    Les også: Når kommer «reservedelenes Spotify»?

Vil kreve ressurser, men lønner seg likevel

Å bringe inn menneskeperspektivet og betydningen av kontekst i teknologiutvikling, vil kanskje  gjøre utviklingsprosesser mer komplekse, samt kreve mer tverrfaglig kompetanse, ressurser og tid.

Likevel er det grunn til å anta at effektiv teknologi som fungerer godt i systemet den skal inngå i, enten det er i sykehus, transportsektoren eller industrien, kan bidra til besparelser langt utover den økte utviklingskostnaden.

Ved siden av å sikre nok teknologikompetanse inn i fremtiden, blir det derfor avgjørende å  mobilisere fagområder som har viktige grensesnitt mot teknologifag. Slik kan vi lage teknologi som spiller på lag med brukerne.

Artikkelen ble førstge gang publisert i Dagens Næringsliv 14. mai 2023 og gjengis her med DNs tillatelse.