Maskiners blikk for benbrudd lærer oss noe viktig om KI

Som IT-forsker har jeg med stor interesse fulgt medieoppslagene om folk som faller og slår seg i Vestre Viken – og om fremtidsteknologien som møter dem når de ankommer sykehuset.

Helseforetaket har siden i fjor høst latt sykehusene bruke kunstig intelligens (KI) til å finne ut hvilke innkomne pasienter som har bruddskader. Nylig kunne NRK Dagsnytt fortelle at dette samlet har spart disse pasientene for 115 døgn med venting på venteværelser.

Samtidig fikk pasient nummer 10 000 en slik undersøkelse.

•    Les også: Kunstig intelligens gir smartere bruk av tang og tare

Læringsverdi utenfor helsevesenet

Praksisen til helseforetaket Vestre Viken er åpenbart en av de største suksessene innen praktisk bruk av KI i Norge til nå.

Formelen som ligger bak er trolig denne – og den bør ha læringsverdi langt utenfor helsevesenets rekker: Gi algoritmer enkle oppgaver med lav risiko, og la mennesket håndtere resten – inntil videre.     

Teknologihistorien gjentar seg 

Når nye teknologier kommer, tror mange at vi mennesker blir overflødige. Men historien viser at oppgavene som automatiseres, er de som følger et mønster, regler eller ikke trenger særlig menneskelig vurdering. Sånn er det per i dag med kunstig intelligens (KI) også.

Det har Vestre Viken HF tatt konsekvensen av på forbilledlig vis. Løsningen sparer ikke bare ventetid for pasienter uten brudd. Den har også lettet arbeidshverdagen for røntgenlegene ved sykehusene.

Erfaringene bør være interessante for mange virksomheter i mange bransjer, ikke minst i lys av en fersk NHO-undersøkelse. 

Den viser at blant barrierene som hindrer utstrakt bruk av KI i norsk næringsliv, er “manglende innsikt i hvordan KI-verktøy kan løse utfordringer”.

•    Les også: På tide å utforske andre sider av KI

Tre gevinster

Nettopp slik innsikt har Vestre Viken HF åpenbart skaffet seg. Det vises ved at sykehusene har valgt å gi algoritmer en oppgave som er viktig – men som fremfor alt er enkel og som må løses ofte.

Dette har skapt tre viktige gevinster.

• Pasientene som ikke har brudd, får svar på minutter og kan dra hjem, eventuelt påført plaster og støttebandasjer. De slipper å vente i timevis mens legene går gjennom “køen” av bilder.

• Legene kan konsentrere seg om mer kompliserte skader.

• Det er enklere å forklare hvordan en KI resonerer når den skal lete etter benbrudd enn om den gis en kompleks oppgave. Strategien minsker dermed det problemet vi kan kalle KIs “tillitsbrist”: Vanskeligheten eksperter står overfor når en KI forelegges komplekse oppgaver og det samtidig er umulig å vite hva algoritmene vektlegger i dataene de får.

Leger ved sykehusene går dessuten gjennom alle bilder dagen etter, for å sjekke at KI-en ikke har friskmeldt noen med bruddskader.

Kontrast til spådommer

Arbeidsoppgaven til KI-en i Vestre Viken består i å foreta en enkel sortering av to kategorier: “brudd” og “ikke brudd”.

En sterk kontrast til den kompliserte kategoriseringen som ligger i det å stille en sykdomsdiagnose. Og dermed også til KI-vyene som mange teknologioptimister har presentert

I 2016 spådde superforskeren Geoffery Hinton – britisk-kanadisk informatiker og kognitiv psykolog –  at vi ikke ville trenge røntgenleger lenger fem år inn i fremtiden. Og at vi burde slutte å utdanne slike. For nå ville KI gjøre en bedre jobb enn dem, ifølge Hinton.

Men ny forskning på KI-assistert diagnostisering, deriblant av hjernekreft og tidlige stadier av brystkreft, har dempet forventningene.

•    Les også: Ansatte bruker ChatGPT som rådgiver. Hvor bra er det?

Uenige i KI-ens vurderinger

Å stille slike diagnoser, er så komplekst at det er nær umulig å legge inn all info leger bruker til vanlig når de vurderer en pasient. Om legene er usikre, kan de blant annet gå tilbake i historikken til vedkommende og se etter tidligere sykdomstegn.

Diagnose-KI-ene som forskningen har undersøkt, får ikke ta beslutninger alene. Algoritmene skal komme med forslag som legene kvalitetssikrer.

Men når legene skal finne årsaken til urovekkende symptom, altså en langt mer sammensatt prosess enn å se forskjell på ben med og uten bruddskader, er de ofte uenige med KI-ens vurderinger.

De skjønner heller ikke hva KI-en har vektlagt. Da slutter de å bruke anbefalingene.

Likner på bedrifters problemer

Dette likner trolig de problemene mange bedrifter nå sliter med når de prøver ut KI.

Som doktorgradsstipendiat studerer jeg selv hva eksperter i næringslivet krever av forklaringer for at de skal stole på svarene en KI spytter ut.

Samtidig jobber KI-forskere på spreng med å klarlegge hvordan algoritmene resonnerer inne i “de svarte boksene” som mange KI-er fortsatt er. Inntil disse ekspertene er i mål, har jeg følgende råd til mange bedriftsledere som nå eksperimenterer med KI:

Gjør som sykehusene i Vestre Viken. Gi algoritmene de enkle lav-risiko-oppgavene, og la dine ansatte håndtere resten – inntil videre.

•    Les også: Hva skjer når kunstig intelligens får inntog i offentlig forvaltning?

Innlegget ble første gang publisert i Dagens Næringsliv 24. januar 2024 og gjengis her med DNs tillatelse.