En «KI-kaptein» på fregatten ville neppe unngått kollisjon
Selv med kunstig intelligens (KI) i førersetet, ville fregatten “Helge Ingstad” trolig ha kollidert. Mye gjenstår før KI kan gi oss trygge, selvgående skip.
Kunstig intelligens er i ferd med å mønstre på både handelsskip og ferger. Foreløpig for testformål.
Men verktøyet kan raskt bli satt “i jobb”. I alle fall om regjeringen i sin ferske milliardsatsing på KI avser midler til forskning på to forhold: Hvorfor den kunstige intelligensen velger slik den gjør, og hvor sikre eller usikre valgene egentlig er.
Dette vet vi for lite om i dag.
Hva om fregatten hadde vært selvgående?
Til sjøs skal KI i første omgang brukes til å avlaste besetningen ved å gi råd om eksempelvis energieffektiv drift. Pluss om rutevalg.
Da er det interessant å spørre seg hva som ville skjedd rett før Norges mest omtalte skipskollisjon, hvis “Helge Ingstad” hadde vært et selvgående skip. Dette selv om det er helt urealistisk å se for seg at noe land noen gang vil gjøre så store militære fartøy selvgående.
Granskingen viser at mange faktorer påvirket hendelsesforløpet i Hjeltefjorden den aktuelle høstnatten i 2018. Deriblant at mannskap på “Helge Ingstad” trodde lysene fra tankskipet “Sola TS” kom fra Stureterminalen.
Ville så en KI oppdaget at det var to ulike lyskilder? Sannsynligvis ikke. For på det utviklingstrinnet KI-teknologien er nå, ville en KI neppe vært trent på å kjenne igjen skipsbevegelser i nattemørke.
KI kan ennå ikke styre skip
Men at vi konkluderer slik, betyr ikke at vi tar livet av fremtidsvisjonene om selvgående skip.
For oss som forsker på skipsfartens framtidsløsninger, er nettopp KI en viktig del av puslespillet som må legges hvis selvgående skip skal realiseres: Teknologi som kan flytte last fra vei til sjø, om den gir oss små ubemannede el-skip i fjordtrafikk.
I SINTEF har vi undersøkt hvilke oppgaver det er forsvarlig å sette KI til om bord i dag.
Kortversjonen av svaret vårt er at KI ennå ikke kan styre skip. Vi vet fortsatt for lite om hvor sikker/usikker KI er på sine egne beslutninger. Vi mennesker må fortsatt kvalitetssikre resultatene før vi tar dem i bruk.
Egnet til å observere skips omgivelser
Tankeeksperimentet med “Helge Ingstad” viser hva som er problemet. Om en KI møter på situasjoner den ikke har sett før, altså mangler data eller misforstår tilgjengelige data, må den gjette. Da kan det hende at den tar feil.
De som jobber på feltet, snakker ofte om undergrupper av KI som maskinlæring og “deep learning”.
Disse teknologiene er spesielt egnet til å observere hva som skjer i omgivelsene til skip. De er gode til å bruke innsamlede data fra sensorer til å opparbeide seg en situasjonsforståelse. Det vil si: oppdage objekter og navngi dem. Hvilke skip ser jeg? Hvor store er bølgene? Er det noen bøyer eller holmer i nærheten? Og hva er avstanden til land?
To tenkbare bruksområder
Dette gjør to bruksområder tenkbare for KI til sjøs:
- At KI brukes sammen med sensorer som kamera og laser til å observere omgivelsene rundt skipet og skape en forståelse for hvilken situasjon det befinner seg i.
- Neste tenkelige skritt er å bruke KI til å beslutte hva skipet skal gjøre, basert på situasjonsforståelsen. Altså at skipet selv til slutt utfører en handling som å endre kurs eller fart for å unngå kollisjon.
Vesensforskjell
Begge anvendelser kan bli mulige. Men her må vi passe oss. Det er nemlig en vesensforskjell mellom å bruke KI for å skape en situasjonsforståelse og å la verktøyet ta beslutninger. Bare ytterligere forskning kan gjøre det siste forsvarlig.
Sammenhengen mellom ytelsen til KI og datasettet den trenes på, kan sammenliknes med det å beherske trafikkbildet når du lærer deg å sykle. Er du trent til å sykle på landeveier, vil du nok slite med å sykle i bytrafikk.
De som har prøvd ChatGPT har nok sett sin del av uriktige svar på sine spørsmål. Dette fordi ytelsen på teknologien er begrenset av datasettet den har blitt trent på.
Kvalifisering og bevisførsel
Til sjøs kan denne usikkerheten håndteres ved at KI-en i fremtiden informerer et kontrollsenter når den må gjette, slik at en operatør tar over styringen ved behov. Dette er en operasjonell løsning som kan være en del av kvalifiseringen. Men den løser ikke “bevisførselen”.
Skipsfarten har et strengt regime for å kvalifisere teknologi. Det må kunne dokumenteres at KI, på lik linje med andre teknologier, er i stand til å gjøre oppgavene den settes til på skip.
Så derfor: Selv om det for noen kan virke fristende å rope etter “KI-kapteiner” i lys av havariet til “Helge Ingstad”, må mye forskning gjøres før sikkerhetskritiske valg kan overlates til kunstig intelligens.
Først må vi undersøke hvordan vi kan gjøre KI bevisst sin egen usikkerhet og få den til å informere brukeren om denne. Neste skritt blir å forstå hvorfor den kunstige intelligensen velger som den gjør.
Innlegget ble første gang publisert i Dagens Næringsliv 24. oktober 2023 og gjengis her med DNs tillatelse.
