Strümke: Helt alvorlig, hva er det som feiler oss?

Dette er en kronikk. Den gir uttrykk for skribentens meninger.

Her om dagen så jeg Meta-briller i salg hos optikeren. De hang på veggen blant resten av brillene med en tekst som opplyste om at de kan inkluderes i et brilleabonnement. Nå visste jeg allerede at slike briller er tilgjengelige i Norge, så det er ikke godt å si hvorfor jeg reagerte. Men jeg har omtrent ikke fått hvilepulsen tilbake siden.

Helt alvorlig, hva er det som feiler oss? Hvorfor tillater vi et produkt som kunne vært hentet fra en episode av science fiction-serien «Black Mirror»?

• Les også: Velg bort KI-verstinger. Gjør det nå

Et personvernmareritt

For å gi en liten innføring: Meta-briller er spesialbriller fra Oakley og Ray-Ban, med mye ekstra funksjonalitet. De ser ut som vanlige briller, men er utstyrt med kamera og mikrofon. De kan styres med stemmen, ta bilder og videoopptak, spille av lyd og telefonsamtaler direkte og oversette mellom språk i sanntid. De har en KI-assistent som besvarer spørsmål, inkludert om hva kameraet ser, og de fungerer med blant annet treningsapper.

Dessverre er  Meta-brillene også et personvernmareritt.

Kort og godt kan de gjøre hverdagen lettere og gi brukeren en utvidet virkelighetsopplevelse.

Dessverre er  Meta-brillene også et personvernmareritt. Her om dagen ble det avslørt at Meta uoffisielt hadde lagt til skjult funksjonalitet for ansiktsgjenkjenning i appen som følger med brillene. Funksjonaliteten kalles NameTag. Den er laget for å gjøre ansikter brillene filmer, om til biometriske signaturer som er enkle å sammenligne.

Gangen blir altså følgende: Man går rundt med brillene på seg, og disse tar bilde av en person. Vedkommendes ansikt gjenkjennes, og en database brukes til å finne ut hvem personen er. Denne databasen er lagret på brukerens telefon og oppdateres fra Metas servere. Når personen er identifisert, kan KI-assistenten for eksempel finne all tilgjengelig informasjon om vedkommende.

De omtalte brillene har allerede fått tilnavnet «pervobriller».

Da NameTag-funksjonaliteten ble kjent og møtt med negative reaksjoner, ble den raskt fjernet fra appen – etter at denne var blitt installert på rundt 50 millioner smarttelefoner.

De omtalte brillene har allerede fått tilnavnet «pervobriller» (pervert glasses) grunnet flere rapporter om brukere som filmer intetanende kvinner i offentligheten og laster filmene opp på internett. Siden brillene ser ut som vanlige briller, er det nærmest umulig for den som filmes, å vite hva som foregår.

Metas rolle

Selv sliter jeg med å begripe hvordan dette kan være lovlig, men jeg skal prøve meg som hobbyjurist. Det hele er nok avhengig av hvordan Metas rolle defineres. Som produsent av brillene kan de neppe holdes noe mer ansvarlig enn Kodak kan holdes ansvarlig om du filmer et overgrep med et av deres kameraer.

Da er vi over på bruk: Kanskje er det greit å bruke filmende briller i offentlige rom på samme måte som det er tillatt å ta et bilde med mobilen på torget uten å samle tillatelse fra alle som havner i bakgrunnen, og så lenge bildet kun er til privat bruk.

Til slutt er det dataprosessering, og her gir jeg meg som forsvarsadvokat. Idet opptaket sendes fra brillene til appen på telefonen og videre inn i Metas sky, gjør Meta databehandling.

Meta sender opptak av folk som går på do, kler av seg og har sex.

Ifølge Metas tjenestevilkår kan bilder og videoopptak for eksempel brukes til å trene KI-modeller og sendes til menneskelige medarbeidere. Akkurat dette finnes det eksempler på:

Tidligere i år avslørte Svenska Dagbladet og Göteborgs-Posten at Meta sender opptak av folk som går på do, kler av seg og har sex, til arbeidere i Kenya. Hvorvidt dette er lov, er et spørsmål som per i dag ligger på EU-kommisjonens bord. (Det er her det må ligge fordi personvernforordningen er en EU-lov.)

Trenger bare slå på funksjonaliteten

Tilbake til ansiktsgjenkjenningen – som Meta for ordens skyld altså ikke bedriver per i dag. At noen havner i bakgrunnen på et bilde i det offentlige rom, er personvernmessig noe helt annet enn at bildet analyseres for å identifisere enkeltmennesker.

I EU kreves det samtykke for slikt. Det amerikanske ansiktsgjenkjenningsselskapet Clearview AI ble for eksempel bøtelagt med titalls millioner euro for ikke å ha overholdt EUs personvernkrav.

Spørsmålet om lovlighet vil altså oppstå idet Meta eventuelt ruller ut ansiktsgjenkjenning. Og gitt at funksjonaliteten finnes, trenger de bare å slå den på. Meta sier at de ikke har besluttet hvorvidt den skal slås på, og at de ikke bygger en database over ansikter.

Det er rart om de har laget en funksjonalitet de ikke har til hensikt å benytte, men vi kan naturligvis ikke vite hva selskapet bestemmer seg for å gjøre. Dog tyder et internt notat på at de har diskutert å lansere funksjonaliteten først når kritikerne er distrahert av politisk tumult (i USA).

• Les også: Datasentre er som våpenfabrikker

Grensene for hva vi aksepterer

Det vi derimot vet, er at teknologi former samfunnet, og at det tar skremmende kort tid før vi mennesker venner oss til omtrent hva som helst.

Meta har så langt en svært stygg merittliste når det gjelder å ta trusler mot sikkerhet og personvern alvorlig.

Vil vi ta sjansen på å venne oss til at folk kan gå rundt med briller som kanskje, kanskje ikke, gjenkjenner ansiktet til absolutt alle som befinner seg i det offentlige rom?

Meta har så langt en svært stygg merittliste når det gjelder å ta trusler mot sikkerhet og personvern alvorlig. Når det er snakk om teknologi som vil flytte grensene for hva vi aksepterer og dermed forandre samfunnet for alltid, må vi ha høye krav og være villige til å sette ned foten.

Vi kan faktisk takke nei til utvikling vi ikke ønsker.

Jeg hører allerede motsvaret i horisonten: «Vi kan ikke forby alt vi ikke liker.» Nei, men vi kan faktisk takke nei til utvikling vi ikke ønsker. Med sosiale medier var vi altfor, altfor passive og sent ute, og nå sliter vi med å rydde opp etter de enorme skadene anbefalingsdrevne, avhengighetsskapende plattformer med null moderering eller alderskontroll har påført og fremdeles påfører samfunnet.

Det holder ikke om så 99 prosent av Norges befolkning synes denne teknologien er frastøtende så lenge det finnes en liten andel som ønsker å bruke den.

Trenger politisk lederskap

Jo raskere utviklingen går, desto raskere må systemet vårt være i stand til å reagere. Jo kraftigere teknologien er, desto tydeligere standpunkt må vi klare å ta. Og når teknologien kan gjøre enkeltpersoner til overvåkingsroboter som filmer og identifiserer intetanende individer, er ikke forbrukermakt nok.

Det holder ikke om så 99 prosent av Norges befolkning synes denne teknologien er frastøtende så lenge det finnes en liten andel som ønsker å bruke den. Dette er den typen sak som trenger politisk lederskap og at politikerne tør å være normative: å ta stilling til hvordan vi ønsker at samfunnet skal utvikle seg, ikke på sikt, men i dag.

Vi bør forby dagens generasjon av Meta-briller.

La meg understreke: Teknologi som utvider virkeligheten, hadde vært kjempekult. Tenk å kunne gå rundt og få relevant informasjon rett inn i ørene og synsfeltet. Navigering, oversettelse, underholdning, informasjon.

Og nettopp fordi slik teknologi har potensial til å være helt fantastisk, og fordi vi ønsker det fantastiske, må vi klare å avvise det ufantastiske. Vi bør forby dagens generasjon av Meta-briller.

Denne kronikken ble første gang publisert i Aftenposten.