Interessen rundt forskningen hennes eksploderte. Årsaken fant hun i Kina.

Vitenskapelige artikler er en forskers viktigste valuta, og det kan ligge flere års arbeid bak en artikkel publisert i et anerkjent tidsskrift. Basert på egne erfaringer er professor Andrea Riebler bekymret over utviklingen der «gjør-det-selv-forskning» kan kjøpes på nettet.

Urovekkende utvikling

– I vårt tilfelle dreier det seg om programvare som gjør det mulig å raskt lage enkle, strømlinjeformede analyser og forskningsartikler fra offentlige helsedatabaser. Rent metodisk kan analysene være riktige, men utviklingen er likevel urovekkende, mener Riebler, som er statistiker ved NTNU Institutt for matematiske fag.

Arbeidene er ikke mulig å kvalitetssjekke. Forfatterne dropper å dele kildekode. Artiklene er basert på sekundæranalyser. Det er utfordrende. Dataene er opprinnelig samlet inn av andre. Riebler er usikker på om alle mulige kombinasjoner av de ulike dataene disse basene tilbyr gir relevant eller interessant forskning.

Tallet på siteringer eksploderte

Selv bruker hun data fra store registre til å finne mønstre og mulig utvikling innen for eksempel sykdom, barnedødelighet og levetidsanalyser i gitte geografiske områder.

I 2017 publiserte hun artikkelen «Projecting the future burden of cancer: Bayesian age–period–cohort analysis with integrated nested Laplace approximations» sammen med professor Leonhard Held ved Universitetet i Zürich. Riebler hadde utviklet en programvare for å beregne alders-spesifikke prognoser for forekomst av sykdom eller dødelighet basert på historiske data. Kildekoden var åpen og gratis, og hun hadde dokumentert hvordan den skal brukes.

I årene som fulgte ble artikkelen sitert i et omfang som viste at den hadde god gjennomslagskraft hos andre forskere.  Men så skjedde det noe. Tallet på siteringer bykset i været. Fra 70 i 2024, til over 250 året etter.

Fra kreftbyrde til diabetes og slag

Vanligvis vil forskere bli vilt begeistret over høye sitattall. Men noe skurret. De nye artiklene fulgte et mønster. Så å si alle stammet fra kinesiske forskere. De fleste bygget på datasettet til det internasjonale sykdomsbyrde-prosjektet Global Burden of Disease (GBD).

Det pussige var at de brukte GBD-dataene til å produsere en endeløs rekke prognoser. Om alt fra global/nasjonal/regional risiko for hjerneslag blant voksne over 20 år, til testikkelkreft blant unge voksne, fallulykker blant eldre kinesere, tarmkreft som følge av minimalt inntak av fullkorn, og så videre.

– Mange av artiklene hadde samme oppbygning. Titlene ligner hverandre, med variasjoner over ulike sykdomstemaer.

En del av grafikken er basert på samme  modell som vi brukte, og designet er svært likt det jeg brukte i programpakken min. Dette er neppe tilfeldig, sier Andrea Riebler.

Les mer: KI kan ikke overta alt skrivearbeidet

Sporene endte i Kina

Forskerne fulgte sporene til kreftartikkelen, og endte altså opp i Kina. Nå har forskerne publisert artikkelen «Paper mill or paper mine? A tentative answer to the sharp increase in research papers based on the Global Burden of Disease database» i Journal of Clinical Epidemiology. 

– I én av de over 700 GBD artiklene vi har sett gjennom, fant vi en referanse til en kommersiell programpakke fra Kina. Med den pakken følger det veiledning for å gjøre akkurat det som er gjort i svært mange av de andre artiklene, sier Andrea Riebler.

Guangzhou i Kina. Foto: Colourbox

Forskningsartikler på to timer

I Guangzhou-provinsen finnes altså en bedrift som selger programvare, KI-basert skrivehjelp og veiledninger som virker basert på hennes forskning. Bedriften reklamerer med at verktøyene gjør det fullt mulig å skrive søknader om forskningsstøtte i løpet av noen få minutter, eller produsere vitenskapelig og publiserbar forskning på under to timer.

I tillegg fant forfatterne to andre programvarepakker med lignende formål som selges via kinesiske bedrifter. Kombinert med KI-basert skrivehjelp som bedriftene også tilbyr, gir dette grunn til bekymring om hvordan publikasjoner blir til, ifølge NTNU-professoren

– Dette er en ny måte å åpne for å masseprodusere ny «forskning», mener hun.

Drukner i KI-skapte artikler

– Vi sier altså ikke at det som kommer ut er feil, understreker Riebler.
– Spørsmålet er heller om hver enkelt artikkel er faglig relevant og nyttig, særlig sett i lys av den voldsomme mengden publikasjoner vi ser nå.

Overbelastede redaktører i tidsskrifter for seriøse forskningsartikler mener masseprodusert og KI-generert forskning er i ferd med å kvele systemet forfagfellevurderingkvalitetssikring av fagartikler eller bøker ved at 2-4 eksperter innenfor faget vurderer bidraget før publikasjon. Kilde: SNL Den amerikanske nettsiden for teknologinyheter, The Verge, har omtalt Riebler og kollegenes historie. De beskriver hvordan tidsskriftene drukner i KI-genererte artikler. Problemet er både mengden, og at det snart er umulig å oppdage hvilke arbeider som er skapt av kunstig intelligens. 

– Vi sier altså ikke at det som kommer ut er feil. Spørsmålet er heller om hver enkelt artikkel er faglig relevant og nyttig, særlig sett i lys av den voldsomme mengden publikasjoner vi ser nå.

Fagfellesystemet kan knekke

– Det er en enorm belastning for vurderingssystemet som allerede presses til det ytterste. Det produseres for mange artikler og redaktørene sliter med å få tak i nok fagfeller. Hvis språkmodeller gjør det langt enklere å masseprodusere artikler, vil systemet nå et bristepunkt, uttalte Peter Methys Degen til The Verge.

Tidsskriftet Accountability in Research som vier seg til integritet og fremming av etisk forskningspraksis, har opplevd en økning på 60 prosent i antall innsendte artikler i 2026. Ifølge en av redaktørene, David Resnik, blir de  – ironisk nok – pepret med artikler som sannsynligvis er KI-generererte – som handler om uredelig forskning.

– Jeg er svært bekymret for at dette skal overbelaste, eller til og med knekke, systemet for fagfellevurdering, sier Resnik til the Verge.

Krevende å avsløre

NTNU-forsker Andrea Riebler er selv redaksjonsmedlem i to vitenskapelige tidsskrift. Også i hennes innboks renner det inn med artikler.

– Så er jo spørsmålet om det er så viktig om det er en språkmodell eller et menneske som skriver artikkelen, så lenge innholdet er korrekt?  Det vet jeg ikke. Problemet er de enorme volumene som kommer inn. Vi sliter allerede med å finne fagfeller til å vurdere, og det blir bare verre og verre, sier statistikk-professoren.

Les mer: Kan Europa lage kunstig intelligens vi faktisk forstår?

Bryter forskningens grunnprinsipp

– Det er ikke bare data fra Global Burden of Disease som utnyttes. Det gjelder også flere andre store helsedatabaser som er opprettet med gode hensikter, gratis og enkle å bruke. Det er skummelt at dette skjer, sier hun.

For 99 prosent av artiklene Riebler og kollegene har gått gjennom, er ikke kildekoden oppgitt. Dermed er ikke forskningen reproduserbar, noe som bryter med et grunnprinsipp som skal sikre etterrettelighet, åpenhet og kvalitet i vitenskapen. Forskerne oppfordrer til bedre overvåkning av nettplattformer som tilbyr gjør-det-selv-forskning.

– Deling av kode bør være obligatorisk, sier Andrea Riebler.