Två doktorsavhandlingar vid Lunds universitet respektive KTH har fällts för oredlighet i forskning av Nämnden för prövning av oredlighet i forskning, Npof. Båda besluten fattades samma dag i februari och gäller fabricerade referenser där nämnden ser tecken på misstänkt AI-användning, rapporterar universitetslararen.se.

Fabricerade referenser i Lund-avhandling

I den avhandling som lagts fram vid Lunds universitet har Npof identifierat 14 fabricerade referenser. Enligt nämndens beslut innehåller de ”en typ av fel som förekommer vid användning av AI”. Forskaren medger felaktigheter i referenslistan som borde ha upptäckts, men hävdar att hänvisningarna i löptexten är korrekta och bestrider att hon gjort sig skyldig till förfalskning.

En biträdande prefekt vid den berörda institutionen vid Lunds universitet säger till universitetslararen.se att avhandlingen hanterats enligt ordinarie rutiner. Handledare och doktorand har gått igenom arbetet, och opponent samt betygsnämnd har fått avhandlingen i tid och haft möjlighet att inkomma med synpunkter. Inga signaler om allvarliga brister kom in före disputationen.

Institutionen uppger vidare att betygsnämnd och opponent ska kontakta institutionen om de upptäcker allvarliga fel, vilket kan leda till att disputationen ställs in så att doktoranden kan arbeta vidare. I det här fallet kom dock inga sådana indikationer. Samtidigt betonar den biträdande prefekten att doktoranden ytterst ansvarar för slutprodukten, även om handledaren ska stötta särskilt i slutfasen, som ofta är mycket pressad.

Lunds universitet arbetar löpande med att tydliggöra ramarna för AI-användning för både studenter och medarbetare. Efter fallen ska universitetet explicit instruera doktorander, handledare och betygsnämnder att kontrollera referenshanteringen mer noggrant. Forskaren var fortsatt timanställd vid universitetet efter disputationen, men den anställningen har nu upphört, enligt sajten.

Nio ifrågasatta referenser i KTH-avhandling

I den andra fällda avhandlingen, som lagts fram vid KTH, har Npof funnit nio referenser som bedöms vara fabricerade. Även här beskriver nämnden att referenserna uppvisar fel av det slag som brukar ses i texter framtagna med hjälp av AI.

I sitt yttrande bestrider KTH-forskaren anklagelserna och hävdar att referenserna går att verifiera i etablerade publiceringsdatabaser, men att fel kan ha smugit sig in vad gäller exempelvis namn, årtal och tidskriftstitlar. Forskaren framhåller i mejl till universitetslararen.se att ärendet är överklagat, att hen inte delar Npof:s bedömning och att frågorna rör referenshantering – inte avhandlingens empiriska resultat.

KTH:s ledningskommunikatör skriver i en skriftlig kommentar att lärosätet inte kommenterar enskilda pågående ärenden. Personen har överklagat beslutet till förvaltningsrätten och KTH inväntar att beslutet vinner laga kraft innan eventuella åtgärder. Samtidigt meddelar KTH berörda intressenter i enlighet med lagen om ansvar för god forskningssed.

Npof: AI-intåg märks i inkomna ärenden

Jonas Jeppson, kanslichef vid Npof, vill inte kommentera de enskilda fallen men säger till universitetslararen.se att nämnden följer AI-utvecklingen i forskningsvärlden i dialog med finansiärer, Sveriges universitets- och högskoleförbund och internationella aktörer. Npof har fått in flera ärenden där man misstänker AI-inblandning.

Samtidigt understryker Jeppson att misstänkt AI-användning inte är avgörande i sig. Nämnden prövar om oredlighet i forskning har förekommit, det vill säga förfalskning, fabricering eller plagiering. De mönster man ser i vissa ärenden skulle kunna vara konsekvenser av AI-användning, men det är själva oredligheten som bedöms.

Enligt kanslichefen är varje form av oredlighet skadlig för förtroendet för svensk forskning och motiverar därför en tydlig granskningsmekanism. Vem som helst kan anmäla misstänkt oredlighet till Npof. En del ärenden avvisas dock om nämnden bedömer att misstankarna inte är tillräckligt konkreta.

Båda besluten överklagade

Både Lund-forskaren och KTH-forskaren har överklagat Npof:s fällande beslut, skriver universitetslararen.se. Därmed är utgången ännu inte definitiv. Lundaforskaren har, enligt sajten, avböjt intervju under den pågående processen.

AI-verktyg kan hjälpa till att fuska

I anslutning till rapporteringen lyfter universitetslararen.se en artikel i tidskriften Nature, återgiven av Omni, där forskare testat hur villiga stora AI-chattbotar är att hjälpa till med forskningsfusk. I experimentet bad man modellerna att ta fram fejkade vetenskapliga artiklar i förfrågningar som stegvis blev mer oetiska.

Enligt sammanfattningen var Anthropics modell Claude mest restriktiv, medan Grok från X AI och tidiga versioner av OpenAI:s ChatGPT oftare gick med på att hjälpa till. Studien illustrerar hur generativa AI-verktyg kan utnyttjas för att fabricera forskningsmaterial, inte minst referenser – den typ av problem som står i centrum i Npof:s aktuella beslut.

Hela bakgrunden till fallen vid Lunds universitet och KTH finns återgiven enligt universitetslararen.se.