Un modello linguistico ha analizzato 2,6 milioni di pubblicazioni oncologiche, segnalando oltre 250.000 articoli con caratteristiche simili a quelle dei lavori prodotti dalle cosiddette “fabbriche di articoli”.
Un sistema di intelligenza artificiale ha segnalato oltre 250.000 articoli scientifici sul cancro come potenzialmente collegati alle cosiddette “fabbriche di articoli”, aziende che producono e vendono ricerche false o di bassa qualità. Lo studio, pubblicato su The BMJ, ha analizzato 2,6 milioni di lavori sulla ricerca oncologica usciti tra il 1999 e il 2024. Il progetto è stato guidato dal professor Adrian Barnett, della Queensland University of Technology, insieme a un gruppo internazionale di ricercatori. Il modello ha individuato somiglianze linguistiche con articoli già ritirati per sospetta falsificazione. Addestrato su esempi verificati, il sistema ha riconosciuto correttamente i documenti sospetti nel 91% dei casi. Gli autori precisano tuttavia che una segnalazione non equivale automaticamente a una prova di frode complessiva.
Le impronte linguistiche lasciate dalle “fabbriche di articoli”
Le cosiddette “fabbriche di articoli” operano vendendo la paternità di studi, posti tra gli autori o interi manoscritti già pronti per essere sottoposti alle riviste. I lavori prodotti possono contenere testi riciclati, formule linguistiche insolite, dati inventati oppure immagini manipolate. Secondo Barnett, la produzione su scala industriale favorisce l’uso di modelli standardizzati, capaci di lasciare nel testo impronte ricorrenti. Proprio queste caratteristiche possono essere riconosciute dagli strumenti di apprendimento automatico.
Per lo studio, i ricercatori hanno addestrato BERT, un modello linguistico progettato per analizzare la struttura e gli schemi della scrittura. Il sistema ha imparato a distinguere i lavori ordinari da quelli che assomigliavano a pubblicazioni già ritirate perché sospettate di provenire da paper mill. Barnett ha paragonato il metodo a un filtro antispam scientifico: così come la posta elettronica identifica messaggi che condividono determinate caratteristiche con lo spam, l’algoritmo segnala i manoscritti che presentano uno stile simile a quello osservato negli articoli fraudolenti. Il vantaggio è esaminare pubblicazioni, individuando casi difficili da intercettare manualmente.
Rimane però necessario verificare ogni segnalazione, perché anche un testo legittimo può condividere alcune caratteristiche linguistiche con lavori problematici. Questo approccio permette di concentrare i controlli editoriali sui casi caratterizzati dal numero di indicatori sospetti.
Una crescita dal primo decennio degli anni Duemila
L’analisi ha mostrato una crescita molto rapida delle pubblicazioni segnalate. All’inizio degli anni Duemila rappresentavano circa l’1% degli articoli esaminati, mentre nel 2022 la quota ha superato il 16%. Gli studi sospetti sono comparsi in migliaia di riviste, comprese testate pubblicate da grandi editori e periodici con elevato fattore di impatto. Questo suggerisce che il fenomeno non sia limitato a riviste marginali o prive di controlli editoriali, ma possa attraversare una parte ampia del sistema scientifico. La diffusione trasversale delle segnalazioni mette in discussione l’idea che prestigio editoriale e indicatori bibliometrici bastino, da soli, a garantire l’affidabilità dei contenuti pubblicati.
I settori oncologici più esposti al fenomeno
La presenza di segnali sospetti non è risultata uniforme nei diversi ambiti della ricerca oncologica. Gli articoli individuati dall’algoritmo erano particolarmente frequenti nella biologia molecolare dei tumori e negli studi di laboratorio condotti nelle fasi iniziali della ricerca, dove risultati sperimentali, immagini e analisi statistiche possono essere complessi da controllare. Tassi elevati sono emersi soprattutto nei lavori dedicati ai tumori gastrici, epatici, ossei e polmonari. Le ragioni di questa concentrazione non sono ancora definite, ma potrebbero dipendere dalla forte produzione scientifica in determinati settori, dalla pressione a pubblicare e dalla maggiore facilità con cui alcuni schemi sperimentali possono essere replicati o simulati.
Il dato più preoccupante riguarda la capacità delle ricerche false di entrare nella letteratura e di essere successivamente citate da altri studiosi. Una pubblicazione costruita su dati inventati può infatti influenzare revisioni, metanalisi e nuove ipotesi sperimentali, creando una catena di risultati apparentemente coerenti ma fondata su basi inaffidabili. Gli autori sottolineano quindi che lo strumento non deve trasformarsi in un sistema automatico di condanna. Il modello individua somiglianze testuali, non dimostra la manipolazione di dati, immagini o procedure. Un articolo segnalato deve essere controllato da esperti, confrontando materiali originali, statistiche, figure, dichiarazioni degli autori e documentazione di laboratorio.
L’intelligenza artificiale può restringere il campo dei controlli, ma la valutazione finale resta necessariamente umana. Il rischio di falsi positivi rende essenziale usare l’algoritmo con prudenza, trasparenza e possibilità di contestazione da parte degli autori coinvolti. Servono inoltre criteri condivisi per interpretare correttamente ciascun livello di rischio testuale ricorrente.
I rischi per la ricerca, le terapie e i pazienti
Tre riviste scientifiche stanno già sperimentando lo strumento all’interno dei propri processi editoriali. Il sistema può essere utilizzato prima della revisione paritaria per segnalare i manoscritti che meritano verifiche più approfondite, evitando di affidare immediatamente a revisori esterni lavori potenzialmente costruiti o manipolati.
I ricercatori intendono adattare il modello anche ad altri settori della scienza e prevedono che la precisione possa aumentare con la disponibilità di nuovi esempi confermati di articoli prodotti dalle paper mill. L’obiettivo non è sostituire redattori e revisori, ma fornire loro un controllo preliminare capace di operare su quantità di testi altrimenti ingestibili. La posta in gioco è particolarmente alta nella ricerca oncologica. Gli studi pubblicati orientano esperimenti successivi, sperimentazioni cliniche, sviluppo di farmaci e decisioni assistenziali. Se risultati falsificati vengono accettati come affidabili, gruppi di ricerca possono investire tempo e risorse nel tentativo di replicarli, mentre trattamenti promettenti potrebbero essere valutati partendo da presupposti sbagliati.
Barnett avverte che l’ingresso di studi falsi nella base delle conoscenze può confondere gli scienziati e rallentare i progressi destinati ai pazienti. Per questo, oltre agli strumenti automatici, servono controlli editoriali più solidi, condivisione dei dati, verifica delle immagini e procedure rapide per correggere o ritirare le pubblicazioni inaffidabili. L’intelligenza artificiale offre dunque un nuovo livello di sorveglianza, ma la tutela dell’integrità scientifica richiede responsabilità condivise tra autori, università, editori, revisori e finanziatori. Una strategia efficace dovrà combinare prevenzione, individuazione precoce e indagini rigorose, senza trasformare il sospetto algoritmico in un verdetto definitivo per gli studiosi coinvolti nel sistema scientifico.
Iscriviti alla Newsletter di Sanità Informazione per rimanere sempre aggiornato