L’uso fraudolento dell’intelligenza artificiale nella ricerca medica ha fatto impennare gli articoli scientifici con dati falsi, citazioni inesistenti e trial clinici manipolati del 900% tra il 2023 e il 2026. Si è passati da un articolo con fonti inesistenti ogni 2.800 nel 2023 a uno ogni 277 nel 2026.
I chatbot come ChatGPT vengono usati per produrre in serie studi fittizi e barare sull’efficacia dei farmaci, spinti dalla corsa alle pubblicazioni per ottenere finanziamenti, reputazione e avanzamenti di carriera. Vengono create immagini manipolate, bibliografie inventate e interi trial clinici artificiali difficili da smascherare con la sola analisi statistica.
Gli studi falsificati finiscono spesso nelle revisioni sistematiche che dettano le linee guida per la cura dei pazienti. Il rischio concreto è che le persone vengano curate sulla base di finzioni e dati costruiti a tavolino. Dal 2023, secondo i dati di Retraction Watch richiamati nell’inchiesta, sono stati ritirati oltre 350 articoli per presunti utilizzi impropri dell’intelligenza artificiale nella manipolazione di testi, immagini o dati. Come non bastasse, l’intelligenza artificiale è in grado di produrre riferimenti bibliografici inesistenti, che danno credibilità agli studi fasulli.
Il fenomeno si inserisce inoltre in un sistema accademico nel quale il numero e il prestigio delle pubblicazioni incidono sulle carriere, sull’accesso ai finanziamenti e sulla reputazione di università e centri di ricerca. È la logica conosciuta come “publish or perish”, pubblicare o perire. L’IA può rendere molto più veloce la produzione scientifica: secondo i dati citati nell’inchiesta, il 30% dei ricercatori utilizza ChatGPT per la scrittura degli articoli e il 15% per le richieste di finanziamento. L’utilizzo di questi strumenti non implica naturalmente una condotta scorretta, soprattutto quando vengono impiegati come supporto alla traduzione, alla raccolta o all’elaborazione delle informazioni.
Ancora più delicato è il problema delle immagini diagnostiche sintetiche. Una ricerca pubblicata su Radiology ha sperimentato la generazione tramite ChatGPT di false radiografie raffiguranti fratture ossee, successivamente mescolate con immagini autentiche. Sottoposte alla valutazione di 17 radiologi, le immagini artificiali sono state individuate come false soltanto nel 41% dei casi. Questo significa che l’intelligenza artificiale generativa può contribuire alla creazione di materiale che presenta l’apparenza stessa della prova scientifica agli occhi degli esperti.
