“Strumenti come ChatGPT minacciano la scienza trasparente”. Il grido d’allarme giunge direttamente dalla rivista scientifica “Nature”, sulle cui colonne ha pubblicato un approfondimento legato alla diffusione dell’utilizzo dell’intelligenza artificiale. In esso, si dice che già nel 2022 alcuni scienziati utilizzavano determinati chatbot come assistenti di ricerca, ma il recente rilascio di ChatGPT da parte della californiana OpenAI ne ha diffuso la possibilità di utilizzo anche a coloro che non hanno competenze tecniche, con il rischio di agevolare la produzione di spam, ransomware e altri prodotti dannosi.
La grande preoccupazione della comunità dei ricercatori è che studenti e scienziati possano spacciare per proprio un testo scritto con ChatGPT, oppure utilizzarlo in modo semplicistico, ad esempio per condurre una revisione incompleta della letteratura, e produrre così un lavoro inaffidabile e contenente errori. Addirittura, numerosi preprint e articoli pubblicati hanno già accreditato ChatGPT come autore formale.
CHATGPT, L’ALLARME DI “NATURE” E I RISCHI FUTURI PER LA SCIENZA
Esistono, tuttavia, alcuni strumenti che consentono di individuare le produzioni testuali generate da ChatGPT e l’editore di Nature, Springer Nature, rientra nel novero di coloro che stanno sviluppando tecnologie per farlo. Tuttavia, i chatbot miglioreranno e lo faranno in fretta. Si legge sulla rivista: “Fin dai suoi albori, la scienza ha operato in modo aperto e trasparente sui metodi e sulle prove, indipendentemente dalla tecnologia in voga. I ricercatori dovrebbero chiedersi come sia possibile mantenere la trasparenza e la fiducia su cui si basa il processo di generazione della conoscenza se loro o i loro colleghi utilizzano un software che funziona in modo fondamentalmente opaco”.
“Nature”, al suo interno, ha stabilito linee guida precise per l’uso di ChatGPT, onde evitare disinformazione e imprecisioni. Questo perché “la ricerca deve avere trasparenza nei metodi e integrità e verità da parte degli autori. Questo è, dopo tutto, il fondamento su cui la scienza si basa da sempre per poter progredire”.