Il perché delle immagini generate da AI nella ricerca scientifica

La diffusione di immagini generate da un’intelligenza artificiale di scarsa qualità in un articolo scientifico revisionato ha scatenato disgusto e disprezzo tra i ricercatori. Le figure, come ammesso dagli autori stessi nel testo dell’articolo, sono state create da Midjourney e sono completamente incomprensibili. Contengono testo senza senso e, in modo più sorprendente, una delle immagini raffigura un topo con genitali stranamente grandi e bizzarri, insieme alla scritta “dck”.

La casa editrice dell’articolo in questione, Frontiers, ha pubblicato una “espressione di preoccupazione” notando che è al corrente delle critiche mosse nei confronti del pezzo pubblicato. “Attualmente è in corso un’indagine e questa nota verrà aggiornata di conseguenza al termine dell’indagine” ha scritto la casa editrice.

L’articolo, intitolato “Funzioni cellulari delle cellule staminali spermatogoniali in relazione alla via di segnalazione JAK/STAT”, è stato scritto da tre ricercatori cinesi, tra cui l’autore corrispondente Dingjun Hao dell’Ospedale Xi’an Honghui. È stato pubblicato online martedì nella rivista Frontiers in Cell and Developmental Biology.

Nessuna risposta immediata da parte di Frontiers è giunta in risposta alla richiesta di commento da parte di Ars, ma pubblicheremo eventuali aggiornamenti su questo post.

L’immagine del topo nella figura principale dell’articolo ha subito attirato l’attenzione dei ricercatori che l’hanno immediatamente condivisa e commentata su piattaforme di social media come Bluesky e la piattaforma precedentemente nota come Twitter. A prima vista, l’immagine anatomica è chiaramente completamente sbagliata. Tuttavia, osservandola da vicino si rivelano ulteriori difetti, tra cui le scritte “dissilced,” Stemm cells,” “iollotte sserotgomar,” e “dck”. Molti ricercatori hanno espresso sorpresa e sconcerto nel vedere come un’immagine così palesemente sbagliata generata dall’intelligenza artificiale abbia potuto superare il processo di revisione paritaria e le procedure interne previste dalla rivista.

Ma i problemi non riguardano solo le parti intime del topo. Anche la figura 2 è altrettanto confusa. Mentre si suppone che sia un diagramma di una complessa via di segnalazione, in realtà è un groviglio di linee senza senso. Un esperto di integrità scientifica ha messo in dubbio se l’immagine spieghi in modo troppo complicato “come fare un donut con granelli colorati”. Come la prima immagine, il diagramma è ricco di testo incomprensibile e immagini senza senso. La figura 3 non è migliore, offrendo un collage di immagini circolari piccole con annotazioni senza senso. L’immagine si propone di fornire rappresentazioni visive di come la via di segnalazione di Figura 2 regoli le proprietà biologiche delle cellule staminali spermatogoniali.

Alcuni scienziati online hanno messo in dubbio se anche il testo sia stato generato dall’intelligenza artificiale. Un utente ha osservato che un software di rilevamento dell’intelligenza artificiale ha stabilito che era probabilmente generato da AI; tuttavia, come già riportato da Ars in precedenza, tali software non sono affidabili.

Queste immagini, sebbene siano esempi eclatanti, evidenziano un problema crescente nell’editoria scientifica. Il successo di un ricercatore dipende pesantemente dal numero di pubblicazioni, dalla frequenza delle pubblicazioni e dalla presenza di articoli in riviste di alto livello, tutto ciò che conferisce al ricercatore maggiore prestigio. Questo sistema incentiva i ricercatori poco scrupolosi a far passare articoli di scarsa qualità che, nell’era dei chatbot basati sull’intelligenza artificiale, potrebbero potenzialmente essere generati con l’aiuto di AI. I ricercatori temono che l’uso sempre più diffuso dell’intelligenza artificiale renda la ricerca pubblicata meno affidabile. A tal proposito, le riviste scientifiche hanno recentemente stabilito nuove linee guida sull’autorevolezza dei testi generati da IA per cercare di affrontare il problema. Ma per ora, come dimostra l’articolo di Frontiers, ci sono chiaramente delle lacune.

Sezione FAQ basata sui principali argomenti e informazioni presentate nell’articolo:

1. Qual è stato il problema con le immagini generate dall’intelligenza artificiale menzionate nell’articolo?
Le immagini erano di scarsa qualità, incomprensibili e contenevano testo senza senso. Una delle immagini raffigurava un topo con genitali stranamente grandi e bizzarri.

2. Qual è la reazione della casa editrice Frontiers a questo problema?
La casa editrice ha pubblicato una “espressione di preoccupazione” e ha avviato un’indagine.

3. Cosa dice l’articolo in merito all’articolo scientifico in questione?
L’articolo, intitolato “Funzioni cellulari delle cellule staminali spermatogoniali in relazione alla via di segnalazione JAK/STAT”, è stato scritto da tre ricercatori cinesi ed è stato pubblicato nella rivista Frontiers in Cell and Developmental Biology.

4. Quali erano le critiche dei ricercatori nei confronti dell’articolo?
I ricercatori hanno espresso disgusto e disprezzo per la qualità delle immagini generate dall’intelligenza artificiale presenti nell’articolo.

5. Quali sono gli errori rilevati nelle immagini?
Le immagini contenevano testo incomprensibile, immagini senza senso e una rappresentazione errata di un topo con genitali stranamente grandi e bizzarri.

6. Cosa dice l’articolo sul ruolo dell’intelligenza artificiale nell’editoria scientifica?
L’uso sempre più diffuso dell’intelligenza artificiale potrebbe rendere la ricerca pubblicata meno affidabile, poiché alcuni ricercatori poco scrupolosi potrebbero far passare articoli di scarsa qualità generati con l’aiuto dell’IA.

Termini chiave:

1. Intelligenza artificiale (IA) – Il campo dello studio e dello sviluppo di algoritmi e sistemi informatici che possono eseguire compiti che richiedono intelligenza umana.

2. Revisione paritaria – Il processo in cui esperti nel campo valutano criticamente un articolo scientifico prima della sua pubblicazione.

3. Prestigio – Il riconoscimento e l’importanza associati a qualcosa o qualcuno sulla base del rispetto o della stima che gli viene attribuita.

Link correlati suggeriti:
Frontiers
Bluesky
Twitter