Anomalies de reproduction chez les rats par l’IA.

Le journal Frontiers in Cell and Developmental Biology a retiré un article après avoir reçu des commentaires des lecteurs indiquant que les images accompagnantes avaient été générées de manière inexacte par un outil d’IA. Les éditeurs ont expliqué que les inquiétudes concernant l’authenticité des figures générées par IA ont motivé le retrait.

L’article, axé sur la recherche sur les cellules souches chez les petits mammifères, présentait des images de l’anatomie du rat clairement générées par un système d’IA. Une image montrait un rat avec des organes génitaux disproportionnellement agrandis, non observés dans la nature, tandis que certains textes d’accompagnement étaient incompréhensibles. Une autre image déformait la structure d’une cellule de rat.

Des images générées par intelligence artificielle suscitent des inquiétudes dans le domaine de l’édition scientifique

Ces images anormales suscitent des préoccupations au sein de la communauté scientifique concernant l’utilisation de l’IA pour créer du contenu technique dans les articles, en particulier dans des revues réputées. Il reste flou comment de telles images défectueuses ont passé l’évaluation par les pairs. Les auteurs, une équipe collaborative de l’hôpital Hong Hui et de l’Université Jiaotong en Chine, ont ouvertement reconnu leur utilisation de l’IA, en créditant Midjourney.

Frontiers, connue pour autoriser le contenu généré par IA avec une divulgation appropriée, avait initialement indiqué que des corrections seraient apportées avant de rétracter l’article. L’incident souligne la nécessité de vérifier les matériaux générés par IA, comme le prévoit la politique de la revue.

Cet oubli souligne les défis potentiels liés à la vérification du contenu généré par l’IA, suscitant des discussions sur les mesures de sauvegarde nécessaires pour éviter de futurs incidents.

---

Lire l’article original sur : New Atlas

Lire la suite : Innovation dans la conception des MOF avec IA générative et supercalcul