Un estudio reciente de investigadores de las universidades de Cornell y UCLA ha revelado que más de 146,900 citas falsas generadas por inteligencia artificial se han infiltrado en artículos científicos en bases de datos como arXiv, bioRxiv, SSRN y PubMed Central. Este fenómeno, conocido como 'alucinación', se refiere a la creación de información incorrecta que parece auténtica, lo que representa un riesgo significativo para la credibilidad de la literatura científica. Los investigadores analizaron 111 millones de referencias de 2.5 millones de artículos y encontraron que muchas de estas citas falsas no eran errores aislados, sino que estaban distribuidas en numerosos trabajos, sugiriendo un uso generalizado de modelos de lenguaje sin verificación. Usha Haley, profesora de la Universidad Estatal de Wichita, enfatizó que esta situación está generando escepticismo sobre la calidad de la investigación, incluso entre jóvenes académicos. En respuesta a este problema, arXiv ha decidido prohibir la presentación de trabajos con citas alucinadas o contenido generado por IA no verificado, destacando la necesidad de mantener la integridad en la producción académica.