La inteligencia artificial ya forma parte de nuestras vidas, queramos o no, y especialmente en el ámbito académico la IA no deja de expandirse. Diferentes herramientas de IA son cada vez más utilizadas en la producción científica para realizar búsquedas bibliográficas, revisiones de literatura, redactar textos, formatear referencias… Entre las “alucinaciones” (o invenciones) que generan estas herramientas se encuentra un problema que va en aumento: la producción de referencias bibliográficas falsas pero aparentemente correctas. Miryam Naddaf y Elizabeth Quill analizan en un interesante artículo de Nature este fenómeno y cómo se ha intensificado de forma notable en 2025 (en algunas publicaciones de informática, entre el 2% y el 6% de los artículos presentaban referencias potencialmente inventadas).
Ese artículo plantea que el problema va más allá de errores bibliográficos tradicionales, como fallos tipográficos o DOI incorrectos. Ahora se trata de referencias fabricadas a partir de metadatos que por separado sí son reales, pero en su conjunto forman una referencia de una publicación inexistente. Por este motivo reciben el nombre de “referencias Frankenstein” (una tipología nueva que se suma a las terroríficas citas fantasmas y citas zombis de la publicación académica). En las “referencias Frankenstein”:
La proliferación de citas falsas puede perjudicar la integridad científica, dificultar la verificación de fuentes, confundir a investigadores y erosionar la confianza en la literatura académica. Por ello, editoriales, revisores y autores se ven obligados a reforzar sus procesos de verificación. En algunas revistas directamente se rechazan manuscritos con referencias falsas, mientras que otras permiten correcciones si los errores son menores y pueden aclararse. Aunque se están desarrollando herramientas automáticas para detectar estas anomalías, la supervisión humana sigue siendo esencial.
Sin embargo, las citas falsas no son el único riesgo emergente. La expansión de la IA en la producción científica también está favoreciendo otra consecuencia aún más inquietante: la aparición de artículos completos generados mediante IA que son atribuidos a investigadores reales sin su conocimiento. En algunos casos, los investigadores descubren la existencia de estos trabajos cuando reciben alertas de citación o encuentran su nombre vinculado a publicaciones que nunca escribieron. Esta práctica puede deberse a errores automatizados, fraudes deliberados o actividades de paper mills y revistas depredadoras.
En conjunto, estos fenómenos reflejan que el desafío de la IA en investigación no se limita a mejorar herramientas de productividad, sino que exige nuevas estrategias éticas, tecnológicas y editoriales para proteger la autenticidad y la integridad del conocimiento científico.
