2 de septiembre de 2026
Citas a artículos que no existen, trabajos inventados, autores fantasma: las alucinaciones de la IA llegaron al mundo científico. La tecnología promete acelerar la investigación, pero multiplica los errores. Un callejón de difícil salida.
La historia de la revolución científica es conocida: la teoría heliocéntrica de Copérnico, desarrollada en el siglo XVI, fue la base sobre la que Johannes Kepler dedujo que el movimiento planetario era elíptico y no circular. Gracias a esas investigaciones (y otras) Isaac Newton inauguró la ciencia moderna con su Ley de la Gravitación Universal. «Si he visto más lejos, es poniéndome sobre los hombros de gigantes», diría en una carta de 1675.
La historia de la ciencia depende de investigaciones rigurosas que cada investigador utiliza como base para su propia construcción. Pero si se esperaba que «la ciencia» y su método escaparan al caos generalizado de la discusión social tal vez sea hora de ir perdiendo las esperanzas: «La citación alucinada está contaminando la literatura científica», publicó la revista Nature hace un par de meses.
Los científicos son humanos y, como todos ellos, tienen razones para utilizar la Inteligencia Artificial Generativa (IAG) tal como hace buena parte de los mortales. En primer lugar está la brutal presión mediática donde se explican las maravillas de una tecnología que «lo va a cambiar todo» y «vino para quedarse». Quienes se opongan al «futuro» que llegará con la fuerza del reloj son, desde esta perspectiva, conservadores o luditas.
A esto se le suma que, efectivamente, las herramientas de IAG hacen un trabajo sorprendentemente bueno (al menos a primera vista) y permiten ahorrar mucho tiempo en edición de un artículo, búsqueda de bibliografía o enfrentar la página en blanco. Si los demás científicos dicen que lo usan, ¿por qué no probarlo?
Seguramente las primeras veces se revisará concienzudamente el trabajo, pero el confort es una droga para la que no hay recuperación: una vez que uno se acostumbra a hacer más fácilmente las cosas, es muy difícil volver atrás. Puede que ese tiempo liberado se vuelque a descansar o, como suele pasar, a trabajar un poco más. Por eso la tentación de delegar y chequear cada vez menos que propone la IAG es irresistible.
Este proceso está cada vez más extendido: Steven Rosenbaum, autor de El futuro de la verdad: como la IA está dando nueva forma a la realidad, explica en su libro cómo la presión de la IA deforma, borronea y sintetiza la realidad. Poco después de la publicación una investigación del New York Times descubrió que varias citas habían sido «alucinadas» por una IA que el autor utilizó como asistente. Rosenbaum salió a reconocer su error, aunque aseguró que seguirá utilizando IAG. Que este tipo de problemas surja en un libro que habla sobre la verdad en tiempos de IA es preocupante, pero cuando afecta directamente al método científico, es decir, a la forma en que la humanidad más se acerca a la verdad, el efecto es aún más grave.
Los fundamentos
El método científico se basa, sobre todo, en la publicación de trabajos detallados y rigurosos que explican un procedimiento y resultados que todos pueden comprobar. A su vez, cada trabajo suma o discute con otros sobre el mismo tema. Uno de los mecanismos principales que demuestra la importancia de un paper es la cantidad de veces que es citado.
Por eso resulta tan preocupante que las IAG que usan los científicos para escribir, editar o investigar, inventen citas con datos muy precisos como el DOI (Identificador de Objeto Digital, algo así como el DNI de cada paper). Este fenómeno suele llamarse «alucinación», pero no es más que una desviación estadística: la IAG, por más que su nombre diga lo contrario, no es inteligencia sino estadística. Lo que hacen los grandes modelos de lenguaje (LLM por su sigla en inglés) es calcular la probabilidad de que una palabra siga a otra. Los LLM se entrenan con millones de textos provenientes de todo tipo de fuentes, desde libros hasta posteos, en los que buscan patrones. Pero incluso si una IA se entrena solo con materiales científicos podría producir cosas que no están en el mundo real solo porque es estadísticamente posible que existan. Esto es un rasgo estructural de las IAG y no importa cuántos datos, poder de cómputo o parámetros se le sumen: los LLM establecen patrones de probabilidad y el mundo real no les importa.
A esto se le suma una necesidad económica de las corporaciones de mantener contentos a sus clientes. Las redes sociales, por ejemplo, suelen darnos aquello que mejor encaja con nuestras ideas porque no nos gusta que nos contradigan. Eso ayuda a que las usemos más y las empresas ganen más dinero. Esto mismo ocurre con las IAG que suelen adularnos para que las sigamos eligiendo. Por eso si un científico le pide una cita que respalde su propia investigación la IAG producirá algo que responda a esa demanda y no importa si existe o no; hará algo muy verosímil y convincente, con un lenguaje similar al de los papers con los que fue entrenado. Puede que los becarios chequeen cada cita, pero si el tiempo apremia y están cansados, probablemente ocurra lo que se cuenta en la revista Nature: que las citas apócrifas se multipliquen.
Inundados de papers
Para complicar aún más las cosas, gracias a lo fácil que resulta «escribir» trabajos científicos con IAG la cantidad de ponencias que se presentan a las conferencias aumenta. Según otro artículo de Nature una conferencia de 2026 sobre Machine learning recibió 24.000 propuestas de ponencias, el doble que el año anterior. Otro análisis indicaba que el 2,6% de los trabajos tenían al menos una cita inventada; el año anterior la cifra era del 0,3%. En otras revistas menos conocidas las cifras son aún más altas. La maraña no solo crece por el uso de IAG: una vez que un paper inexistente es citado en varios artículos, los científicos los toman como ciertos y reproducen la cita apócrifa que, a su vez, se utiliza para entrenar nuevamente a las IAG.
La dificultad de determinar qué existe y que no, la multiplicación de citas falsas revalidadas por nuevas citas y la inundación de papers nuevos hechos con IA que deben ser evaluados sin recursos humanos suficientes hacen pensar que el problema empeorará con el tiempo.
A esta problemática se suman también las desigualdades norte-sur. Los grandes repositorios de trabajos científicos están en manos de un puñado de empresas que monopolizan su acceso y cobran por él. Por eso muchos científicos de países pobres no tienen el dinero para chequear cada cita, lo cuál retroalimenta aún más el problema. Lo que balancea un poco la situación son sitios «ilegales» que liberan los papers como Sci-hub desarrollado por la kazaja Alexandra Elbakyan, perseguida hace años. Pero ese es otro tema.
En tiempos de IAG, Newton habría tenido que chequear la solidez de los hombros de sus antecesores antes de subirse a ellos para no desbarrancarse.
