Publicado c&en. Chemical & Engineering News
https://cen.acs.org/policy/publishing/ai-fraud-science-journal-generative-ai/104/web/2026/07
¿Podemos evitar que la IA inunde las revistas científicas?
Es posible que los detectores de inteligencia artificial nunca logren superar el fraude. Cambiar la forma en que la ciencia recompensa a sus investigadores podría ser la única solución duradera.
Por Ananya Palivela
28 de julio de 2026
Puntos claveLa inteligencia artificial generativa ha agravado el antiguo problema del publicar o perecer en la comunidad académica, al hacer que la fabricación de artículos científicos sea trivialmente rápida y barata.
Los sistemas de detección de IA identifican parte del problema, pero sus propios desarrolladores admiten que la carrera contra modelos de IA cada vez más sofisticados es una competencia que quizá no puedan ganar.
Los expertos en integridad científica sostienen que la única solución duradera consiste en cambiar la manera en que se evalúa a los científicos: dejar de privilegiar la cantidad y centrarse en la calidad.
«Certainly, here is a possible introduction for your topic» («Claro, aquí tiene una posible introducción para su tema») comienza un artículo posteriormente retractado de la revista Surfaces and Interfaces, de Elsevier. Esa es una de las frases de apertura habituales de ChatGPT al responder a una solicitud de un usuario. El investigador envió el manuscrito comenzando con esa línea, y éste superó la revisión por pares. Nadie advirtió el error hasta después de su publicación.
Publicar es fundamental para la carrera de muchos científicos, especialmente en el ámbito académico, y constituye un elemento clave para obtener empleo, financiamiento y la titularidad académica (tenure). La presión por publicar siempre ha llevado a algunos investigadores a tomar atajos. Sin embargo, con la IA generativa, ahora un investigador puede crear un manuscrito convincente en apenas unas horas, incluso incorporando datos y citas bibliográficas falsos. Muchas revistas no cuentan con los recursos o los incentivos necesarios para detectar estos fraudes. Como resultado, la IA generativa ha agravado un problema preexistente derivado de la cultura del publicar o perecer.
«La IA es un acelerante, no la leña que alimenta el fuego», afirma Ivan Oransky, cofundador de Retraction Watch, organización que da seguimiento a las retractaciones de artículos científicos. «La leña es el publicar o perecer.»
Un estudio publicado en julio del año pasado, que examinó más de 15 millones de resúmenes biomédicos de PubMed en todo el mundo, encontró que al menos el 13.5 % de los artículos publicados en 2024 mostraban indicios de haber recibido asistencia de IA. La proporción variaba según la disciplina, la revista y el país, llegando hasta el 40 % en determinadas áreas y siendo más elevada en países donde el inglés no es la lengua materna.
«Hay muchas maneras en que la IA puede ayudar en la redacción científica», señala David Resnik, bioeticista del National Institute of Environmental Health Sciences. Puede mejorar el estilo, corregir la gramática y ayudar a los investigadores cuyo idioma nativo no es el inglés a presentar su trabajo con mayor claridad. «Incluso puede redactar secciones de un artículo, siempre que exista una supervisión humana adecuada», afirma Resnik. «Pero, al final del día, el ser humano debe ser responsable del contenido, y la contribución de la IA debe declararse de manera apropiada.»
Otro estudio, publicado en agosto de 2025, informó que el número de artículos producidos por las llamadas paper mills —organizaciones dedicadas a fabricar y vender investigaciones fraudulentas— se está duplicando cada 1.5 años, un ritmo mucho mayor que el crecimiento de la producción científica legítima.
Los problemas asociados con los artículos generados por IA abarcan desde casos evidentemente absurdos hasta fraudes extremadamente convincentes. En un extremo se encuentran manuscritos que todavía contienen frases características de la IA generativa, como «As an AI language model» («Como modelo de lenguaje de IA»), porque nadie leyó el texto con suficiente atención para detectarlas.
En el otro extremo están los artículos que utilizan IA para generar texto, fabricar conjuntos de datos y crear figuras aparentemente realistas capaces de eludir los métodos habituales de detección. Como señala Resnik: «La IA generativa puede crear imágenes digitales completamente desde cero. Es realmente, realmente difícil distinguir la diferencia». Estos artículos parecen legítimos: siguen las convenciones de la escritura científica, citan referencias y presentan datos que se ajustan a las distribuciones estadísticas esperadas.
Una vez publicados, estos trabajos se propagan. «Es un problema para toda la ciencia», afirma Resnik. Otros investigadores construyen nuevas investigaciones sobre resultados que nunca existieron, desperdiciando tiempo, recursos y financiamiento. Estos estudios defectuosos también distorsionan las decisiones de financiamiento y desvían la investigación hacia direcciones equivocadas. «Otros investigadores citan estos artículos, y los sistemas de IA se entrenan con ellos», explica Guillaume Cabanac, especialista en integridad científica y profesor de ciencias de la computación en la Universidad de Toulouse. Cada vez que esa información errónea se repite o reutiliza, el problema se amplifica y termina amenazando el conocimiento público.
Todo ello socava la confianza del público en la ciencia, que ya es frágil. Además, resulta injusto: quienes construyen extensos historiales de publicaciones con ayuda de la IA compiten con investigadores honestos por puestos de trabajo, subvenciones y reconocimiento. Por ello, muchos científicos se preguntan si la única manera de enfrentar el problema es introducir cambios sistémicos que eliminen los incentivos que empujan a los investigadores a utilizar la IA de forma indebida.
Decir la verdad sobre el uso de la IALa mayoría de las grandes editoriales exigen actualmente que los autores declaren el uso de IA. La revista Science ha prohibido expresamente el texto generado por IA; la American Chemical Society (ACS), que publica Chemical & Engineering News (C&EN), exige un reconocimiento detallado de su utilización; y el Committee on Publication Ethics (COPE) ha actualizado sus directrices. Además, una coalición de organizaciones trabaja en el desarrollo de un estándar internacional para la divulgación del uso de IA.
Resnik considera que estas declaraciones deben tener consecuencias reales. Actualmente trabaja en un artículo donde propone lo que denomina declaraciones de certificación de datos (data attestation statements): una declaración firmada que acompañe cada artículo o solicitud de financiamiento, certificando que los datos son auténticos, que existen registros originales y que estos podrán compartirse si se solicitan.
La idea es sencilla: la ciencia auténtica siempre puede rastrearse hasta su fuente. «Cuando se utiliza IA, no existe una fuente original. Todo está inventado», explica Resnik. También plantea la posibilidad de certificar digitalmente determinadas imágenes experimentales, de manera similar a como se certifican las obras de arte, registrando exactamente qué instrumento produjo una imagen, en qué fecha y quién la generó. Si puede demostrarse que un resultado proviene de un microscopio real en una fecha concreta, la fabricación fraudulenta se vuelve mucho más difícil.
No obstante, tanto la divulgación como el intercambio de datos presentan limitaciones. Ambos dependen de la honestidad de los autores, precisamente en un sistema donde existen fuertes incentivos para ocultar el uso indebido de la IA. Es aquí donde los sistemas de detección cobran especial importancia.
Los sistemas de detección podrían estar perdiendo la carreraGuillaume Cabanac creó en 2020 el Problematic Paper Screener, después de identificar alrededor de 40 artículos que mostraban señales inequívocas de haber sido producidos mediante generadores automáticos de texto y que, aun así, habían superado la revisión por pares. Desarrolló entonces un programa para examinar sistemáticamente artículos científicos en busca de indicios de fabricación y mala conducta, publicando posteriormente los resultados en línea. En la actualidad, el sistema analiza más de 160 millones de artículos indexados en la base bibliográfica Dimensions.
Expresiones gramaticalmente correctas, pero científicamente absurdas —como formic corrosive («corrosivo fórmico») en lugar de formic acid («ácido fórmico»), o weighty metals («metales pesados» traducidos literalmente como «metales pesantes») en vez de heavy metals («metales pesados»)— son lo que Cabanac denomina frases torturadas (tortured phrases). No corresponden a conceptos científicos reales y, precisamente por ello, constituyen una señal inequívoca de que algo no está bien.
En el caso específico del texto generado por IA, Cabanac busca lo que llama pistolas humeantes (smoking guns): rastros que ChatGPT deja cuando los usuarios copian y pegan sus respuestas sin leerlas. Una de las expresiones que encuentra con frecuencia es «Regenerate response» («Regenerar respuesta»). «Ningún investigador, ningún ser humano diría eso», comenta. «Es espantoso.»
Cuando el sistema detecta un artículo sospechoso, Cabanac publica un comentario en PubPeer, una plataforma de revisión por pares posterior a la publicación, y se pone en contacto directamente con la editorial correspondiente. Como resultado de su trabajo, ya se han retractado más de 3 000 artículos.
Dado que Cabanac publica abiertamente sus métodos, herramientas similares han sido adoptadas ampliamente por organizaciones científicas y editoriales. Varias de las principales editoriales ya utilizan sistemas de detección de frases torturadas durante el proceso de envío de manuscritos, identificando trabajos problemáticos antes de que lleguen a la revisión por pares.
Sin embargo, la detección sigue siendo una estrategia defensiva, y sus propios desarrolladores reconocen sus limitaciones. Incluso Cabanac admite que estas herramientas sólo detectan los fraudes más burdos. «Sospecho que existen casos en los que las personas generan conjuntos de datos mucho más difíciles de descubrir.»
En un artículo publicado en 2025, Resnik afirmó que la capacidad de la IA generativa para producir datos falsos altamente realistas constituye «una bomba de tiempo» para la publicación científica: actualmente no existe un método confiable para distinguir entre conjuntos de datos fabricados por IA y datos experimentales reales, y, a medida que los modelos mejoren, quizá nunca llegue a existir uno. «Creo que se trata de una carrera armamentista», advierte. «A medida que las herramientas mejoran, los modelos se vuelven mejores para evadirlas y los usuarios también aprenden a hacerlo. Pienso que, en última instancia, probablemente sea una batalla perdida.»
«Incluso si llegáramos a tener un detector que funcionara perfectamente, eso no resolvería todos nuestros problemas», afirma Oransky. «La idea de que basta con resolver el problema de la IA para volver a una época ideal es equivocada: esa época nunca existió. Los editores llevan décadas quejándose de que no encuentran suficientes revisores.»
Oransky considera que el uso de IA será prácticamente inevitable, no sólo para redactar artículos científicos, sino incluso para preparar solicitudes de financiamiento. Elaborar estas solicitudes resulta tan laborioso que, según él, «deberíamos aceptar que la IA será la herramienta con la que la mayoría de las personas las elaborarán».
Atacar la causa de fondoLos especialistas en integridad científica, junto con la mayoría de los investigadores, coinciden en que la causa profunda del fraude impulsado por la IA —y de muchas otras formas de mala conducta científica— reside en la estructura de incentivos de la ciencia moderna. Los investigadores siguen siendo evaluados principalmente por el número de artículos que publican y por el prestigio de las revistas donde aparecen esos trabajos. La obtención de plazas permanentes, financiamiento, ascensos, salarios, la situación migratoria de investigadores internacionales e incluso la clasificación de las instituciones dependen, en mayor o menor medida, del volumen de publicaciones. Este sistema existía mucho antes de la aparición de la IA y ha sido objeto de críticas durante décadas. «No necesitamos la IA generativa para convertir la literatura científica en un desastre», afirma Oransky. «La única solución consiste en cambiar aquello que la ciencia recompensa.»
«Si tuviera una varita mágica», dice Cabanac, «pediríamos a las personas que presentaran únicamente sus cinco mejores artículos, evaluando la calidad y no la cantidad. En Francia, los comités de contratación y promoción ya reciben instrucciones para centrarse en una selección reducida de trabajos.»
La Declaración de San Francisco sobre la Evaluación de la Investigación (DORA) fue redactada en 2012 por un grupo de editores y editoriales durante la reunión anual de la American Society for Cell Biology. Actualmente constituye una iniciativa internacional independiente que exhorta a universidades, organismos financiadores y editoriales a dejar de utilizar el volumen de publicaciones y el prestigio de las revistas como indicadores de la calidad científica. Más de 25 000 instituciones e investigadores de todo el mundo la han suscrito. Las agencias federales de financiamiento de Canadá ya utilizan currículos narrativos en las solicitudes de subvenciones. Asimismo, los National Institutes of Health (NIH) de Estados Unidos declararon el año pasado que las solicitudes de financiamiento generadas mediante IA no son elegibles y limitaron a seis el número de solicitudes que cada investigador puede presentar por año.
La detección y la divulgación del uso de IA pueden ganar tiempo. «Pero preocuparse únicamente por atrapar a los tramposos no nos llevará a ninguna parte», sostiene Oransky. «¿Debemos acabar con la desigualdad o castigar a quienes terminan robando por necesidad?». Su respuesta es que deben hacerse ambas cosas. «No podemos permitir que todo siga descontrolado mientras intentamos solucionar el problema desde su origen.»
«Llevamos décadas diciendo que no debemos valorar la cantidad por encima de la calidad», señala Resnik. «Y, sin embargo, eso todavía no ha ocurrido». Mientras tanto, añade, el problema compete a todos: «Los organismos financiadores deben asumir su responsabilidad, las instituciones necesitan desarrollar mejores políticas sobre IA y, por supuesto, los investigadores también deben actuar con responsabilidad y declarar su uso. Necesitamos bajar el ritmo. Publicar menos y permitir que los revisores por pares hagan su trabajo.»
La barrera para cometer fraude científico nunca había sido tan baja. Cuando fabricar un artículo requería meses de trabajo y habilidades especializadas, el costo era suficientemente elevado para disuadir a la mayoría de las personas. Pero cuando basta una tarde y un chatbot, el cálculo entre costos y beneficios cambia por completo.
……………………………………………………………………
Can we stop AI from flooding scientific journals?
AI detectors may never beat fraud. Changing how science rewards its researchers might be the only fix that does
by Ananya Palivela
July 28, 2026
Key Insights
Generative artificial intelligence has worsened a long-standing publish-or-perish problem in the academic community by making scientific paper fabrication trivially cheap and fast.
AI detection systems catch what they can, but their creators openly admit that the race against improving AI models is one they may not win.
Research integrity experts say the only lasting solution is changing how scientists are evaluated: away from volume and toward quality.
“Certainly, here is a possible introduction for your topic,” begins a retracted paper in the Elsevier journal Surfaces and Interfaces. This is one of ChatGPT’s standard openers when responding to a user prompt. The researcher submitted the manuscript beginning with this line, and it passed peer review. No one noticed the mistake until after publication.
Publishing is crucial for many scientists’ careers, especially those in academia, and a key part of securing jobs, funding, and tenure. The pressure to publish has always led some to take shortcuts. But with generative AI, a researcher can now create a convincing manuscript in just a few hours, even adding fake data and citations. Many journals don’t have the resources or motivation to catch this. As a result, generative AI has made an existing publish-or-perish problem worse.
“AI is an accelerant, not the kindling,” says Ivan Oransky, cofounder of Retraction Watch, which tracks retractions across scientific literature. “The kindling is publish or perish.”
A study published last July examining over 15 million PubMed biomedical abstracts worldwide found that at least 13.5% of papers published in 2024 showed signs of AI assistance. The rate varied by field, journal, and country—climbing as high as 40% in certain disciplines and running higher in non-English-speaking countries.
“There are a lot of ways that AI can help out in scientific writing,” says David Resnik, a bioethicist at the National Institute of Environmental Health Sciences. It can smooth prose, improve grammar, and help non-native English speakers present work more clearly. “It can even draft sections of a paper with appropriate human oversight,” Resnik says. “But at the end of the day, the human being must be responsible, and the contribution of AI should be appropriately disclosed.”
Another study, published in August 2025, reported that the number of papers published by paper mills—organized operations that fabricate and sell fraudulent research—is doubling every 1.5 years, a rate much faster than the growth of legitimate scientific output.
The challenges posed by problematic AI-generated papers span a spectrum from the obviously absurd to the dangerously convincing. For example, at one end are manuscripts that in which signature phrases of generative AI such as “As an AI language model” left in the text because no one read the paper carefully enough to notice.
At the other end are papers that use AI to generate text, fabricate datasets, and create realistic-looking figures that evade standard detection. As Resnik points out, “Generative AI can make digital images completely from scratch. It's really, really hard to tell the difference.” These papers look legitimate on the surface; they follow the conventions of scientific writing, cite references, and present data that conform to expected statistical distributions.
Once published, these papers spread. “It’s a problem for science as a whole,” Resnik says. Other scientists build on results that don't exist, wasting time, funding, and resources. These flawed studies also skew funding decisions and steer research in the wrong direction. “Other researchers cite these papers, and AI systems train on them,” says Guillaume Cabanac, a research integrity expert and computer scientist at the University of Toulouse. Each time this flawed information is repeated or used, the error grows, ultimately threatening public knowledge.
All this undermines public trust in science, which is already fragile. It’s also unfair: those creating long publication records with the help of AI compete with honest researchers for jobs, grants, and recognition. Many researchers are asking whether the only way to combat the problem is systemic change—removing the reason researchers are being pushed to use AI in the first place.
Telling the truth about AI useMost major publishers require authors to declare their use of AI. The journal Science has banned AI-generated text outright, the American Chemical Society (ACS publishes C&EN) requires a detailed acknowledgment, and the Committee on Publication Ethics has updated its guidance. To further address the issue, a coalition of organizations is developing a global AI disclosure standard.
Resnik thinks disclosure needs teeth. He’s working on a paper proposing what he calls data attestation statements—a signed declaration submitted with every paper or grant application that the data are real and the original records exist, and that they will be shared if requested.
The idea is that real science can always be traced back to its source. “When you have AI, you don't have an original source. It's just made up,” Resnik explains. He also raises the possibility of digitally certifying certain experimental images the way fine art is certified—logging exactly which instrument produced an image and on which day, and who was logged in. If someone can prove a result came from a real microscope on a real Tuesday, fabrication becomes much harder.
However, the limitations of disclosure and data sharing remain. They depend on the author's honesty in a system in which the incentive to conceal AI use is strong. This is where detection efforts become essential.
Detection systems may be losing the raceCabanac built the Problematic Paper Screener in 2020 after spotting roughly 40 papers that showed definite signs of being produced by text generators but had somehow cleared peer review. He created a program to systematically screen scientific papers for signs of fabrication and misconduct and to publish the results online. Today, the screener trawls 160 million papers—and counting—indexed by the bibliographic database called Dimensions.
Phrases that are grammatically correct but scientifically nonsensical, like formic corrosive in place of formic acid and weighty metals instead of heavy metals, are what Cabanac calls tortured phrases. These are not scientific concepts, he says. That is exactly how he knows something is wrong.
For AI-generated text specifically, Cabanac looks for what he calls smoking guns: traces left by ChatGPT when users copy and paste its output without reading it. “Regenerate response” is one he sees often. “No researcher, no human would say that,” Cabanac says. “It is hideous.”
When the screener flags a paper, Cabanac posts a comment on PubPeer, a postpublication peer review platform, and contacts the publisher directly. More than 3,000 papers have been retracted as a result of his work.
Because Cabanac publishes his methods openly, similar tools have been widely adopted across scientific organizations and publications. Several major publishers have now implemented tortured-phrase screening at submission, catching problematic manuscripts before they reach peer review.
But detection remains a rearguard action, and its creators are honest about its limitations. Even Cabanac acknowledges that the tools only catch crude fraud. “I suspect there are cases where people generate datasets that are more difficult to find.”
Resnik’s 2025 paper says the potential for generative AI to create highly realistic fake data is “a ticking time bomb” in scientific publishing: there is no reliable method for distinguishing AI-fabricated datasets from real experimental data, and as models improve, there may never be one. He warns, “I think it's an arms race. As tools improve, models get better at evading them, and users also get better at evading them. I think it’s ultimately probably a losing battle.”
“Even if we were to get a detector that works, it won’t solve all our problems,” Oransky says. “This notion that if we just tackle the AI problem we'll get back to something great—it was never so great. Editors have been complaining about not being able to find peer reviewers for decades.”
Oransky sees AI use as almost inevitable, not just for publishing papers but even for grant applications. Applying for grants is so burdensome that “you should just accept that AI is going to be how people do most of it,” he says.
Targeting the root causeResearch integrity experts, along with most scientists, agree that the root cause of AI-driven and other fraud is the incentive structure of modern science. Researchers are evaluated primarily on the number of papers they publish and the prestige of the journals in which those papers appear. Tenure, funding decisions, promotions, salary, immigration status for international researchers, and institutional rankings all depend, to varying degrees, on publication volume. This system predates AI by decades and has been criticized for just as long. “We don't need generative AI to make a dog's breakfast out of scientific literature,” Oransky says. The only solution, he says, is to change what science rewards.
“If I had a magic wand,” Cabanac says, “we'd ask people to list only their top five articles, evaluating quality over quantity. In France, hiring and promotion committees are already asked to focus on a short selection of works.”
The San Francisco Declaration on Research Assessment, or DORA, was drafted in 2012 by a group of journal editors and publishers at the American Society for Cell Biology's annual meeting. Now it is an independent worldwide initiative. It calls on universities, funders, and publishers to stop using publication volume and journal prestige as proxies for research quality. More than 25,000 institutions and researchers around the world have signed it. Canada's federal funding agencies have introduced narrative curriculum vitae for grant applications. The US National Institutes of Health declared AI-generated grant applications ineligible last year and capped grant submissions at six per year per researcher.
Detection and disclosure buy time. “But only worrying about catching the bad guys isn’t going to get you anywhere,” Oransky says. “Should we end inequality, or should we punish people who end up having to steal?” We must do both things, he says. “You're never going to let it all run rampant while you fix the upstream.”
“We've been talking about not measuring quantity over quality for decades,” Resnik says. “It hasn't happened.” Meanwhile, it’s everybody's problem, he adds. “Funders and funding agencies need to take responsibility, and Institutions need to develop better AI policies. And then of course, researchers should be responsible and disclose too. We need to slow down,” he says. “Publish less and let peer reviewers do their job.”
The barrier to fraud has never been lower. When fabricating a paper required months of effort and specialized skill, the cost was high enough to deter most people. When it requires an afternoon and a chatbot, the cost-benefit calculus changes entirely.
Ananya Palivela is a physical sciences reporter at C&EN.
No hay comentarios:
Publicar un comentario