viernes, 19 de julio de 2024

Publicar o Perecer: más artículos, más revistas, más indexación, más factor de impacto y más depredación

Publicado en blog Impact of Social Sciences (London School of Economics-LSE)

https://blogs.lse.ac.uk/impactofsocialsciences/2023/10/23/the-strain-on-academic-publishing/ 



La presión sobre la publicación académica


Dan Brockington

Paolo Crosetto

Pablo Gómez

Mark A. Hanson


23 de octubre de 2023

Basándose en una década de datos sobre publicaciones académicas, Dan Brockington, Paolo Crosetto, Pablo Gómez Barreiro y Mark Hanson sostienen que una industria editorial académica basada en el volumen plantea graves peligros para la evaluación y la utilidad de las publicaciones de investigación.

¿Se publicarían tantos artículos académicos si los beneficios de las editoriales fueran menores?

Todos conocemos las presiones para publicar. Los incentivos para generar cada vez más material, para "abrumar" con un largo currículum son poderosos. Al jubilarse, a los científicos les gusta que les celebren los cientos de artículos que han escrito. Los historiadores cuentan sus libros. ¿Y si acabas de empezar y no has publicado nada? Ya sabe lo que dice la frase: publica o...

Décadas de este comportamiento han puesto al mundo académico en serios aprietos. Ahora se preparan tantos artículos que es difícil encontrar revisores. Y en cuanto a su lectura, probablemente se alcanzó el punto máximo hace años. Si comparamos sólo los artículos indexados con el aumento del número de doctorados, resulta evidente que la publicación científica está bajo presión (Fig. 1).

Presión sobre la publicación académica1.png

Fig.1: Crecimiento de artículos indexados (línea continua) y nuevos doctores -PhDs- (línea discontinua)

Pero al buscar en nosotros mismos, en los investigadores, la causa de este problema, ¿estamos buscando en el lugar adecuado? ¿Y si nos centramos en los editores? ¿Hasta qué punto su comportamiento, o mejor dicho, sus modelos de negocio, son la causa del aumento del número de artículos?

En un nuevo preprint en el que se examina la tensión, hemos argumentado que necesitamos un escrutinio mucho más cuidadoso, y una mejor gobernanza, del comportamiento de los editores. Basándonos en un análisis de millones de artículos del archivo Scimago y en nuestro propio rastreo web, destacamos cinco tendencias:

  1. El crecimiento del número de artículos procede de numerosos editores, tanto de los que venden revistas por suscripción como de los que cobran por el procesamiento de los artículos en acceso abierto (Fig. 2A).

  1. Los plazos de entrega de algunos editores (desde el envío del trabajo hasta la publicación del artículo) se han vuelto cortos y homogéneos. Cabría esperar que fueran diversos porque las necesidades de los artículos son diferentes.

  1. También se pueden crear más artículos si se reducen las tasas de rechazo. Pero no hay tendencias claras en las tasas de rechazo en todo el sector. Nuestra modelización demostró que el mejor predictor de los patrones en las tasas de rechazo era el editor.

  1. Los números especiales son uno de los principales motores de crecimiento entre algunas editoriales de acceso abierto oro (pero no todas). Los números especiales también se asocian a índices de rechazo más bajos y a plazos de entrega más homogéneos.

  1. Comparando diferentes medidas del factor de impacto, podemos demostrar que se ha producido una inflación del impacto en todo el sector por parte de todas las editoriales (Fig.2B). Se trata de un caso clásico de aplicación de la ley de Goodhart.

Presión sobre la publicación académica2.png


¿Qué podemos aprender de todo esto? En primer lugar, sugiere un duro cuestionamiento de los editores. ¿Cómo se mantiene la independencia editorial en los entornos editoriales actuales? Debemos preguntárnoslo, dado que algunas de las métricas tienden a cambiar en todas las mismas direcciones dentro de editoriales concretas.

En segundo lugar, necesitamos un nuevo lenguaje para hablar del comportamiento de los editores. En la actualidad parece que nos hemos quedado estancados en las categorías de "depredador" y "legítimo". Pero quizá necesitemos análisis más matizados. Es notable, por ejemplo, la gran atención que recibió nuestro artículo en Twitter, en el que se calificaba a MDPI de "depredadora". MDPI destaca en nuestro análisis. Destaca con campanas al vuelo. Tiene el mayor crecimiento de artículos, el mayor número de números especiales, los plazos de entrega más cortos, las tasas de rechazo más bajas, la inflación de impacto más alta y la autocitación media más alta dentro de la revista (Fig. 3). Pero, al mismo tiempo, es miembro del Comité de Ética de la Publicación, que promueve "la integridad en la investigación y su publicación". Otros editores, también miembros del COPE, hacen lo mismo que MDPI, pero menos copiosamente. Las editoriales consideradas "legítimas" por la comunidad editorial están haciendo cosas desconocidas hasta ahora en la edición académica. Categorías como "legítimo" o "depredador" no bastan para captar el fenómeno que observamos. 



Presión sobre la publicación académica3.png

 Fig.3: Tendencias en todas las editoriales

El otro problema de términos como "depredador" y "legítimo" es que esta dicotomía califica de "legítimo" un comportamiento que obtiene pingües beneficios del trabajo académico gratuito. Los márgenes de beneficio de Elsevier llevan mucho tiempo dando que hablar, y en su día provocaron un enfrentamiento con la Universidad de California. Observe de nuevo la Fig. 2A para ver qué empresa produce con diferencia el mayor número de publicaciones indexadas. Del mismo modo, el aprovechamiento que Nature hace de su marca como parte de un modelo de publicación basado en APC ha provocado la burla popular. ¿Deben considerarse "legítimos" estos modelos de negocio? El Plan S exige transparencia sobre los servicios que ofrecen los editores. Pero no llega a preguntarse por la rentabilidad de esos servicios.

Si queremos entender el cambiante mundo de la edición académica, necesitamos que los datos que hemos desenterrado estén más fácilmente disponibles. La edición académica no es suficientemente transparente. 

Una mayor transparencia facilitaría una mejor vigilancia y gobernanza de las publicaciones académicas. Las editoriales tienen que vigilarse a sí mismas con más eficacia. Los grandes financiadores de la investigación podrían obligarles a hacerlo. Una medida obvia sería desincentivar la publicación de tantos números especiales, que es lo que ha provocado el reciente aumento del número de artículos. Los financiadores y empleadores deben disuadir a los investigadores de participar en la cultura de publicar o perecer.

Parte del aumento que hemos observado es positivo. Tiene que serlo. Refleja un mundo de la investigación más integrador en el que los investigadores productivos no se limitan al Norte Global. Sin embargo, tenemos que encontrar la manera de hacer que la investigación sea más abierta, sin abrir las compuertas a la mala ciencia. En última instancia, la "ciencia" merece ese nombre en parte por el cuidadoso escrutinio que los científicos exigen de su trabajo. Demasiada producción indexada recibe muy poco escrutinio, sobre todo si las revisiones son cada vez más rápidas y los índices de rechazo disminuyen.

La disfunción, y los evidentes beneficiarios, de la edición científica actual plantean un profundo desafío: ¿Podemos reimaginar la edición científica de modo que no se vea afectada por el afán de lucro? Esto sería más fácil si la organización y la financiación de la publicación académica generaran pocos beneficios. Se trata de una perspectiva que podría transformar el mundo académico. 

Una mayor transparencia facilitaría una mejor vigilancia y gobernanza de las publicaciones académicas. Las editoriales tienen que vigilarse a sí mismas con más eficacia. Los grandes financiadores de la investigación podrían obligarles a hacerlo. Una medida obvia sería desincentivar la publicación de tantos números especiales, que es lo que ha provocado el reciente aumento del número de artículos. Los financiadores y los empleadores deben disuadir a los investigadores de participar en la cultura de publicar o perecer.


/////////////////////////////

The strain on academic publishing


Dan Brockington, Paolo Crosetto, Pablo Gómez, Mark A. Hanson

October 23rd, 2023

Drawing on a decade of data on academic publications, Dan Brockington, Paolo Crosetto, Pablo Gómez Barreiro and Mark Hanson argue that an academic publishing industry based on volume poses serious hazards to the assessment and usefulness of research publications.


Would so many academic articles be published if publishers’ profits were lower?

We all know about the pressures to publish. The incentives to generate more and more material, to ‘overwhelm’ with a long CV are powerful. Upon retirement, scientists like to be celebrated for the hundreds of articles that they have written. Historians will count their books. And if you are just starting out, and haven’t published? Well you know how the phrase goes: publish or  …

Decades of this behaviour has put academia in serious trouble. There are now so many papers being prepared that it is hard to find the reviewers for them. And as for reading them – well ‘peak fact’ was probably reached years ago. If we compare just the indexed articles with the growth in PhDs then it is plain that there is a strain in scientific publishing (Fig.1). 


Presión sobre la publicación académica1.png

But in looking at ourselves, at researchers, for the cause of this problem, are we looking in the right place? What if we turned the spotlight on the publishers? To what extent is their behaviour, or more accurately business models, driving the growth in papers?

In a new pre-print examining the strain we have argued that we need much more careful scrutiny, and better governance, of publishers’ behaviour. Based on an analysis of millions papers in the Scimago archive, and our own web-scraping, we highlight five trends:

  1. Article growth comes from numerous publishers, both those who sell journals via subscription and by those who levy article processing charges on gold open access papers (Fig.2A).

  2. Some publishers’ turnaround times (from paper submission to article publication) have become short and homogenous. We would expect them to be diverse because papers’ needs are different.

  3. More articles can also be created by lowering rejection rates. But there are no clear trends in rejection rates across the sector. Our modelling showed that the best predictor of patterns in rejection rates was the publisher.

  4. Special Issues are a major driver of growth among some (but not all) gold open access publishers. We found that Special Issues are also associated with lower rejection rates and more homogenous turnaround times.

  5. By comparing different measures of impact factor we could show that there has been impact inflation across the sector by all publishers (Fig.2B). This is a classic case of Goodhart´s law in operation.  


Presión sobre la publicación académica2.png


What do we learn from all of this? First, it suggests some hard questioning of publishers. How is editorial independence maintained in current publishing environments? We must ask this given that some of the metrics are tending to change in all the same directions within specific publishers.

Second, we need a new language to talk about publishers behaviour. Currently we seem stuck with the categories of ‘predatory’ and ‘legitimate’. But maybe we need more nuanced analyses. It is notable, for example, how much of the twitter attention of our article labelled MDPI as ‘predatory’. MDPI does stand out in our analysis. It stands out with bells on. It has the most growth of papers, most special issues, shortest turnaround times, decreasing rejection rates, highest impact inflation, and the highest within-journal mean self-citation (Fig 3). But at the same time, it is a member of the Committee of Publication Ethics that promotes ‘integrity in research and its publication’. Other publishers, also COPE members, are doing what MDPI does, just less copiously. Publishers that are thought to be ‘legitimate’ by the publishing community are doing things we have not known before in academic publishing. Categories like ‘legitimate’ or ‘predatory’ do not suffice to capture the phenomenon we observe.   


Presión sobre la publicación académica3.png
Fig.3: Trends across all publishers

The other problem with terms like ‘predatory’ and ‘legitimate’ is that this dichotomy labels behaviour which makes handsome profits off free academic labour as ‘legitimate’. Elsevier’s profit margins have long raised eyebrows, and at one point led to a stand-off with the University of California. Look again at Fig 2A to see which company is churning out by far the most indexed publications. Similarly, Nature’s leverage of its brand as part of an APC based publishing model has provoked popular derision. Should these business models be called ‘legitimate’? Plan S goes some way towards demanding transparency on what services publishers offer. But it stops short of asking how profitable those services are.

If we are to understand the changing world of academic publishing then we need the data we have unearthed to be more easily available. Academic publishing is simply not transparent enough.   

Greater transparency would make it easier to bring in the better policing and governance academic publishing needs. Publishers need to police themselves more effectively. They could be made to do so by major research funders. One obvious step is to discourage so many Special Issues which are driving much of the recent increase in papers. Funders and employers need to discourage researchers from taking part in the publish or perish culture.

Some of the increase we have observed is welcome. It has to be. It reflects a more inclusive research world where productive researchers are not confined to the Global North. However, we need to find a way of making research more open, without opening the floodgates to poor science. Ultimately ‘science’ deserves that name in part because of the careful scrutiny scientists demand of their work. Too much indexed output receives too little scrutiny, especially if reviews are churned out ever faster while rejection rates decline.  

The dysfunction, and obvious beneficiaries, of scientific publishing today poses a profound challenge: Can we reimagine scientific publishing so that it is unaffected by profit motives? This would be most easily done if the organization, and funding, of academic publishing created little profit. That is a prospect that could indeed transform academia. 

 


This post draws on the authors’ preprint, The strain on scientific publishing, published on arXiv.

The content generated on this blog is for information purposes only. This Article gives the views and opinions of the authors and does not reflect the views and opinions of the Impact of Social Science blog (the blog), nor of the London School of Economics and Political Science. Please review our comments policy if you have any concerns on posting a comment below.

Image Credit: James Allen via Unsplash.

jueves, 18 de julio de 2024

ChatGPT: "No es una máquina de hacer trampas, es una máquina de producir basura", dice un profesor enfurecido

Publicado en THE Times Higher Education
https://www.timeshighereducation.com/news/academics-despair-chatgpt-written-essays-swamp-marking-season?utm_source=newsletter&utm_medium=email&utm_campaign=editorial-daily&spMailingID=29224825&spUserID=MTMxNDI2NDE5NzI2MwS2&spJobID=2490973072&spReportId=MjQ5MDk3MzA3MgS2 


La desesperación de los académicos: los trabajos escritos con ChatGPT inundan la temporada de exámenes


"No es una máquina de hacer trampas, es una máquina de producir basura", dice un profesor enfurecido por el aumento de las redacciones insípidas.


17 de junio de 2024

Jack Grove

Twitter: @jgro_the


El aumento del uso de ChatGPT por parte de los estudiantes para escribir redacciones debería llevarles a replantearse si las políticas actuales que fomentan el uso "ético" de la inteligencia artificial están funcionando, afirman los académicos.


Con la temporada de exámenes en pleno apogeo, un gran número de profesores ha acudido a las redes sociales para quejarse de los contenidos generados por IA que se encuentran en los trabajos presentados.


Entre los signos reveladores del uso de ChatGPT, según los académicos, se incluyen palabras poco utilizadas como "profundizar" y "multifacético", el resumen de temas clave mediante viñetas y un estilo conversacional discordante con términos como "vamos a explorar este tema".


En un regalo más obvio, un profesor dijo que un anuncio de una empresa de ensayos sobre IA estaba enterrado en la introducción de un trabajo; otro académico observó cómo un estudiante había olvidado eliminar la declaración de un chatbot de que el contenido estaba generado por IA.


"No tenía ni idea de cuántos recurrirían a ello", admitió un profesor de Derecho del Reino Unido.


Des Fitzgerald, catedrático de Humanidades Médicas y Ciencias Sociales del University College Cork, declaró a Times Higher Education que el uso de la IA por parte de los estudiantes se había "generalizado totalmente" este año.


"A lo largo de un lote de ensayos, empiezas a notar los tics de los ensayos ChatGPT, que en parte tienen que ver con la repetición de ciertas palabras o frases, pero también con una especie de aura de blandura maquínica que es difícil de describir para alguien que no se haya topado con ella: un ensayo sin aristas, que no hace nada técnicamente mal o malo, pero tampoco mucho bien o bueno", dijo el profesor Fitzgerald.


Desde la aparición de ChatGPT a finales de 2022, algunas universidades han adoptado políticas que permiten el uso de la IA siempre que se reconozca, mientras que otras han empezado a utilizar detectores de contenidos de IA, aunque hay división de opiniones sobre su eficacia.


Según la última Encuesta sobre la Experiencia Académica de los Estudiantes, para la que Advance HE y el Higher Education Policy Institute encuestaron a unos 10.000 estudiantes universitarios del Reino Unido, el 61% utiliza la IA al menos un poco al mes, "de una forma permitida por su institución", mientras que el 31% lo hace todas las semanas.


El profesor Fitzgerald dijo que, aunque algunos colegas "piensan que simplemente tenemos que vivir con esto, incluso que tenemos el deber de enseñar a los estudiantes a usarlo bien", él estaba "totalmente en contra" del uso de herramientas de IA para los ensayos.


"ChatGPT es completamente antitético con todo lo que creo que hago como profesor: trabajar con los alumnos para que se comprometan con los textos, reflexionar sobre las ideas, aprender a aclarar y expresar pensamientos complejos, asumir algunos riesgos con esos pensamientos, localizar algún tipo de voz interior distintiva. ChatGPT es un veneno total para todo esto, y tenemos que prohibirlo sin más", afirmó.


Steve Fuller, catedrático de Sociología de la Universidad de Warwick, está de acuerdo en que el uso de la IA "se ha hecho más notable" este año, a pesar de que sus alumnos firman contratos en los que se comprometen a no utilizarla para escribir ensayos.


No se opone a que los estudiantes la utilicen "siempre y cuando lo que escriban suene inteligente y acertado, y el corrector no pueda reconocer que lo han sacado de otra fuente".


Según el profesor Fuller, quienes recurran en gran medida a la tecnología deben esperar una nota relativamente baja, aunque podrían aprobar.


Los estudiantes cometen errores de hecho, razonamiento y gramática de forma rutinaria [sin ChatGPT], pero si su texto toca lo suficiente las bases de la tarea, es probable que obtengan un resultado entre bajo y medio-60. ChatGPT hace un trabajo creíble en la simulación de tal mediocridad, y eso es lo suficientemente bueno para muchos de sus usuarios", dijo. ChatGPT hace un trabajo creíble simulando esa mediocridad, y eso es suficiente para muchos de sus estudiantes usuarios", afirma.


Sin embargo, los académicos se quejan cada vez más de tener que corregir redacciones mediocres generadas en parte por la IA. El economista Renaud Foucart, de la Universidad de Lancaster, afirmó en X que corregir redacciones generadas por IA "lleva mucho más tiempo [porque] necesito concentrarme mucho más para cortar la cantidad de afirmaciones aparentemente lógicas que en realidad están llenas de vacío".


"Mi mayor problema [con la IA] no es tanto la cuestión moral de hacer trampas como lo que ChatGPT ofrece a los estudiantes", añadió el profesor Fitzgerald. "Lo único de lo que es capaz es de escribir malas redacciones con frases vacías y sin ideas. No es una máquina para hacer trampas; es una máquina para producir basura".


****************************************

Academics despair as ChatGPT-written essays swamp marking season‘It’s not a machine for cheating; it’s a machine for producing crap,’ says one professor infuriated by rise of bland scripts

June 17, 2024

Jack Grove

Twitter: @jgro_the


The increased prevalence of students using ChatGPT to write essays should prompt a rethink about whether current policies encouraging “ethical” use of artificial intelligence are working, scholars have argued.

With marking season in full flow, lecturers have taken to social media in large numbers to complain about AI-generated content found in submitted work. 

Telltale signs of ChatGPT use, according to academics, include little-used words such as “delve” and “multifaceted”, summarising key themes using bullet points and a jarring conversational style using terms such as “let’s explore this theme”.

In a more obvious giveaway, one professor said an advert for an AI essay company was buried in a paper’s introduction; another academic noted how a student had forgotten to remove a chatbot statement that the content was AI-generated.

“I had no idea how many would resort to it,” admitted one UK law professor

Des Fitzgerald, professor of medical humanities and social sciences at University College Cork, told Times Higher Education that student use of AI had “gone totally mainstream” this year.

“Across a batch of essays, you do start to notice the tics of ChatGPT essays, which is partly about repetition of certain words or phrases, but is also just a kind of aura of machinic blandness that’s hard to describe to someone who hasn’t encountered it – an essay with no edges, that does nothing technically wrong or bad, but not much right or good, either,” said Professor Fitzgerald. 

Since ChatGPT’s emergence in late 2022, some universities have adopted policies to allow the use of AI as long as it is acknowledged, while others have begun using AI content detectors, although opinion is divided on their effectiveness.

According to the latest Student Academic Experience Survey, for which Advance HE and the Higher Education Policy Institute polled around 10,000 UK undergraduates, 61 per cent use AI at least a little each month, “in a way allowed by their institution”, while 31 per cent do so every week. 



Campus resource: Can we spot AI-written content?


Professor Fitzgerald said that although some colleagues “think we just need to live with this, even that we have a duty to teach students to use it well”, he was “totally against” the use of AI tools for essays.

“ChatGPT is completely antithetical to everything I think I’m doing as a teacher – working with students to engage with texts, thinking through ideas, learning to clarify and express complex thoughts, taking some risks with those thoughts, locating some kind of distinctive inner voice. ChatGPT is total poison for all of this, and we need to simply ban it,” he said. 

Steve Fuller, professor of sociology at the University of Warwick, agreed that AI use had “become more noticeable” this year despite his students signing contracts saying they would not use it to write essays.

He said he was not opposed to students using it “as long as what they produce sounds smart and on point, and the marker can’t recognise it as simply having been lifted from another source wholesale”.

Those who leaned heavily on the technology should expect a relatively low mark, even though they might pass, said Professor Fuller.

“Students routinely commit errors of fact, reasoning and grammar [without ChatGPT], yet if their text touches enough bases with the assignment they’re likely to get somewhere in the low- to mid-60s. ChatGPT does a credible job at simulating such mediocrity, and that’s good enough for many of its student users,” he said.

Having to mark such mediocre essays partly generated by AI is, however, a growing complaint among academics. Posting on X, Lancaster University economist Renaud Foucart said marking AI-generated essays “takes much more time to assess [because] I need to concentrate much more to cut through the amount of seemingly logical statements that are actually full of emptiness”.

“My biggest issue [with AI] is less the moral issue about cheating but more what ChatGPT offers students,” Professor Fitzgerald added. “All it is capable of is [writing] bad essays made up of non-ideas and empty sentences. It’s not a machine for cheating; it’s a machine for producing crap.”  

jack.grove@timeshighereducation.com

****************


PEER REVIEW E INTELIGENCIA ARTIFICIAL

Investiga. Monográficos sobre investigación . Biblioteca de la Universidad de Sevilla https://bib.us.es/sites/bib3.us.es/files/investiga_sep...