Publicado en The Guardian
https://www.theguardian.com/technology/2025/jun/09/us-attacks-on-science-and-research-a-great-gift-to-china-on-artificial-intelligence-former-openai-board-member-says
Los ataques de EE.UU. a la ciencia y la investigación son un «gran regalo» a China en materia de inteligencia artificial, según un antiguo miembro de la junta directiva de OpenAI
Un influyente investigador afirma que la IA generativa ya ha comenzado a perturbar el mercado laboral y advierte de la posibilidad de que la IA «pierda gradualmente poder».
Helen Toner, ex miembro de la junta directiva de OpenAI, afirma que el hecho de que la administración estadounidense se centre en la investigación académica y los estudiantes internacionales es un «gran regalo» para China en la carrera por competir en inteligencia artificial.
La directora de estrategia del Centro de Seguridad y Tecnologías Emergentes (CSET) de Georgetown se unió a la junta de OpenAI en 2021 tras una carrera estudiando la IA y la relación entre Estados Unidos y China.
Toner, de 33 años y licenciada por la Universidad de Melbourne, formó parte del consejo durante dos años, hasta que en 2023 se enemistó con su fundador, Sam Altman. El consejo despidió a Altman alegando que no era «coherentemente sincero» en sus comunicaciones y que no confiaba en su capacidad de liderazgo.
En los caóticos meses que siguieron, Altman fue despedido y luego contratado de nuevo, mientras que tres miembros del consejo, entre ellos Toner, fueron destituidos. El director de «Challengers» y «Call Me By Your Name», Luca Guadagnino, está en conversaciones para dirigirla.
La saga, según la revista Time -que la nombró una de las 100 personas más influyentes en IA en 2024-, hizo que la australiana tuviera «el oído de los responsables políticos de todo el mundo que intentan regular la IA».
En el CSET, Toner tiene un equipo de 60 personas que trabajan en la investigación de la IA para libros blancos o informando a los responsables políticos sobre el uso de la IA en los sectores militar, laboral, de bioseguridad y ciberseguridad.
«Gran parte de mi trabajo se centra en alguna combinación de IA, cuestiones de seguridad y protección, el ecosistema chino de IA y también lo que se denomina IA fronteriza», explica Toner.
Toner afirmó que a Estados Unidos le preocupa perder la carrera de la IA frente a China y que, aunque los controles estadounidenses a la exportación de chips dificultan que China consiga potencia de cálculo para competir con Estados Unidos, el país seguía haciendo un «serio esfuerzo» en IA, como puso de relieve el sorprendente éxito del modelo chino de IA generativa DeepSeek a principios de este año.
Los ataques de la administración Trump a la investigación y las prohibiciones a los estudiantes internacionales son un «regalo» para China en la carrera de la IA con Estados Unidos, dijo Toner.
«Ciertamente es un gran regalo para [China] la forma en que EEUU está atacando actualmente la investigación científica, y el talento extranjero -que es una enorme proporción de la fuerza de trabajo de EEUU- son inmigrantes, muchos de ellos procedentes de China», dijo.
«Eso es una gran... bendición para China en términos de competencia con EE.UU.».
El auge de la inteligencia artificial ha suscitado quejas y preocupación por la destrucción de puestos de trabajo provocada por las empresas que la utilizan para sustituir tareas que, de otro modo, habrían realizado seres humanos.
Dario Amodei, Consejero Delegado de Anthropic, la empresa que está detrás del modelo de IA generativa Claude, declaró a Axios la semana pasada que la IA podría reducir en un 50% los puestos de trabajo de nivel básico y provocar un 20% de desempleo en los próximos cinco años.
Toner afirmó que Amodei «suele decir cosas que me parecen acertadas, pero que en términos de plazos y cifras suelen parecer bastante agresivas», pero añadió que ya se han empezado a notar las alteraciones en el mercado laboral.
«El tipo de cosas que [la IA basada en modelos lingüísticos] puede hacer mejor en este momento... si se les puede dar una tarea de tamaño pequeño, no un proyecto realmente a largo plazo, sino algo que no necesite siglos y siglos para hacerse y algo en lo que todavía se necesite la revisión humana», dijo. «Es mucho del tipo de trabajo que se da a los becarios o a los recién licenciados en las industrias de cuello blanco».
Los expertos han sugerido que las empresas que invirtieron mucho en IA se ven ahora presionadas para mostrar los resultados de esa inversión. Toner afirmó que, aunque el uso de la IA en el mundo real puede generar mucho valor, no está tan claro qué modelos de negocio y qué actores se beneficiarán de ese valor.
Los usos dominantes podrían ser una mezcla de diferentes servicios de IA integrados en aplicaciones existentes -como los teclados telefónicos que ahora pueden transcribir voces-, así como chatbots autónomos, pero está «en el aire» qué tipo de IA dominaría realmente, dijo.
Toner afirma que la búsqueda de rentabilidad es menos arriesgada que la carrera general por ser los primeros en los avances de la IA.
«Significa que todas estas empresas se lo están inventando sobre la marcha y están calculando cómo hacer concesiones entre sacar los productos al mercado, hacer pruebas adicionales, poner guardarraíles adicionales, poner medidas que se supone que hacen que el modelo sea más seguro pero también más molesto de usar», dijo.
«Todo eso lo van calculando sobre la marcha y toman esas decisiones bajo la presión de ir lo más rápido posible».
Toner se mostró preocupada por la idea de un «desempoderamiento gradual de la IA», «es decir, un mundo en el que cedemos gradualmente más control sobre diferentes partes de la sociedad, la economía y el gobierno a los sistemas de IA, y luego nos damos cuenta un poco tarde de que no va por el camino que queríamos, pero no podemos volver atrás».
Se muestra más optimista sobre el uso de la IA para mejorar la ciencia y el descubrimiento de fármacos y para que los servicios de conducción autónoma como Waymo reduzcan las muertes en las carreteras.
"Con la inteligencia artificial, nunca se trata de hacerla perfecta, sino de que sea mejor que la alternativa. Y cuando se trata de coches, la alternativa son miles de personas que mueren al año.
"Si puedes mejorar eso, es increíble. Estás salvando a muchísima gente".
Toner bromeó diciendo que sus amigos le habían estado enviando opciones sobre quién podría interpretarla en la película.
«Cualquiera de los nombres que me han lanzado mis amigos son todas estas actrices increíblemente bellas», dijo. «Así que aceptaré cualquiera de ellos, el que ellos elijan».
***********************
US attacks on science and research a ‘great gift’ to China on artificial intelligence, former OpenAI board member says
Influential researcher claims disruption in jobs market from generative AI has already begun and warns of possibility of ‘gradual disempowerment to AI’
The US administration’s targeting of academic research and international students is a “great gift” to China in the race to compete on artificial intelligence, former OpenAI board member Helen Toner has said.
The director of strategy at Georgetown’s Center for Security and Emerging Technology (CSET) joined the board of OpenAI in 2021 after a career studying AI and the relationship between the United States and China.
Toner, a 33-year-old University of Melbourne graduate, was on the board for two years until a falling out with founder Sam Altman in 2023. Altman was fired by the board over claims he was not “consistently candid” in his communications and the board did not have confidence in Altman’s ability to lead.
The chaotic months that followed saw Altman fired and then re-hired with three members of the board, including Toner, ousted instead. They will soon also be the subject of a planned film, with the director of Challengers and Call Me By Your Name, Luca Guadagnino, reportedly in talks to direct.
The saga, according to Time magazine – which named her one of the top 100 most influential people on AI in 2024 – resulted in the Australian having “the ear of policymakers around the world trying to regulate AI”.
At CSET, Toner has a team of 60 people working on AI research for white papers or briefing policymakers focused on the use of AI in the military, workforce, biosecurity and cybersecurity sectors.
“A lot of my work focuses on some combination of AI, safety and security issues, the Chinese AI ecosystem and also what gets called frontier AI,” Toner said.
Toner said the United States is concerned about losing the AI race to China and while US chip export controls make it harder for China to get compute power to compete with the US, the country was still making a “serious push” on AI, as highlighted by the surprise success of Chinese generative AI model DeepSeek earlier this year.
The Trump administration’s attacks on research and bans on international students are a “gift” to China in the AI race with the US, Toner said.
“Certainly it’s a great gift to [China] the way that the US is currently attacking scientific research, and foreign talent – which is a huge proportion of the USA workforce – is immigrants, many of them coming from China,” she said.
“That is a big … boon to China in terms of competing with the US.”
The AI boom has led to claims and concerns about a job wipeout caused by companies using AI to replace work that had otherwise been done by humans. Dario Amodei, the CEO of Anthropic, the company behind the generative AI model Claude, told Axios last week that AI could reduce entry-level white-collar jobs by 50% and result in 20% unemployment in the next five years.
Toner said Amodei “often says things that seem directionally right to me, but in terms of … timeline and numbers often seem quite aggressive” but added that disruption in the jobs market had already started to show.
“The kind of things that [language model-based AI] can do best at the moment … if you can give them a bite-size task – not a really long-term project, but something that you might not need ages and ages to do and something where you still need human review,” she said. “That’s a lot of the sort of work that you give to interns or new grads in white-collar industries.”
Experts have suggested companies that invested heavily in AI are now being pressed to show the results of that investment. Toner said while the real-world use of AI can generate a lot of value, it is less clear what business models and which players will benefit from that value.
Dominant uses might be a mix of different AI services plugged into existing applications – such as phone keyboards that can now transcribe voices – as well as stand-alone chatbots, but it’s “up in the air” which type of AI would actually dominate, she said.
Toner said the push for profitability was less risky than the overall race to be first in AI advancements.
“It means that these companies are all making it up as they go along and figuring out as they go how to make trade-offs between getting products out the door, doing extra testing, putting in extra guardrails, putting in measures that are supposed to make the model more safe but also make it more annoying to use,” she said.
“They’re figuring that all out on the fly, and … they’re making those decisions while under pressure to go as fast as they can.”
Toner said she was worried about the idea of “gradual disempowerment to AI” – “meaning a world where we just gradually hand over more control over different parts of society and the economy and government to AI systems, and then realise a bit too late that it’s not going the way that we wanted, but we can’t really turn back”.
She is most optimistic about AI’s use in improving science and drug discovery and for self-driving services like Waymo in reducing fatalities on the roads.
“With AI, you never want to be looking for making the AI perfect, you want it to be better than the alternative. And when it comes to cars, the alternative is thousands of people dying per year.
“If you can improve on that, that’s amazing. You’re saving many, many people.”
Toner joked that her friends had been sending her options on who might play her in the film.
“Any of the names that friends of mine have thrown my way are all these incredibly beautiful actresses,” she said. “So I’ll take any of those, whoever they choose.”
//////////////////
