Publicado en Business Insider México
https://businessinsider.mx/turnitin-will-detect-chatgpt-answers-openai-product-teachers-ai-speech-2023-1/?r=US&IR=T
Turnitin es el software de referencia para detectar a los estudiantes que hacen trampas. Ahora se centra en un posible juego del gato y el ratón con el nuevo chatbot ChatGPT de OpenAI.
Los ejecutivos de Turnitin, la empresa que lucha contra las trampas, han descubierto cómo saber si un estudiante utiliza ChatGPT para sus tareas.
Turnitin dijo que fueron capaces de detectar la escritura AI porque es "extremadamente promedio".
Esto se produce cuando el Departamento de Educación de Nueva York prohibió ChatGPT, diciendo que no construye habilidades de pensamiento crítico.
Desde su lanzamiento a finales de noviembre, ChatGPT parecía un billete de oro para los estudiantes que buscaban librarse de las tareas para llevar a casa.
El chatbot de inteligencia artificial, desarrollado por OpenAI, puede generar rápidamente respuestas que suenan a humanas para los deberes, como "escribe una redacción de 200 palabras sobre la Revolución Americana al estilo de un estudiante de secundaria", por ejemplo, y cada vez es más difícil de detectar.
Sin embargo, los directivos del fabricante de software antitrampas Turnitin dicen haber descifrado el código.
La empresa, que trabaja con miles de universidades y centros de enseñanza secundaria para ayudar a los profesores a detectar el plagio, ha anunciado que este año tiene previsto poner en marcha un servicio capaz de determinar con precisión si un alumno ha hecho su trabajo por ChatGPT.
"Estos modelos están entrenados en la suma del conocimiento humano, por lo que escriben de forma extremadamente media. Son máquinas locas que eligen la palabra más probable en el lugar más probable. Los humanos somos idiosincrásicos... en realidad ninguna persona es exactamente promedio", dijo el vicepresidente de inteligencia artificial de Turnitin, Eric Wang.
Según Turnitin, muchos profesores han expresado su preocupación por la posibilidad de que el robot se esté utilizando para ayudar a redactar los trabajos de los estudiantes. Un profesor universitario declaró recientemente al New York Post que sintió "terror abyecto" al darse cuenta de que un estudiante lo había utilizado para escribir una redacción.
"Estamos escuchando de los educadores que quieren diferentes herramientas a su disposición, ya sea detección directa u otras funciones para validar", dijo la directora de producto de Turnitin, Annie Chechitelli, sobre ChatGPT.
La semana pasada, el Departamento de Educación de Nueva York se convirtió en el primer distrito escolar en prohibir el uso del chatbot en sus redes y dispositivos.
"Aunque la herramienta puede proporcionar respuestas rápidas y sencillas a las preguntas, no fomenta el pensamiento crítico y las habilidades para resolver problemas, que son esenciales para el éxito académico y de toda la vida", dijo un portavoz del departamento.
El reto de ChatGPT
Incluso Turnitin dijo que no sería capaz de detectar ChatGPT con una precisión del 100%.
"Estoy seguro de que nuestra primera versión beta no será perfecta, pero será suficiente para que podamos empezar a recibir señales y aprender de los instructores cómo ajustarlo", dijo Chechitelli.
Zhou Yu, profesor adjunto de informática en la Universidad de Columbia, dijo que para que el detector de IA de Turnitin tenga éxito, tendría que actualizarse y cambiarse constantemente para seguir el ritmo de aprendizaje del robot de IA. La palabra estadísticamente más probable que la IA genere hoy podría ser diferente a la del año que viene a medida que el producto de OpenAI mejore.
No obstante, Yu afirma que ChatGPT no le preocupa tanto como a otras personas del mundo educativo. Por el contrario, cree que puede hacer avanzar la educación cuando se utiliza adecuadamente como herramienta: actualmente está estudiando su eficacia en la enseñanza de nuevos idiomas.
"No creo que debamos tenerle miedo. Es la tendencia natural del progreso, aunque, por supuesto, habrá accidentes", dijo.
Sin embargo, los ejecutivos de Turnitin dijeron que les preocupaba que el producto de OpenAI pudiera revolucionar la educación por completo.
"Ayudar a los educadores a entender cómo esta tecnología va a cambiar la enseñanza, el aprendizaje, la escritura, la creación de conocimiento y el concepto de originalidad es realmente difícil. Las normas van a tener que cambiar", afirma Wang.
Lea el artículo original en Business Insider
*********************
- Execs at anti-cheating company Turnitin said they've figured out how to tell if a student is using ChatGPT for assignments.
- Turnitin said they were able to detect AI writing because it's "extremely average."
- This comes as the NYC Department of Education banned ChatGPT, saying it does not build critical thinking skills.
Since its launch in late November, ChatGPT seemed like a golden ticket for students looking to get out of take-home assignments.
The AI chatbot, developed by OpenAI, can quickly generate human-sounding answers to homework prompts, like "write a 200-word essay about the American Revolution in the style of a high school student," for example – and it's getting increasingly difficult to detect.
However, executives at anti-cheating software maker Turnitin say they've cracked the code.
The company, which works with thousands of universities and high schools to help teachers identify plagiarism, said it plans to roll out a service this year that can accurately tell whether ChatGPT has done a student's assignment for them.
"These models are trained at the sum of human knowledge, so they write extremely average. They are mad-lib machines that pick the most probable word in the most probable place. Humans are idiosyncratic… no person is actually exactly average," Turnitin's vice president of artificial intelligence, Eric Wang, said.
Many teachers have expressed concern that the bot is likely being used to help write students' assignments, according to Turnitin. One college professor recently told the New York Post he felt "abject terror" upon realizing a student had used it to write an essay.
"We're hearing from educators that they want different tools at their disposal, whether straight detection or other features to validate," Turnitin's chief product officer, Annie Chechitelli, said about ChatGPT.
Last week, the New York City Department of Education became the first school district to ban the use of the chatbot on its networks and devices.
"While the tool may be able to provide quick and easy answers to questions, it does not build critical-thinking and problem-solving skills, which are essential for academic and lifelong success," a department spokesperson said.
The ChatGPT challenge
Even Turnitin said it wouldn't be able to detect ChatGPT with 100% accuracy.
"I'm sure our first beta release will not be perfect, but it will be enough that we can start getting signal and learning from the instructors how to tweak it," Chechitelli said.
Zhou Yu, an assistant professor of computer science and Columbia University, said that for Turnitin's AI detector to be successful, it would have to constantly be updated and changed to keep pace with the rate the AI bot is learning. The most statistically likely word that AI generates today might be different than next year as OpenAI's product improves.
Nevertheless, Yu said she isn't as concerned about ChatGPT as others in the education world. Instead, she believes it can advance education when appropriately used as a tool: she is currently studying its effectiveness in teaching new languages.
"I don't think we should be afraid of it. It's the natural trend of progress, though, of course, there will be accidents," she said.
However, executives at Turnitin said they were concerned that OpenAI's product could revolutionize education altogether.
"Helping educators really grapple with how this technology is going to have to shift teaching, learning, writing, knowledge creation, and the concept of originality – that is really hard. Norms are going to have to shift," Wang said.
