Ya hay detectores de texto artificial: los profesores podrán saber cuando los deberes se han hecho con IA

Ya hay detectores de texto artificial: los profesores podrán saber cuando los deberes se han hecho con IA
45 comentarios Facebook Twitter Flipboard E-mail

Hazme una redacción de 500 palabras explicando la importancia de la Revolución Francesa. Es el clásico ejercicio que piden muchos profesores en la escuela. Sin embargo, ChatGPT puede hacerlo en un segundo y totalmente gratis. Las habilidades de la IA han mejorado tanto que pedir determinados deberes puede ser contraproducente. No es solo una redacción, también escribir un poema, código o reflexiones de todo tipo.

La solución de emergencia: detectores de textos generados por IA. Para evitar trampas con los deberes, ya hay disponibles detectores de textos creados con GPT. Colocamos el texto y la herramienta nos dice el porcentaje de texto "real" y texto "fake". Con ello un profesor podrá determinar de forma sencilla si un texto está generado por una IA o es original.

El detector fue creado hace un par de años por la propia OpenAI, empresa creadora de ChatGPT y GPT-3, por lo que tienen un buen conocimiento sobre lo que es y lo que no es generado por IA.

El problema: la IA avanza más rápido que el detector. La idea es interesante ya que ayuda a evitar que los alumnos se sientan tentados a hacer sus deberes con la IA. El problema radica en que el detector está desfasado. Como es esperable, los desarrolladores centran sus esfuerzos en mejorar la IA, por lo que esta se renueva antes que el detector. ¿Resultado? La propia IA logra engañar al detector.

La última herramienta de OpenAI funciona con ChatGPT y GPT-3, pero falla en estas últimas cuando el texto generado es más complejo o se le ha pedido con algún toque especial. Además, cuando se cambia solo una pequeña frase de todo el texto, el porcentaje baja enormemente.

En el futuro muy posiblemente este detector mejore su precisión, pero el debate previsiblemente se mantendrá un tiempo. Al menos hasta que las empresas que trabajan con IA no cambien su estrategia en cuanto a la transparencia de cómo funcionan sus algoritmos.

El mundo educativo no puede mirar hacia otro lado. El debate ya lo estamos viendo en varios sectores, pero GPT-4 está a la vuelta de la esquina. Quién sabe qué nivel de redacción y creación tendrá. El mundo educativo, desde profesores hasta académicos, pasando por los propios estudiantes tendrá que adaptarse al posible impacto.

Con el acceso a internet ya ocurrió algo similar. La respuesta fue prohibir los móviles en clase. Pero la educación ha ido cambiando, de un modelo de recordar datos a entender qué significan y poder explicarlos. Ahora la IA ya también hace eso, por lo que se plantea la duda de cómo debe evolucionar el modelo educativo.

Introducir ChatGPT en clase. Las nuevas tecnologías en clase no son algo aislado. Ya hay profesores como Nancy Gleason, directora del Centro Hilary Ballon para la Enseñanza y el Aprendizaje en NYU Abu Dhabi, que solicitan añadir ChatGPT en clase. Por ejemplo con una hora a la semana donde se enseñe a aprovechar la IA para el trabajo diario o proyectos grupales donde se intente extraer al máximo las posibilidades de esta herramienta.

"Algunos afirman que la redacción está muerta. No estoy de acuerdo. Los seres humanos junto a la tecnología son el camino a seguir. Como educadores, tenemos que enseñar a nuestros alumnos lo que eso significa en la práctica. La redacción no está muerta, pero el proceso de crear una sí está cambiando", expone Gleason.

En Xataka | Cómo conseguiremos que la inteligencia artificial no se nos vaya de las manos

Comentarios cerrados
Inicio