Anthropic marcó los textos de su IA. Un día después, ya había manual para borrarlos
La semana pasada, Anthropic anunciaba la llegada de su marca de agua para los textos generados con Claude, con el fin de cumplir así con la legislación europea. Tras el revuelo causado y las amenazas de bajas en la suscripción, explicó detalladamente cómo funcionaba. Spoiler: no deja nada claro quién ha hecho el texto ni el grado de uso de la IA.
Los textos generados con IA están a la orden del día, pero hay un escenario donde son especialmente preocupantes para quien recurre a ellos: la educación. Puedes aprobar el trabajo, pero el aprendizaje pasa factura. Y ahí el profesorado se enfrenta a un reto mayúsculo: los detectores de IA fallan más que una escopeta de feria, y el problema es tan grande que en China hasta optaron por "apagar" los modelos en selectividad. En ese escenario, sin una forma fiable de saber qué ha escrito realmente el alumnado, la marca de agua de Anthropic suena a maná caído del cielo. Sobre el papel.
(Casi) todos los estudiantes usan IA. Una encuesta reciente en el Reino Unido arrojaba una conclusión abrumadora: el 95% de los estudiantes de grado usa IA y un 94% la usa específicamente para sus evaluaciones. En Australia, la empresa de software Turnitin elaboró un informe el pasado mes de julio en el que revelaba que más del 53% de los trabajos presentados en la universidad habían utilizado algún tipo de IA. En pocas palabras: la usa (casi) todo el mundo.
La última esperanza del sector educativo. Tú le pides el texto a Claude, este te lo genera y alegremente lo copias en Word y le cambias cuatro palabras confiando en que no se note. Pues no: sigue ahí. El marcado oculto de la IA de Anthropic no añade caracteres, ni tokens ni contenido extra: lo que hace es sesgar la elección de ciertas palabras dentro de las que ya encajarían en el texto, generando un patrón estadístico detectable a partir de cierta cantidad de texto y que solo puede leerse si se dispone de la clave criptográfica.
Sobre el papel, suena a música celestial para el sector educativo que busca detectar las trampas: si el marcado de Claude fuera fiable, podría convertirse en una alternativa mejor a los detectores estadísticos tradicionales.
Va a ser que no. Para empezar, porque esa marca de agua de Claude no es capaz de afirmar si un texto fue escrito por un humano: solo habla de probabilidad y no discierne entre haberlo escrito por completo o simplemente haberle pedido que corrija el estilo y la ortografía. Además, en textos cortos o código tiene poco margen para introducir ese sesgo en la elección de palabras. Y ni siquiera es infalible: que un texto no lleve la marca de agua no implica necesariamente que lo haya escrito un humano.
Por otro lado, Anthropic ha explicado cómo funciona su marca de agua, pero, a diferencia de Google (que tiene su web de verificación), carece de un detector propio. Es decir, en la práctica, actualmente ningún tercero puede comprobar si un texto tiene esa marca de agua.
Ya hay hack. Pero es que es peor aún: apenas 24 horas después del anuncio de Anthropic, ya había en GitHub una herramienta que prometía eliminar las marcas de agua de Claude, ChatGPT y Gemini. A los pocos días, ya había un buen surtido de herramientas para todos los gustos, como se hace eco Forbes.
Qué le queda al profesorado. El resumen es claro: ni el profesorado ni las instituciones pueden confiar en esas marcas de agua para evitar las trampas. Más allá de esa falsa sensación de seguridad, volvemos a la casilla de salida. La solución pasa más bien por un cambio de paradigma: dejar atrás el enfoque de integridad académica basado en la detección o darle una vuelta al sistema de evaluación.
Jason Lodge, experto en psicología educativa de la Universidad de Queensland, aconseja dejar de buscar pruebas de que los estudiantes utilizan estas herramientas para hacer trampa y, en sus palabras, "centrar la atención en buscar pruebas de que se ha producido un aprendizaje".
Portada | Xataka con Nano Banana
Ver todos los comentarios en https://www.xataka.com
VER 0 Comentario