Javier Pastor
Editor Senior - TechAnthropic ha indicado que los modelos lanzados en la Unión Europea desde el 2 de agosto incorporarán una marca invisible en los textos que generen desde el primer día, y la compañía aplicará el sistema globalmente en Claude, su API, Claude Code o Claude CoWork, entre otros. No será una etiqueta visible ni metadatos que desaparezcan al pegar el texto en otro sitio. Eso permitirá al sistema sobrevivir a las ediciones de texto, pero ojo: no todo es positivo.
La marca no es garantía absoluta. Anthropic quiere facilitar algo que llevamos tiempo esperando: identificar textos generados con IA. Eso ayudará por ejemplo a detectarlos en plataformas y servicios de terceros, y es de hecho un requisito para la transparencia a la que obliga la Ley de la IA europea. Sin embargo la propia compañía añade una advertencia: que la marca esté en un texto no demuestra que Claude haya escrito ese texto, solo que ha sido procesado por esos modelos de IA. Esa distinción no parece gran cosa, pero es mucho más importante de lo que parece.
Un texto humano también puede acabar marcado. Imaginemos que alguien escribe un artículo por sí solo y luego se lo pasa a Claude para corregir la ortografía, traducirlo o resumirlo. Si luego utiliza esa versión resultante, dicho texto tendrá una marca que indicará que el texto ha sido en efecto procesado por Claude. Anthropic lo reconoce claramente: las ideas, los datos e incluso el texto original pueden proceder íntegramente de otra persona. Es de nuevo algo crucial, porque que un texto tenga esa marca indica que ha sido procesado por Claude, no que necesariamente lo ha escrito Claude.
El proceso también funciona al revés. Que un texto no lleve la marca de Claude tampoco demuestra que sea humano. Anthropic reconoce que esa marca puede desaparecer si el texto ha sido muy editado, parafraseado, traducido, mezclado con otros textos o es demasiado corto. Además, la empresa no ha publicado de momento el mecanismo técnico que permite detectar esa marca, así que tampoco sabemos hasta dónde puede llegar esa detección. Algunos desarrolladores apuntan al problema evidente: si el objetivo es ocultar la marca, otro modelo puede reescribir el texto hasta acabar destruendo esa señal. La marca de agua de Anthropic es una pista, no una prueba definitiva de nada.
¿Condicionando la salida? En Anthropic aseguran que esa marca de agua no altera el significado, la calidad ni la legibilidad de las respuestas, pero tampoco ha dado detalles de cómo la incrusta en el texto. En ciertos sistemas de watermarking lo que se hace es favorecer ciertos tokens frente a otros, lo que condiciona la salida óptima. La duda es especialmente llamativa en el caso del código, donde los desarrolladores pueden verse obligados a cumplir un requisito que nada tiene que ver con resolver el problema del usuario.
Esta película ya la vimos hace 30 años. O al menos la vio Steven Sinofsky, antiguo responsable del desarrollo de Windows 8. Él comentaba en X cómo esto le recordaba al caso de los GUID que Microsoft activó en los documentos de Office 97. Eran identificadores invisibles pensados originalmente para tareas técnicas, pero incluían información derivada de la dirección MAC de la tarjeta de red. Esa información se podía combinar con otros registros para, en teoría, relacionar un documento con el ordenador que lo había creado. Microsoft los terminó eliminando a raíz de las críticas por la invasión de la privacidad e incluso publicó una herramienta para borrarlos de documentos existentes.
Anthropic no está identificando usuarios. No hay ninguna prueba de que la marca de agua actual de Claude incluya nombre, cuenta, prompt, ubicación o fecha, y la documentación ofrecida por la compañía no afirma nada parecido. El paralelismo al que apunta Sinofsky es otro: una vez que existe una huella invisible y persistente dentro de un contenido, importa mucho quién la controla y hasta dónde puede ampliarse. En el caso de Microsoft, un identificador creado para solucionar enlaces rotos terminó permitiendo relacionar documentos con hardware concreto. No solo eso: años después incluso ayudó a seguir el rastro del creador del virus Melissa.
Una buena e imperfecta idea. Cada vez más textos son una mezcla de lo que escriben los seres humanos y lo que escriben las máquinas. El investigador Ian Miers, que trabajó en esta tecnología desde 2024, comentaba en X que "la idea del texto puramente humano es una reliquia" y por lo tanto demostrar que un texto ha sido escrito por un humano sin más es cada vez más difícil. Esta tecnología puede ser útil para identificar "AI Slop" generado masivamente y publicado sin haber sido editado, pero no responde a la otra pregunta crucial: cuánto de un texto lo ha escrito una máquina y cuánto la persona que lo publicó.
En Xataka | Qué fue de Technicolor: evolución y muerte de la empresa que cambió el cine y fue arrollada por su ambición
Ver 0 comentarios