Anthropic explica cómo funciona la nueva marca de agua de Claude: no se ve, no se nota, (casi) no se puede borrar y no prueba nada

A principios de semana, Anthropic comunicaba que aquellos modelos lanzados en la UE desde el 2 de agosto llegarían con una marca invisible que no se ceñirá a a Europa, sino que se implementará a escala global. La imposición de este sello invisible que no usa metadatos y que no desaparece al copiar y pegar ha causado tanto revuelo y amenazas de bajas en la suscripción que unos días después la empresa de Dario Amodei ha salido a explicar detalladamente cómo funciona confirmando lo que sospechábamos.

La nueva marca de agua de Claude. Como explica el comunicado oficial de Anthropic, el sistema no añade caracteres, tokens ni contenido oculto al texto, sino que la marca queda codificada en el propio proceso de generación. ¿Qué significa eso? Que solo se puede detectar si poses la clave criptográfica correspondiente. El objetivo es poder responder a la pregunta "¿qué probabilidad hay de que esto lo escribiera Claude?" sin alterar en nada la experiencia de lectura ni la de escritura.

Por qué ahora. Esta medida implementada por Anthropic, que es pionera en hacerlo pero no será la última responde al Código de Prácticas sobre Transparencia de Contenido Generado por IA, que el mes pasado firmaron más de 190 organizaciones (entre ellos, OpenAI, Meta o Microsoft) y que se enmarca en la Ley de IA de la Unión Europea, que desde este 2 de agosto exige el marcado de contenido generado por IA. Argumenta Anthropic que de momento no tiene un método fiable para aplicarlo con limitación geográfica, pues que para todo el mundo.

Cómo funciona. Los modelos de lenguaje generan los textos palabra a palabra y obviamente, hay muchos momentos en los que hay opciones igual de válidas. DA un ejemplo: después de "el cielo estaba..." puedes poner "nublado" o "gris". Sin la marca de agua, esa elección es determinada con un número aleatorio, pero con el watermarking esa aleatoriedad depende de una clave y de las palabras previas, de modo que la secuencia que resulta es estadísticamente reconocible para quien tenga esa cable. Este método es una implementación de SynthID-Text de Google DeepMind.

Qué no es. No es texto oculto ni caracteres invisible y tampoco se parece a las marcas de agua visibles que vemos en billetes o incluso en las imágenes generadas por Gemini: nadie a simple vista tiene la capacidad de diferenciar un texto marcado de uno que no. En la práctica, no añade coste ni latencia al proceso de generación de contenido porque no genera tokens extra. Asimismo, detalla Anthropic que no permite identificar al usuario, la organización o la conversación de origen.

Qué implica para el usuario. Para quienes usan Claude, el cambio es imperceptible: no afecta a la calidad, a la creatividad ni a lo correcto (o no) que sea el texto elaborado, algo que Anthropic justifica con pruebas internas. El estudio de DeepMind sobre SynthID-Text de 2024 no encontró diferencias de valoración entre respuestas marcadas y sin marcar en tráfico real de Gemini. Anthropic anticipa que pronto publicará una API de detección de watermark, todavía en fase de implementación.

Asimismo, tampoco va a afirmar con seguridad que lo haya escrito la IA o tú porque en realidad, no tiene capacidad para hacerlo y no discierne la elaboración de textos al completo de tareas de apoyo.

Letra pequeña y limitaciones. Hay varias razones por las que este watermark de Claude es imperfecta a la hora de cumplir su objetivo. Es más, que un texto no lleve la marca de agua tampoco es una prueba de que sea made in human. Porque de hecho solo indica la probabilidad de que Claude interviniera en el contenido, pero no diferencia entre escribirlo desde cero o si hizo una edición ligera, por ejemplo para corregirlo. Asimismo, no sirve para determinar la autoría legal ni la propiedad del texto.

Dicho esto, esta marca de agua invisible es más débil en textos muy cortos, muy factuales o en código, ya que en estos casos hay pocas palabras sobre las que actuar para obrar su intercambio. Y obviamente, si reescribes el texto al completo puedes eliminar la marca.

En Xataka | El fundador de Anthropic no quiere títulos para sus hijos. Prefiere que aprendan algo más valioso: creatividad y curiosidad

En Xataka | “Claude puede no ser el autor original”: la nueva marca invisible de Anthropic es una idea estupendamente imperfecta