Eva R. de Luis
Editor SeniorCada vez hay más cámaras distribuidas a lo largo y ancho del espacio público, y algunas no se limitan a grabar: las hay que, además de ver, también reconocen. Y eso es una amenaza para la privacidad de la ciudadanía. Así que cuando se enteró de que Berlín está desplegando este sistema de vigilancia, al diseñador alemán Simon Weckert se le ocurrió diseñar una camisa con un estampado de lo más peculiar: sirve para confundir a la IA. Puede que su nombre te suene: es el que se paseó con 99 smartphones en un carrito para confundir a Google Maps en 2020.
Vaya camisa más bonita, no dijo nadie nunca. Weckert ha diseñado una camisa con un estampado bastante peculiar: es abstracto y tiene formas verdes, rosas y naranjas. A ojos humanos el estilo parece art pop, pero, más que para llamar la atención, funciona justo al contrario: actúa como camuflaje frente a redes neuronales de detección de personas.
El diseñador probó con éxito aceptable su camisa con YOLO, abreviatura de You Only Look Once, un sistema de detección de código abierto muy común en las cámaras de seguridad. La camisa se llama Digital Camouflage Shirt y cuesta 91 dólares.
Por qué importa. Este caso anecdótico sirve para ilustrar una de las vulnerabilidades de los sistemas de reconocimiento, que no ven como los humanos, sino que buscan patrones estadísticos de bordes, texturas y colores asociados a una categoría aprendida. Que un estampado textil hortera sea capaz de esquivar el reconocimiento por IA es un toque de atención para las infraestructuras de seguridad que emplean estos sistemas y para quienes aceptan este servicio de vigilancia.
Para gustos, los colores. Y para las cámaras con IA, este tipo de estampados
A la rica moda adversarial. A Weckert esta idea no se le ha ocurrido solo: detrás de esta "moda adversarial", que así se llama esta práctica de diseñar prendas para despistar a los sistemas de visión artificial, hay varios estudios, como este o este, que la respaldan y constatan la efectividad de usar ropa para "esconderse" de cámaras con IA en escenarios reales. Esta camisa se enmarca dentro de esa tendencia emergente, que ha pasado de ser académica a tener aplicación práctica con prendas de ropa a la venta. Otro ejemplo: noRecognition.
Lo más difícil del diseño. Como explica Weckert, los patrones adversariales "puros" son efectivos, pero visualmente caóticos. En pocas palabras: nadie querría ponérselos. Así que el diseñador, que paradójicamente uso la IA para diseñar el estampado, buscó un punto intermedio entre eficacia técnica frente a la máquina y una estética moderadamente aceptable para el ojo humano. Que venza a la máquina y convenza a quien la lleva puesta.
¿Y funciona? El propio diseñador no se moja: no garantiza la evasión frente a todas las cámaras con IA, o sea, que si te la compras pensando en despistar a cualquier sistema de visión artificial, ten claro que no es infalible al 100%. Para medir su éxito se compara cuántas veces la IA detecta a una persona con y sin el patrón puesto.
Y luego están las condiciones reales: una cosa son las pruebas de laboratorio y otra, la realidad, donde influyen parámetros como el ángulo, la distancia o la iluminación. Y hay otra variable a tener en cuenta: cuando nos topamos con una cámara en la calle, no sabemos qué IA usa exactamente ni cómo está entrenada. De hecho, los modelos se entrenan y actualizan precisamente para detectar este tipo de anomalías.
En Xataka | Esta IA engaña y traiciona para lograr su objetivo. Sorpresa: los humanos también lo hacen
Ver 1 comentarios