Hasta no hace mucho eliminar personas u objetos que "estropeaban" tus fotos era relativamente trabajoso pero se podía hacer con aplicaciones como Photoshop. La cosa se hizo mucho más accesible cuando Google presentó los Pixel 6 y lanzó con ellos una novedad de lo más llamativa: el Borrador Mágico (Magic Eraser). Esta herramienta —que luego otros copiaron— permitía hacer precisamente eso de forma mucho más sencilla gracias a la inteligencia artificial, y aunque la opción es estupenda en muchas ocasiones, no es efectiva para según qué casos.

Quiero borrar mi cara. Aunque el borrador mágico parece ser realmente mágico cuando queremos eliminar objetos o personas que no queríamos que se mostrasen en una foto, falla en otros escenarios. El más evidente es el de tratar de utilizarlo para tratar lograr el anonimato en ciertas fotos. Si pretendemos lograr el efecto de desenfocar o pixelar una cara, el borrador mágico no es la solución.

En Xataka Android

Cómo eliminar personas de una foto con el borrador mágico de Google

No está pensado para eso. Como señalaban en Android Police, al intentar usar esta herramienta para lograr no poder ser identificados o etiquetados en una foto que compartimos o subimos a una red social, el borrador mágico no hace lo que uno querría. En lugar de desenfocar la cara o pixelarla como uno podría desear, lo que intenta es, efectivamente, borrarla como si no hubiera existido nunca en la imagen.

Borrar detalles sí, pixelar caras no. Tras varias pruebas —quien suscribe ha hecho la suya propia en un Pixel 6a con resultados terribles— la conclusión es clara. El borrador mágico sirve para eliminar objetos y personas "enteras", pero no tanto para esconder o eliminar caras. No al menos si queremos conseguir un resultado decente.

¿Dónde está la herramienta de pixelar, Google? Lo curioso es que Google —y tampoco Apple— ofrecen herramientas nativas para pixelar caras, y para lograr algo así tenemos que acudir a herramientas externas como el citado Photoosphop. Si queremos conseguir que una cara no se muestre en la foto en el móvil, lo más rápido acaba acceder a la herramienta de pintar que suelen ofrecer nuestros móviles y garabatear encima de las caras con trazos de cualquier color.

Vendría bien una herramienta así. Teniendo en cuenta lo mucho que ha avanzado la inteligencia artificial a la hora de reconocer una cara y realizar ciertos ajustes solo en esa parte de nuestro cuerpo, no parece difícil que empresas como Google ofrecieran también una función "Pixelar".

¿Por qué no lo hacen? Puede que la razón esté precisamente en que estos métodos no son definitivos y hay formas de revertir esos cambios. Eso por ejemplo podría hacer que textos que hemos tratado de ocultar —por ejemplo, en documentos con información sensible— acabaran siendo revelados. Puede que Google simplemente no tenga un método completamente efectivo para evitar que se puedan revertir esos efectos de pixelado, y prefieren cubrirse las espaldas.

En Xataka | Google Pixel 7a, análisis: el golpe definitivo a la gama alta sólo necesitaba unas pocas mejoras

Para engañar a la tecnología a veces no es necesario ser un experto cracker, ni siquiera hace falta saber demasiado de informática, basta con conocer su talón de Aquiles. En el caso de los softwares de reconocimiento facial, ese punto débil se encuentra en las partes de la cara altamente identificables que los algoritmos utilizan para determinar quién es quién: si esas zonas del rostro son alteradas de alguna forma, aunque la modificación no sea profunda, las máquinas tienen serios problemas para reconocer al sujeto en tiempo real.

Esa es la conclusión a la que ha llegado un estudio de la Universidad Ben-Gurion del Negev de Israel recientemente publicado, en el que los investigadores utilizaron maquillaje convencional, del que se puede comprar en cualquier comercio, sobre esas zonas de la cara de los sujetos para engañar a los algoritmos. El resultado fue que, al aplicar los productos en partes clave del rostro, poco más del 1% de las personas fue reconocida por el software.

Los investigadores israelíes explican que realizaron un mapa de calor para definir las zonas más identificables de la cara, luego usaron una app de maquillaje digital para proyectar la mejor forma de aplicar los cosméticos y, finalmente, un maquillador ejecutó el plan sobre el rostro de 20 participantes.

El estudio subraya que se trató de realizar un maquillado lo más natural posible, es decir, como el que cualquier persona podría llevar en su día a día, para medir la capacidad del software para identificar a los sujetos en una situación realista. Y el resultado fue que en algo más del 98% de los casos los algoritmos no fueron capaces de reconocerlos.

Los investigadores llevaron a cabo el experimento en un escenario simulado del mundo real: un pasillo equipado con dos cámaras que transmitían la imagen en directo a un detector facial de última generación. Probaron la capacidad del software para detectar rostros sin maquillaje en tiempo real –casi un 50% de acierto- y con maquillaje distribuido al azar –un 34% de acierto- con resultados aceptables, pero al aplicar los cosméticos estratégicamente en las zonas previamente localizadas como altamente identificable, la tasa de acierto cayó a poco más del 1%.

En Xataka

Engañar a los sistemas de reconocimiento facial es (relativamente) fácil si sabes cómo

Varios estudios ya habían demostrado con anterioridad que los sistemas de reconocimiento facial pueden ser engañados digitalmente, por ejemplo, al crear caras maestras. Y otras investigaciones también habían probado la capacidad de engañar a las máquinas en el mundo físico colocando diferentes elementos sobre el rostro, como sombreros o gafas. Pero en este segundo caso, la desventaja es que esos artículos podían llamar demasiado la atención del personal de seguridad en zonas vigiladas, como aeropuertos o edificios gubernamentales. En el caso del maquillaje, el camuflaje es muy efectivo con el algoritmo sin despertar las sospechas de las personas.

FaceApp es el último viral. Una aplicación que fue lanzada en 2017 pero que ha sido estos días cuando ha explotado en popularidad gracias al filtro que nos hace viejos. Si te has conectado a las redes sociales esta semana es muy probable que lo hayas visto. Su funcionamiento es realmente sencillo, simplemente subes la foto a la aplicación y voilà. Pero detrás de este viral se esconde una política de privacidad muy opaca.

Las millones de fotos que se han subido a FaceApp no caerán en saco roto. Al contrario. Nuestros datos son muy valiosos y como reflejan los términos de la aplicación, podrán ser compartidos con terceros. Lamentablemente es una práctica muy habitual estos días y pese a no darnos cuenta muchas veces, con cada foto que subimos de estos virales, estamos renunciando poco a poco a nuestra privacidad.

En Xataka

GDPR, un año después: lo bueno, lo feo y el malo

FaceApp pertenece a la compañía rusa Wireless Lab, quienes utilizan redes neuronales para generar y transformar rostros realistas a partir de fotografías. Su CEO y fundador es Yaroslav Goncahrov, quien desde 2014 trabaja en la aplicación pero que ya contaba con experiencia previa en empresas como Yandex (el Google ruso), SPB Software o Microsoft.

Qué dice la política de privacidad de FaceApp

La política de privacidad de FaceApp no se ha actualizado desde el 20 de enero de 2017. Más de dos años sin cambios. Además estamos ante una política básica, muy habitual en empresas pequeñas que no esperaban tener un alcance tan grande.

A través de los términos de uso y la política de privacidad podemos leer qué tipo de acciones realiza FaceApp con nuestros datos. Y es sencillo comprobar que no están adaptadas al Reglamento General de Protección de Datos (RGDP).

Términos de uso de FaceApp

La política de privacidad de FaceApp no especifica qué se hace exactamente con nuestros datos ni cuáles están siendo recopilados. Tampoco permite borrar o descargarlos como sí permiten aplicaciones de compañías más grandes como Facebook o Google.

Pero lo más preocupante es la cantidad de apartados que dan vía libre a FaceApp para utilizar nuestros datos. La aplicación especifica que "los datos son almacenados en Estados Unidos y en todo aquel país donde la compañía pueda tener instalaciones". Es decir, siendo una empresa rusa se entiende que también podría derivar los datos hacia allí. Pese a que no se haya demostrado que la app realiza tal envío.

Según describe la política de privacidad, FaceApp utiliza nuestra información para:

• Proporcionar contenido e información personalizada.
• Anuncios online u otras formas de marketing.
• Proporcionar, mejorar, probar y monitorear la efectividad del servicio.
• Desarrollar y probar nuevos productos y características.
• Monitorear métricas como el número total de visitantes, tráfico y patrones demográficos.
• Diagnosticar o solucionar problemas tecnológicos.
• Actualizar automáticamente la aplicación FaceApp en el dispositivo.

No termina ahí el uso de nuestros datos, ya que FaceApp también comparte datos de uso con terceros para mejorar los anuncios. Un uso que el creador ha matizado.

"También podemos compartir cierta información, como datos de cookies, con socios publicitarios o terceros. Esta información permitiría a las redes publicitarias de terceros, entre otras cosas, entregar anuncios dirigidos que se consideren de mayor interés para usted".

El creador de FaceApp responde a algunas dudas

En declaraciones a Techcrunch, Yaroslav Goncharov ha respondido a las dudas sobre la privacidad de FaceApp. En el comunicado, el creador afirma que "FaceApp realiza la mayor parte del procesamiento de fotos en la nube", en concreto, en AWS y Google Cloud. Sobre estas fotos, asegura que "queremos asegurarnos de que el usuario no cargue la foto repetidamente para cada operación de edición. La mayoría de las imágenes se eliminan de nuestros servidores dentro de las 48 horas posteriores a la fecha de carga".

"No vendemos ni compartimos ningún dato del usuario con terceros", explica. Aunque en al política de privacidad sí se reflejan algunas excepciones como aquellas "organizaciones de terceros que nos ayudan a proporcionarle el Servicio" y con "socios publicitarios de terceros". Sobre el envío de datos a Rusia, Goncharov explica que "aunque el equipo central de I+D se encuentra en Rusia, los datos del usuario no se transfieren a Rusia", ya que se utiliza la nube de Google y Amazon.

Respecto a poder eliminar todos los datos de los servidores, el CEO de FaceApp explica que cualquiera puede hacerlo aunque es desde la casilla de soporte. Allí habrá que pulsar en "reportar un error" y mandar un correo con la palabra "privacidad". Un método muy casero que dicen "estar trabajando en solucionarlo".

Entrenando algoritmos de reconocimiento facial

Además del valor publicitario de nuestros datos, uno de los usos que tiene nuestro rostro es el entrenamiento de los algoritmos de reconocimiento facial. Para entenderlo simplemente hay que fijarse en cómo funcionan. Los algoritmos se basan en bases de datos enormes de rostros, todos ellos anónimos pero útiles para que la IA entienda cómo funciona el rostro humano.

¿Comparte FaceApp nuestro rostro para mejorar los algoritmos de reconocimiento facial? No lo sabemos, pero la política de privacidad deja la puerta abierta a ello. Como indica la sección de "compartiendo su información":

"Podemos eliminar partes de datos que puedan identificaros y compartir datos anónimos con otras partes".

"También podemos combinar su información con otra información de manera que ya no esté asociada con usted y compartir esa información agregada".

No sería el primer caso de una aplicación que utiliza las millones de fotos subidas por sus usuarios para desarrollar herramientas de reconocimiento facial. En enero de 2019, se viralizó el hashtag #10yearchallenge donde una herramienta de Facebook nos permitía ver cómo habíamos cambiado en diez años. Tres años antes, Microsoft presentó su Project Oxford, una serie de experimentos virales que calculaban nuestra edad, medían la longitud de nuestro bigote o nos encontraban un gemelo fantasma.

Recientemente, en mayo de este año, la aplicación Ever que realizaba copias de seguridad con espacio ilimitado en la nube se vio envuelta en la polémica al desvelarse, según NBC News, que nuestras fotos servían para monetizar el servicio al venderlas para mejorar tecnologías de reconocimiento facial.

En Xataka

El experimento viral del #10yearchallenge puede tener truco: es un caramelo para entrenar sistemas de reconocimiento facial

Una historia que se repite una y otra vez

El caso de FaceApp no es único. Es una nueva constatación de que vivimos en un mundo donde nuestra privacidad está en entredicho. Y es que se da la circunstancia de que, posiblemente, sin la recopilación de una gran cantidad de rostros no se podría haber alcanzado la perfección de la técnica de FaceApp. Utilizar nuestros datos para captar más datos. Una extraña rueda.

Como explican desde Genbeta, si nos fijamos en los términos de uso de aplicaciones como Instagram, veremos que son similares en parte a los de FaceApp.

"En nuestro Servicio, o en relación con este, de conformidad con el presente acuerdo nos concedes una licencia mundial, no exclusiva, transferible, sublicenciable y exenta de pagos por derechos de autor para alojar, distribuir, modificar, mantener, reproducir, mostrar o comunicar públicamente y traducir tu contenido, así como para crear contenido derivado (de conformidad con tu configuración de privacidad y de la aplicación)".

FaceApp no cumple con el RGPD pero en lo relativo a hacer uso de nuestros fotografías para fines comerciales no se aleja del resto de grandes empresas. La privacidad es uno de los temas clave para la Unión Europea y aplicaciones como estos virales son un ejemplo de todo lo que falta todavía por hacer.

Casi ninguna de las grandes aplicaciones está libre de polémica. Igual pasó con Instagram casi desde sus inicios.

Y es que cuando le damos a una aplicación el acceso a nuestras fotos, también le estamos dando toda una cantidad de permisos. Desde que nos envíen anuncios hasta que conozcan nuestros movimientos o aprovechen nuestro rostro para estudios globales. Una vez nuestro rostro se sube a la red, empieza a formar parte del complejo engranaje que las compañías de tecnología tienen con nuestros datos.

Existen decenas de ejemplos de aplicaciones que "nos espían". Desde aplicaciones que guardan nuestras fotos, clientes alternativos de WhatsApp, Alexa y Assistant, aplicaciones que nos pagan por movernos y saber dónde vamos, herramientas de Google para encontrar gemelos en obras de arte, la app de La Liga que utilizaba el micrófono par emisiones ilegales... los ejemplos van apareciendo una y otra vez. E incluso aunque deneguemos el permiso se ha demostrado que muchas obtienen esos datos igualmente.

Con FaceApp tenemos un ejemplo más de cómo las aplicaciones virales sirven para obtener nuestros datos. Lamentablemente, como usuarios, poco podemos hacer. Sí es importante que seamos conscientes del problema y no dejemos de darle importancia. Porque todos queremos disfrutar del último viral, pero también queremos manifestar nuestro descontento con que se utilicen nuestros datos tan a la ligera.

Hace tiempo que en Xataka venimos hablando de la relevancia que el diseño y la moda tienen en el mundo de la tecnología -miremos de reojo al Apple Watch-, pero es que también está ocurriendo lo contrario: mundos tradicionalmente algo ajenos a la tecnología también hace tiempo que prestan atención -y mucha- a este campo.

Es el caso del Grupo L'Oréal -un 3,4% de sus ingresos (800 millones de euros) van a I+D-, cuya división L'Oréal Paris ha presentado en nuestro país la aplicación móvil Make Up Genius. Lo realmente interesante de esta herramienta para iOS y Android no es tanto la solución en sí como la integración que hace de la avanzada tecnología de reconocimiento y seguimiento facial de la empresa Image Metrics.

Lo que ha hecho L'Oréal es combinarla con sus productos y otro ingrediente singular: la realidad aumentada. El resultado es sorprendente, y permite que los potenciales compradores de cosméticos puedan comprobar cómo les quedan los productos estén donde estén. En directo la experiencia nos deja con la sensación de que el móvil se convierte en un pequeño pero sorprendente estudio de maquillaje en el cual los compradores pueden experimentar con todo tipo de productos de la firma antes de aplicárselos o incluso de comprarlos.

Primero en películas y videojuegos, ahora en cosmética

La base fundamental de esta solución de la firma de belleza es la colaboración con Image Metrics, empresa que desde hace años trabaja en el campo del reconocimiento facial y el seguimiento de los movimientos de la cabeza. Su tecnología ha sido aplicada a películas como "El curioso caso de Benjamin Button” o videojuegos como “Gran Theft Auto V", y los resultados en el caso de Make Up Genius son notables.

La herramietna se basa en un complejo algoritmo resultado del análisis de cientos de rostros de distintas etnias y utiliza un avanzado mapeo facial que capta 64 puntos de la cara y 100 expresiones faciales distintas permitiendo, por primera vez, probar el maquillaje a tiempo real y en movimiento.

La tecnología nos recuerda a la que por ejemplo hemos visto desde hace tiempo en Google Hangouts y en esos pequeños elementos (gorros, gafas, bigotes o barbas) que podremos añadir a nuestras caras durante sesiones de videochat. Sin embargo la solución de L'Oréal Paris e Image Metrics va un paso más allá. La precisión de ese maquillaje simulado en su aplicación y mientras movemos la cabeza es sorprendente, aunque hay algunas limitaciones.

El hardware como barrera de la experiencia de usuario

La principal, el hecho de que la herramienta funciona bien en terminales recientes o de gama alta, pero no lo hace tanto en dispositivos de gamas más modestas o que ya tienen cierta antiguedad. Florent Valceschini, director de proyectos de la incubadora de L'Oréal, explicaba por ejemplo cómo el desarrollo era compatible con diversos smartphones y tablets de Apple (a partir del iPhone 4S y del iPad 2 no hay problemas). Sin embargo en el caso de Android las grandes diferencias entre la óptica, el hardware y el software hacen difícil que el funcionamiento sea perfecto.

Y esto, queridos xatakeros, es lo que pasa cuando un chico va a un evento de prensa en el que lo que presentan es más bien para chicas. Dicho lo cual, la aplicación funciona de forma sobresaliente.

Aquí la heterogeneidad del mercado Android juega en su contra, pero en dispositivos recientes la solución debería funcionar de forma normal, aunque eso sí, en las pruebas se han centrado también en terminales Android de gama alta, y la apuesta es la de soportar más terminales que van llegando que no todo ese inmenso catálogo que haría imposible dedicar tantos recursos.

La situación ciertamente mejorará gradualmente, pero esta es la razón tras la cual está la baja valoración en Google Play (un 2,5, con un buen montón de críticas aludiendo que la herramienta no funciona) aun cuando si funciona Make Up Genius aporta un valor realmente diferencial al segmento de la cosmética. La posibilidad de probar productos e incluso de comprarlos -en L'Oréal han resuelto también esa segunda parte de la experiencia- desde la aplicación completa una experiencia que demuestra esa apuesta tecnológica en la que L'Oréal Paris parece estar pisando fuerte: la exclusividad del acuerdo con Image Metrics en materia de cosmética seguramente le dé ventaja respecto a sus competidores.

No se si me fiaría mucho de dejar en manos de un aparato como este la seguridad de mi casa, aunque lo cierto es que no está pensado para eso, sino como un sistema de control de entrada de empleados, pero al ofrecer la posibilidad de abrir puertas la imaginación vuela un poco.

Con un nombre no muy atractivo, el Facial Recognition Time Attendance System and Access Door Lock ofrece un sistema de reconocimiento de rostros que utiliza un par de cámaras para reconocer la profundidad, de forma que no sea posible engañarle con una simple foto.

Incorpora una pantalla de 3,5 pulgadas, un teclado y conexiones USB y TCP/IP, con las que podemos guardar los registros de entradas y salidas, viniendo con un _software_ de gestión para empresas.

Puede almacenar hasta 500 usuarios distintos y hasta 150000 registros, con un tiempo de reconocimiento de menos de 1 segundo. Muy curioso, pero creo que prefiero dejar sistemas como este para las películas y seguir usando la tradicional llave.

Vía | Gizmodo. Más información | Chinavasion.