Publicidad

Cuando una empresa puede conocernos mejor que nadie gracias al reconocimiento facial y sin poder negarnos: el desafío legislativo

Cuando una empresa puede conocernos mejor que nadie gracias al reconocimiento facial y sin poder negarnos: el desafío legislativo
7 comentarios

Hace diez años, mucho antes de caernos del guindo respecto a las intenciones de Facebook, etiquetábamos a nuestros contactos en las fotos, y además específicamente encima de su rostro. "Para que cualquiera que vea la foto pueda saber quién es quién", pensábamos. Poco después, Facebook empezó a sugerir los nombres de las personas que estaban en cada foto.

Parecía cómodo y apropiado, pero pasó a tener una cara B perversa: gracias a los algoritmos creados por los talentosos ingenieros de Facebook, y a la enorme base de datos entrenada por nosotros mismos durante años, la empresa había desarrollado DeepFace, que reconocía identidades específicas gracias a rostros con casi un 98% de precisión. Eso era en 2014.

"Con el reconocimiento facial, una empresa puede saber si un chico de 15 años es gay antes incluso que él mismo"

En los últimos años, las tecnologías de reconocimiento facial han experimentado un crecimiento explosivo. Amazon Rekognition es un software que forma parte de Amazon Web Services, sirve para detectar todo tipo de imágenes en cualquier otro software que implemente su API. También rostros. Ha sido usado por multitud de agencias gubernamentales y entidades privadas, de Estados Unidos y del resto del mundo.

Con el reconocimiento facial, la privacidad termina de morir. La combinación de su software con cámaras más baratas y omnipresentes que nunca, incluyendo las de los drones, hacen que sea cada vez más difícil evitar ser rastreado. Es posible que alguien pase a una base de datos con tintes negativos o sospechosos por el simple hecho de acudir a una manifestación o dar un like a una publicación en Twitter si usa su rostro como avatar.

Cámaras

El problema no termina ahí: no solo es que un software pueda etiquetar nuestro comportamiento en base a acciones activas, como acudir a una manifestación o dar ese like, sino que puede detectar nuestras emociones ante distintos estímulos simplemente en base a qué miramos, de qué forma y durante cuánto tiempo. Por tener una cara.

Es muy distinto usar una cara como método de autenticación, donde se compara una cara frente a la que se tiene registrada, como en muchos smartphones u otros sistemas de acceso a recintos físicos; a usar una cara como método de identificación, donde se compara una cara frente a todas las recogidas en una base de datos para dar una identidad a ese rostro.

Yuval Noah Harari, filósofo y escritor israelí autor del libro Sapiens (ed. Debate, 2015), habló de todo esto en una entrevista para TV3 (en inglés, con subtítulos en catalán):

Cuando camino por la calle o cuando miro vídeos en YouTube, es posible seguir el movimiento de mis ojos. Si veo a un chico o a una chica atractiva, ¿hacia dónde se me van los ojos? ¿Hacia dónde los dirijo? En cinco minutos ya me puede decir cuál es la orientación sexual de alguien. Y quizás yo todavía no sé que soy gay, pero Coca-Cola ya lo puede saber. Piensa en la situación: tengo 15 años, aún no sé que soy gay, pero Coca-Cola ya lo sabe. Y por lo tanto, cuando me quiere anunciar una bebida nueva, elige el anuncio en el que sale un chico sin camiseta, y no el de la chica en bikini.

Los años diez terminan con nosotros cayendo en la cuenta de lo que implicaron todos nuestros likes años atrás. Los años veinte pueden terminar con nosotros cayendo en que ni siquiera tuvimos que hacer nada de forma consciente para que nuestros datos más íntimos pululen sin control por bases de datos de empresas privadas, que quieren conocernos lo mejor posible para ofrecernos sus productos con mejor ratios de ventas conseguidas que nunca; y por gobiernos y agencias gubernamentales, que pueden tenernos perfilados en base a algo tan simple cómo dónde hemos estado y en qué momento.

IBM anunció hace unas semanas que abandonaba el negocio del software de reconocimiento facial por preocupaciones en torno a la privacidad y la discriminación que esta puede conllevar. "Es el momento de iniciar un diálogo nacional sobre si la tecnología de reconocimiento facial debe ser empleada por los organismos nacionales encargados de hacer cumplir la ley", dijo su CEO en una carta en la que también conminaba a las autoridades a abordar la legislación de esta tecnología para determinar cómo debe usarse.

En la misma línea y pocos días después, Amazon suspendió el uso de Rekognition durante un año para el uso policial, en vistas a que fuese un tiempo suficiente para que el Congreso estadounidense pudiese legislar sobre qué se puede hacer con esa tecnología y qué no.

Innovación vs legislación

Reconocimiento facial

Ese es el punto clave: normalmente, la innovación tecnológica suele avanzar mucho más rápido que la legislación. Es hora de que suceda lo contrario y se legisle de forma específica lo que se puede hacer con el reconocimiento facial y lo que no antes de que sea demasiado tarde y grandes empresas —y gobiernos— acaben ostentando información privada e íntima recolectada a gran escala sobre cada ciudadano gracias a algo a lo que no se puede negar: a tener un rostro y a experimentar emociones frente a los estímulos del día a día. Como el ejemplo, totalmente factible, de una gran empresa sabiendo que un adolescente es gay antes incluso de que él lo descubra. ¿Por qué no pensar en una forma de oponerse a su uso

El reconocimiento facial ocurre de forma transparente, sin que prácticamente podamos evitarlo

Sean McGrath, experto en privacidad digital de ProPrivacy, advirtió de otro peligro velado: es muy fácil imaginar un escenario en el que las empresas o gobiernos que implementen sistemas de este tipo los utilicen más allá de sus propósitos oficiales. Es invisible al usuario que pone su cara, no tiene que hacer nada, no tiene escapatoria.

Quizás, por una vez, y viendo lo que ha pasado en los últimos diez años, estaría bien paralizar cualquier avance en materia de reconocimiento facial hasta que haya una legislación específica preparada para su desembarco masivo. No hay mucho espacio para el optimismo: incluso la Unión Europea, que básicamente es el mejor territorio del mundo en cuanto a preocupación por la privacidad de sus ciudadanos, está preparando un fichero con información Biométrica —huellas y rostros— de sus 350 millones de habitantes.

Al menos, Margrethe Vestager, Comisariados de Competencia en la Comisión Europea, ya dijo que "el reconocimiento facial, tal y como está, incumple la GDPR. Y si algo ha caracterizado a Vestager es que no le ha temblado el pulso a la hora de enfrentarse a gigantes.

Ilustración destacada: Jesús León.

Temas

Publicidad

Publicidad

Publicidad

Inicio

Explora en nuestros medios