Cibervigilancia con IA

Una agencia estadounidense prácticamente desconocida para el gran público (la DFBA) está construyendo un sistema de vigilancia de ámbito prácticamente global, que sigue recogiendo nuevos datos allí donde su ejército se encuentra desplegado.

Existe un grave riesgo de que "tropecemos como zombis con una distopía del bienestar digital", según Philip Alston, relator especial para la pobreza de la ONU.

Se acerca un distópico futuro en el que el altavoz inteligente de nuestro salón podrá saber qué estamos haciendo en el baño o en nuestra habitación sin necesidad de cámaras.

Una tecnología para cobrar a los clientes por los productos que se llevan de una tienda (sin que tengan que hacer cola en ninguna caja registradora) oculta un buen ejemplo de lo que no hay que hacer a la hora de crear IAs 'precrimen'.

Miles de locales de EE.UU se han ido sumando en los últimos años a una plataforma que permite a los hosteleros identificar biométricamente a sus clientes, hacer listas de los 'no deseados'... y compartirlas con la competencia.

Científicos chinos crean un sistema basado en ultrasonidos capaz de reconocer, mediante el eco de los mismos, si estamos de pie o sentados. ¿Hemos creado una nueva tecnología de cibervigilancia?

A pocos días de la conmemoración de la matanza de Tiananmen, las empresas tecnológicas que operan en el gigante asiático están obligadas a afinar sus sistemas de IA para detectar referencias inadecuadas al suceso en las redes.

La polémica acompaña a este proyecto para vigilar con drones las fronteras europeas: no sólo podría tener un uso militar (prohibido por el programa europeo que lo financia), también podría exportarse a otras potencias.

Un consorcio que reúne a los grandes de Silicon Valley con organizaciones de defensa de los derechos humanos denuncia que este método de toma de decisiones, sesgado y opaco, cuenta cada vez con más adeptos entre los políticos.

El método se basa en el uso de 'muestras antagónicas', las mismas que permiten convencer al piloto automático de un Tesla para que vaya en dirección contraria.

El régimen de Pekín ya no sólo busca identificar la identidad de rostros individuales: su sistema de vigilancia masiva mediante vídeo ya identifica también particularidades étnicas.

El nuevo miedo de la comunidad de inteligencia de EE.UU es que China esté recurriendo a las redes generativas antagónicas para introducir o disimular elementos en imágenes tomadas vía satélite.

El sonido de nuestros dedos nos delata: la IA es capaz de detectar las sutiles diferencias de cada pulsación que hacemos en la pantalla, que indican qué parte del teclado virtual estamos pulsando.

El Reino Unido aún está lejos de "Minority Report", pero los especialistas llaman a debatir sobre el uso y manejo de los datos personales, así como sobre el 'poder' de las recomendaciones de los algoritmos.

Los científicos proponen que los dispositivos inteligentes sean capaces de establecer 'discusiones internas' para decidir qué hacer cuando detectan una actividad aparentemente ilegal por parte de sus propietarios.

Tanto los historiales médicos como nuestra actividad en las redes sociales pueden servir para predecir intenciones suicidas. Pero la desregulación de esta segunda fuente de datos tiene tantos aspectos negativos como positivos.