Amparo Babiloni
Editora Senior - TechEn 'Minority Report', Tom Cruise era el jefe de la policía precrimen, un departamento capaz de detener delincuentes antes de que pudieran cometer el delito en cuestión, todo gracias a los poderes de los mutantes o precogs. Pues bien, según el New York Times, hay una empresa china que está intentando construir un sistema similar, pero su objetivo serán los futuros disidentes políticos y en vez de mutantes con poderes usarán IA.
Qué está pasando. La filtración de la que hablan en el New York Times contiene documentos internos de la empresa china Geedge Networks y ha sido publicada por grupo de investigadores de la Universidad de Vanderbilt. En ella detallan cómo la empresa está construyendo un sistema de IA capaz de predecir qué ciudadanos se convertirán en disidentes políticos en el futuro. Geedge está investigando cómo usar LLM para sintetizar grandes paquetes de datos (incluyendo historiales de navegación, ubicaciones, actividad online y contactos) para después inferir el comportamiento de los ciudadanos, detectando si presentarán un "riesgo político" en el futuro. Como la policía precrimen, pero para disidentes políticos.
Qué es Geedge. En septiembre de 2025 conocimos que una empresa china estaba exportando el sistema de vigilancia conocido como "Gran Firewall de China" a otros países. Era Geedge Networks. La empresa, que tiene como inversor clave uno de los creadores del cortafuegos chino, ya ha vendido su solución a países como Kazajistán, Pakistán, Etiopía y Myanmar. Lo que hace este gran cortafuegos es analizar el tráfico de países enteros, llegando incluso a capturar datos personales como contraseñas y correos.
Por qué es importante. Según la filtración, el sistema está en fase de investigación, pero no deja de ser un planteamiento inquietante. Ya no se trata únicamente de usar la IA para vigilar lo que hace la gente, lo siguiente es anticipar lo que podría hacer y hasta pensar. Vemos a diario que los modelos de IA tienen sesgos y cometen muchos errores, usarlos como predictores para reprimir el disenso plantea un escenario terrorífico.
Autoritarismo tech como servicio. Como decíamos, Geedge ya está exportando sus soluciones a otros países por lo que es vender el autoritarismo tecnológico como servicio. Lo peor es que esto no lo encontramos únicamente en China, sino que es una tendencia global: Estados Unidos también está delegando funciones de seguridad críticas a corporaciones privadas y de dudosa reputación como Palantir, y Reino Unido también quiere seguir sus pasos.
El cuello de botella. Hay una buena noticia (si es que se le puede llamar así) y es que Geedge se ha topado con un problema para desarrollar este sistema: no tienen potencia para gestionar tal volumen de datos. Según el New York Times, como no pueden acceder a los chips más potentes por el bloqueo de EEUU, desde 2024 se vieron obligados a usar modelos de IA y chips menos potentes. Para que el sistema pudiera gestionar la enorme cantidad de datos que ya recogen, necesitan una capacidad de cómputo que a día de hoy no tienen, siempre según fuentes estadounidenses.
Imagen | Xataka con Gemini
Ver 0 comentarios