Cuando vimos por primera vez a Gal Gadot en un vídeo porno en 2017 la reacción popular fue de asombro seguido por la inquietud. No era ella en realidad, sino un montaje con su rostro en el cuerpo de una actriz porno, pero el resultado era muy creíble. La tecnología deepfake había entrado por la puerta grande y de la forma más llamativa posible.
A partir de entonces hemos podido ver toda suerte de creaciones por parte de usuarios anónimos de Internet: desde más vídeos porno con diferentes actrices, hasta al propio Obama advirtiendo del peligro de la tecnología deepfake con la que había sido creado.
Y el temor ha ido creciendo: China ha sido el primer país del mundo en ilegalizar los deepfakes ahora en 2020, convirtiéndolo en un delito de carácter penal. California también decretó en 2019 que está prohibido difundir vídeos manipulados para desacreditar a candidatos políticos durante los 60 días previos a las elecciones, además de otorgar el derecho a los californianos de demandar a todo aquel que comparta sin consentimiento deepfakes pornográficos con su imagen.
Hasta aquí sólo hemos podido leer el lado negativo, o el uso “para el mal” de los deepfakes, pero hay un grupo de personas que han sabido darle la vuelta y convertirlo en una herramienta creativa para hacer sátira política y humor: United Unknown. Llevan el deepfake hasta el extremo opuesto y crean vídeos tan surrealistas como convertir a José Luis Martínez-Almeida en Austin Powers.
Diez años de constante evolución en la sátira política
“Empezamos a trabajar como colectivo en 2010 y éramos un grupo de seis”, nos cuenta Sergey, encargado de la postproducción de vídeo de United Unknown, “actualmente somos entre dos y cuatro personas, dependiendo de cada uno y del volumen de trabajo”.
Todos los integrantes de United Unknown, tanto los pasados como los presentes, son totalmente anónimos. Se describen a sí mismos como un grupo de personas que usan el “activismo visual para luchar contra un sistema insostenible que se niega a cambiar”. Así nacieron hace diez años, durante los cuales no han dejado de evolucionar.
Hasta ahora han usado todo tipo de recursos visuales: desde montajes fotográficos, como en sus colaboraciones en las portadas de la Revista Mongolia, hasta vídeos vídeos parodia con caras recortadas “manualmente” para sus aportaciones en Late Motiv.
Nunca han tenido problemas ni represalias por su trabajo, pero quizás ahora en su “era deepfake” deban enfrentarse a nuevos retos.
Aprendiendo a manejar el arte del deepfake
Sergey nos cuenta para este artículo que las primeras veces que empezaron a probar software con IA, justo hace un año, no obtuvieron los resultados que esperaban. A lo largo del año han tenido que ir aprendiendo y probando otras versiones del programa para llegar a los trabajos finales que hacen hoy: “En noviembre de 2019 por fin obtuvimos una versión de un software que daba buenos resultados y desde entonces estamos haciendo mil pruebas, viendo hasta dónde podemos llegar y buscando los límites del programa”.
Aún así Sergey nos aclara que la tecnología deepfake a veces se les queda corta. No han dejado de hacer vídeo-montajes “a mano” (recortando las caras y editando segundo a segundo los planos), ya que les permite hacer cosas que no se consiguen con los deepfakes.
El vídeo de abajo fue una de las primeras pruebas que comenzaron a hacer con la tecnología deepfake.
Los deepfakes, definitivamente, no son una fuente de dinero para United Unknown. Para los trabajos que son encargos de Late Motiv u otros siguen siendo usualmente con caras recortadas y editadas: "Muchos de los vídeos que hacemos para televisión son encargos del mismo día y tenemos unas seis horas para producirlos. Es imposible crearlos con tecnología deepfake por los tiempos… ¡Al menos de momento!”.
“Lo que nos aportan los deepfakes es un gran realismo en la integración de caras. El proceso comparte algunas cosas, como la búsqueda de vídeos de referencia y la postproducción. Los deepfakes requieren de paciencia y mucho tiempo, ya que los cálculos son bastante lentos. Un ordenador muy potente puede tardar 24 o 48 horas en calcular un solo personaje, a veces los resultados no son óptimos y hay que empezar de nuevo. Pero por otro lado, no hay que recortar a mano las caras, que es un proceso muy tedioso".
Otro problema con el que se encuentran con los deepfakes es que el software “solo trabaja sobre la cara, no la cabeza entera, y no detecta más allá del perfil de la cara, por lo que da muchos fallos cuando las cabezas giran”.
Para quien no tenga mucho conocimiento sobre edición de vídeo, el proceso de “recortado” de una cara y colocarla plano a plano en un montaje es una tarea que requiere mucho trabajo previo. Se debe visualizar horas y horas de vídeos buscando la posición del rostro exacta que uno quiere usar y buscar los ángulos ideales para posteriormente descargar los vídeos, recortarlas y luego colocarlas en la escena y el cuerpo deseados (además de vigilar la iluminación y que no se creen sombreados “antinaturales”). Luego se edita segundo a segundo el movimiento de la cabeza a lo largo del plano.
Uno podría esperar que con la tecnología deepfake este proceso se eliminaría, ya que el software se encarga de recopilar toda la información y hacer que la cara encaje en el rostro deseado, pero no es así: “Todavía visionamos horas y horas de vídeos, en parte porque seguimos haciendo los vídeo-montajes de antes, y también porque el software de deepfakes necesita vídeos que lo alimenten, cuanto más precisos y parecidos sean mejor será el resultado”.
“Usar el software no es darle a un botón y que lo haga todo automáticamente. Primero hay que alimentarlo con datos y seguir el proceso de cerca porque hay muchos imprevistos y errores. Luego con el resultado final sigue siendo necesaria la postproducción en un editor de vídeo, para corrección de los recortes y el color”. En United Unknown tienen un compañero que se dedica exclusivamente al software deepfake para hacerlo posible.
Hacer deepfakes en tiempos de fake news
Como comentábamos antes, hay países que se están tomando muy en serio los peligros de los deepfakes. Cada vez los montajes son más creíbles y complicados de detectar. Cada red social también está tomando sus propias medidas para combatirlo, pero sigue siendo un terreno pantanoso. Por ejemplo, Instagram, sin política de deepfakes actualmente, dejó publicado el siguiente vídeo donde Zuckerberg da un siniestro discurso:
"Imaginen por un segundo que un hombre contase con el control total de los datos personales robados a mil millones de personas, de todos sus secretos, sus vidas, su futuro. Todo se lo debo a Spectre. Spectre me mostró que quien controla los datos, controla el futuro".
Esto es una pequeña prueba que muestra el poder del deepfake y la consecuente alarma. Por una parte, pueden llegar a ser muy realistas, por otra no hay políticas fuertes que las restrinjan.
“Los deepfakes han estado envueltos en polémica desde el principio", nos sigue contando Sergey, "pero gracias al desarrollo de software por programadores sin ánimo de lucro, han dado el salto a otros entornos más creativos que nada tienen que ver con sus orígenes. No teníamos ni idea de que en China solo las empresas pudiesen realizarlos legalmente, es algo que no nos parece bien. Indicar claramente que es una imagen creada por IA lo vemos razonable cuando haya riesgo de confusión o de desinformación. En nuestro caso, lo usamos para hacer parodias y sátiras, la mayoría sobre películas muy conocidas, con lo que el riesgo de que se confunda con fake news es realmente bajo”.
United Unknown sólo ha tenido problemas de copyright al usar imágenes y música de fragmentos de películas, ya que “los identificadores de imagen no distinguen entre película original y un video-montaje sobre la película” pero son conflictos que han podido resolver rápido al exponer que son montajes de sátira y humor.
Por otro lado, más allá de ser un escaparate de su trabajo, ni Youtube ni las redes sociales son su fuente de ingresos, sino sus encargos para diferentes publicaciones, por lo que poco les afecta en caso de que las plataformas decidan ponerse "duras" con sus políticas de deepfake.
Esta es la reflexión final que nos comparte Sergey respecto al uso de los deepfakes: “Las herramientas de postproducción de vídeo para editar caras existen desde hace tiempo en la industria cinematográfica. El software para crear deepfakes ha democratizado la tecnología, poniéndola al alcance de cualquier usuario con un buen ordenador. Lo mismo ha pasado con los software de edición de música y vídeo. Para nosotros es una herramienta más, y como tal no es buena ni mala, evidentemente eso depende del uso que se le dé. No es lo mismo hacer una parodia de C. Tangana cantando como Martes y Trece, que modificar y alterar el discurso de un político y pretender pasarlo como real”.
Ver 36 comentarios