Fue durante el año pasado cuando vimos un boom en los vídeos deepfake. Este tipo de vídeos que, mediante inteligencia artificial, modifican el rostro de una persona en el vídeo tienen utilidades muy variadas. El mayor uso que se les ha dado es en el porno, donde se suele modificar la cara del actor o la actriz para colocar el rostro de algún famoso. Pero, ¿y si se usa para que alguien hable en diferentes idiomas? Es lo que ha hecho un candidato a las elecciones de Delhi de India.
Según explican en Vice, el candidato político Manoj Tiwari a la Asamblea Legislativa en Delhi dio el pistoletazo de salida para comenzar a usar los deepfakes en campañas políticas el pasado 7 de febrero. Lo hizo con un simple vídeo de 44 segundos, o más bien tres vídeos de 44 segundos. Este es el original:
A raíz de este vídeo publicó dos más en inglés y el dialecto hindi Harayanvi, pero en estos dos últimos él no era el que hablaba, sino una IA que además modificaba su rostro para sincronizar los labios según las palabras que se pronunciaban.
Explican los representantes del partido político BJP (al que pertenece el candidato) que se aliaron con una agencia de comunicación llamada The Ideaz Factory para crear "campañas positivas" utilizando los deepfakes. El resultado parece ser que ha sido un éxito, los videos se propagaron y viralizaron rápidamente por WhatsApp. Siendo o no conscientes sus receptores, los deepfakes permitieron comunicar el mensaje en el idioma nativo/preferido de los votantes. Según los responsables del partido, los vídeos se distribuyeron por más de 5.800 grupos de WhatsApp llegando a aproximadamente 15 millones de personas.
Todo apunta a que se ha usado precisamente un software desarrollado en India que permite traducir vídeos a otros idiomas y a la vez sincronizar labios. Se trata de un software que vimos en profundidad hace unas semanas. Lo cierto es que si nos fijamos con detalle o si somos conscientes de que es un deepfake se aprecian pequeños errores en los vídeos, tanto los del estudio como los de la campaña política. Pero, ¿es algo que nota una persona que recibe el vídeo sin conocer el contexto? Complicado.
Una poderosa (y peligrosa) herramienta
Generalmente los deepfakes han tenido una mala reputación y rechazo (además de asombro) por parte de los usuarios por el uso que se les ha dado. Es decir, se han utilizado para engañar a base de vídeos falsos, que es esencialmente lo que son. Uno de los primeros en viralizarse fue el de Obama dando un discurso falso. Pero en este caso, ¿se está engañando? La campaña política ha traducido el mensaje en idiomas diferentes, el engaño en sí no está en el mensaje sino en dar a entender que el político habla idiomas que realmente no conoce.
Debido a las preocupaciones que generan estos tipos de vídeos, están siendo cada vez más regulados. California tomó medidas al respecto, Facebook los ha bloqueado y en China están prohibidos.
Vía | Vice
Ver 7 comentarios