En IBM se acabó el desarrollo y la venta de software para el reconocimiento facial. Así lo ha afirmado el CEO de la compañía en una carta enviada al Congreso de Estados Unidos. El presidente de la empresa no sólo avisa de que dejan de desarrollar e investigar esta tecnología, sino que pide revaluar si los organismos nacionales deben o no utilizar este tipo de tecnologías.
La carta enviada a un total de cinco senadores del Congreso de Estados Unidos recoge la oposición de IBM en el uso de esta tecnología para propósitos como "la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas". Desde hace años IBM es uno de los grandes proveedores de tecnología del gobierno norteamericano.
Durante los últimos años la tecnología del reconocimiento facial ha evolucionado de forma considerable gracias al avance de otras tecnologías como la inteligencia artificial. Sin embargo a menudo sufre un sesgo por los datos de los que se alimenta para mejorar su precisión, como en cierto modo trató de reflejar la congresista Ocasio-Cortez confundiendo términos. Por otro lado, también se sabe que se puede utilizar esta automatización directamente para elaborar perfiles raciales.
Organismos como el MIT han trabajado para evitar este tipo de situaciones. Hasta la propia IBM hizo público en 2018 una gigantesca base de datos para el reconocimiento facial con la que aumentar la diversidad y evitar este tipo de sesgo. Pero claro, a IBM también se le ha acusado de categorizar y entrenar a su IA por el color de la piel de los rostros analizados con su tecnología de reconocimiento facial. En su historial también está el hecho de usar millones de fotos de Flickr para entrenar su IA. Relacionado con la discriminación racial, el año pasado en sus ofertas de trabajo pedía el grupo étnico a los candidatos.
Una llamada a la reconsideración del uso de la tecnología
Aparte de IBM, otros polémicos sistemas de grandes tecnológicas utilizados por las autoridades estadounidenses son por ejemplo Clearview AI o Rekognition de Amazon. El primero de ellos se ha visto envuelto en varias acusaciones de violación de la privacidad, mientras que Rekognition de Amazon se sabe que es utilizado por la policía de diferentes estados.
Indican fuentes a CNBC que la decisión es en parte ética y en parte por negocio. El reconocimiento facial no ha generado ingresos significativos para IBM en los últimos tiempos. La compañía ha tomado la decisión en los últimos meses y no ha sido algo apresurado por la situación actual de Estados Unidos tras la muerte de George Floyd. De hecho los clientes de IBM han sido informados previamente y ahora simplemente se ha comunicado públicamente, aseguran en Axios.
Dice el CEO de IBM que "es el momento de iniciar un diálogo nacional sobre si la tecnología de reconocimiento facial debe ser empleada por los organismos nacionales encargados de hacer cumplir la ley". La carta también incluye sugerencias para la legislación que incumbe a las autoridades y cómo se utiliza la tecnología en este caso.
Ver 48 comentarios