Alexandria Ocasio-Cortez es una de las jóvenes estrellas de la política estadounidense, tras haberse convertido en noviembre en senadora a los 28 años, meses después dar la campanada en las primarias del Partido Demócrata.
La mediática senadora, que destaca entre sus compañeros de institución por su manejo y conocimiento de las redes sociales, participó ayer en un evento de homenaje a Martin Luther King Jr., y aprovechó para exponer sus ideas y reflexiones en varios campos.
La mayoría de los titulares se han centrado en su predicción de que "si no abordamos el cambio climático, el mundo se acabará en 12 años", y en su definición del calentamiento global como "la Segunda Guerra Mundial" de la actual generación.
Sin embargo, Ocasio-Cortez también dedicó una parte de su intervención a hablar de tecnología, concretamente de la de reconocimiento facial.
Socialist Rep. Alexandria Ocasio-Cortez (D-NY) claims that algorithms, which are driven by math, are racist pic.twitter.com/X2veVvAU1H
— Ryan Saavedra (@RealSaavedra) 22 de enero de 2019
Del 'racismo' de FaceTime a la confusión entre algoritmo y dato
Retomando críticas realizadas anteriormente durante el evento a la naturaleza "racista" de esta tecnología (por reconocer más fácilmente rostros blancos que de personas de color) la senadora empezó a cargar contra IBM.
AOC, como también se la conoce, hizo referencia a la colaboración entre IBM y el Departamento de Policía de Nueva York, que el año pasado pusieron en marcha un proyecto para identificar y localizar personas en grabaciones de vídeo en base a varios criterios físicos, entre los que se incluía el color de la piel:
"IBM ha estado creando tecnología de reconocimiento facial para elaborar una especie de perfiles delictivos".
El problema es que, a continuación, puso como ejemplo de ello la app FaceTime que, ni está desarrollada por IBM (es de Apple) ni usa tecnología de reconocimiento facial, limitándose a ser una mera aplicación de videoconferencia para dispositivos de Apple.
Es posible que AOC haya confundido FaceTime con FaceID, una tecnología que, si bien es también de Apple (y no de IBM), sí recurre al reconocimiento facial para almacenar los rasgos del propietario del terminal (sólo para modelos iPhone X y XS) y proceder a desbloquearlo cuando se encuentre frente al mismo.
Además, no se sabe que FaceID haya protagonizado incidentes con usuarios afroamericanos, aunque sí se denunció tuvo problemas para diferenciar entre usuarios chinos (un adolescente de Shanghai pudo desbloquear sin problemas el terminal de su progenitora).
En cualquier caso, a continuación AOC críticó el racismo de los algoritmos de inteligencia artificial, que según ella derivan del hecho de estar desarrollados por humanos con prejuicios humanos:
"Si no arreglas el sesgo [del desarrollador], lo único que estás haciendo es automatizarlo. Y eso es aún más peligroso".
El debate sobre los algoritmos 'racistas' ya viene de lejos pero, como explicamos recientemente en Xataka, no suelen esconder más que un problema con la representatividad de los datos utilizados para entrenar a las IAs.
Ver 2 comentarios