Engañan al coche autónomo con drones que proyectan señales de tráfico imperceptibles por el ojo humano

Un grupo de investigadores de la Universidad Ben-Gurion de Negev ha llevado a cabo un experimento para comprobar cómo reaccionan los coches autónomos ante la proyección de imágenes de tráfico ultra rápidas. Mediante la utilización de drones, fueron capaces de engañar el sistema de conducción autónoma de nivel 0 del Renault Captur equipado con el sensor Mobileye 630 Pro.

La prueba consiste en proyectar imágenes falsas durante un instante muy corto, de unos 100 milisegundos. Es un tiempo insuficiente para el ojo humano, pero sí perceptibles por los sensores que acostumbran a montar los coches autónomos de prueba. Con esto lo que pretenden demostrar los investigadores es que es posible engañar a los sistemas del coche autónomo con alertas que en realidad no están ahí, además de no poder ser percibidos por el conductor.

En Xataka

En el coche autónomo, la unión hace la fuerza: así son las seis grandes alianzas automovilísticas que aspiran a ser referencia mundial

Imágenes ultra rápidas que confunden al coche sin nuestro conocimiento

Recordemos que en los coches autónomos de nivel 0 el sistema únicamente advierte al conductor, aunque no toma decisiones. Aún así, con este sistema un atacante podría afectar a la seguridad del coche obligando por ejemplo a que el coche recomendase ir por una ruta equivocada al ver que la velocidad es diferente.

Como comenta Ars Technica, "Un atacante más avanzado podría combinar utilizar el GNSS [Sistema Global de Satélites de Navegación] para confundir también el radar, lo que sería una apuesta muy seria por confundir al objetivo". Las imágenes proyectadas son "como fantasmas parpadeantes que solo los coches pueden percibir, deslumbramientos imperceptibles para los humanos", describe Bldgblog.

En el texto publicado en ArXiv por los investigadores: 'MobilBye: Attacking ADAS with Camera Spoofing', se describen las distintas pruebas. Observando que la probabilidad para engañar al sistema del coche es más alta cuando es de noche y las imágenes proyectadas se perciben mejor.

A medida que baja la luz, el sistema funciona mejor. Gráfica de ArXiv.

El sensor de los coches autónomos es capaz de ver más allá del ojo humano. Este es probablemente el punto clave de la investigación: la diferencia de decisiones tomadas en función de lo percibido. Mientras que el conductor puede ver las señales de tráfico estándar o qué ocurre a su alrededor, los sensores como Mobileye funcionan de manera diferente. Y por tanto toman sus decisiones en función de lo que ven.

Vía | Boing Boing