Publicidad

Yoshua Bengio, Premio Turing 2018, advierte que autorregulación de las empresas de inteligencia artificial "no va a funcionar"

Yoshua Bengio, Premio Turing 2018, advierte que autorregulación de las empresas de inteligencia artificial "no va a funcionar"
11 comentarios

Publicidad

Publicidad

Yoshua Bengio se convirtió recientemente en uno de los tres ganadores del premio Turing ("el Nobel de la informática"), gracias a la labor que ha llevado a cabo en las últimas décadas en el campo de la inteligencia artificial. Eso ha aumentado el interés de los medios por su opinión acerca de la evolución de esta tecnología, y él ha aprovechado para explayarse al respecto en una reciente entrevista en Nature.

Bengio afirma que lo más preocupante del desarrollo de esta tecnología, a día de hoy, es lo que está sucediendo a puerta cerrada: "Gran parte de las cosas más preocupantes no están ocurriendo a plena luz del día, sino en los laboratorios militares, agencia de seguridad y empresas privadas contratistas de los gobiernos".

Sobre armas inteligentes y códigos de buenas prácticas

Entre todas las armas inteligentes que los gobiernos se han puesto a desarrollar, afirma que los "drones asesinos" son su gran preocupación. Pero para Bengio el 'lado oscuro de la IA' no se limita al armamento:

"Otro ejemplo es [su uso para] vigilancia: se podría argumentar que tiene posibles beneficios positivos, pero los peligros del abuso, especialmente por parte de gobiernos autoritarios, son muy reales. Esencialmente, la IA es una herramienta que pueden usar los que ostentan el poder para mantener ese poder y aumentarlo.

Otro problema es que la IA puede amplificar la discriminación y los prejuicios, como la discriminación de género o racial, porque [dichos prejuicios] están presentes en los datos con los que se entrena esta tecnología".

Pero, ¿cómo luchar contra estos malos usos de la inteligencia artificial? Bengio no parece depositar demasiadas esperanzas en códigos de buenas prácticas y comités éticos, una moda creciente entre las grandes compañías que desarrollan inteligencia artificial:

"La autorregulación no va a funcionar. ¿Acaso el pago voluntario de impuestos funciona? No, no lo hace. Aquellas empresas que se guíen por pautas éticas estarán en desventaja con respecto a las que no lo hacen.

Esto es como conducir: ya sea por la derecha o por la izquierda, todos deben conducir por el mismo lado o estaremos en problemas".

El futuro de la inteligencia artificial

Interrogado por el futuro del sector, Bengio afirma que sí, que Europa está muy por detrás de China y EEUU, pero que no cree que debamos resignarnos porque "Europa tiene potencial para convertirse en líder [y] los gobiernos están empezando a darse cuenta".

En cuanto a cuál debería ser el próximo gran paso de la IA, recuerda que

"Aún no se ha desarrollado un sistema que pueda descubrir representaciones de alto nivel, la clase de conceptos que usamos en el lenguaje. Incluso los bebés pueden usarlos para generalizar, pero el deep learning es muy malo [en esa tarea].

Vía | Nature

Imagen | Ecole polytechnique

Temas

Publicidad

Comentarios cerrados

Publicidad

Publicidad

Inicio
Compartir