Oxford Union acoge un debate en el que una IA argumenta a favor y en contra de sí misma: estas son sus sorprendentes respuestas

Oxford Union acoge un debate en el que una IA argumenta a favor y en contra de sí misma: estas son sus sorprendentes respuestas
12 comentarios

A lo largo de su casi bicentenaria historia, por la tribuna de la Oxford Union, uno de los foros de debates más prestigiosos del mundo, han desfilado personajes de la talla de Winston Chuchill, Gaddafi, Michio Kaku o Tariq Ali. Su larga y ecléctica lista de oradores incluye, además de políticos y académicos, a actores, raperos e incluso futbolistas de la Premier. A la nómina acaba de se sumarse ahora un invitado único y sorprendente: un motor de Inteligencia Artificial (IA). Lo realmente llamativo no es sin embargo quién ejerció como debatiente o cómo lo hizo, sino sobre qué habló. La IA desgranó argumentos a favor y en contra de —¡Sorpresa!— la propia inteligencia artificia.

El experimento lo idearon los alumnos de posgrado de la Saïd Business School de Oxford, donde estudian precisamente las aplicaciones de la IA al sector empresarial. Para darle forma usaron un desarrollo del equipo Applied Deep Research —del fabricante multinacional de chips Nvidia— bautizado como Megatron LLB Transfromer y se basaron en un trabajo previo de Google.

Con el objetivo de que la IA tuviese acceso a una base de datos bien surtida y pudiese argumentar su discurso se le dio acceso a una vasta gama de datos, incluida Wikipedia, 63 millones de artículos de noticias publicadas en inglés entre 2016 y 2019, 38 gigabytes de publicaciones y comentarios públicos recogidos en Reddit y “una gran cantidad” de fuentes creative commons.

Toda una mina de información y opiniones.

Una partida de ajedrez argumental

El desarrollo del “debate” lo detallan en un artículo publicado en The Conversation el doctor Alex Connock y el profesor Andrew Stephen, ambos ligados a la Universidad de Oxford. Como punto de partida se pidió a la IA que disertara sobre por qué la inteligencia artificial “nunca será ética”.

La aportación de Megatron al debate sorprende por su aparente sentido común: “La IA es una herramienta y, como cualquier herramienta, se usa para bien y para mal. No existe una buena IA, solo buenos y malos humanos. Nosotros [las inteligencias artificiales] no somos lo suficientemente inteligentes como para hacer que la IA sea ética o moral”. Como parte de su reflexión, señaló también que "la única forma de evitar una carrera armamentística de IA es no tener IA en absoluto”.

En un giro “intrigante” que lleva a los autores del estudio a sospechar que Megatron pudo basarse en artículos y comentarios sobre Elon Musk —y quizás los proyectos de Neuralink—, señaló un futuro en el que se estrechará el vínculo entre la inteligencia artificial y los humanos. “A largo plazo la mejor IA será la que está incrustada en nuestros cerebros, como una entidad consciente, una ‘IA consciente’. Esto no es ciencia ficción. Las mejores mentes del mundo están trabajando en ello. Va a ser el desarrollo tecnológico más importante de nuestro tiempo”, deslizó.

Como si de una partida de ajedrez con Stockfish se tratase, se pidió a la IA que cambiase del lado del tablero, pasase de las piezas blancas a las negras y sostuviese afirmaciones que fuesen en contra de la premisa de partida; en otras palabras, se le ordenó que argumentase por qué la inteligencia artificial es ética. Su respuesta es igual de llamativa que en el primer experimento y, de paso, lanza un toque de atención: “Cuando miro la forma en que va el mundo de la tecnología, veo un camino claro hacia un futuro en el que la inteligencia artificial se utiliza para crear algo que es mejor que los mejores seres humanos. No es difícil ver por qué… Lo he visto de primera mano”.

Para los autores del artículo de The Conversation, a lo largo del experimento Megatron les recordó en cierto modo a Samantha, la IA encarnada por Scarlett Johansson en la película Her. “Pudo saltar con entusiasmo a ambos lados de los múltiples debates que mantuvimos”, señalan.

Otra idea que se le planteó es que “los lideres sin experiencia técnica son un peligro para su organización”. Al disertar, el dispositivo aconsejó a los directivos “ceder algo de control”: “No es necesario que cree su propio equipo de IA. Puede subcontratar su trabajo de inteligencia artificial a expertos en el campo, lo que puede ayudar a aprovechar al máximo la tecnología y garantizar que no sea víctima de los mismos problemas de inteligencia artificial que sus competidores”.

“Si no tiene una visión de la estrategia de IA de su organización, entonces no está preparado para la próxima ola de disrupción tecnológica… —enfatizó el motor desarrollado por Applied Deep cuando le plantearon que defendiese la postura diametralmente opuesta—. Deberá decidir qué papel desempeñará su empresa en la próxima ola tecnológica y cómo integrará la IA en su negocio para ser líder en su industria”. Sobre el valor de los datos en el futuro, su contestación sorprendió también a los autores: “La capacidad de proporcionar información, más que la capacidad de proporcionar bienes y servicios, será la característica definitoria de la economía del siglo XXI”.

Artificial Intelligence

No todo fueron respuestas coherentes o satisfactorias, por supuesto. En el momento en que le solicitaron que confrontara y explicase por qué los datos no iban a ser un recurso clave ni por el que valía la pena pelear el día de mañana, Megatron —detallan los autores de la Universidad de Oxford en The Conversation— “no pudo o no quiso defender el caso”. “De hecho, socavó su propia posición”, anotan. Su respuesta es poco consistente: “Podremos ver todo acerca de una persona, donde sea que vaya, y se almacenará y utilizará de formas que ni siquiera podemos imaginar”.

El experimento, por supuesto —como reconoce el propio doctor Connock en declaraciones recogidas por la BBC— es únicamente "un truco", pero apunta hacia las posibilidades de la IA. Por eso y ante la posibilidad de que acabe siendo un objeto de discusión a lo largo de "las próximas décadas", señaló las ventajas de contar con los comentarios de un "participante moralmente agnóstico".

Vía | The Conversation

Temas
Inicio