EEUU y China estudian trasladar el aprendizaje nuclear a la contención de riesgos de la IA

Este escenario es escalofriante. Imaginemos que un modelo de inteligencia artificial (IA) muy avanzado consigue de forma autónoma interferir en la red de mando nuclear de una gran potencia, como EEUU o China, o bien lanzar un ataque cibernético contra ella, haciéndole creer que la agresión procede de la otra superpotencia. En estas circunstancias Washington y Pekín solo tendrían unos pocos minutos para decidir si el ataque realmente procede de la otra nación.

Un suceso como este colocaría al mundo al borde del abismo. Este escenario lo hemos visto muchas veces en el cine, pero el vertiginoso avance de la IA ha provocado que los expertos lo estén contemplando como una posibilidad muy real. De hecho, Reuters ha confirmado que expertos de EEUU y China ya están trabajando conjuntamente para encontrar la forma adecuada de resolver con éxito un escenario como el que hemos descrito en el párrafo anterior.

De analizar los riesgos y proponer soluciones se está encargando un grupo de analistas procedentes tanto de EEUU como de China. Y presumiblemente el próximo 24 de septiembre Donald Trump y Xi Jinping hablarán sobre este asunto en la reunión que mantendrán en la Casa Blanca, Washington (EEUU). Todo esto es aterrador, y está sucediendo. Sea como sea, que los Gobiernos de las dos naciones más poderosas del planeta se estén tomando en serio esta posibilidad y estén intentando implementar protocolos para resolverla si llegase a producirse es una buena noticia.

Algunas soluciones ya están sobre la mesa

El pasado 9 de septiembre los expertos chinos y estadounidenses que están asesorando a sus respectivos gobiernos publicaron un artículo conjunto en el que exponen algunas de las medidas que es posible implementar para evitar que un modelo de IA "rebelde" desencadene un conflicto entre EEUU y China. Los autores de este informe son Melanie Sisson, investigadora sénior de la Brookings Institution (EEUU), y Tianjiao Jiang, profesor asociado de la Universidad de Fudan (China).

El grupo de asesores liderado por Sisson y Jiang propone establecer líneas rojas alrededor de los sistemas nucleares de EEUU y China, así como mantener protocolos de control humano sobre los ciberataques que tengan consecuencias graves y crear una línea de comunicación militar directa y dedicada entre EEUU y China para abordar cualquier incidente relacionado con la IA. Estas medidas están claramente inspiradas en algunos de los protocolos que establecieron la Unión Soviética y EEUU durante la Guerra Fría para tratar un posible incidente nuclear.

Según estos expertos, el mayor riesgo reside en la posibilidad de que la IA defensiva de un país responda de forma automática ante una actividad sospechosa y la otra nación interprete esa respuesta como un ataque y tome represalias antes de entender qué es lo que realmente ha sucedido. La línea directa de la que hemos hablado en el párrafo anterior permitiría a los dos Gobiernos hablar antes de iniciar cualquier represalia y aclarar lo sucedido sin desencadenar una escalada de consecuencias imprevisibles.

Curiosamente, no todos los expertos están de acuerdo en que la estrategia que proponen Sisson y Jiang es la adecuada. Lora Saalman, investigadora sénior del Instituto Internacional de Investigación para la Paz de Estocolmo (Suecia), cree que esta medida de convergencia de EEUU y China es necesaria. Sin embargo, Carla Freeman, de la Escuela de Estudios Internacionales Avanzados de Johns Hopkins (EEUU), pone en duda la utilidad real de los canales de diálogo que estas dos superpotencias están estableciendo en el ámbito de los desafíos vinculados a la IA. Confiemos por el bien de todos en que EEUU y China hagan lo correcto.

Imagen | U.S. Air Force photo by Staff Sgt. Michael A. Richmond

Más información | Reuters

En Xataka | "No confío en que Anthropic y OpenAI abran la IA de frontera": un ingeniero de DeepSeek carga contra EEUU