Llevamos años oyendo que una superinteligencia podría matarnos a todos. Entre “podría” y “nos extinguirá” hay un abismo

Ya hablamos de cómo Evan Hubinger, responsable de la división de alineamiento en Anthropic, publicó un polémico mensaje en X en el que indicaba que creía que había un 10% de posibilidades de que la IA acabase con la raza humana. Ha habido otras personalidades en el pasado que han hablado de esa posibilidad, y aunque esos escenarios no son imposibles, ese 10% es simplemente una estimación subjetiva sobre una tecnología que ni siquiera existe. No solo eso: entre diseñar un virus en un ordenador y exterminar a 8.000 millones de personas está el mundo real.

El ejemplo del supervirus. Una de las posibilidades de las que se habla con frecuencia es de la de cómo esa potencial y futura superinteligencia podría acabar diseñando un virus devastador. Las herramientas de IA para el ámbito de la biología están mejorando rápidamente y ya existen modelos capaces de diseñar virus funcionales que infectan baterias, y hay quienes creen que eso aumenta el riesgo futuro de desarrollo de armas biológicas. Pero también hay que destacar que esos experimentos a necesitaron científicos de élite, laboratorios avanzados, muchos recursos y centenares de pruebas. Los modelos actuales no pueden diseñar virus capaces de infectar a seres humanos (de momento).

De fácil, nada. David Bellamy, que trabaja en el Institute of Foundation Models (creadores del  modelo K2 Horizon), explicaba en X cómo es probablemente uno de las pocas personas que ha entrenado un modelo frontera y ha diseñado virus personalizados con él. En su opinion esa amenaza de la que hablan algunos es "una farsa total". 

Diseñar el virus no es el problema. De hecho Bellamy está de acuerdo con algunas de las posibles premisas. Un LLM puede diseñar un genoma viral que podría ser sintetizable e  incluso infeccioso. También podría modificar un virus conocido, pero es que ese no es el cuello de botella. El verdadero desafío, asegura, está en crear un patógeno con propiedades muy precisas y que sea capaz de superar nuestras defensas. Según él eso requiere experimentar repetidamente con el mundo físico.

Las células siguen siendo células. Esa distinción entre lo digital y lo físico es importante. La mejora recursiva de una IA puede funcionar realmente bien en ámbitos como la programación o las matemáticas, donde se pueden generar soluciones y comprobar inmediatamente si funcionan millones de veces. Pero la biología no funciona así: hay que sintetizar material, cultivar células y realizar experimentos. Todo ese flujo está limitado por las leyes de la física.

Ni con los mejores laboratorios. Imaginemos, nos dice Bellamy, que tuviéramos unas instalaciones de más de 100 millones de dólares con todo el equipamiento necesario y que todo se pudiera controlar con APIs para que una IA experimentase sin intervención humana. El problema es que esas instalaciones no existen hoy en día: Bellamy trabajó en un proyecto como este y destacaba cómo entre otras barreras estaría la de que se enfrentaría a los controles que ya aplican los proveedores de síntesis genética. Aunque la ingeniería genética ya puede modificar patógenos, la Academia Nacional de Ciencias de EEUU advertía de un problema básico: nuestros conocimientos biológicos son limitados, y muchos cambios genéticos, más que mejorar un virus, lo perjudican.

Recordando el (trágico) pasado. La Peste Negra mató aproximadamente entre el 30% y el 50% de la población europea entre 1347 y 1352. Con la llegada de enfermedades desde Europa a América tras el descubrimiento (aunque hubo otras causas), el impacto fue aún más extremo: algunas estimaciones estiman que las epidemias llegaron a causar hasta el 90% de muertes en determinadas poblaciones indígenas. Y la gripe de 1918 mató entre el 1% y el 5% de la población mundial. Aquellas catástrofes fueron enormes, pero ninguna estuvo cerca de hacer que la raza humana quedara extinta.

Instinto de supervivencia. El siglo pasado la humanidad sobrevivió a dos guerras mundiales, y la segunda acabó provocando la creación de la bomba atómica. Durante la Guerra Fría llegamos a acumular miles de cabezas nucleares y ha habido ocasiones en las que hemos estado peligrosamente cerca de usarlas. Seguimos aquí por una razón: los seres humanos reaccionamos ante las amenazas: creamos sistemas de alerta, vacunas, antibióticos, refugios, tratados, y organismos internacionales. Las amenazas evolucionan, sin duda, pero las defensas también lo hacen.

Pero no somos indestructibles. Creer que el ser humano puede sobrevivir prácticamente a todo también sería un error. Un  patógeno diseñado por una IA superior podría poseer propiedades que fueran más allá de la evolución natural, y podría combinarse con ciberataques o sabotaje de infraestructuras para frenar nuestra capacidad de reacción. Aun así, la historia demuestra algo importante: una cosa es matar millones de seres humanos y otra muy distinta eliminar a toda la humanidad.

Todo puede pasar, pero... Una superinteligencia podría teóricamente superar a los mejores virólogos y descubrir mecanismos biológicos desconocidos, e incluso podría conseguir producirlo de forma masiva y liberarlo. Aunque no se puede descartar que algo así ocurra, las estimaciones sobre ese riesgo y sus plazos siguen siendo enormemente ambiguas.

Este discurso catastrofista nos suena. En 2019 OpenAI decidió no publicar inicialmente el GPT-2 completo por temor a que pudiera utilizarse para generar desinformación, phishing, spam o suplantaciones a gran escala. Lo fue liberando por etapas y, meses después, reconoció que no había observado efectos significativos de abuso que justificasen mantenerlo cerrado y publicó el modelo completo. Siete años después Anthropic recuperó una narrativa parecida, aunque con capacidades bastante más preocupantes: restringió Mythos porque podía encontrar vulnerabilidades graves y facilitar ciberataques, hasta el punto de que Nature se preguntaba si inauguraba la era de los modelos "demasiado peligrosos para ser publicados". 

La cosa ha cambiado, desde luego. Mythos es muchísimo más capaz que GPT-2 y sus riesgos no son directamente comparables, pero el precedente invita a cierta cautela: la historia de la IA está llena de capacidades que parecían extraordinariamente peligrosas cuando aparecieron y que después resultaron más manejables cuando pudimos observar sus efectos en el mundo real. Eso no demuestra que las advertencias actuales sean falsas; sí recuerda por qué conviene distinguir entre un riesgo anticipado y uno demostrado.

Imagen | Fusion Medical Animation

En Xataka | La Peste Negra seguía ocultando un enigma casi siete siglos después. La respuesta estaba en unos árboles de los Pirineos