Javier Marquez
Editor - TechPensemos por un momento en cómo se movía el mercado tecnológico antes de noviembre de 2022. La inteligencia artificial ya estaba presente en buscadores, cámaras, recomendaciones y servicios digitales, pero todavía no era la etiqueta que las marcas trataban de colocar en cada producto ni el argumento alrededor del que giraban buena parte de sus presentaciones. La industria tenía otras prioridades visibles y repartía su atención entre múltiples frentes. Menos de cuatro años después, cuesta encontrar un gran fabricante o una plataforma que no haya reorganizado parte de su estrategia alrededor de la IA.
Basta con observar hacia dónde está fluyendo el dinero para entender la magnitud de esta carrera. Las grandes tecnológicas destinan inversiones enormes a chips, servidores y centros de datos que se extienden por distintas partes del mundo, al tiempo que buscan asegurar la energía necesaria para mantenerlos en funcionamiento. Los gobiernos tampoco se limitan a observar: Estados Unidos y China apoyan el desarrollo de infraestructura y capacidad de computación como parte de una competencia económica y estratégica. En medio de esa aceleración, uno de sus principales protagonistas ha advertido que avanzamos más rápido de lo que comprendemos.
La advertencia de quien está en primera línea de la carrera
El mensaje no llega desde fuera del sector. Demis Hassabis es cofundador y consejero delegado de Google DeepMind, uno de los laboratorios que impulsan el desarrollo de los sistemas de inteligencia artificial más avanzados. Bajo su dirección surgieron proyectos como AlphaGo, que derrotó a un campeón mundial de Go, y AlphaFold, capaz de predecir estructuras de proteínas. En 2024, Hassabis y John Jumper recibieron conjuntamente la mitad del Premio Nobel de Química por sus trabajos sobre predicción de estructuras proteicas. Sus palabras tienen peso precisamente por esa doble condición: ayuda a construir esta tecnología y, al mismo tiempo, pide mecanismos para contener sus riesgos.
Parte del texto publicado por Demis Hassabis en X | Pulsa para ver el mensaje completo
Hassabis parte de una convicción que ayuda a entender la urgencia de su propuesta: cree que la inteligencia artificial general (AGI, por sus siglas en inglés), definida en su texto como un sistema capaz de exhibir todas las capacidades cognitivas del cerebro humano, podría llegar en apenas unos años. No lo presenta como una certeza, sino como una posibilidad cercana que obligaría a prepararnos antes de que la tecnología alcance ese punto. Su preocupación abarca la ciberseguridad, posibles riesgos biológicos y nucleares y, más adelante, sistemas cada vez más autónomos, capaces de actuar con menor supervisión y de mejorar sus propias capacidades.
En un extenso artículo publicado en X, el directivo intenta sostener dos ideas al mismo tiempo. La inteligencia artificial puede convertirse en una herramienta extraordinaria para la ciencia, la medicina y la economía, pero ese potencial no elimina la necesidad de establecer controles y mecanismos de supervisión. Tampoco propone esperar a que aparezca una amenaza concreta para reaccionar, porque entonces las medidas podrían llegar demasiado tarde. Antes de detallar qué organismo y qué evaluaciones considera necesarios, expone el diagnóstico que sirve de base a toda su propuesta:
"En estos momentos estamos atrapados en una carrera comercial y geopolítica extremadamente intensa que se desarrolla en varios niveles. Aunque estas dinámicas competitivas impulsan rápidos avances y aceleran sus extraordinarios beneficios, los progresos en la frontera de la IA están superando nuestra comprensión de la tecnología. Nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora, y ni siquiera los expertos están de acuerdo. Cuando existe un grado tan elevado de incertidumbre y hay tanto en juego, avanzar con un optimismo prudente es la estrategia sensata y correcta".
La respuesta que plantea pasa por crear en Estados Unidos un organismo especializado en evaluar los modelos de inteligencia artificial más avanzados. Su propuesta toma como referencia una asociación público-privada o una entidad autorregulada con supervisión federal, dirigida por una junta en la que también participarían especialistas independientes y representantes del ecosistema de código abierto. Esta institución definiría qué umbrales convierten a un sistema en un modelo de frontera y diseñaría evaluaciones sobre ciberseguridad, amenazas biológicas y otros ámbitos de alto riesgo, además de pruebas para detectar intentos de eludir salvaguardas o señales de engaño. En una primera etapa, los laboratorios compartirían voluntariamente sus modelos hasta 30 días antes de lanzarlos.
La cooperación inicial podría transformarse después en un requisito obligatorio. Una vez validado el protocolo, cualquier modelo considerado de frontera tendría que aprobar la evaluación antes de llegar al mercado de Estados Unidos. Las pruebas se revisarían periódicamente para sustituir aquellas que quedaran desfasadas y para medir nuevas capacidades, mientras auditores independientes ayudarían a ampliar el sistema de control. El planteamiento llega incluso más lejos: si la gravedad de los riesgos lo justificara, el marco podría utilizarse para coordinar una ralentización del desarrollo entre los principales laboratorios.
La inquietud no es exclusiva de Hassabis. Geoffrey Hinton ha reconocido que no sabemos si podremos conservar el control de sistemas más inteligentes que nosotros, mientras Yoshua Bengio reclama más investigación y mecanismos específicos para supervisarlos. En 2023, Elon Musk firmó además una carta abierta que pedía pausar durante al menos seis meses el entrenamiento de sistemas de IA más potentes que GPT-4, aunque unos meses después anunció xAI y pasó a competir directamente en este mercado. Muchas de estas voces coinciden en pedir cautela, pero no existe consenso sobre la probabilidad de que lleguemos a perder el control.
La historia de la inteligencia artificial todavía no tiene un desenlace escrito, aunque sus primeros efectos ya hayan cambiado nuestra relación con la tecnología y las decisiones de quienes la desarrollan. Queda por ver si el organismo que propone Hassabis tendría cabida, si sus evaluaciones serían realmente eficaces y si los laboratorios y los gobiernos aceptarían someterse a ellas cuando entraran en conflicto con sus propios intereses. También puede ocurrir que algunos de los riesgos que plantea estén sobredimensionados o no lleguen a materializarse. Por ahora, su propuesta añade una hoja de ruta concreta a una discusión en la que todavía abundan más las incógnitas que las certezas.
Imágenes | Google
Ver 1 comentarios