Frenar la IA suena a proteger a la humanidad. También es una forma muy eficaz de frenar a DeepSeek, Qwen y Mistral

El plan de Amodei para frenar la IA no menciona los modelos abiertos. Ni falta que hace, porque sus mecanismos se encargan de dejarlos fuera

Magnific Ilustracion Editorial Min Vxcllqlmmu
1 comentario Facebook Twitter Flipboard E-mail
javier-lacort

Javier Lacort

Editor Senior - Tech
javier-lacort

Javier Lacort

Editor Senior - Tech

Dario Amodei publicó estos días su "We must pace the frontier", su propuesta para frenar el ritmo de la IA. Y OpenAI y SpaceXAI la han respaldado. En todo el ensayo, por cierto, no aparecen ni una vez las palabras "open weights".

Por qué es importante. Quien más está hundiendo el precio de la IA no son OpenAI ni Anthropic ni SpaceXAI ni Google. Son los modelos abiertos, y casi todo lo que propone Amodei es fácil de cumplir para un laboratorio cerrado pero imposible para uno abierto.

Lo que propone:

  1. Puntos de control por capacidad. Si un modelo alcanza cierta capacidad, necesita certificar determinadas propiedades de alineamiento.
  2. Evaluadores externos trabajando dentro de los laboratorios, como METR.
  3. Una exención antimonopolio para que los laboratorios estadounidenses puedan coordinarse en materia de seguridad.
  4. Y más controles a China: veto a los chips avanzados y prohibición de la destilación no autorizada de modelos.

Entre líneas. Un modelo cerrado puede certificarse porque su dueño controla cada copia. Uno abierto, no: en cuanto se publican los pesos, cualquiera puede quitarle las salvaguardas.

Es el argumento principal de un análisis de VentureBeat, que compara la propuesta con la ley SB 1047 de California. Newsom la vetó por su impacto en los desarrolladores pequeños y en el código abierto.

Con la exención antimonopolio pasa algo muy similar. Los que se sientan a coordinarse son los laboratorios estadounidenses de frontera. Quien no está en esa mesa no decide los límites, pero sí los sufre.

En cifras. El frente abierto ya no es Meta. Es, sobre todo, China:

  • 150 veces menos. Es lo que cuesta DeepSeek V4 Flash frente a GPT-5.5 en tokens de salida, según OpenRouter.
  • De 3 a 6 meses. Es el retraso de los mejores modelos abiertos respecto a los cerrados, y no se está ampliando.
  • 151.448 modelos derivados de Qwen en Hugging Face, 2,6 veces los de Meta, según su informe de verano.
  • 33% de margen bruto ajustado tuvo OpenAI en 2025, frente al 40% del año anterior, según The Information. Competir con modelos casi gratuitos no ayuda a remontar.

Mientras tanto en Europa. Mistral acaba de cerrar una ronda de 3.000 millones de euros con una valoración de 21.000 millones. Es la mayor ronda de una tecnológica europea, y su argumento de venta es precisamente la IA soberana con pesos abiertos.

  • Un régimen de certificaciones pensado en Estados Unidos para sus laboratorios dejaría a Mistral fuera de la mesa (pero dentro de las reglas).
  • La Unión Europea ya escogió otro camino: la Ley de IA exime a los modelos de código abierto de parte de las obligaciones, salvo cuando presentan "un riesgo sistémico".

, pero. Frenar a los modelos abiertos no frena necesariamente a China. Los pesos de Qwen y DeepSeek ya están en millones de servidores y discos duros de todo el mundo. Lo que sí frena es a los desarrolladores abiertos de Estados Unidos y Europa, justo los que podrían competir con esos modelos.

Es la misma lógica de captura regulatoria que ya contamos con Rockefeller. Esta vez el competidor que se queda fuera no es una petrolera pequeña, sino un modelo que cualquiera puede descargar gratis y ejecutar en un ordenador doméstico.

Y ahora qué. Si el plan avanza, el debate que viene no es "frenar o no frenar". Es quién queda dentro del perímetro que se frena y quién fija sus límites. Hoy los que lo están dibujando son casualmente quienes más perderían con una IA abierta y barata.

Imagen destacada | Xataka con Magnific

En Xataka | Qué es y quién está detrás de METR, el organismo que Anthropic propone para supervisar que la IA no sea un peligro para la sociedad

Inicio