Anthropic está en el momento más importante de su historia y tiene una advertencia: hay que levantar el acelerador de la IA

Anthropic y OpenAI están compitiendo en dos carreras paralelas. Por un lado, la carrera por tener el mejor modelo que siga empujando la IA de vanguardia. Por otro, la de salir a bolsa para convertirse en una empresa pública. El ganador de la primera es discutible, pero en la segunda competición es Anthropic la que lleva ventaja.

Este lunes confirmó que había registrado su solicitud para la esperada salida a bolsa, pudiendo convertirse en la mayor operación de este tipo de la historia que, como comentó mi compañero Javier Pastor, recuerda a Netscape saliendo a bolsa y marcando el inicio de la fiebre de las puntocom. Y, justo en ese escenario, la compañía ha lanzado un aviso interesante: hay que realizar una pausa global en el desarrollo de la IA de frontera.

Y tiene todo el sentido del mundo a la vez que es algo que no puede ocurrir teniendo en cuenta la situación entre las dos potencias que están en la actual guerra tecnológica.

Levantar el pie del acelerador vs la carrera tecnológica

Anthropic lleva un tiempo usando algo curioso: la táctica del miedo. Es algo que su principal rival les ha echado en cara (para, automáticamente, hacer exactamente lo mismo), pero la verdad es que los de Dario Amodei de vez en cuando sueltan alguna ‘bombita’ sobre cómo los humanos corremos el riesgo de perder el control sobre esta tecnología, con un Amodei asegurando que hay posibilidades de que “las cosas vayan muy, muy mal”.

En una publicación reciente, la compañía detrás de Claude apuntó que estarían contentos con levantar el pie del acelerador del desarrollo de IA de vanguardia sólo, y esto es importante, si estuvieran seguros de que otros harían lo mismo. De nuevo, lo comparan con el desarrollo bélico, como si fuera una explosión en número de armamento nuclear, apuntando que creen que sería una pausa positiva al comparar el aumento de IAs cada vez más capaces con un “problema de control de armas”.

Cuando hablan de IA de vanguardia se refieren a varios modelos, pero ponen el foco en esos que se desarrollan a sí mismos. En un documento compartido este jueves, dos pesos pesados del equipo de investigación de la compañía afirmaron que la tecnología de IA se está acercando al punto en el que los sistemas pueden autodesarrollarse. Es decir: IA escribiéndose a sí misma para mejorar.

Pero, si están tan cerca (o eso dicen, ya que llevan meses hablando de lo mismo), ¿por qué parar? Pues no por el sector tecnológico, sino por todo lo demás. Desde Anthropic consideran que una desaceleración permitiría que otros actores -países y reguladores, por ejemplo- se pusieran al día con la tecnología.

Comentan que “sería bueno para el mundo tener la opción de ralentizar o pausar temporalmente el desarrollo de la IA de frontera para permitir que las estructuras sociales y la investigación se mantengan al día”. El problema es la coordinación entre países porque no confía en absoluto que los países se digan la verdad.

Como leemos en The Telegraph, la compañía apuntó que “una desaceleración o pausa significativa requeriría múltiples laboratorios con recursos suficientes en o cerca de la IA de frontera acordando detenerse en las mismas condiciones”, pero el problema es que “también requeriría que cada uno pudiera verificar lo que los otros están haciendo y cerciorarse de que realmente se han detenido”.

Esto, evidentemente, ha traído críticas, como que Anthropic está sobrestimando sus capacidades (por eso de la IA que se escribe a sí misma) o exagerando las habilidades de la IA para que se introduzcan regulaciones que ‘dañen’ a sus competidores.

De la manera que sea, ese parón no va a ocurrir en un contexto en el que Estados Unidos y China no pueden permitirse levantar el pie del acelerador al encontrarse en una contienda en la que China tiene claro que quiere ser la primera potencia tecnológica a corto plazo y Estados Unidos, evidentemente, no se lo quiere permitir.

En Xataka | Xiaomi está probando la madre de las IAs para sus coches, móviles y hogar. Y no hay ni rastro de Google ni OpenAI