Amparo Babiloni
Editora Senior - TechLa semana pasada OpenAI publicó un artículo en el que contaba como, mientras ponía a prueba su modelo GPT 5.6 Sol, éste logró escapar del entorno de pruebas supuestamente aislado y hackeó los sistemas de la plataforma Hugging Face. Este incidente ha alimentado la preocupación y ha hecho que el presidente estadounidensese plantee poner controles más estrictos a los sistemas de IA. Pues bien, ahora Anthropic dice que sus modelos también se "escaparon" y hackearon no una, sino tres empresas.
Qué ha pasado. Lo cuenta la propia Anthropic en una nueva entrada en su blog. Tras conocerse el incidente de OpenAI, la empresa inició una revisión interna de sus sistemas y descubrió tres incidentes en los que sus modelos orientados a la ciberseguridad habían irrumpido en los sistemas de tres organizaciones distintas. Anthropic afirma que ha contactado con estas tres empresas, cuya identidad no ha sido revelada.
Fue un error. A diferencia del caso de OpenAI, Anthropic dice que sus modelos no escaparon del entorno de pruebas deliberadamente, sino que fue fruto de un error de configuración que dejó activada la conexión a internet, permitiendo a los modelos acceder a estas empresas. La empresa dice que los modelos hicieron el hackeo usando técnicas básicas como "explotar contraseñas débiles y puntos finales no autenticados", pero no descubrieron ninguna vulnerabilidad compleja.
En dos de los tres incidentes, los modelos decidieron continuar con el ataque: Opus 4.7 robó credenciales para acceder a los sistemas de una empresa real y Mythos 5 se convenció a sí mismo de que estaba en una simulación. Sin embargo, el tercer modelo (uno todavía no publicado), detectó que tenía conexión cuando no debía y paró el ataque.
Por qué es importante. Más que el incidente en sí mismo, lo llamativo es que lo dan a conocer justo días después de que OpenAI publicara el suyo propio. Y además lo hacen con matices importantes: no hay vulnerabilidades graves, todo fue por un error humano y además tenemos un modelo tan listo que detuvo el ataque cuando se percató del error. La competición entre OpenAI y Anthropic se ha intensificado mucho en los últimos meses y con la salida a bolsa a la vuelta de la esquina, hemos entrado en una dinámica en la que lo que logra uno, el otro lo hace más y mejor.
Tirando de miedo. Ya hemos hablado en el pasado de cómo el miedo se ha convertido en el principal argumento de venta de los nuevos modelos de OpenAI y Anthropic. Todo empezó en abril cuando Anthropic anunció que Claude Mythos había encontrado cientos de vulnerabilidades zero-day. Poco después, OpenAI anunció GPT 5.5 Cyber con el mismo guión: un modelo tan potente que lanzarlo al público supondría un riesgo para la ciberseguridad mundial. En el fondo, el mensaje siempre apela a lo mismo: el temor a que una IA se descontrole y termine volviéndose contra nosotros, un escenario que llevamos décadas viendo en el cine y que varios expertos llevan tiempo advirtiendo que podría dejar de serlo.
Más regulación. Estos incidentes han generado preocupación y están reforzando el argumento de que la tecnología es tan potente que hace falta que alguien la controle desde fuera. En declaraciones a Wall Street Journal, el responsable de la firma de seguridad Corridor, advierte que estos incidentes abren la puerta a ataques de ransomware más sofisticados, especialmente a través de modelos de pesos abiertos.
Al mismo tiempo, Anthropic y OpenAI se esfuerzan por presentar estos fallos como riesgos gestionables e insisten en que sus modelos de ciberseguridad son demasiado potentes para ofrecerlos al público general, una postura que les permite al mismo tiempo advertir de los riesgos y posicionarse como socios imprescindibles en cualquier futura regulación.
Imagen | Xataka
En Xataka |
Ver 0 comentarios