
Ilya Sutskever lideró el equipo responsable del alineamiento de los modelos de OpenAI con los intereses del ser humano
SSI persigue desarrollar una superinteligencia segura que no se vea comprometida por ningún interés comercial
Ilya Sutskever no es un científico especializado en inteligencia artificial (IA) más. Completó su formación en informática en el equipo que Geoffrey Hinton, premio Nobel de Física en 2024 y una de las figuras que ha hecho posible el aprendizaje profundo tal y como lo conocemos, lideraba en la Universidad de Toronto (Canadá). Junto a Hinton y Alex Krizhevsky desarrolló AlexNet, una red neuronal muy avanzada considerada unánimemente uno de los proyectos que han desencadenado la revolución actual de la IA.
Entre 2013 y 2015 trabajó en Google Brain como investigador, y en 2015 abandonó Google para cofundar OpenAI y ejercer como director científico. A él se le atribuye la idea que propuso en su momento que incrementar progresivamente la escala de los modelos con más parámetros, más datos y más capacidad de computación podría desencadenar saltos gigantescos en las capacidades de la IA. Esta estrategia propició la llegada de la familia GPT, a la que pertenece ChatGPT.
No obstante, poco a poco Sutskever fue abandonando la idea que él mismo había propuesto, y que defendía el escalado como motor del desarrollo, para pasar a preocuparse mucho más por las consecuencias que podría tener la llegada de una IA muy avanzada que quizá amenazase los intereses del ser humano. Esta postura le llevó a liderar al equipo responsable del alineamiento de los modelos de OpenAI con los intereses del ser humano, pero su esfuerzo no tardó en entrar en conflicto con las prioridades de Sam Altman. Y en mayo de 2024 Sutskever dejó OpenAI.
La búsqueda de una superinteligencia segura
Poco después de salir de OpenAI, en 2024, Sutskever fundó Safe Superintelligence Inc. (SSI) junto a Daniel Levy y Daniel Gross. Su propósito era desarrollar una superinteligencia segura cuya puesta a punto no se viese comprometida por ningún interés comercial. Al principio esta era solo una declaración de intenciones, pero apenas un año después de su constitución SSI levantó 1.000 millones de dólares primero y 2.000 millones más poco después en dos rondas de financiación que dispararon el valor de la compañía hasta los 32.000 millones de dólares.
Las líneas maestras del plan de SSI han sido esbozadas públicamente por Sutskever en varias declaraciones oficiales y entrevistas, pero, curiosamente, hasta ahora ha mantenido su trabajo en un secreto casi absoluto. Aun así, hay un hecho objetivo que no podemos pasar por alto: el pasado 27 de julio Nvidia y SSI anunciaron que habían pactado una alianza estratégica a largo plazo. La compañía liderada por Jensen Huang ha invertido en la empresa de Sutskever 5.000 millones de dólares y se ha comprometido a proporcionarle acceso a su plataforma Vera Rubin, que sobre el papel es muy potente.
De una cosa podemos estar seguros: Nvidia no habría invertido tanto dinero si no tuviese la certeza razonable de que el trabajo que está llevando a cabo el equipo de Sutskever va a alguna parte. Oficialmente no sabemos en qué estado se encuentra el proyecto que sostiene la estrategia de SSI, y tampoco conocemos la arquitectura de la superinteligencia artificial en la que está trabajando, cómo está siendo entrenada y cuándo estará lista. Pero podemos realizar varias deducciones muy razonables a partir de la información que tenemos.
Sutskever ha reconocido públicamente en varias ocasiones que lo que más le interesa es conocer con precisión los mecanismos que desencadenan el razonamiento, el aprendizaje, la comprensión y la generalización, por lo que su hipótesis defiende que todavía no conocemos qué hace posible la inteligencia. SSI, en cualquier caso, persigue encontrar un camino alternativo hacia una IA mucho más avanzada, que, quizá, no esté construida sobre grandes modelos de lenguaje tal y como los conocemos actualmente. Y no cabe duda de que Nvidia quiere estar situada en la primera línea de una posible revolución que podría estar más cerca de lo que podemos intuir sin conocer con precisión qué tiene entre manos SSI.
Imagen | OpenAI (procesada con ChatGPT)
En Xataka | Los dos ajustes invisibles que deciden si tu IA acierta o desvaría
En Xataka | "Ya estamos en la singularidad de la IA": Sam Altman, CEO de OpenAI
Ver todos los comentarios en https://www.xataka.com
VER 2 Comentarios