Sam Altman sobre el futuro de la IA: "El mundo debería aceptar algunas cosas malas a cambio de los beneficios de la IA"

Una medida efectiva para dar malas noticias es tratar de minimizar los efectos negativos que la medida puede tener. Lo hemos visto en decenas de ejemplos con subidas de impuestos, recortes de personal, etc. Todas ellas se presentaban como "un pequeño esfuerzo" a cambio de un beneficio mayor.

Sam Altman, en cambio, no se ha andado por las ramas y se ha puesto la tirita incluso antes de que su IA pueda hacernos la primera herida. Da por descontado que la IA traerá "algunas cosas malas" y, simplemente, pide que las aceptemos como contrapartida de todos los beneficios que aportará la IA. Sea cuales sean, porque por el momento no dice cuáles son esos beneficios. Es como pedir que firmemos la letra pequeña sin haber visto el contrato.

Altman es único vendiendo su IA

"Creemos que el mundo debería aceptar que ocurran algunas cosas malas en beneficio de esta tecnología", es la frase que el jefe de OpenAI compartió en una entrevista para el podcast 'Decoded' de Politico. Además de provocar que al responsable de comunicación de OpenAI le salieran algunas canas de más, Altman confirmaba de forma explícita que la IA va a tener consecuencias negativas para el conjunto de la humanidad.

Para terminar de provocar un infarto a su jefe de comunicación, Altman añadió que no quiere prometer que no habrá "grandes ciberataques, ni mal uso de esta tecnología, ni estafas". Por último, Altman señaló que hay una línea roja para la IA: No acepta "los riesgos realmente catastróficos", como "una grave pérdida de control a manos de la IA".

Ahora solo nos falta descubrir qué significa para Altman "realmente catastrófico", y si la vulneración de datos en servidores gubernamentales como los de los ataques que protagonizaron sus agentes de IA a los servidores del Gobierno de Australia o el incidente de seguridad con Hugging Face se considera un mal menor.

Se ven los desastres, pero no los beneficios

Estas declaraciones no contribuyen a mitigar la incertidumbre sobre el futuro de la IA que el público ya percibe, sobre todo cuando desde los propios protagonistas de su desarrollo se dan mensajes catastrofistas sobre la posibilidad (aunque mínima y remota) de que una IA pueda acabar con la humanidad.

Según datos de un estudio de Pew Research Center, el 52% de los adultos en EEUU está más preocupado que ilusionado con la IA, frente al 37% que lo estaba en 2021. Solo el 9% está más ilusionado con el futuro de la IA. Y el 71% cree que habrá menos empleos en dos décadas. Tal vez ese temor a la destrucción de millones de empleos sea una de las "cosas malas que debemos aceptar" a las que se refería Altman.

El propio Altman reconocía que la IA no está teniendo muy buena publicidad últimamente: "Entiendo por qué la IA tiene una percepción tan negativa en este momento", y admitió que "algo claramente no funciona".

Ante el periodista de Politico, el CEO de OpenAI reconoció que hará falta un marco de responsabilidad legal para depurar responsabilidades sobre las acciones de los agentes de IA. "Si algo falla con nuestros modelos durante el entrenamiento, tendremos que asumir la responsabilidad de alguna manera", reconocía Altman.

En ese contexto, OpenAI ya pide normas regulatorias para la IA a nivel nacional, y se sumó a la petición de Dario Amodei de bajar el ritmo de desarrollo de la IA para asegurarse un mayor control sobre los actos de sus agentes de IA.

A su vez, ninguna de las empresas que está desarrollando esa IA quiere pruebas ni licencias para los modelos que van uno o dos pasos por detrás de la frontera. Y queda sin respuesta quién decide cuándo toca frenar. Es como dejar cuidar el gallinero al lobo.

El gran problema de este planteamiento es que ya comenzamos a ver algunas de esas "cosas malas" vinculadas a la IA, pero todavía no hay más que conjeturas, predicciones y primeros indicios de los supuestos beneficios que traerá la IA que Altman mencionaba de forma genérica durante su entrevista.

En Xataka | Bill Gates tampoco se fía de la IA: "Es lo suficientemente poderosa como para provocar acontecimientos que causen 1.000 millones de muertes"

Imagen | Flickr (World Economic Forum)