La IA tiene un problema con los derechos de autor, pero lo de Elon Musk y Grok 2 ha alcanzado un nuevo nivel. X se ha llenado de imágenes de famosos generadas por IA. Y aunque hay ciertas peticiones que dan error, lo cierto es que es posible crear imágenes de famosos en situaciones de lo más comprometidas. Musk explica que Aurora es un modelo de "IA sin censura", pero lo que tenemos es una herramienta que presenta numerosas dudas sobre su legalidad.
Grok rompe las reglas. Al contrario que la de otras empresas como OpenAI, la generación de imágenes de X permite tener resultados de famosos de manera directa. Si ya empresas como OpenAI están enfrentándose a demandas por utilizar contenido con copyright, Elon Musk opta directamente por la vía de "pedir perdón antes que permiso".
Scarlett Johansson ya lo avisó. El uso de imágenes y contenido con derechos de imagen para el entrenamiento de la IA lleva años encima de la mesa. Una de las actrices famosas que más ha levantado la voz contra este uso es Scarlett Johansson.
OpenAI tuvo que retirar un tono de voz que se parecía demasiado a la voz de la actriz. Desde la empresa argumentaron que "no buscaba parecerse", pero la eliminaron para protegerse legalmente. En el caso de Grok, la similitud entre las imágenes generadas y la imagen de la persona famosa es más que evidente.
¿Cómo lo han conseguido? Hay demasiadas fotos de famosos en X. Desde este verano, X decidió activar por defecto para todos los usuarios entrenar a la IA con sus datos. Era posible desactivarlo, pero millones de usuarios previsiblemente no lo habrán hecho o ni siquiera se hayan enterado. Las millones de imágenes que han sido publicadas en Twitter han servido para entrenar a Grok.
Mientras algunos generadores se basan en grandes bancos de imágenes, la potencia de Grok es que utiliza una base de datos a la que solo ellos tienen acceso: la propia X.
¿Ya es legal todo esto? Elon Musk sabe bien lo que hace. Y lo que ocurre aquí es que en Estados Unidos no hay una jurisprudencia definida sobre hasta qué punto es legal utilizar estas imágenes sin derechos para entrenar a la IA.
Su defensa se basa en que se trata de un uso aceptable del "fair use", una definición que no existe en otros países, pero sí en Estados Unidos. Según explican desde X: "Determinados usos de los materiales con derechos de autor no requieren el permiso del titular de los derechos. La decisión final respecto de si un uso determinado de un material con derechos de autor constituye un uso legítimo corre por cuenta de un tribunal de justicia".
Musk ha optado por una carrera de fondo. Toda la industria es consciente de que este uso de la IA podría no entrar en el uso legítimo, pero hasta que el Supremo lo determine pueden pasar muchos años. Mientras tanto, Grok ofrece unos resultados que ninguno de sus competidores iguala.
Estefanía Asensio, abogada en Metricson especialista en propiedad intelectual e industrial, explica a Xataka que "Grok AI, se viene anunciando como una herramienta que tiene "sense of humor" o sentido del humor, lo que podría interpretarse como una forma de eludir las restricciones impuestas por las normativas vigente".
La responsabilidad de un mal uso de estas imágenes recae en el usuario. Según se lee en los términos de servicio de xAI: "No asumimos ninguna responsabilidad por ninguna entrada. Usted será el único responsable de sus aportes".
Unos términos que también reflejan qué tipo de usos de Grok están prohibidos: "No debes utilizar ningún resultado relacionado con una persona para ningún propósito que pueda tener un impacto legal o material en esa persona, como tomar decisiones importantes sobre crédito, educación, empleo, vivienda, seguro, asuntos legales, cumplimiento de la ley, ciudadanía, salud u otros aspectos importantes".
Como apunta Borja Adsuara, abogado experto en derecho digital: "las imágenes delictivas se pueden denunciar. Da igual que se hayan hecho con IA o se hayan dibujado a mano. El responsable de los contenidos es el que los publica, no la IA ni la red social".
¿Ningún famoso va a denunciarles? La nueva IA de Grok lleva unos días y por el momento no hay constancia de que ningún famoso haya interpuesto una demanda contra X. Sí sería el paso necesario para que la justicia estadounidense determine hasta qué punto es un uso justo.
En España, viendo la gran cantidad de imágenes, no sería de extrañar que hubiera alguna demanda por delitos contra el honor, intimidad y la propia imagen. Si bien como explicamos, este acusación iría contra los usuarios concretos que han optado por aprovechar esta herramienta para hacer daño.
Más allá de que exista un daño, muchos famosos son poco proclives a que otros saquen crédito económico de su imagen. Y en esta gestión de los derechos de imagen también podría haber una demanda contra X. Una batalla legal que se antoja muy compleja y previsiblemente solo esté al alcance de bufetes de abogados de alto nivel.
Europa ya prepara su multa millonaria. Lo de Grok es otro motivo más para que Europa impugna una multa millonaria a X. La Comisión Europea ya ha advertido a la red social de Musk que ha incumplido la Ley de Servicios Digitales por la presencia de "actores maliciosos con el verificado azul" y se enfrenta a una sanción de hasta el 6% de sus ingresos anuales. Una sanción a la que Musk contestó que se enfrentará en los tribunales.
Bajo la Ley de Servicios Digitales, X tiene la obligación de eliminar y ofrecer mecanismos para señalar contenidos ilícitos. Lo que con Grok se refieren a imágenes de famosos en situaciones que podrían comprometer su honor.
xAI va a lo suyo. Otra batalla legal que tiene Grok es con el propio entrenamiento de su modelo de generación de imágenes. En Estados Unidos este uso podría llegar a estar amparado por el uso justo, pero en Europa el uso de imágenes con copyright para entrenar a la IA está prohibido en la nueva Ley de IA.
Mientras que más de 100 empresas, entre las que se incluyen Google, Amazon, OpenAI o Microsoft han pactado cumplir esta normativa, xAI, la empresa detrás de Grok, no aparece en el listado. Musk va a lo suyo hasta que los jueces digan lo contrario. Y para eso puede pasar mucho tiempo.
Ver 46 comentarios
46 comentarios
imf017
Creo que los derechos de imagen son el menor de los problemas de Grok. Lo grave es el tremendo impacto que puede tener el uso indebido de esta mierda en nuestra sociedad: se pueden llegar a crear bulos tan creíbles que ríase usted de la iglesia católica y su bulo de 2000 años. Puede influir e influirá en los resultados electorales de muchos países (especialmente en occidente), va a afectar negativamente en el desarrollo de los más jóvenes (recordemos las noticias sobre imágenes de contenido sexual con las caras de otras personas). ¿Derechos de imagen? Ese es el menor de los problemas.
ayrton_senna
Un parrafón para acabar haciendo propaganda subliminar y volviendo a decir chorradas del tipo:
"Mientras tanto, Grok ofrece unos resultados que ninguno de sus competidores iguala."
Pero qué tontería es esta. Grok no deja de hacer las mismas tonterías que el resto de generadores de imágenes y videos con IA.
Y quiero recordar que este tipejo de Musk ha donado 100 millones de euros para promocionar el tipejo de Michael Farage, uno de los grandes enemigos de la UE y UK y cabecilla del Brexit. Elon Mosquito se posiciona directamente y sin miramiento en contra de los intereses de Europa.
sopo87
Todo muy divertido hasta que alguien malintencionado publique una imagen falsa de ti con una supuesta amante, o cometiendo un delito, y esto sea motivo de la ruptura con tu pareja, el cuestionamiento de tu honor o el recibir una llamada de la policía.
Ya apenas hay “valle inquietante” en las imágenes generadas por IA. Y en muy poco tiempo nadie estará libre de que falseen su imagen y su voz para cualquier fin.
Urge una regulación.
luiman
Se sigue olvidando que la libertad de expresión de uno termina cuando comienza la libertad de otro y eso incluye el derecho al honor, a la intimidad, a la PROPIA IMAGEN y en la protección de la juventud y la infancia. Como establece la CE en su artículo 20, apartado 4
Alsir
Lo mejor es no subir fotos propias a ninguna red social, ni audios de voz. O no tener redes sociales.
En fin, ni contestes al teléfono si no sabes quién es, deja que hable primero el que te llama, porque pueden capturar tu voz y j. La vida. Piensa así en todo lo que hagas.
jkujami
IA Deep Fake + prompt para video + Gafas 3D = NO SALES DE CASA
mad_max
"La responsabilidad de un mal uso de estas imágenes recae en el usuario."
Tan simple como eso. Basta de poner cuerdas a una herramienta para evitar que alguno la use mal. Si publicas una imagen ofensiva de un famoso e intentas hacerla pasar por real a por quien tienen que ir es a por ti, no a por la herramienta que has usado.
logos1987
Elon Musk sabía lo que hacía cuando compró Twitter, compro poder acceder a una colosal base de datos, que podía utilizar para sus propios fines políticos o empresariales.
En Estados Unidos puede que no sea una violación del derecho a la privacidad, porque está mucho menos desarrollado que en Europa, pero en Europa se puede enfrentar a una multa gorda y con razón. Sobre todo por no avisar, si tú aceptas que se use todas las fotos que hayas subido a TW para crear un almacen de datos para entrenar una IA, mal en si no lo veo. El problema que tiene está tecnología que puedes crear fakes de todo tipo solo pididiendosolo a una chatbot, que creo que en realidad es el fin último de Grok.
tsiarardak
Y mientras tanto yo probando Grok y viendo que salvo 4 cositas en la que es un poco menos pejiguero que las otras IAs mayoritarias está toda ella super censurada y es bastante difícil que se salga fuerte del tiesto.
Claro que supongo que depende de lo que uno entienda por "salirse del tiesto".
Mi sensación es que hay millones de personas polemizando sobre lo peligrosa que es esta "falta de censura" o lo molona que es y no hay prácticamente nadie probándola de verdad. Esto sí que es un signo de los tiempos.
sr.lobo.
En fin... Todos los comentarios censurados (la mayoría son motivo alguno)
Allá vosotros... Lo mejor será no entrar en esta web.
johnnyconnor
Cómo osan publicar la efígie de Lionel con la indumentaria madridista? Blasfemos!! Condena alm gulag!
aerondight420
No creo que haya una afectación directa sobre personas de perfiles públicos tan expuestas. De hecho, si decidieron recorrer ese camino en su vidas, deberían aceptar que su imagen se podrá utilizar sin ningun tipo de pero.
Vamos que todos estos famosos cobran una millonada, bueno ahí esta, ese es el precio a pagar por esos millones.
foxmulder
Poco va a durar lo bueno, ya vereis...
liszt606
Lo desactivará dentro de una semana, pero Grok ya estará en boca de todos. O quizás no, y se conertirá en una herramienta perfecta para los difusores de bulos, fake news, bots y trolls a sueldo...
X se alimenta de la controversia, tanto dentro como fuera de la red... No lo olviden
charlee8
Creo que los derechos de imagen son el menor de los problemas de Grok. Lo grave es el tremendo impacto que puede tener el uso indebido de esta mierda en nuestra sociedad: se pueden llegar a crear bulos tan creíbles que ríase usted del islam y su bulo de 1000 años sobre las 72 vírgenes. Puede influir e influirá en los resultados electorales de muchos países (especialmente en occidente), va a afectar negativamente en el desarrollo de los más jóvenes (recordemos las noticias sobre imágenes de contenido sexual con las caras de otras personas). ¿Derechos de imagen? Ese es el menor de los problemas.