Ayer supimos que OpenAI estaba eliminando la voz "Sky" de ChatGPT entre acusaciones de copiar el timbre de Scarlett Johansson. Lo que no sabíamos es que en septiembre de 2022 fue la empresa quien se acercó a ella para ofrecerle trabajar con la empresa creando una voz sintética como la suya.
La actriz declinó la propuesta, pero la presentación de GPT-4o sirvió para comprobar que dicha voz "Sky" sonaba sospechosamente similar a la de Johansson hasta el punto de que ni sus amigos cercanos podían distinguirla.
La respuesta de Scarlett. La actriz ha dicho estar "conmocionada, enfadada e incrédula de que Altman persiguiera una voz que sonaba tan inquietantemente similar a la mía".
Una similitud intencionada. Acusa al CEO de OpenAI de insinuar que era algo deliberado cuando publicó en X una referencia a 'Her', la película de 2013 en la que Johansson puso voz a un sistema operativo con IA conversacional como el que estaba a punto de presentar su empresa.
La actriz ha pedido a OpenAI una explicación detallada sobre cómo se creó la voz "Sky" y pide "claridad absoluta" para este tipo de preguntas justo en medio de preocupaciones crecientes sobre la facilidad cada vez mayor para generar deepfakes de voz.
La respuesta de OpenAI. Además de eliminar esta voz como una forma de protegerse legalmente, también ha explicado que trabaja con varios actores de voz profesionales para crear cada una de las voces de ChatGPT: Breeze, Cove, Juniper, Ember y la mencionada Sky.
Según la empresa, esta última se creó basándose en la voz natural de una actriz profesional y no buscaba parecerse a la de Johansson, pero para la actriz esta explicación no es suficiente para el exceso de casualidades y pide cuentas más detalladas, más transparencia sobre el desarrollo de esta voz.
Un contexto polémico. Esta noticia llega poco después de que sepamos que el equipo de súperalineación de OpenAI ha sido desmantelado y varios exempleados acusen a la empresa de no ofrecerle los recursos prometidos. Este equipo se encargaba de velar por un desarrollo responsable de la IA.
- Leike, uno de los que han dejado la empresa, criticó que "la cultura y los procesos de seguridad han quedado en un segundo plano frente a productos brillantes".
Este es solo un ejemplo llamativo por contener a una actriz famosa de todos los desafíos legales y éticos que van a tener que afrontar quienes se dedican a la IA generativa, y OpenAI en particular.
En Xataka | Quién es Jakub Pachocki, el nuevo científico jefe de OpenAI que releva a Ilya Sutskever
Imagen destacada | Xataka con Midjourney
Ver 15 comentarios
15 comentarios
asdarfa
Es gracioso que la IA que representa que es lista y tiene capacidad para inventar después de buscar en su base de 8 trillones de datos e "inspirarse" cual artista, según los promptbros, luego resulta que saca una voz idéntica a la de Scarlett Johansson. La casualidad.
Estos se creen como Elon Musk, que están por encima de la ley y da igual si roban a la luz del día y te toman por tonto luego, porque pueden pagar a mejores abogados. A ver como termina la historia.
eneko_1
La verdad que este es un tema que da miedo. Va a llegar un momento en que no vamos a poder distinguir cual es real y cual creado por IA.
Me sorprendí mucho en un programa de Iker Jiménez que usaba IA para crearse a sí mismo y era difícil de distinguirlo.
mord
"In a blog post late Sunday, OpenAI said the AI voice in question, known as "Sky," was developed from the voice of another actress whose identity the company said it is not revealing to protect her privacy"
Es cuanto menos sorprendente, por no decir "nada creíble", que vengan con el tema de la privacidad cuando lo normal es que un actor normalmente lo que espera es obtener reconocimiento (a parte de la nómina, obviamente) por su trabajo.
frkwot5
A mientras me dejen que escuche la voz de su dobladora en español me vale