Compartir
Publicidad

No solo las máquinas escuchan lo que dices a Alexa: empleados de Amazon también lo hacen para mejorar su precisión

No solo las máquinas escuchan lo que dices a Alexa: empleados de Amazon también lo hacen para mejorar su precisión
14 Comentarios
Publicidad
Publicidad

Alguien escucha lo que le dices a tu altavoz inteligente con Alexa. No solo lo escuchan máquinas, no. Un informe de Bloomberg revela cómo existen "miles de personas" en todo el mundo que trabajan escuchando, analizando y anotando esas grabaciones para entrenar ese sistema de reconocimiento de voz y lograr que se comporte mejor.

Este descubrimiento confirma la sospecha que muchos usuarios tenían sobre el funcionamiento de un sistema que no solo se basa en sistemas de inteligencia artificial y en algoritmos. Empleados de Amazon participan de forma activa en este proceso, y la compañía no menciona esa participación en la documentación pública que ofrece sobre Alexa.

No solo las máquinas intervienen

En las preguntas frecuentes sobre Alexa la compañía explica que "usamos tus solicitudes a Alexa para entrenar nuestros sistemas de reconocimiento y comprensión del lenguaje natural", pero en ningún momento aclara cóm se produce ese entrenamiento.

Echo

La investigación de Bloomberg revela cómo miles de empleados en localizaciones por todo el mundo —mencionan Boston, Costa Rica, India, y Rumanía— se dedican a hacer turnos de nueva horas con un trabajo "mundano" que consiste en escuchar hasta 1.000 clips grabados al día para transcribirlos y añadir anotaciones de forma que el sistema de inteligencia artificial se nutra de ese análisis humano.

Los responsables de Amazon nos han indicado en un comunicado que "los empleados no tienen acceso directo a la información que puede identificar a la persona o cuenta como parte de ese flujo de trabajo. Toda la información se trata de forma totalmente confidencial y usamos autenticación en varios pasos para restringir el acceso, además de implementar el cifrado del servicio y de controlar todo el entorno para protegerlo". Además, añaden, "los clientes siempre pueden eliminar sus expresiones en cualquier momento".

Los clips de audio que se escuchan son "un número extremadamente pequeño de interacciones de un conjunto aleatorio de clientes para mejorar la experiencia del cliente, siempre después de haber utilizado la palabra de activación de un dispositivo". Como nos han aclarado en Amazon, un dispositivo solo escucha y transmite datos a la nube tras haber identificado la palabra "Alexa" que activa el asistente. En ningún caso, insisten, pueden tener acceso a elementos que identifiquen al cliente y lo asocien con esos clips de audio.

Según el informe original, entre esos clips de audio también figuran conversaciones inesperadas o extremas: en un caso se oyó lo que parecía un potencial asalto sexual, pero se indicó que no sería apropiado intervenir. Los empleados pueden debatir con otros compañeros lo que escuchan en un chat interno para ofrecer una mejor interpretación, pero por lo visto en algunos casos se comparten esos clips de audio solo por diversión.

Empleados de Apple y Google también escuchan lo que decimos a Siri y al asistente de Google

La confirmación de que Amazon hace uso de empleados humanos para ayudar al entrenamiento de Alexa ha hecho que en Bloomberg se pregunten si otros asistentes de voz usan este tipo de equipos humanos.

Show

En un documento de Apple sobre privacidad se describe cómo los clips de audio recolectados se almacenan durante seis peses "para que el sistema de reconocimiento los utiilce para entender mejor la voz del usuario" a partir de lo cual ese clip se guarda hasta dos años más "sin el identificador" para que Apple pueda "mejorar y desarrollar Siri". Esos clips de audio también se escuchan por empleados de la companía que evalúan si la interpretación de la petición "se alinea con lo que la persona dijo".

Lo mismo sucede con Google, cuyo asistente de voz también recolecta grabaciones que según Bloomberg acaba siendo escuchada en ciertos casos por empleados de la empresa "para ayudar a entrenar y mejorar el producto", pero esos clips de audio "no están asociados con ninguna información identificable y el audio está distorsionado".

Temas
Publicidad
Publicidad
Publicidad
Inicio