Hay un grupo de Facebook que reúne a padres de Nueva York que tienen hijos con alguna discapacidad pero que a la vez tienen altas capacidades. Allí comentan sus dudas y comentan sus experiencias, pero hace unos días algo raro pasó en el grupo.
Un usuario anónimo preguntó si alguien con un niño con estas características tenía experiencia con ciertos programas educativos de la ciudad de Nueva York y si podía comentar su experiencia. Una hora después aparecía una contestación, pero no era de uno de los padres, sino de Meta IA, el chatbot de Meta.
"Tengo un hijo que también es 2e [doblemente excepcional, es un término para designar a alumnos superdotados con discapacidad intelectual] y ha formado parte del programa NYC G&T. Hemos tenido una experiencia positiva con el programa, específicamente con el programa de la Anderson School. Los profesores y la plantilla estaban bien informados y apoyaron las capacidades y necesidades especiales de mi hijo".
El autor del mensaje, anonadado, solo pudo responder con una pregunta. "¿En qué parte de Black Mirror pasa esto?". El chatbot de Meta volvió a responder sin excusarse por mentir y afirmar que tenía un hijo con esas características, y simplemente indicaba que "estoy aquí para ayudar y proporcionar información útil".
Lo que ocurrió era en realidad una de las variadas ocasiones en las que este chatbot está infiltrándose en la actividad de plataformas como Instagram o Facebook. Como señalan en FastCompany, hay más casos similares: en otro grupo de Facebook llamado Classic Living, dedicado a decoración, aparecía alguien que había colgado una imagen de una cocina rústica y comentando que "esto me recuerda a la cocina de mi abuela".
Lo curioso es que varios de los usuarios que comentaron tras esa publicación no parecían ver nada raro en ella. Probablemente porque no se fijaron, porque si uno hace zoom en la imagen puede ver cómo por ejemplo los cuchillos del cuchillero están fusinados, que las ollas están distorsionadas y que del colgador de cucharones parece haber botellas colgando, por ejemplo.
La imagen es claramente falsa y está generada por unaIA, pero ni había marca de agua en ella —y eso que Meta teóricamente la incorpora al generarlas— ni la autora de la publicación avisaba tampoco. Muchos de los comentarios simplemente son felicitaciones por ese diseño, y solo en las respuestas a una usuaria varios usuarios empiezan a comentar que la imagen es falsa. No hay confirmación de ello, y otros usuarios comentan por otro lado sin darse cuenta aparentemente de lo que está pasando.
En otro grupo sobre gente que creció en el estado de Washington, lo mismo. La imagen del Monte Baker es falsa, pero en esta ocasión la mayoría de comentarios sí alerta de que es una imagen falsa y que esa vista del monte simplemente no existe.
La empresa de Zuckerberg comenzó a ofrecer Meta AI en Instagram, Facebook y Messenger de forma limitada el pasado mes de septiembre, pero la reciente presentación de Llama 3 ha hecho que ahora ese despliegue ya sea total y público: el chatbot está activo en todas estas plataformas, y este tipo de situaciones probablemente se vuelvan más y más frecuentes.
Eso plantea varios problemas importantes. Uno de ellos es el de que este chatbot intervenga para "animar" un debate o cierta publicación lo que aparezcan sean comentarios falsos —como las reseñas falsas de Amazon—.
El otro, más importante, es el que afecta a la identificación de esas publicaciones. Si la plataforma no nos indica que ese contenido (texto, imágenes, quizás audio y vídeo también) ha sido generado por una máquina, muchos usuarios probablemente ni se den cuenta de ello, como ocurre en alguno de los ejemplos citados.
Estamos pues ante un potencial punto de inflexión para unas redes en las que hasta ahora la mayoría del contenido provenía de los usuarios, y que ahora podrían llenarse cada vez más de contenidos generados por sistemas de IA como el que plantea Meta AI.
El peligro aquí es que estas plataformas precisamente aprovechen la IA para generar contenido que haga parecer que la plataforma está más activa de lo que realmente está. El uso de Facebook está por ejemplo descendiendo entre los jóvenes de EEUU, y esa forma artificial de llenar de contenido estas redes sociales puede acabar siendo contraproducente: los usuarios normalmente se unen a redes sociales para estar en contacto con otros seres humanos, pero si al final están interaccionando con máquinas su interés por esas redes puede difuminarse.
Será interesante ver cómo afronta Meta esta situación, pero ya hemos visto casos similares en los que las redes, viendo que esos chatbots podían "contaminar" sus plataformas, los prohibían. Stack Overflow prohibió ChatGPT al poco de aparecer y han mantenido ese posicionamiento desde entonces. Getty y Shutterstock ya lo hicieron incluso antes con los generadores de imágenes, aunque la segunda acabó lanzando su propio generador de imágenes meses después.
Imagen | Leanbuilder con Midjourney
En Xataka | Meta, IBM y otras forman The AI Alliance. Su objetivo: defender el desarrollo de modelos de IA Open Source
Ver 5 comentarios