Internet está sorprendido con ChatGPT, un modelo de generación de texto de OpenAI basado en GPT-3.5 que es percibido, nada más y nada menos, como una herramienta que podría convertirse en el “Google Killer” definitivo. Pese a sus aparentes ventajas, no todos abrazan a ChatGPT con el mismo entusiasmo. Stack Overflow acaba de prohibirlo.
Stack Overflow es una herramienta muy valiosa para los desarrolladores profesionales. Cada mes, más de 100 millones de personas hacen preguntas y respuestas sobre una amplia gama de temas de programación. Ahora, sin embargo, muchas respuestas no están siendo generadas por humanos, sino el último modelo de IA de OpenAI y, desafortunadamente, algunas son incorrectas.
Stack Overflow le dice adiós a ChatGPT
De acuerdo a un comunicado de la plataforma propiedad de Prosus, el principal problema de ChatGPT es que, por lo general, las respuestas incorrectas que brinda son plausibles, es decir, parecen ser buenas respuestas. En este sentido, Stack Overflow ha llegado a la conclusión de que este mecánica “es sustancialmente perjudicial para el sitio y para los usuarios”.
También señalan que muchos usuarios sin la experiencia o la voluntad de verificar la información, están utilizando ChatGPT para crear respuestas de manera rápida. Ciertamente, ChatGPT es mucho más rápido para elaborar una respuesta que un humano, pero no siempre tienen la misma calidad. Producto de esto, el volumen de respuestas ha crecido sustancialmente poniendo en jaque el trabajo de los moderadores.
Si bien los algoritmos tienen cada vez más protagonismo en los sistemas de curación y moderación de contenidos, en Stack Overflow estas tareas se realizan principalmente por voluntarios con cierto nivel de conocimiento que, después de una lectura detenida, determinan si la respuestas son válidas. Los voluntarios, en este momento, no dan a basto con el volumen de respuestas que están recibiendo.
Como señala The Verge, el fenómeno de ChatGPT pone sobre la mesa una preocupación adicional. Si bien hasta ahora los modelos de lenguaje de gran tamaño no han generado grandes problemas, muchos temen que el patrón de generar una avalancha de contenido, con un porcentaje de datos falsos pero plausibles, pueda replicarse en otras plataformas, poniendo a prueba sus sistemas de moderación.
En el caso de Stack Overflow, como mencionamos arriba, se acaba de prohibir el uso de ChatGPT. Si la plataforma detecta que un usuario ha publicado respuestas utilizando esta herramienta experimental de OpenAI después de la publicación de esta nueva política de contenidos, dicen que impondrán sanciones, incluso si la publicación tiene una explicación “aceptable”.
Cabe señalar que Stack Overflow no le ha cerrado la puerta definitivamente a ChatGPT. La plataforma señala que la prohibición tiene carácter temporal. Antes de tomar una decisión final, dicen que consultarán con la comunidad. Toca esperar para saber cuál será la postura de los usuarios y si finalmente ChatGPT tendrá un lugar dentro de la plataforma.
Imágenes: Arif Riyanto
En Xataka: Ya hemos visto cómo una IA envejece y rejuvenece. Disney ha ido un paso más allá
Ver 16 comentarios