Hace poco más de un año descubrimos a Bing con ChatGPT volviéndose loco. El chatbot comenzó a desvariar y demostró que los modelos de IA generativa no solo cometían errores e inventaban datos, sino que además podían dar respuestas sin ningún sentido. Acaba de volver a pasar, pero esta vez, con ChatGPT.
Qué te pasa, ChatGPT. Son varios los usuarios de Reddit que han publicado capturas en las que se ve cómo las respuestas de ChatGPT son un completo galimatías o mezclan palabras de distintos idiomas constantemente. Las capturas compartidas tanto en esa plataforma como en Twitter muestran cómo ChatGPT, por alguna razón, se ha comenzado a comportar de forma muy rara en las últimas horas. Algunos usuarios han compartido conversaciones con ChatGPT Plus en los que por ejemplo la despedida final del chatbot es realmente extraña.
Spanglish. Además de esas respuestas extrañas, hay varios mensajes en los que se ve cómo ChatGPT mezcla el inglés con algunas palabras en español. Un usuario contaba cómo está aprendiendo español y usa ChatGPT en ambos idiomas, pero tras realizar una petición en inglés esperando una respuesta en ese idioma, el chatbot comenzó a mezclar algunas palabras del español en el texto.
OpenAI lo ha solucionado. Los ejemplos no paran de aparecer y hay quien ha recopilado varios en hilos de X (Twitter) con todo tipo de comportamientos extraños por parte del chatbot. El problema parece afectar a ChatGPT Plus (basado GPT-4) y en el sitio web de OpenAI en el que se indica el estado de la plataforma indicaban que "estamos investigando informes de respuestas inesperadas de ChatGPT". Poco después actualizaron esa información revelando que habían identificado el problema y estaban remediándolo, y más tarde pasaron a informar de que estaban monitorizando el comportamiento del chatbot tras las modificaciones.
Pero no sabemos qué ha pasado. Al menos, no de momento. La compañía no ha comunicado detalles adicionales sobre el incidente, y no se conocen los motivos de ese comportamiento ni tampoco cómo lo han logrado solucionar si como parece ya lo han hecho.
Los chatbots son (muy) imperfectos. Este nuevo suceso vuelve a demostrar que hoy por hoy estos modelos de IA generativa son tan sorprendentes y espectaculares como imprecisos. Su comportamiento es irregular y es conveniente revisar todas las respuestas que nos dan.
Imagen | Focal Foto
En Xataka | OpenAI lleva años utilizando "GPT" como marca de sus productos IA. El problema es que no puede patentarla
Ver 8 comentarios