Antonio Vallejo
EditorNoto que cada vez nos cuesta más decir “no lo sé”. Igual se trata de uno de los actos más honestos que puede hacer una persona y, en cambio, con la llegada de la IA y con toda la información a nuestro alcance, da la sensación de que estamos perdiendo ese hábito en las conversaciones.
Un estudio ha querido poner algunos datos encima de la mesa respecto al tema. Y es que la conclusión a la que han llegado un grupo de investigadores de distintas universidades de París, Roma y Milán, al reunir a 3.100 participantes ha sido que, tener acceso a una IA, aunque esta dé respuestas erróneas, empuja a la gente a dejar de reconocer los límites de su propio conocimiento.
Lo sé todo. Reconocer que no sabemos algo es más útil de lo que creemos, ya que se trata de una habilidad mental que evita que actuemos guiados por creencias falsas. Los autores del estudio la llaman "suspensión del juicio", es decir, la capacidad de frenar antes de responder cuando no se tiene certeza.
A medida que los asistentes de IA se cuelan en cada vez más aspectos de nuestra vida, la investigación, firmada por Chiara Marcoccia (École Normale Supérieure de París), Walter Quattrociocchi (Universidad Sapienza de Roma) y Valerio Capraro (Universidad de Milán-Bicocca), quiso comprobar si la simple presencia de estos chatbots altera el momento en que decidimos que ya sabemos lo suficiente para contestar.
El experimento. Para aislar el efecto, el equipo diseñó a propósito preguntas casi imposibles de acertar para una IA, con detalles visuales muy concretos de películas, como el color de la equipación en ‘Quiero ser como Beckham’ o el vehículo que conduce un personaje en ‘Como el gato y el ratón’. Se trata de datos tan específicos que apenas aparecen en internet, así que el modelo usado en el experimento (Step 3.5 Flash) fallaba casi siempre.
Los participantes podían consultar a la IA si querían, pero también tenían siempre la opción de dejar la pregunta en blanco o admitir que no sabían la respuesta.
Cifras. En el grupo que no tenía acceso a ningún asistente, un 44% de los participantes reconoció no saber la respuesta cuando correspondía. Entre quienes podían pedir ayuda a la IA, ese porcentaje se desplomó hasta el 3%, según recoge el estudio. Además, la proporción de respuestas correctas también cayó, del 27% al 9%. Es decir, la gente contestó más preguntas, pero acertó mucho menos.
Lo más llamativo es que, pese a equivocarse más, los participantes se sintieron más seguros, pues según el estudio, su confianza en las respuestas pasó del 30% al 76%, casi el doble.
¿Y si hay dinero en juego?. Los investigadores sospechaban que pagar por acertar (y penalizar por fallar) podría corregir el problema. Efectivamente ayudó, pero muy poco, pues con incentivos económicos, la disposición a admitir que no sabían la respuesta subió del 3% al 8%, y los aciertos pasaron del 9% al 16%. Curiosamente, los propios autores esperaban que el efecto de la IA se debilitara con dinero de por medio, pero sus datos no lo confirmaron. Y es que el tirón hacia confiar en la máquina resultó ser prácticamente independiente del incentivo económico.
Límites. Capraro, coautor del estudio, explicaba al medio The Register que la gente "se volvió mucho peor" en su desempeño, con una precisión de solo un tercio respecto al grupo sin IA, pero terminó "el doble de confiada" en sus propias respuestas. Para el investigador, esta capacidad de decir "no lo sé" representa ni más ni menos que "el reconocimiento de los límites de nuestro propio conocimiento".
Por otro lado, Capraro se mostraba especialmente inquieto por el efecto que este fenómeno puede tener en la infancia. Según declaraba al medio, los adultos “ya cuentan con un pensamiento crítico formado” antes de la llegada masiva de estas herramientas, pero los niños que crecen usando la IA desde el principio “corren el riesgo de no desarrollar nunca esa capacidad básica de cuestionar una respuesta”.
Imagen de portada | Solen Feyissa y Dylan Gillis
Ver 1 comentarios