Miguel Jorge
EditorRichard Feynman condensó en una frase pronunciada en Caltech en 1974 uno de los problemas más incómodos del pensamiento humano: “El primer principio es que no debes engañarte a ti mismo, y tú eres la persona más fácil de engañar”. Ocurre que no hablaba simplemente de mentir, sino de algo más difícil de detectar: nuestra capacidad para convencernos de que tenemos razón, seleccionar las pruebas que nos favorecen y encontrar explicaciones para las que nos contradicen. La historia de la ciencia ofrece ejemplos espectaculares de fraude, y la solución de Feynman era tan sencilla de formular como difícil de practicar.
El primer principio. La frase, como decíamos, procede del discurso de graduación que Feynman pronunció en el California Institute of Technology en 1974, posteriormente conocido como “Cargo Cult Science”. El Nobel de Física estaba intentando definir la integridad científica y llegó a una conclusión que iba mucho más allá del laboratorio: “El primer principio es que no debes engañarte a ti mismo, y tú eres la persona más fácil de engañar”.
Su advertencia partía de una paradoja fascinante: solemos preocuparnos por detectar las mentiras de los demás, cuando una de nuestras mayores vulnerabilidades está dentro de nosotros mismos. Podemos interpretar selectivamente los datos, restar importancia a aquello que contradice nuestras expectativas o incluso aferrarnos a una explicación simplemente porque llevamos demasiado tiempo creyendo en ella, todo ello sin necesidad de mentir conscientemente.
Porque ser honesto no basta. La integridad científica que defendía Feynman exigía algo más incómodo que decir la verdad: obligarse a mencionar también los datos que podrían invalidar una teoría, las explicaciones alternativas y cualquier circunstancia que hiciera dudar de una conclusión. De ahí que su consejo pueda entenderse como una especie de inversión del sesgo de confirmación: en lugar de acumular razones para demostrar que tenemos razón, buscar deliberadamente aquellas que podrían demostrar que estamos equivocados.
La confianza tampoco garantiza nada, principalmente porque una persona puede estar absolutamente convencida de una idea falsa. Precisamente por eso, admitir “puedo estar equivocado” no representa para Feynman una debilidad intelectual, sino una condición para acercarse a la verdad.
Feynman en 1965
La paradoja del fraude científico. David Goodstein, físico y antiguo vicerrector de Caltech encargado de investigar casos de mala conducta científica, encontró un patrón revelador: quienes falseaban investigaciones no siempre pretendían introducir conscientemente una mentira en la ciencia, sino que con frecuencia estaban convencidos de conocer de antemano cuál debía ser la respuesta correcta. Goodstein identificó tres circunstancias recurrentes: investigadores sometidos a presión profesional, convencidos de saber qué resultado obtendrían si realizaran correctamente todo el trabajo y trabajando en ámbitos donde los experimentos no eran fácilmente reproducibles.
Esa combinación ayuda a explicar cómo alguien puede empezar considerando un dato discordante como un error, continuar seleccionando los resultados que parecen razonables y terminar cruzando la frontera de la manipulación convencido de estar corrigiendo el camino hacia una verdad que ya conoce. Casos históricos como datos inventados, resultados manipulados o incluso injertos de piel de ratones retocados con rotulador muestran el extremo deliberado del fenómeno, pero Goodstein subrayaba otro territorio más ambiguo: científicos que terminan “convenciéndose de que poseen un conocimiento que en realidad no existe”.
La mesa que hablaba con los muertos. Mucho antes de Feynman, Michael Faraday encontró una demostración extraordinariamente visual de ese problema en las sesiones espiritistas del siglo XIX. Los participantes colocaban las manos sobre mesas que aparentemente comenzaban a moverse hacia determinadas letras para transmitir mensajes del más allá, y muchos estaban sinceramente convencidos de no ser ellos quienes provocaban esos movimientos.
Los experimentos de Faraday y del químico Michel Eugène Chevreul mostraron que detrás estaba lo que terminaría denominándose efecto ideomotor: pequeños movimientos musculares involuntarios provocados por nuestras expectativas, capaces de mover una mesa, un péndulo o una varilla sin que la propia persona sea consciente de estar haciéndolo. Lo fascinante es que no hacía falta ningún impostor: alguien podía producir físicamente el fenómeno, observarlo con sus propios ojos y utilizarlo como prueba de aquello que esperaba encontrar.
El autoengaño es más peligroso que una ouija. Décadas después, el mismo mecanismo reapareció bajo una apariencia mucho más científica con la llamada comunicación facilitada, que prometía permitir expresarse a personas con graves dificultades comunicativas mediante un facilitador que ayudaba a mover su brazo sobre un teclado. Las historias de pacientes aparentemente incapaces de hablar que de pronto escribían pensamientos complejos resultaban extraordinariamente convincentes, pero experimentos controlados descubrieron un problema devastador.
Cuando paciente y facilitador veían imágenes diferentes, los mensajes describían sistemáticamente aquello que había visto el facilitador. Este no tenía necesariamente que estar falsificando nada, de hecho, podía estar guiando inconscientemente el movimiento mientras permanecía convencido de que procedía del paciente. La creencia llegó a arraigar tanto que ni siquiera las pruebas experimentales bastaron siempre para abandonarla, y en algunos casos produjo falsas acusaciones de abusos y consecuencias judiciales gravísimas.
Poder equivocarse. Si se quiere también, la gran aportación del método científico no consiste en haber encontrado personas inmunes a estos mecanismos, sino en haber desarrollado procedimientos para dificultar que sobrevivan. Revisión por pares, replicación de resultados, experimentos controlados, colaboración entre investigadores y exposición pública de métodos y datos funcionan como barreras frente al fraude, pero también frente al investigador perfectamente honrado que ha terminado enamorándose de su propia hipótesis.
Esa es también la razón por la que un resultado aislado, una experiencia personal extraordinariamente convincente o una correlación que encaja perfectamente con nuestras expectativas no constituyen necesariamente una demostración. La ciencia parte de una premisa mucho menos cómoda: quien realiza el experimento también forma parte del problema que el experimento debe controlar.
Feynmann iba más allá. La potencia de aquella frase de 1974 está en que funciona igualmente fuera de un laboratorio. Una vez que nos hemos identificado con una opinión, hemos invertido tiempo en defenderla o deseamos con todas nuestras fuerzas que algo sea cierto, resulta más sencillo prestar atención a aquello que la confirma y construir excepciones para todo lo demás.
Feynman no proponía desconfiar una y otra vez de nuestros pensamientos, sino adoptar una especie de humildad intelectual: preguntarnos qué tendría que ocurrir para que cambiáramos de opinión y buscar las pruebas que podrían obligarnos a hacerlo.
Porque engañar a otra persona requiere normalmente conseguir que crea algo falso, y para engañarnos a nosotros mismos basta muchas veces con creer demasiado en algo que queremos que sea verdad.
Imagen | Wikimedia, The Nobel Foundation
En Xataka | Los físicos creían que este fenómeno cuántico era imposible. Estaban muy equivocados
Ver 0 comentarios