Jonathan Nolan y Lisa Joy, sabiéndolo o sin saberlo, han imaginado un futuro probable. Westworld, que trata de un parque temático lleno de robots, sería como visitar un "teatro mecanizado" si no fuera porque los visitantes pueden comportarse como les plazca con las máquinas que viven en él y que estas son tan parecidas a un humano real que, de hecho, se tornan parcialmente biológicas.

Sin hacer spoilers innecesarios, aunque muchos huéspedes deciden ser "buenos" otros desatan sus peores impulsos en el parque. Como resultado, en la serie terminamos viendo asesinatos, torturas y violaciones a por doquier. Si llegamos a un punto que las IA se conviertan en entes como tal, es decir, máquinas que "sienten", ¿nos deparará un futuro similar?

Proteger a nuestras creaciones de nosotros

Los experimentos con inteligencia artificial y robótica han demostrado la velocidad a la que atribuimos sentimientos a las máquinas. Lo hacemos aunque, en realidad, estamos muy lejos de crear algo con sentimientos. La IA de ahora consiste en modelos matemáticos basados en probabilidad, su respuesta va asociada a dicha probabilidad, y no "piensa". Lo sabemos pero, aun así, solemos imaginar a Siri como a una mujer ingeniosa tras la pantalla, por ejemplo.

La problemática de esto es que nos dirigimos a crear exactamente eso: una mujer u hombre real. No es seguro que lo logremos pronto, pero nuestro objetivo es realmente hacerlo todo “lo más humano posible”.

A la vista está que, por ejemplo, a la inteligencia artificial la consideramos sorprendente y avanzada precisamente cuando nos engaña y “parece real”. Esto fue, al fin y al cabo, lo sorprendente de la llamada de Google Assistant: lo que impresionó tanto fue el hacerse pasar por nosotros con una voz humana y conversar con otra persona sin que esta note que se trata de un robot.

¿Y cuando no haya en realidad diferencias? ¿Dónde está el límite que separa la máquina del hombre? La mayoría diría que es la consciencia. Cuando los robots tengan consciencia no será ético no sentir nada si se rompen.

"La consciencia es la frontera, el punto de inflexión entre lo que es ético y lo que no. Dicho más contundentemente: un organismo se convierte, automáticamente, en sujeto de derecho cuando adquiere consciencia. La razón estriba en que si un ser es capaz de consciencia es capaz de sufrir, y si es capaz de sufrir es obligación moral de todos evitar o, como mínimo no infringirle, sufrimiento", afirma para Xataka Santiago Sánchez-Migallón Jiménez, profesor de Filosofía y colaborador habitual.

En este aspecto, Santiago cree que un mundo como Westworld sería "una atrocidad moral", en tanto que sería un campo de entrenamiento de sádicos que contribuiría a la normalización o banalización de la crueldad: "Un parque de atracciones como el de Westworld sería muy peligroso en este sentido ya que estaríamos diseñando un trampolín hacia lo que la filósofa alemana Hannah Arendt denominaba 'la banalidad del mal'. Matar a robots por mero placer sería una forma de legitimar el hecho de que matar por placer es deseable".

"El psicólogo Leon Festinger acuñó el término disonancia cognitiva para hacer referencia al trastorno que se da cuando nuestras creencias y lo que realmente hacemos no guardan cierta coherencia. Suele darse que, cuando nos encontramos ante esa incoherencia, es más fácil cambiar nuestras creencias que nuestra conducta".

Por ejemplo, si la creencia en que fumar es malo para la salud choca con el hecho de que soy fumador, más fácil que dejar el vicio es buscar razones que debiliten la tesis de que fumar es malo. Así los fumadores argumentan razones como que conocieron a alguien que fumaba dos cajetillas diarias y que vivió más de cien años; o que, total, de algo hay que morirse.

"De la misma manera, si en Westworld una clase social que es referente y ejemplo social como la clase alta 'mata' sin que pase nada, se están dando razones para debilitar la disonancia cognitiva que todo asesino tiene ante realizar un acto tan injustificable como es el asesinato".

Leyes para humanos y no humanos

Si llega el día que los robots puedan sentir, se dará una situación similar a lo que ocurre con los animales ahora: que necesitaremos protegerlos de quienes se niegan a aceptar que tienen derechos. Sin embargo, cabe recordar que no durante toda nuestra historia atribuimos sentimientos a los animales.

Kant tenía opiniones encontradas, por ejemplo, consideraba que eran solo cosas desprovistas de valores morales. Ahora sabemos que eso de que los animales no sienten no es así pero, a pesar de ello, tenemos "categorías" de animales que está peor torturar.

David Hume hablaba de la empatía como un sentimiento universal, base además de nuestro comportamiento moral. "Como soy capaz de ponerme en el lugar del otro, puedo comprender su dolor y empatizar con él". ¿Cómo puedo reconocer al otro? Sencillamente porque se parece a mí: si tiene mi apariencia, sufrirá como yo. Es por eso que, al igual que empatizamos más con animales más similares a nosotros —nos duele más que maltraten a un chimpancé que a una mosca—, podemos empatizar con máquinas en la medida en que se nos van pareciendo.

De esta forma, cabe la posibilidad de que existan "categorías sociales" dentro de las máquinas. "Podría hablarse de simples sirvientes del hogar, con pocas habilidades cognitivas y poca o nula consciencia, que podrían ser considerados como nuestros animales: se les protege jurídicamente pero no se les otorgan derechos; otros, más inteligentes y, quién sabe si más conscientes de la realidad que nosotros, podrían tener más derechos (acceder prioritariamente a ciertos puestos o cargos) pero, igualmente, más responsabilidades (por ejemplo, si nos imaginamos una IA que controla todo el tráfico de una ciudad, le deberíamos exigir que lo haga muy bien debido al gran desastre que causaría una mala gestión)" añade nuestro filósofo.

"Habrá que regularizarlo porque se convertirán en entes autónomas y por tanto serán capaces de realizar lo mismo que hacemos nosotros. Creo que una máquina es muy difícil que llegue a sentir, pero si lo llega a hacer, habrá que cuidar la crueldad. Y sí, también si llegamos a crear este tipo de entes habrá que limitarlos para que no se rebelen", afirma para Xataka Juan Maroñas, investigador en Inteligencia Artificial del Centro de Investigación Pattern Recognition and Human Language Technology, de la Universidad Politécnica de Valencia.

Nada menos natural que un derecho

¿Cuando las máquinas adquieran consciencia estaremos moralmente obligados a otorgarles derechos y deberes civiles? En cualquier caso, habría que redefinir muchas categorías jurídicas como confirman nuestros entrevistados. Efectivamente, si otorgas a un ser derechos, automáticamente, también le estás otorgando responsabilidades. Si tenemos el caso de inteligencias artificiales mucho más inteligentes que un humano, su capacidad para hacer el mal será mucho mayor y, en consecuencia, el régimen jurídico que regule su conducta ha de ser diferente. ¿Cómo haremos esto? Difícil pregunta.

El caso es que, como decíamos, no tenemos ni idea de qué es la consciencia —no podemos definirla, verla, mucho menos tocarla—, y los derechos normalmente se han aplicado en correspondencia al nivel de consciencia que nos suscita cada ser. No hay duda de que  las plantas “sienten” o “perciben” su exterior: un girasol percibe donde está el sol y se gira hacia él, las raíces de las plantas acuden al sitio donde perciben humedad, etc., y sin embargo, no tienen derechos a la hora de que las pisen porque no podemos probar demasiado bien que lo sientan.

"Lo cierto es que esta perplejidad la llevamos sintiendo los seres humanos al menos desde tiempos de Descartes. En su época no había inteligencia artificial ni robots, naturalmente, pero sí lo que podemos considerar el preludio: los autómatas. Esos inventos llevaron a mucha gente a preguntarse: ¿cómo sé que algo de verdad tiene sentimientos o pensamientos?, ¿cómo sé si tiene conciencia? Fijémonos en que, de hecho, no estamos seguros ni siquiera de que las personas que nos rodean tengan mente: veo su cuerpo, sus actos, sus palabras, puedo incluso abrirles la cabeza y ver su cerebro, pero lo que nunca veré es su conciencia. La única conciencia a la que tengo acceso es la mía", comenta en entrevista para Xataka Miguel Ángel Quintana Paz, director del Departamento de Humanidades de la UEMC, profesor de Ética y Antropología, y autor del libro "Reglas. Un ensayo de introducción a la hermenéutica de manos de Wittgenstein y Sherlock Holmes".

Podemos intuir sentimientos en el cerebro, en ciertas hormonas, en ciertos signos de dolor, podemos medir ciertas ondas cerebrales… pero nada de esto es concluyente:

"Recordemos, por ejemplo, que hay personas inconscientes cuyas ondas cerebrales sin embargo reflejan patrones típicos del dolor: ¿están de veras sufriendo? ¿Sufrimos mientras estamos anestesiados, solo que no nos damos cuenta? ¿Es posible sentir dolor sin 'darse cuenta'?, ¿no implica una cosa necesariamente la otra? Sin embargo, si yo concluyera que soy el único ser consciente de la Tierra y que todos vosotros no sois sino cuerpos que fingís… me tomaríais por loco. Así, todos atribuimos sin dificultad a los demás una conciencia. ¿Por qué? Una buena explicación es la de tipo evolucionista: entender a los demás como seres conscientes nos facilita muchísimo el tratar con ellos. Hoy mucha gente está convencida de que su caniche o su gato siamés no solo piensa y siente, sino que es el ser sobre la Tierra que mejor les comprende. En una sociedad de personas solitarias y débiles como la nuestra, es comprensible esta tendencia. Antropomorfizamos continuamente".

Miguel Ángel comenta que, consiguientemente, cuando se desarrollen robots realistas se les atribuirán "sentimientos" antes siquiera de estar seguros de que los tengan, porque en realidad eso hacemos con todo lo que se nos parece.

Asumiremos amor, compasión, comprensión de nuestros problemas más íntimos... Daremos por sentado que son iguales a nosotros y, por tanto, les atribuyamos derechos muy rápidamente. "Vivimos en una sociedad en que los derechos están baratísimos, ya se le atribuyen a cualquier cosa: no solo a los animales o las plantas, sino incluso al agua, a la Tierra, a Dios, a los entes nacionales… Si estamos repartiendo derechos de modo tan barato por todas partes, a mí mismo me parecería injusto no darles unos cuantos también a los robots. Aunque también, naturalmente, habrá que darse cuenta de que unos derechos tan baratitos no valen de mucho".

"Cuando establecemos como nuestra norma moral máxima el no hacer daño a ningún ser que sienta, en el fondo, estamos siempre dependiendo de qué es lo que vemos y qué es lo que suscita en nosotros compasión. Todo aquello que me suscita un sentimiento de calorcito interior merece ser cuidado, es la máxima de nuestra sociedad emotivista actual. Así pues, imagino que las empresas que fabriquen robots serán listas y se adaptarán a esta ambivalencia. Por una parte crearán robots entrañables, hermosos y achuchables a los que atribuiremos derechos; pero por otro lado, crearán robots con aspecto despreciable, e incluso repugnante, con los que no tendremos demasiados problemas en desfogar nuestra crueldad como hoy se hace con ciertos videojuegos, o como nos muestra la serie Westworld. Es lo bueno del mercado: se adapta a las preferencias (y a la emotividad) del consumidor".

Una injusticia antigua que desarrollará un nivel más

¿Que la vida artificial acabe valiendo menos que la genuinamente biológica es injusto? Probablemente. Pero en nuestra historia los humanos hemos sido injustos muy a menudo: con otras razas, religiones, procedencias y gustos. También los hemos sido, y frecuentemente lo seguimos siendo, con otras especies. A veces no podemos, no queremos —o ambas cosas— ni tan siquiera saber cuándo causamos dolor o sufrimiento.

Según nuestros entrevistados nuestras creaciones podrían ser el siguiente capítulo en nuestro particular dilema moral. Un problema antiguo con un nivel nuevo que pondrá bajo examen nuestra capacidad como especie para reconocer el "sentir" de aquellos que no son exactamente iguales a nosotros. Qué deparará el futuro es difícil de concluir, pero sin duda Westworld dentro de su ficción ha mostrado una teoría, aunque cruel, muy posible.

Imagenes: HBO | Justin Peralta | Santiago Sánchez-Migallón Jiménez | Julia Koller | Juan Maroñas | Franck V. | Miguel Ángel Quintana Paz | Andy Kelly

Las célebres Google Glass siguen siendo uno de los ingenios que más expectación están creando, pero también hay dudas sobre los riesgos para la privacidad no ya solo de sus usuarios, sino del resto de la gente a la que podemos sacar fotos o grabar en vídeo sin que ellos se enteren.

Para tratar de minimizar esas situaciones, Google ha publicado una lista de lo que se puede hacer pero también de lo que no se debe hacer. Básicamente se trata de unas recomendaciones entre las que incluyen no ser lo que ellos llaman un "glasshole".

El juego de palabras ("asshole" es una "palabrota" del idioma sajón que seguramente muchos conoceréis) es claro, y precisamente en ese punto es en el que en Google tratan de explicar que ante todo es necesario utilizar Google Glass de forma educada.

Respeta al resto de la gente, y si tienen preguntas sobre Glass no pongas mala cara. Sé amable y explica lo que Glass hace y recuerda, una demo rápida puede ser al final algo larga. Se aplican las mismas reglas a Glass que a cámaras y teléfonos móviles en lugares donde éstos no se permiten. Si te piden que apagues tu teléfono móvil, apaga también tus Google Glass.

Aunque Google había publicado ya unas políticas para desarrolladores en las que se se tomaban en cuenta aspectos relacionados con la privacidad, esos requisitos no están orientados a los usuarios. La empresa de Mountain View da así un buen paso para tratar de informar a los usuarios de Glass de cómo utilizar este dispositivo de forma éticamente correcta.

Vía | PCWorld Más información | Google Glass En Xataka | Repugnancia y fascinación con Google Glass

Podríamos ponernos técnicos y hablar de la realidad y futuro del coche autónomo o ponernos emocionales y entrar en el debate de que la pasión y el placer de conducir no terminarán nunca, pero hoy queríamos plantear algo infrecuente en Xataka: una reflexión sobre los debates éticos que traerá aparejado el coche autónomo.

De entre todos los posibles, creo que hay dos que supondrán un desafío por el tipo de elecciones que, como individuos y sociedad, nos tocará hacer. El primero gira en torno a la programación del coche autónomo para situaciones en el que peligren vidas humanas, el segundo respecto a al espacio que dejamos a lo humano cuando la solución tecnológica se demuestra mejor. Veamos:

Coche autónomo y las "leyes de la robótica"

No hay aficionado a la literatura de ciencia ficción que no conozca las tres leyes de la robótica propugnadas por Asimov en sus relatos de ficción. A saber:

1. Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño

2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la Primera Ley

3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley

Sus lectores también sabemos que gran parte de la obra de Asimov se basa en el conflicto para cumplir esas leyes cuando la máquina alcanza un cierto nivel de inteligencia (en Singularity hub tienen un artículo al respecto) y pensando en trasladarlo al coche autónomo también es fácil concluir que hay que llegar a compromisos.

En situaciones de peligro el conductor está forzado a hacer elecciones casi instantáneas: un niño de repente cruza la carretera y está ahí delante ¿pegamos un volantazo y chocamos con la mediana? ¿y si lo que hay al lado es terraplén? ¿y si quien cruza es un perro? ¿Y si lo que viene es un coche frontalmente?

Podríamos partir de que el coche autónomo sería mucho más prudente y que no se distraería, por lo que tasa de situaciones de peligro debería ser menor, pero es imposible evitar todas las situaciones de peligro al volante. En el caso de un conductor humano, una vez afrontando la situación de peligro, podemos entender la decisión basada en reflejos y casi instantánea que toma, pero con un ordenador es distinto.

Y es diferente porque es una decisión que se toma en frío, que se programa para que el coche se decante por una opción con todo el tiempo del mundo para sopesar pros y contras... una decisión que implica elegir vidas humanas. ¿Cómo es posible programar algo así? ¿hay un algoritmo que pueda incorporar una visión ética que nos convenza? ¿cuáles deberían ser sus prioridades? ¿el menor número de muertos potenciales? ¿tendría en cuenta la edad de los implicados, priorizando a los más jóvenes? ¿aceptamos un coche programado con un algoritmo que puede decidir sacrificarnos en pro de salvar más vidas de otros en una situación de peligro?

El número de preguntas no se queda ahí, porque siendo la del coche una de las industrias más relevantes y competitivas del mundo podemos incluso pensar en otro enfoque: ¿se debe permitir que cada fabricante tenga su algoritmo propio y que sea secreto? se podría dar el caso de que haya fabricantes cuyo coche autónomo tienda más a preservar la vida del conductor y sus acompañantes que el coche de la competencia. En todo caso, el choque cultural es inevitable, estamos preparados - aun con mucho dolor - aceptar que alguien querido muere en un accidente por error humano ¿lo estamos para el caso de ser atropellado por un robot?

Coches que conducen mejor que las personas

Partamos de la hipótesis de que encontramos un equilibrio razonable y aceptado para la integración del coche conectado en nuestra sociedad. Partamos de que, como prometen las compañías que están avanzando en estas tecnologías, se reduce el número de accidentes y muertes. Una vez que la sociedad tomara conciencia de esto surgiría otro debate inevitable ¿debemos permitir seguir conduciendo a los humanos, que provocan muchas más muertes?

Este tema se engloba dentro de otro mayor y que analizaremos mucho en Xataka, que no es sino la enorme aceleración de la sustitución de humanos por robots en un montón de tareas para las que no se les veía capacitados... hasta hace muy poco. La conducción puede ser una de ellas y aquí entran desde los profesionales hasta todos aquellos a los que apasiona conducir un automóvil.

¿Acabará siendo el mundo del motor un nicho en el que los apasionados que queden sólo puedan disfrutar de su hobby en circuitos, quedando las vías normales sólo para artefactos guiados por ordenadores y sensores?

Encantado de que te conduzcas sólo, pero me gustaría conocerte mejor

Servidor cruza media España frecuentemente en coche y creo que a pocos les gustaría más que a mi tener un coche autónomo para el 95% del tiempo: autovías infinitas y aburridas en las que uno prefería estar con un libro, viendo una película, jugando a algo con mis hijos o leyendo blogs.

A pesar de ello creo que me costaría dejar de conducir por completo y aceptar de entrada el ceder el control total del cacharro en que llevo mi familia a un ordenador, pero asumo que es un rasgo generacional. También considero más que probable que el proceso de homologación y aceptación del coche conectado será gradual y con muchas salvaguardas, tantas como se tiene en otros medios de transporte en los que se fía a la tecnología. Con todo ello, creo que antes - inflamados de tecnoutopismo - de que celebremos todo lo bueno que puede traer el coche conectado (que ojo, también tiene implicaciones medio ambientales por eficiencia, menos atascos, etc...), necesitamos entender mejor cómo se ha programado, de qué premisas se ha partido y en qué entornos lo vamos a utilizar.

Hay un debate ético necesario alrededor del coche conectado y que falten décadas - quizás no muchas - para que sea un producto en el mercado no debería ser óbice para que empecemos a abordarlo.