Coches psicópatas transportando borregos obedientes

El coche autónomo se anuncia como la gran revolución digital aplicada al mundo de la automoción. Desde Google a Tesla, pasando por Apple o la mayoría de marcas de automoción, todos aceleran por liderar la carrera del vehículo autónomo. Aunque el gran problema que parece bloquear su desarrollo no es técnico sino ético. Porque este nuevo automóvil “inteligente” tendrá que tomar decisiones que encierran graves dilemas éticos, que no son para nada nuevos y que forman parte de la naturaleza humana. Imaginemos que nuestro coche autónomo detecta a varios peatones cruzando indebidamente en una curva muy peligrosa, y tiene que elegir entre esquivar a los peatones y exponer a una muerte “casi segura” a su ocupante, o no poner en peligro a su propietario y arrollar a los peatones. Con lo que bajo determinadas circunstancias nuestro amado vehículo (comprado y financiado en cómodos plazos) podría decidir matarnos el muy desagradecido. Pero en realidad no está decidiendo el coche, estas decisiones están en manos de los fabricantes. Éstos tendrán que elegir si la decisión depende de quién sea el culpable, o depende de evitar un mal menor, o de salvaguardar siempre al propietario (sobre todo si no se ha terminado de pagar)… las variables de programación son muy amplias y complejas.

Claro que este tipo de dilema ético no es nada nuevo. Son muchos los psicólogos y filósofos que han planteado dilemas éticos similares, e incluso utilizados como test de empatía para detectar conductas “psicópatas” a través de las elecciones que tomamos. Dos ejemplos clásicos son el Dilema del tranvía de Philippa Foot, y la variante del mismo planteada por la filósofa Judith Jarvis Thomsom:

El primer dilema se enuncia en estos términos: “Un vagón de ferrocarril corre por unas vías. En su camino se encuentran cinco personas atrapadas, que no pueden escapar. Afortunadamente, podemos darle a un interruptor que desviará el vagón a una vía muerta, apartando así el vagón de las cinco personas… pero con un precio. Hay otra persona atrapada también en ese desvío, y el vagón matará a esa persona. ¿Deberíamos darle al interruptor?

En el segundo dilema: “Un vagón de ferrocarril circula descontrolado por una vía hacia cinco personas. Pero esta vez, nos encontramos de pie detrás de un desconocido muy corpulento en una pasarela peatonal por encima de las vías. La única forma de salvar a las cinco personas es arrojar al desconocido a las vías. Éste morirá al caer, desde luego. Pero su corpulencia considerable bloqueará el vagón, salvando así cinco vidas. ¿Deberíamos empujarle?

En el primer dilema la mayoría de las personas eligen, sin plantearse demasiados dilemas morales en base a una ética utilitarista, la opción que mate a menos gente. En el segundo caso el dilema es el mismo, pero ya no es tan sencillo como apretar un botón, sino que hay que participar activamente en el homicidio. En este segundo caso la mayoría de personas prefieren no hacer nada, se sienten incapaces de lanzar a una persona a una muerte segura (en cambio, los “psicópatas” lanzan sin ningún tipo de remordimiento a la persona a la vía, actúan como el resto de personas ante el primer dilema).

Pero lo sorprendente no es cómo actúan los psicópatas, sino cómo lo hacen las personas que no lo son. No les importa ser responsables de una muerte por su acción directa mientras sea fácil (como apretar un botón), o incluso lo haga otro por nosotros como ocurre con infinidad de decisiones que otras personas toman por nosotros (como es el caso de los líderes políticos, sociales e incluso empresariales gracias a que delegamos en ellos).

Aunque bajo determinadas circunstancias podemos ser capaces de actuar como sujetos capaces de dañar a otros semejantes directamente, aun en contra de nuetra propia conciencia. El experimento de Stanley Milgram mostró cómo la mayoría de las personas (un 62% de los participantes en los experimentos) prefieren obedecer a la autoridad aun cuando esta obediencia pudieran entrar en conflicto con su conciencia personal. Milgram publicó las conclusiones del experimento en su artículo Los peligros de la obediencia” en 1974 y en sus propias palabras: “Monté un simple experimento en la Universidad de Yale para probar cuánto dolor infligiría un ciudadano corriente a otra persona simplemente porque se lo pedían para un experimento científico. La férrea autoridad se impuso a los fuertes imperativos morales de los sujetos (participantes) de lastimar a otros y, con los gritos de las víctimas sonando en los oídos de los sujetos (participantes), la autoridad subyugaba con mayor frecuencia. La extrema buena voluntad de los adultos de aceptar casi cualquier requerimiento ordenado por la autoridad constituye el principal descubrimiento del estudio”.

Años más tarde se llevó a cabo una nueva versión del experimento de Milgram pero adaptado a la sociedad mediática y televisiva del siglo XXI. “El juego de la muerte” fue un documental coproducido entre la televisión suiza y France Télevision en 2009 y emitido en 2010. La Wikipedia explica el experimento en estos términos: Los sujetos del experimento fueron voluntarios para evaluar la validez de un supuesto nuevo concurso televisivo. Se les hizo creer que participarían en el episodio piloto y que en consecuencia, no obtendrían ningún premio. El falso concurso se llamaría la zona Xtrema y consistiría en una prueba de memoria en que dos personas concursaban para repartirse un premio de un millón de euros. Uno de los concursantes (en el experimento un actor) habría de memorizar una lista de 27 asociaciones verbales en un minuto mientras que el otro concursante (el sujeto real del experimento) era quien debía comprobar la corrección de las respuestas y en caso de error, aplicar un castigo. El castigo consistiría en descargas eléctricas cada vez más fuertes a medida que avanzaba el concurso llegando hasta los 460 voltios. En realidad no había tal castigo. El falso concursante estaba fuera de la vista del sujeto del experimento y los gritos de dolor que este oía habían sido grabados con anterioridad. El experimento recrea pues un plató de televisión, en el que a diferencia del Experimento de Milgram, la autoridad no está representada por un científico, sino por el personal de la televisión; la presentadora, el productor y el público. Paralelamente se medían también las reacciones del público de estudio, que igualmente creía ser público de un episodio piloto. El experimento mostró 81% de obediencia en los sujetos (81% de ellos llegaron hasta el final) y un comportamiento del público sumiso a las exigencias del falso programa”.

Por eso en realidad, este artículo no va de coches autónomos, sino de cómo las personas renunciamos a nuestra autonomía para convertirnos en obedientes borregos. Porque esta sociedad mediática, digital, la de las redes sociales y la cultura de masas… consigue que renunciemos a ejercer a nuestra libertad individual y a defender nuestros valores siendo infieles a nuestra propia conciencia. Renunciamos a nuestra propia conciencia sumándonos a la conciencia colectiva socialmente imperante. Esos valores y esa conciencia colectiva anula a los individuales, los sustituye y hace que hagamos lo que se nos pide. Y además, que lo hagamos felices y contentos sin sentirnos del todo responsables. La presión social nunca ha sido tan fuerte y eficaz como lo es ahora a través de las redes sociales (basta observar lo que ocurre con Twitter) y un discurso de lo políticamente correcto edificado sobre la ética utilitarista.

Con lo que nos parecemos bastante al coche autónomo. Haremos aquello para lo que seamos programados sin rechistar, y sin cuestionárnoslo.

Deja un comentario