Beatles Bike

Beatles Bike

jueves, 2 de julio de 2015

Ordenadores decidiendo sobre la vida o la muerte

Leo en El País que los programadores de los coches sin conductor se han planteado la siguiente cuestión:

¿Debería decidir un coche sin conductor quién vive y quién muere?

Los fabricantes reclutan a filósofos para el desarrollo del futuro automóvil autónomo


En una situación complicada el coche puede verse ante el dilema de poder salvar la vida de su pasajero atropellando a un peatón que pasea por la acera o de sacrificar la vida de su pasajero para no matar a un peatón. Terrible decisión. 

Se pueden hacer muchos planteamientos éticos para resolverlo: por ejemplo, se puede pensar que lo que produce la muerte es el peso y velocidad del vehículo, por lo que en última instancia el responsable es su propietario y, por tanto, no se debe sacrificar al peatón. Sin embargo, se podrían introducir parámetros como el número de pasajeros en el vehículo y cosas así y sería más complicado (¿matar a cuatro para que viva uno?). La discusión probablemente no tenga fin. Además hay intereses complicados de por medio: ¿se puede llegar a vender un coche sabiendo que está programado para matarte cuando te conviertes en un peligro?. Y también algunos problemas técnicos: ¿se podría hackear la programación del coche o sus reacciones (alguien se podría "divertir" poniéndoles trampas a sus sistemas de decisión como poner maniquíes en medio de la calle o similar)?, ¿realmente se pueden calcular los riesgos con tanta precisión y, por tanto, programar una decisión equilibrada?, ¿el ordenador de a bordo nunca se quedará colgado?. Finalmente, puede que la información disponible sobre el recorrido sea deficiente: no es que no me fíe del coche sin conductor de Google, pero cuando uso sus mapas para moverme, prefiero mirar por donde piso para evitar caer en las zanjas de Ono, Movistar o Aguas de Alicante (véase, Sin noticias de Gurb). 

Como siempre que tengo un problema, mi estrategia para resolverlo es salirme por la tangente. Mi propuesta en un caso así sería organizar todo el tinglado de manera que los coches no tengan que tomar esas decisiones.

Miremos, por ejemplo, esta infografía, que cita Mejor en Bici:

Más información sobre la fuente de la infografía en Mejor en Bici


Este tipo de resultados nos llevan sistemáticamente a la misma conclusión, a menos velocidad, menos riesgo, por tanto, menos peso de las consecuencias en las decisiones (no hay que decidir sobre la vida o muerte de nadie). Los coches sin conductor podrían estar entonces programados para circular a velocidades bajas. Por supuesto esto sería más aceptable en un marco de velocidades máximas permitidas más bajas (las ciudades 30). 

Otros principios básicos de la conducción preventiva son: aumentar las distancias de seguridad (con los vehículos que te preceden y te siguen); y disminuir la velocidad en zonas de baja visibilidad (visibilidad en este caso se debe referir a los sensores empleados para la conducción del vehículo sin conductor). 

Y ahora es cuando me vuelvo loco, es decir, cuando me pongo a pensar intentando ser coherente con el objetivo que me planteo: ninguna víctima (lo que incluye a conductores, peatones y otros usuarios) y, por tanto, sin aceptar el principio que guía nuestro sistema de movilidad: llegar a todas partes y en el menor tiempo posible, aunque suponga unos cuantos miles de víctimas al año. 

  • Evitar los espacios saturados (por ejemplo, los coches sin conductor, podrían optar por rutas más largas, pero más seguras, con menos riesgos imprevistos, como hacen algunos ciclistas). 
  • Programar el coche para evitar recorridos que es más seguro para el conductor o para el resto de usuarios recorrer por medios alternativos. Por ejemplo, programarlo para que te lleve a la estación del tranvía o para quedarse parado si es más aconsejable ir andando. 
  • Programar al coche para que no busque aparcamiento: parece que uno de los riesgos de los coches sin conductor es que se podrían programar para dejarte en el destino e ir después a buscar aparcamiento, incluso, en ausencia de él, para dejarlo circulando dando vueltas hasta que vuelvas del recado. Esto supone que por sí solos los coches sin conductor aumentarían el riesgo de accidentes al aumentar el tráfico.
  • El principio de prevención llevaría incluso a parar el coche cuando los riesgos no sean calculables: ¿circular en una ciudad en fiestas?.
  • Programación para cumplir las normas básicas: parar en semáforos, no parar en doble fila o sitios prohibidos, no exceder límites de velocidad, no rebasar una bici u otro vehículo si no puede dejar la distancia lateral de seguridad, 
  • Programarlo para ser paciente: esperar hasta que los peatones hayan cruzado por completo el paso de cebra, evitar los cambios de carril cuando los coches del carril por el que circulamos lo hacen a una velocidad más pausada, para no pitar en los atascos, ...
Paro ya, pues con la mitad de estas medidas, creo que la mitad de los usuarios de coche que conozco se rebelaría y la otra mitad preferiría un medio alternativo: para coger un coche así, me voy andando. También creo que algunas de las personas que no conducen que conozco se animarían a comprarse uno. Todo esto nos dice algo del modelo de movilidad actual, se basa en la aceptación del riesgo de matar a otros o dejarlos gravemente heridos (por supuesto esto sólo se puede hacer de manera no consciente: habría que ser muy bestia para pensar conscientemente en estos términos).

De hecho este dilema, decidir sobre la vida o la muerte, no parece que se lo hayan planteado los programadores de robots para la industria, las tareas domésticas o para las finanzas. El problema surge al aplicar sistemas computerizados de decisión en los coches (y en los robots militares, obviamente).

Veo una gran oportunidad en los coches sin conductor para que se conduzca de una forma más segura y racional (lo de racional tiene que ver con la relación entre medios y fines, por lo que la clave están en decidir cuáles son los fines y qué medios son aceptables). En muchos aspectos puede mejorar la conducción manual actual. También veo que son inaceptables para mucha gente si se programa como fin eliminar los accidentes.