La autonomía de los coches es incompatible con el ser humano

Por ScientificAmerican (EN) se hacen eco de las declaraciones de la NASA sobre el porqué sistemas como Autopilot del Tesla encuentran su mayor debilidad precisamente en la necesidad de cooperar con la irracionalidad (y limitación) humana.

La NHTSA (EN) definía hace tiempo unos niveles de autonomía de vehículo, considerando que el paso entre ellos debería ser secuencial:

• No-Automation (Level 0): El vehículo no tiene ningún tipo de control automático, dependiendo exclusivamente del conductor.
• Function-specific Automation (Level 1): La automatización en este nivel vendría dada por uno o más controles específicos que trabajan por separado. Por ejemplo, el control de estabilidad.
• Combined Function Automation (Level 2): En este nivel la automatización gestiona al menos dos controles primarios diseñados para trabajar unidos, como podría ser el control de crucero adaptativo en combinación con el centrado de carril.
• Limited Self-Driving Automation (Level 3): Los vehículos en este nivel de automatización se encargan de controlar absolutamente toda la condución bajo ciertas condiciones, como ocurre por ejemplo con el Autopilot (en principio solo disponible en autopista) o el coche de Google. El conductor es entonces un espectador que debe estar disponible para controlar el vehículo de manera ocasional.
• Full Self-Driving Automation (Level 4): El vehículo es capaz de hacer todo el recorrido sin ayuda del conductor.

La realidad es que a nivel tecnológico estamos en la potestad de crear vehículos de nivel 4 de automatización… pero para entornos muy controlados, como podría ser un parque de atracciones.

La compleja red de efectos de un entorno de circulación no controlado

Y eso ocurre por la sencilla razón de que el problema al que se enfrenta la autonomía en carretera es tener que hacer frente a un escenario tan caótico e irracional como el que presenta un humano al volante.

Si el escenario está totalmente controlado (volviendo a la analogía del parque de atracciones, tranquilamente se pueden crear carriles en los que solo operan vehículos autónomos y que cuenta con un sistema de señalización y unas condiciones de conducción estables en todo momento), una máquina puede hoy en día perfectamente llevar a una persona de un sitio a otro sin que esta (o un tercero) tenga que controlar parcial o totalmente el vehículo.

La máquina perfectamente puede enfrentarse a cualquier escenario de conflicto con otra máquina, ya que las dos han sido programadas de la misma manera y por tanto, actuarán de la manera más conservadora posible.

Pero fuera de estos hipotéticos ecosistemas controlados, las carreteras de nuestros países adolecen precisamente de unas condiciones que no son para nada neutrales. Y es ahí donde la utopía de la conducción autónoma falla estrepitosamente. Me explico:

• Falla a bajo nivel, por unos sistemas de inteligencia artificial basados, como cabría esperar, en la probabilidad: Una máquina no ve un camión que viene en dirección contraria, sino un elemento que en cuestión de milésimas de segundo debe analizar y compulsar con su base de datos de registros anteriores, para tomar una decisión. Que generalmente será intentar apartarse, pero que como ocurría recientemente en uno de los accidentes de un vehículo Tesla (ES), podría confundir con una señal de tráfico, y por tanto, no considerarla un peligro.
• Falla a nivel de compatibilidad con el humano: Pensando que en casos como este, el humano, al ser un elemento con sentido común, sabría anticiparse a la situación. Y lo cierto es que en un escenario no autónomo la capacidad de nuestro cerebro para comprender el espacio que nos rodea de seguro hubiera podido evitar el accidente. Pero en un escenario autónomo, de delegación de la máquina, lo más seguro es que el operario estuviera haciendo sus cosas (disfrutando del paisaje, mirando el móvil,…), pese a que no se recomienda hacerlo, y aunque estuviera atento (cosa sinceramente muy difícil de esperar en trayectos medios-largos), el tiempo de reacción seguramente hubiera sido insuficiente (no es lo mismo estar a los mandos y ejecutar una decisión que estar simplemente como espectador y tener que tomarla).
• Por último, falla a nivel del propio ecosistema: En el mundo real, un conductor puede decidir saltarse las normas de tráfico y por ejemplo «hacer una pirula» para cambiar de sentido, o tomar la iniciativa a la hora de meterse en una rotonda. Son situaciones muy comunes que el humano despacha de una manera bastante rápida (e irracional), pero que suponen un verdadero obstáculo para una máquina, centrada en sus limitaciones de diseño. Igual que no reconoce un camión per sé, sino una serie de variables que puede o no asociar con la figura de un riesgo, puede ocurrir que se vuelva demasiado conservadora a la hora de tomar una decisión (por ejemplo permitiendo a terceros que entren primero en la rotonda para evitar accidentes (ES)), lo que en algunas situaciones puede hasta suponer más riesgo del que minimiza.

Resumiendo. Que el problema no es tanto de la autonomía del vehículo, sino de un desarrollo algorítmico limitado y de una inteligencia artificial dependiente de la variable irracional del ser humano.

La irrupción masiva de los coches autónomos llevará décadas

Lo que de hecho nos empuja a ser aún más conservadores con el asunto. No es, de facto, que no estemos preparados para delegar nuestras vidas en estas máquinas, sino que el paso de un entorno controlado por las limitaciones humanas a un entorno controlado por las limitaciones de la máquina se antoja, como poco, a largo plazo.

Y supongo que se acabará materializando después de numerosos movimientos, quizás imponiendo paulatinamente limitaciones a los conductores de carne y hueso (ahora tendrá que pagar más seguro para poder conducir, ahora los coches que no cuenten con X nivel de autonomía tendrán X impuesto de conducción, ahora se pondrán carriles exclusivos de conducción no autónoma, ahora…) de manera que quizás en unas cuantas décadas podamos llegar a decir que en efecto, eso de tener que conducir se ha terminado.

Mientras tanto, una inteligencia aplicada a la asistencia al volante, en busca de un equilibrio que sinceramente es difícil de hallar.

Y lo más probable es que en ese entorno futuro miremos hacia atrás y nos sorprendamos de cómo durante décadas fuimos capaces de mantener una costumbre que costaba cada año millones de vidas humanas (EN).

Porque seguramente el nuevo entorno sea muchísimo más seguro que el actual, habida cuenta de que para entonces la variable humana, que es en definitiva la que mayor problema causa, se habrá eliminado de la ecuación.