Tenía pendiente desde hace tiempo hablar sobre este tema, pero siempre por una u otra razón lo dejaba para más adelante.
El detonante final que me ha llevado a sacarlo del cajón de sastre han sido las declaraciones (EN), a finales de la semana pasada, de Elon Musk al respecto del papel que jugará en los próximos años la autonomía automovilística:
“Los coches conducidos por humanos acabarán siendo ilegalizados en 20 años en favor de los que están conducidos de forma autónoma”.
La frasecita, diseñada para acaparar portadas (más teniendo en cuenta que acaban de anunciar que la próxima actualización (EN) del Model S de Tesla, que saldrá dentro de tres meses, será el ¿primer? coche con piloto automático del mercado), contrasta precisamente con la visión que compartía el fundador de Tesla hace unas semanas como miembro de Future of Life (EN), asociación de la que ya hablamos en su momento, formada por varios grandes nombres de la industria, cuyo objetivo es crear un debate tan sano como interesante alrededor de la figura de la inteligencia artificial, y los riesgos asociados a su paulatina dictadura.
Bajo mi humilde opinión, hay dos puntos trascendentes para comprender la transformación que está sufriendo y sufrirá la industria del motor en los próximos años.
El primero, que nos tocará vivir dentro de poco, es la necesaria evolución de la experiencia de usuario al volante.
hoy en día las interfaces con las que el usuario interacciona dentro del vehículo no están nada pulidas. Y no me refiero únicamente a interfaces digitales, sino también a las físicas.
Hay mucho camino por recorrer aún en las sensaciones que deben trasmitir los pedales, a la sensación de velocidad y el control del volante. La industria del automóvil lleva años innovando en este aspecto (el sonido de cierre de una puerta, la protección y a la vez libertad que ofrecen los cinturones de seguridad,…), pero compañías como Apple que pueden aportar un expertise (y unos recursos) muy alejados (ideológicamente hablando, lo cual es bueno) a los que un gigante automovilístico tiene en su haber.
Si nos vamos a la experiencia frente a interfaces digitales, nos encontramos un panorama desalentador. Incluso entre vehículos que han nacido dentro del seno de una empresa tecnológica.
Se me viene a la mente esa reinvención que hacían los chicos de Bureau Oberhaeuser a la interfaz de navegación del Model S (EN) (¡Madre mía, he hablado dos veces de Tesla en el mismo artículo!), sacando a relucir que incluso entre el top de los tops aún queda trabajo que realizar.
El papel de las interfaces en el interior de un coche debería ser el de la usabilidad extrema y la invisibilidad absoluta. Que el conductor recibiera de forma instantánea la información crítica que requiere, sin aditivos, y que las interacciones se volviesen lo más inmediatas y humanas posibles.
Y es por ello el porqué de que un servidor no entienda qué valor aporta una interfaz gestual en un entorno tecnológico que ya ofrece reconocimiento de voz avanzado.
El parabrisas como única pantalla, mostrando lo menos posible (recuerde que el objetivo es conducir, no entretenerse), y para el resto, la voz. Una asistencia virtual capaz de responder de forma efectiva a las peticiones del conductor, sin obligarle a separar la mirada de la carretera.
El segundo, la predominancia de los sistemas automáticos y autónomos ya no para desplazar el papel del conductor dentro del vehículo, sino para facilitarle la vida.
Aquí entra en juego nuevamente la ética tecnológica y la seguridad y confianza en sistemas de este tipo.
Que un coche sea capaz, mediante sensores y patrones de conducta establecidos, conducir por autopista de forma autónoma, está casi asegurado. Pero con casi no nos sirve. Y en 20 años dudo mucho que lleguemos a solucionar todas las casuísticas posibles.
Eso a nivel de conducción a velocidad estable y alta. En entornos de velocidad reducida y variable (por ejemplo, en ciudad) por muchos sensores que tengamos y por muchos controles que pongamos estamos aún muy lejos de que una inteligencia artificial sea capaz de tomar decisiones basadas ya no solo en la pura objetividad sino en aquellas situaciones que como veíamos no pueden ser solucionadas de manera lógica.
En caso de siniestro con posibles víctimas mortales, ¿quién debería tener prioridad? Una familia con hijos que va en el otro coche, o yo, cliente de este vehículo.
¿La IA del vehículo debe decidir anteponer los intereses como especie a los intereses del cliente, que es quien paga?
Iría aún más lejos. ¿Es ético y legal que cada fabricante tenga sus propios algoritmos de inteligencia, y que estos no sean de conocimiento público? ¿La vida humana puede servir de moneda de cambio para diferenciarse de una competencia más ética?
¿Dónde entra entonces la autonomía y la inteligencia en carretera? De nuevo hablamos de la asistencia y de la experiencia al volante.
No necesito que el coche conduzca por mi. Pero sí agradecería que me alertara si me estoy yendo hacia el arcén. Que me ayude a aparcar, o a optimizar de forma inteligente el gasto de gasolina en entornos variables como los de un atasco. Que aprenda de mis manías ante el volante y me corrija con sensibilidad sobre cómo dicta la normativa que hay que conducir.
Aquí es donde esa autonomía se vuelve de verdad valiosa. Asistiéndome en la conducción, y delegando en mi cuando la máquina es incapaz de decidir cuál es la forma correcta de actuar.
Una unión de intelecto humano y máquina, los dos imperfectos por sí solos, pero que se compaginan a la perfección.
¿El resultado? Una experiencia enriquecedora en carretera, más segura y divertida. La tecnología, nuevamente, como una herramienta, no como un fin en sí misma.
P.D.: Y todo eso lo digo en referencia al vehículo personal. Hay entornos que quizás sí se presten a la autonomía total, como transporte (tanto de personas como de mercancías) en trayectos rutinarios por vías específicas.
La verdad es que llevo tiempo pensando en este tema, y no se si es porque me hago mayor y eso me hace recelar de la confianza absoluta en la tecnología o por mis propias neuras, pero lo cierto es que veo muchas lagunas en esto de los coches autónomos.
Por un lado, y yendo a lo más trágico, la tecnología no es 100% segura, como tampoco lo son ni de lejos las personas, pero qué ocurrirá cuando se produzcan las primeras víctimas. ¿Quién responderá de los errores de los algoritmos, los malos funcionamientos, los defectos de programación?¿Las compañías de seguros, los programadores de los sistemas, las marcas de coches, los usuarios?
Por otro lado, ¿Que hay de la seguridad? ¿Cómo de seguros son los PC’s y portátiles que tenemos en casa cuando alguien con conocimiento y recursos se empeña en acceder a nuestros sistemas? No quiero imaginar cosas raras, pero la posibilidad de tomar el control existirá.
Por último y no por ello menos importante ¿Que hay de la privacidad? Coches autónomos significa un paso más hacia el conocimiento absoluto de dónde vamos y qué hacemos…
Aparte dejo algunos detalles: ¿y si me gusta conducir? ¿Habrá actualizaciones del software? ¿serán gratuítas? ¿software de terceros? ¿Tendrán los pasajeros capacidad de decisión sobre la velocidad a la que se circula?
En fin, más dudas que certezas.
Hristomillo, has lanzado las preguntas acertadas. Ni más ni menos.
La informática siempre ha jugado con unos márgenes de errores muy altos. Demasiado altos cuando hay vidas en juego. El ser humano no es ni muchísimo menos perfecto, pero somos culpables y responsables de nuestros actos. Como comentaba en un artículo reciente, una máquina no tiene “mens rea”, no tiene intención ni de hacer el bien ni de hacer el mal, y por tanto, no puede ser hoy en día juzgada por realizar algún tipo de delito. ¿En quién recae entonces la culpabilidad? Es aceptable culpar a la empresa o al desarrollador por algo que puede ser resultado de una mala gestión de las expectativas? ¿Que entra dentro de ese margen de error esperable en la informática?
A nivel de seguridad, la informática puede ofrecer mayores garantías. Me imagino controles como algunos de los que ya están en funcionamiento que controlan mediante sensores la proximidad de los vehículos en carretera, y ayudan a que en caso de un accidente, se minimicen los resultados catastróficos. Una máquina puede actuar mucho más rápido que un humano. Pero con la informática también entra en juego la seguridad de los propios sistemas. A una persona no la puedes hackear. A un sistema informático sí. Y hablamos de ataques que podrían realizarse de forma remota y quizás también masivamente, ya que para ofrecer las garantías de seguridad esperables, estos sistemas estarán conectados en una suerte de red IoT.
Lo cual, como bien señalabas, nos lleva a la privacidad ¿Debo aceptar que el coche esté continuamente monitorizándome? ¿Se usarán esos datos solo para mejorar mi experiencia al volante, o también serán compartidos con terceros, como aseguradoras, que podrían usarlos para discriminar tipo de cliente e inflar o no la factura mensual? ¿Es aceptable que estos sistemas no sean de código abierto?
Hay muchas lagunas, como bien señalas. Y acabarán por salir adelante, pero dudo mucho que sea como plantean algunos. La informática entrará en el sector automovilístico, pero de forma prudencial y bajo la mirada crítica de muchos colectivos. Lo cual es bueno.
De nuevo resultan iluminadores el artículo y los comentarios posteriores. En mi opinión, Musk quiere prohibir la conducción humana porque eso facilitaría enormemente la implantación de los coches autónomos que él nos quiere vender. El elemento humano es impredecible en carretera o hace que el sistema sea muy complejo, así que es mejor eliminarlo de la ecuación. Es inquietante el interés de estos gurúes siliconeros por regular nuestras vidas, y eso que éste parecía de los “moderados” al haber planteado dudas sobre la IA. Otra perspectiva del asunto:
http://thefrailestthing.com/2015/03/23/fit-the-tool-to-the-person-not-the-person-to-the-tool/
Tiene como decía una parte de estrategia corporativa. Eso está claro. Y entiendo que con afirmaciones de este estilo acapara noticias, pese a que quizás él mismo sepa que no está en lo cierto (pero el coste de un fallo dentro de 20 años no se va a notar).
La impredecibilidad del humano es como señalas un punto muy a considerar. Por un lado, esa impredecibilidad genera riesgo en la carretera. Por otro, genera riesgo en un sistema socio-político, lo cual no interesa al sistema. Lo que no sabría decirte es qué es más importante para los de arriba. Si el intento de salvar vidas, o de controlar un poquito más a la sociedad :).
¡Muchas gracias por ese enlace Pidal!
No había caído en el tema de las aseguradoras, las primeras interesadas en el “comportamiento” de sus asegurados “al volante”. No creo que tardásemos mucho en ver seguros del tipo más tiempo en el coche, más pagas, con lo que digamos adiós a la privacidad.
Por otro lado, no se me entienda mal. La tecnología puede hacer maravillas en asuntos de ayuda a la conducción, no solo mejorando la experiencia de conducción, con información relevante sobre límites de velocidad, estado de la carretera, del tráfico… sino también con asistentes que accionen los frenos en caso de detectar una colisión inminente o cosas por el estilo.
Lo que me parece “raro” es el interés por eliminar el factor humano en la conducción de coches, probablemente el vehículo más dificil de automatizar, con más variables fuera de control y grados de libertad más altos. Un tren es un sistema más simple, un barco un avión incluso. Pero los coches… ¿Por qué tanta prisa? ¿Hasta qué punto, hoy por hoy y en un futuro cercano, es más segura una máquina con todos sus sensores que un humano?
No se te malentiende Hristomillo, tienes más razón que un santo. Está claro que la tecnología, bien usada como una herramienta y no como un fin en sí misma, podría dotar de elementos muy útiles a la sociedad.
Lo está haciendo, de hecho. Es en la tergiversación de su utilidad la que nos arroja dudas.
Y estoy totalmente de acuerdo con lo que mencionas. Parece absurdo pensar que dan prioridad al vehículo personal que al resto de transportes, cuando precisamente este es de lo más complejos a la hora de automatizar, y precisamente el resto serían aquellos que mejor se prestarían al cambio.
Bajo esta incertidumbre, y a riesgo de parecer conspiranoico, apuntaría a que el interés gira en torno a lo mencionado en algún comentario anterior. Quizás el objetivo es anteponer el control por el control al control por la seguridad. Es decir, eliminar el factor humano, que tiene de por si una incertidumbre muy a considerar, del sistema, en un apartado (el de la conducción) que dota de libertad al ciudadano.
Pero vamos, que este punto de vista saldrá de una persona “radical” a la que hay que mirar de reojo, :P.