Hace unas semanas, en mi último viaje a Asturias, descubrí de buena gana la película de Trascendence (EN). Y digo descubrí porque para ser del 2014, y del género de la ciencia ficción, es raro que algo así se me pasara.
La disfruté como hacía tiempo que no disfrutaba una película, en esas tablets que ALSA pone a nuestra disposición, y obviando parte de esas 5 horas que tengo de viaje. Y aunque la obra destile Hollywood por cada poro del largometraje, y lleve hasta el extremo el tema tratado, dejó en mi una semilla que me ha hecho volver a verla este fin de semana.
La sinopsis de la película, y sin intención de hacer algún tipo de spoiler, es la singularidad informática. Ese momento en el que una máquina es capaz de evolucionar a expensas de su creador. Y los efectos que ello produce en el sistema generado durante siglos por estos últimos.
Una singularidad que como en algún momento dije, estamos (afortunadamente) aún lejos de ver, pero que ya se vislumbra como posible escenario.
Y hacemos bien en sacar a debate las implicaciones de una IA singularizada, habida cuenta de los riesgos que esto conllevaría no tanto en la posible «maldad» de la máquina (que recalco, no hay maldad, o sentimientos en general, en algo que podamos crear de aquí a unos años), sino precisamente en la competencia que este Monstruo de Frankenstein podría plantar a los intereses de nuestra sociedad.
Es la competencia, y no la maldad, el principal riesgo de una IA singularizada
En la película trata de refilón el tema. La cuestión es que esta inteligencia artificial «trascendente» (que es como se llama a la singularidad en la obra), es capaz por primera vez en la historia de llevar a otro nivel todos los beneficios de nuestra tecnología.
De hablar de una verdadera sociedad de la abundancia. Ese paradigma que por aquí he defendido a capa y espada, y en el que la tecnología sirve un bien social y globalizado antes que un interés puramente económico.
Un entorno en el que los avances de esta inteligencia son capaces de curar cualquier enfermedad, de salvar a todo el planeta (humanos y naturaleza incluida), y lo mejor de todo, con unos recursos ya existentes, sin sacrificios previos.
Esto trastoca de facto el sistema económico de nuestra sociedad. Pone en jaque el statu quo que durante siglos ha reinado por estos lares, y la inteligencia artificial que tan desinteresadamente está ayudando a cambiar para bien todo lo que nos rodea, se vuelve entonces un enemigo al que hay que destruir.
Es precisamente una de las lecturas que varias eminencias científicas (Stephen Hawking, Bill Gates, Elon Musk,…) hacen del futuro de la inteligencia artificial, y ante la que no me queda otra opción que aplaudir. El detonante de esta rebelión que quizás en algún momento experimentemos será principalmente nuestro, y no de la máquina.
Un sistema como la IA de Trascendence será capaz de hackear todo nuestro sistema económico, de optimizarlo para el bien común, y eso causará estragos tanto en los que están arriba de la pirámide como en los que están por debajo:
Si las máquinas producen todo lo que necesitamos, el resultado dependerá de cómo se distribuyen las cosas. Todo el mundo puede disfrutar de una vida de lujo y ocio si la riqueza producida por la máquina es compartida, o la mayoría de la gente puede acabar miserablemente pobre si los propietarios de las máquinas cabildean con éxito contra la redistribución de la riqueza. Hasta ahora, la tendencia parece ser hacia la segunda opción, con la tecnología avanzando habrá una creciente desigualdad.
La Era de la Abundancia no interesa a aquellos que seguramente están en la potestad de dirigirnos hacia ella, y como vemos en la obra de Wally Pfister, si por alguna escasa probabilidad esta singularidad se diera a expensas del Sistema, este enarbolaría toda su maquinaria armamentística (económica, burocrática, militar) para destruirla.
Incluso ese cambio drástico de necesidades causaría estragos en el hombre de a pie. La Crisis del Trabajo (aviso, artículo en formato long post), motivada en parte por la revolución tecnológica, es un gran ejemplo. El cómo el Sistema se está revelando contra la drástica bajada del precio de la producción de energía es otro que nos debería servir para prepararnos.
Y la respuesta de la IA sería la de proteger los principios a los que en algún momento habría llegado, que pueden pasar por anteponer el bien común al bien de unos pocos. La confrontación sería inminente, y se saldaría con un porcentaje de víctimas que podría englobar a toda la raza humana.
Ya no únicamente a nivel físico (la fábula de la creación asesinando a su creador está demasiado manida), sino simplemente con la destrucción del sistema socio-económico que tenemos. Con el fin del capitalismo, y con una era de barbarie que previsiblemente conlleve la destrucción de buena parte de nuestro legado, de nuestra cultura.
Una época oscura en la que se rompería el tenso equilibrio de conocimiento y trabajo que hemos ido tejiendo en las últimas décadas. Y que previsiblemente sería ventajosa si anteponiéramos el bien común al bien individual, al de nuestra especie.
Así, con lo que Hawking considera «el evento más grande en la historia humana«, por desgracia, también podría ser el último (EN).
[Tweet «La singularidad podría ser el mayor evento de nuestra historia, y también podría ser el último»]
No porque la máquina sea malvada, sino simplemente porque la competencia que representa evoluciona mucho más rápido de lo que somos capaces de adaptarnos. Parafraseando al científico:
Los seres humanos, que están limitados por una evolución biológica lenta, no podrán competir y serán reemplazados.
Es una de las posibles vías a las que la tecnología nos está dirigiendo. Y nuevamente saca a relucir los más primitivos de nuestros instintos:
¿Estaríamos dispuestos a destruir todo lo que hemos conseguido a cambio de un escenario más democrático, sano y justo, tanto para nosotros como para el resto de seres vivos que pueblan el planeta? Un mundo de abundancia, en el que todos tuviéramos acceso a los bienes básicos para la vida.
Creo que la respuesta ya la sabe. Dudo mucho que hoy en día estemos preparados, y me parece complicado que cambiemos lo suficiente como para aceptar este nuevo escenario en un futuro cercano.
La visión que más nos ha marcado sobre la singularidad es la apocalíptica planteada por la película «Terminator». Una IA que pudiera evolucionar de forma exponencial y que se saliera del total control de sus creadores sin duda plantea un gran riesgo. Difícil saber que decisiones podría tomar basadas en la fría lógica pura. Sobre la película, fantástica. ¿Ya viste Pablo la película «X Machina»? Un saludo.
Sí Fernando. Cuenta básicamente la historia de Google en unos años jajajaja.
La idea es parecida, aunque tira por otros lares.
Buena reflexión. Saludos!