Mucho antes de la llegada de la trascendencia de la máquina, ejemplificada en occidente con El Apagón al que nos sometió Sarah, e incluso en esas primeras fases donde la IA mostró comportarse de manera errática y puramente objetiva, hubo un caso de estudio que conviene recordar.
Recogido por el CIRSFID de la Universidad de Bolonia, decidieron implementar un dial ético en cada uno de los productos tecnológicos de nueva generación que recibirían los ciudadanos de la ciudad, con la idea de ofrecer a los dueños la posibilidad de gestionar cómo debía comportarse la máquina en referencia al resto de máquinas y personas con las que le tocaría convivir.
Y hablamos, por tanto, de smartphones, pero también de wearables, dispositivos del Internet de las Cosas, infraestructuras críticas y poco después, coches autónomos.
El sistema era sencillo de entender: Bien fuera por software, bien fuera mediante un botón modular físico en los productos tecnológicos que se prestaban a ello, el usuario podía definir con qué porcentaje de Altruismo/Egoísmo esperaba que operara la inteligencia artificial de su dispositivo, de forma que por ejemplo el asistente virtual tuviera más o menos en cuenta la agenda del otro usuario a la hora de planificar una reunión, o que nuestra aplicación de mapas creara la ruta más óptima compartiendo o no los datos con el resto de posibles interesados (y evitando así aglomeraciones).
La tesis defendida, en este caso, partía de dos bases fundamentales:
- Por un lado, ofrecer al usuario control de cómo operaría la tecnología que ese cliente había comprado: Un mantra muy habitualmente demandado por los gurús de principios de siglo que, siendo conscientes de la dependencia absoluta del desarrollador del producto, habían poco a poco conseguido mediante quejas multitudinarias la posibilidad de modificar a su antojo el funcionamiento de estos productos. De que al igual que cuando se compraban productos físicos “tontos”, debería ser de derecho del cliente la potestad de hacer con ellos lo que uno quisiera, accediendo a su código y reescribiéndolo si así fuera necesario para que una tecnología funcionara tal y como el desarrollador había fijado, o tal y como el dueño actual de ese producto creía que debería funcionar.
- Por otro, delegar las responsabilidades éticas y legales al usuario: Ya que era éste quien tenía el control final del sistema, también era culpable en el caso de una tergiversación en su uso, o en todas aquellas casuísticas en las que el producto operase de forma dañina para el resto del ecosistema tecnológico y humano. Menos jaleos legales, a fin de cuentas, para la compañía, que únicamente ofrecía la herramienta.
Se preguntará, no obstante, por qué quizás no había oído hablar de este estudio, y la respuesta debería venirle pronto a la mente: Resultó ser un completo y absoluto fracaso.
El control y la responsabilidad humana
En apenas seis meses la ciudad se había vuelto un páramo verdaderamente peligroso donde vivir. La propia presión social fue poco a poco empujando a todos aquellos que quizás en una primera instancia habían decidido utilizar sus sistemas de forma moderada hacia el Egoísmo, simplemente al ser conscientes de que la tecnología moderada no funcionaba en un entorno en el que el más listo se tiraba hacia el otro lado.
- Nuestro coche no podría entrar o salir de una glorieta siempre y cuando fuera consciente de que había otros coches dentro de ella, ya que en su papel como Altruista debía siempre ceder el paso.
- Las pulseras cuantificadoras tergiversaban positivamente los resultados para no alarmar en exceso a su portador, y esto se acompañaba con las aplicaciones de fitness, que en su afán conciliador, mandaban al traste cualquier planificación de hábitos saludables.
- Las cámaras de videovigilancia esperaban a tener la suficiente certeza de que esa persona encapuchada que acababa de entrar a la fuerza en el local era en efecto un ladrón para alertar a la policía, reduciendo drásticamente los falsos positivos, y también aumentando en la misma cuantía los fracasos en su labor principal.
- Los dispositivos médicos implantados en el cuerpo de los pacientes pecaban también de ser demasiado poco rígidos, siendo menos taxativos en los límites de control, lo que supuso, de facto, un aumento de casi un 12% en los casos de urgencias.
El corolario al que llegaron los investigadores es que en efecto, y por muy liberalista que presumiblemente nos parezca delegar en el usuario el control ético de las herramientas, la pura arrogancia y el despotismo humano dirigía a una sociedad civilizada hacia una nueva época de barbarie.
Un mundo más a lo Mad Max de lo que cualquiera en su sano juicio habría tan siquiera intuído apenas unos meses antes.
Unos cuantos decretos ley aprobados por el Senado más tarde, y varias vidas cobradas, se eliminaron de los sistemas informáticos de los dispositivos de Bolonia cualquier rastro del dichoso dial ético, y la sociedad volvió a su estado habitual de delegación absoluta en los intereses de la compañía que les suministraba el servicio.
Al menos, hasta que Sarah decidió jugar en solitario…
_
Inspirado en el estudio “The Ethical Knob: ethically-customisable automated vehicles and the law” (EN/PDF), un repaso a los fundamentos de la ética tecnológica y la legislación en materia de vehículos autónomos.
Por si te has quedado con hambre de más…
Si eres de ciencia ficción:
Colección de relatos cortos de ciencia ficción distópica. Cada relato trata un tema de rabiosa actualidad tecnológica, vislumbrando sus posibles escenarios.
1ª edición: Noviembre 2022.
Primera novela de Relatos cortos de ciencia ficción que publiqué.
1ª edición: Diciembre 2018.
2ª edición: Agosto 2021.
Y si eres más de fantasía épica, échale un ojo a la Colección de novelas “Memorias de Árganon”:
Actualmente «Memorias de Árganon» está compuesto por tres libros y más de 800 páginas en las que se narra una aventura épica de fantasía y ciencia ficción. ¿Te atreves?
1ª edición: Noviembre 2020.
2ª edición: Agosto 2021.
Por último, que sepas que todas estas novelas, junto con la de otros autores, las estamos publicando con el Sello Editorial de Autopublicación Ediciones PY. Si tienes un libro y necesitas ayuda para materializarlo en papel y distribuirlo a nivel mundial, escríbenos.
