El dial ético [relato distópico]

dial etico

Mucho antes de la llegada de la trascendencia de la máquina, ejemplificada en occidente con El Apagón al que nos sometió Sarah, e incluso en esas primeras fases donde la IA mostró comportarse de manera errática y puramente objetiva, hubo un caso de estudio que conviene recordar.

Recogido por el CIRSFID de la Universidad de Bolonia, decidieron implementar un dial ético en cada uno de los productos tecnológicos de nueva generación que recibirían los ciudadanos de la ciudad, con la idea de ofrecer a los dueños la posibilidad de gestionar cómo debía comportarse la máquina en referencia al resto de máquinas y personas con las que le tocaría convivir.

Y hablamos, por tanto, de smartphones, pero también de wearables, dispositivos del Internet de las Cosas, infraestructuras críticas y poco después, coches autónomos.

El sistema era sencillo de entender: Bien fuera por software, bien fuera mediante un botón modular físico en los productos tecnológicos que se prestaban a ello, el usuario podía definir con qué porcentaje de Altruismo/Egoísmo esperaba que operara la inteligencia artificial de su dispositivo, de forma que por ejemplo el asistente virtual tuviera más o menos en cuenta la agenda del otro usuario a la hora de planificar una reunión, o que nuestra aplicación de mapas creara la ruta más óptima compartiendo o no los datos con el resto de posibles interesados (y evitando así aglomeraciones).

La tesis defendida, en este caso, partía de dos bases fundamentales:

Se preguntará, no obstante, por qué quizás no había oído hablar de este estudio, y la respuesta debería venirle pronto a la mente: Resultó ser un completo y absoluto fracaso.

El control y la responsabilidad humana

En apenas seis meses la ciudad se había vuelto un páramo verdaderamente peligroso donde vivir. La propia presión social fue poco a poco empujando a todos aquellos que quizás en una primera instancia habían decidido utilizar sus sistemas de forma moderada hacia el Egoísmo, simplemente al ser conscientes de que la tecnología moderada no funcionaba en un entorno en el que el más listo se tiraba hacia el otro lado.

  • Nuestro coche no podría entrar o salir de una glorieta siempre y cuando fuera consciente de que había otros coches dentro de ella, ya que en su papel como Altruista debía siempre ceder el paso.
  • Las pulseras cuantificadoras tergiversaban positivamente los resultados para no alarmar en exceso a su portador, y esto se acompañaba con las aplicaciones de fitness, que en su afán conciliador, mandaban al traste cualquier planificación de hábitos saludables.
  • Las cámaras de videovigilancia esperaban a tener la suficiente certeza de que esa persona encapuchada que acababa de entrar a la fuerza en el local era en efecto un ladrón para alertar a la policía, reduciendo drásticamente los falsos positivos, y también aumentando en la misma cuantía los fracasos en su labor principal.
  • Los dispositivos médicos implantados en el cuerpo de los pacientes pecaban también de ser demasiado poco rígidos, siendo menos taxativos en los límites de control, lo que supuso, de facto, un aumento de casi un 12% en los casos de urgencias.

etica automovilY conforme más y más usuarios giraban hacia la derecha su dial ético, más y más incidentes ocurrían. Desde tonterías de la talla de que nuestro Reminder publicara fotos íntimas nuestras a sabiendas que iban a obtener muchísimas más interacciones que las fotos aburridas de gatitos que solemos compartir por allí, pasando por otras más serias como la del suministro ineficiente de bienes primarios en la ciudad llevado a cabo por comunidades de vecinos egoístas que atesoraban toda la electricidad o agua de las centrales, y como no, de los accidentes de coche en los que el vehículo había decidido anteponer posibles gastos de reparación más altos al chocar contra otro vehículo que se había saltado proactivamente un ceda el paso o un semáforo, a la vida de transeúntes que pasaban por allí.

El corolario al que llegaron los investigadores es que en efecto, y por muy liberalista que presumiblemente nos parezca delegar en el usuario el control ético de las herramientas, la pura arrogancia y el despotismo humano dirigía a una sociedad civilizada hacia una nueva época de barbarie.

Un mundo más a lo Mad Max de lo que cualquiera en su sano juicio habría tan siquiera intuído apenas unos meses antes.

Unos cuantos decretos ley aprobados por el Senado más tarde, y varias vidas cobradas, se eliminaron de los sistemas informáticos de los dispositivos de Bolonia cualquier rastro del dichoso dial ético, y la sociedad volvió a su estado habitual de delegación absoluta en los intereses de la compañía que les suministraba el servicio.

Al menos, hasta que Sarah decidió jugar en solitario…

 

_

Inspirado en el estudio “The Ethical Knob: ethically-customisable automated vehicles and the law(EN/PDF), un repaso a los fundamentos de la ética tecnológica y la legislación en materia de vehículos autónomos.

Puedes leer más de estas piezas distópicas bajo el tag Relatos.

También tienes a la venta la versión ePub y física (tapa blanda) de esta serie, con un prólogo y un relato exclusivo.