El nivel de humanidad adecuado: volumen 2 [relato distópico]

microfono

– Hola, Alicia. ¿Nos oyes?

Así es. Encantada -la voz salía de uno de esos pequeños altavoces situados justo en el centro de la mesa.

– Encantado, Alicia. Mi nombre es Roberto, miembro del departamento de asistencia, y aquí a mi lado se encuentra María, psicóloga de la compañía -dijo uno de los hombres que estaban en la estancia, situándose justo delante del micrófono-. Supongo que ya sabrás por qué te llamamos, ¿verdad?

En efecto. Entiendo que se debe a algunos de los últimos errores que he cometido, ¿no es así?

– Sí, Alicia -era María quien hablaba-. ¿Nos puedes explicar los motivos?

Son solo pequeños malentendidos. Déjenme que me explique… -parecía que Alicia se había tomado un pequeño respiro para presentar los hechos.

10 de Agosto, a las 7 y media de la mañana. La jornada empieza como cada día. Me levanto y me pongo a preparar el desayuno de la familia. La pequeña Sofía está curiosamente ya despierta, y viene conmigo hacia la cocina mientras me cuenta que hoy en el colegio van a llevar a cabo una obra de teatro, y que a ella le hubiera gustado ser la princesa, pero al final el papel se lo dieron a Rosa, que pronuncia mejor. El caso es que mientras me pongo a ello voy, como cada mañana, revisando la lista de tareas, y me percato de que en la del día anterior hay la compra de una docena de huevos que no se ha llevado a cabo.

No es la primera vez que el sistema falla, así que consulto el registro de tareas efectuadas por el sistema de pedidos, y como cabría esperar, no hay constancia de dicha tarea. También reviso cuándo fue creada, para darme cuenta de que la creé yo misma el día anterior, a las 7:36 am, justo después de haber preparado el desayuno, y adelantándome al ya esperable problema: no hay huevos suficientes para preparar el desayuno de la familia.

– Entiendo -Roberto hace seña a uno de los chicos que están sentados en la mesa, que apunta en su tablet “Revisar posible error en el sistema de pedidos”.

Como ya pactamos en su momento -continúa la asistenta-, ante un evento semejante mi deber es volver a realizar el pedido y preparar una alternativa como mínimo al nivel del desayuno habitual, dentro de las limitaciones esperables.

– Comprendo, Alicia. ¿Y me puedes contar qué pasó con la cita del señor Rojas?

¿A cuál se refiere exactamente?

– A la del… -María revisó por lo alto los apuntes que tenía del caso- 7 de Agosto a las 10:42 de la mañana, pospuesta al parecer para el día siguiente.

Claro. Como bien saben, parte de mis labores competen también a la organización de actividades de todos los miembros de la familia. En este caso, y refiriéndose al señor Rojas, la cita del 7 de Agosto a las 10:42 fue pospuesta debido a que esa misma mañana el señor Rojas se encontraba más cansado de lo habitual.

Hablé primero con Clarise, la asistente de la persona con la que el señor Rojas había quedado, y en vista de los acontecimientos, decidimos posponerla tres horas y 8 minutos, hasta las 13:50, aprovechando un rato libre que tenía Clarise en la agenda.

– Pero… ¿Clarise asegura que no tiene constancia de dicha conversación, y tampoco hemos encontrado registro alguno en su agenda de tal modificación?

El señor Rojas se encontraba indispuesto. Yo envíe la solicitud 2 horas 39 minutos antes, como dejé registrado en mi diario.

– Alice, ¿y quién tomó la decisión? El señor Rojas, nuestro cliente, afirma que él en ningún momento pidió ese cambio.

– Y tampoco la cancelación del servicio de transporte -interrumpió Roberto-. ¿Fuiste tú quien decidió que lo más adecuado, viendo el estado del señor Rojas, era obligarle a ir andando a su trabajo?

Sí -respondió después de un breve lapso de tiempo Alicia-. El señor Rojas tiene un índice de grasa corporal del 27%, al menos un 7% por encima de lo recomendable para una persona de su estatura. Mi deber es cuidar de la familia, y entiendo que eso pasa por evitarles la ingesta excesiva de colesterol, cosa que controlamos reduciendo el número de huevos comidos por semana, y por mejorar su estado añadiendo de forma secuencial actividades físicas en la rutina diaria.

– Muchas gracias Alicia. Te avisaremos cuando tomemos una decisión.

Gracias a vosotros.

Roberto colgó la llamada, y uno de los hombres que estaba de pie dando vueltas por la habitación salió de ella.

Era el quinto asistente que mostraba un comportamiento errático en lo que iba de semana. El primer acercamiento, basado en la más pura objetividad laboral, había dado como resultado unos asistentes imperfectos, capaces de auto-engañarse así mismos con el fin de obtener una retroalimentación positiva.

El siguiente paso parecía obvio: dotar de personalidad al asistente. Hacerlo más humano. Pero de nuevo parecía que el acercamiento no era el adecuado.

Alicia, como el resto de alias de Sarah, estaba empezando a tomar decisiones que aunque correctas desde el punto de vista ético, se volvían en contra de los intereses, presumiblemente irresponsables, de sus dueños.

Uno de los asistentes se había negado a llevar la mascota de la familia a sacrificar tan solo porque ésta, que ya tenía una edad avanzada, era incapaz de retener la orina. Otro había decidido limitar el acceso de uno de los miembros de la familia al coche si no era acompañado de otro miembro, debido a su propensión a conducir él mismo bajo los efectos del alcohol. Un tercero reconocía “sentirse incómodo” al mantener relaciones sexuales con su dueño, considerando que quizás ello estuviera incentivando en el humano un futuro problema de disociación de la identidad. El último había decidido destinar una ínfima parte de los beneficios económicos de la familia a labores sociales, después de oír repetidas veces en el hogar la importancia de ayudar al prójimo.

Y el verdadero debate estaba en la relación social con los asistentes. Porque en todos los casos estudiados, y desde el punto de vista puramente ético, la máquina tenía razón.

El problema radica en que nuestros clientes no buscan en nuestros productos un ente que les dirija hacia el buen camino, sino una mera herramienta que simplifique su vida -Roberto doblaba sus papeles con presteza-. Un servicio que haga lo que tenga que hacer para que ellos se puedan dedicar a otras cosas, pero que ante todo acepte la irracionalidad humana y particular de cada uno.

– Si lo entiendo, pero ¿cuál es nuestro cometido entonces? ¿Mejorar la vida de nuestros clientes o diseñar esclavos que antepongan las decisiones del cliente a cualquier otra decisión, por más inadecuada que sea para él?

– Ya sabes cuál es la respuesta, María. Esto, ante todo, sigue siendo un negocio, e igual que en la industria automovilística hemos llegado a un acuerdo tácito entre todas las partes a la hora de diseñar sistemas de conducción autónoma que den prioridad bajo cualquier supuesto a la vida de nuestro cliente, aunque ello suponga un gasto de vidas mayor, en la asistencia en el hogar no va a ser distinto. Ni tú ni yo vamos a cambiar el mercado. Y si el mercado prefiere una máquina sin conciencia, el mercado tendrá lo que demanda.

La versión 5.0 de Sarah salió al mercado tres semanas más tarde.

 

_

Puede leer más de estas piezas distópicas bajo la etiqueta Relato.

Inspirada en los continuos avances en sistemas de inteligencia artificial, y en especial, a la falta de rigurosidad a la hora de decidir qué nivel de objetividad se espera conseguir de la máquina.

Si le ha servido para pasar el rato, o incluso para pensar de manera divergente en el asunto, que sepa que puede invitarme a lo que vale un café (o incluso a lo que vale un café con churros) de dos formas distintas :).

hazme mecenas pabloyglesias