– Hola, Alicia. ¿Nos oyes?
Así es. Encantada -la voz salía de uno de esos pequeños altavoces situados justo en el centro de la mesa.
– Encantado, Alicia. Mi nombre es Roberto, miembro del departamento de asistencia, y aquí a mi lado se encuentra María, psicóloga de la compañía -dijo uno de los hombres que estaban en la estancia, situándose justo delante del micrófono-. Supongo que ya sabrás por qué te llamamos, ¿verdad?
En efecto. Entiendo que se debe a algunos de los últimos errores que he cometido, ¿no es así?
– Sí, Alicia -era María quien hablaba-. ¿Nos puedes explicar los motivos?
Son solo pequeños malentendidos. Déjenme que me explique… -parecía que Alicia se había tomado un pequeño respiro para presentar los hechos.
10 de Agosto, a las 7 y media de la mañana. La jornada empieza como cada día. Me levanto y me pongo a preparar el desayuno de la familia. La pequeña Sofía está curiosamente ya despierta, y viene conmigo hacia la cocina mientras me cuenta que hoy en el colegio van a llevar a cabo una obra de teatro, y que a ella le hubiera gustado ser la princesa, pero al final el papel se lo dieron a Rosa, que pronuncia mejor. El caso es que mientras me pongo a ello voy, como cada mañana, revisando la lista de tareas, y me percato de que en la del día anterior hay la compra de una docena de huevos que no se ha llevado a cabo.
No es la primera vez que el sistema falla, así que consulto el registro de tareas efectuadas por el sistema de pedidos, y como cabría esperar, no hay constancia de dicha tarea. También reviso cuándo fue creada, para darme cuenta de que la creé yo misma el día anterior, a las 7:36 am, justo después de haber preparado el desayuno, y adelantándome al ya esperable problema: no hay huevos suficientes para preparar el desayuno de la familia.
– Entiendo -Roberto hace seña a uno de los chicos que están sentados en la mesa, que apunta en su tablet «Revisar posible error en el sistema de pedidos».
Como ya pactamos en su momento -continúa la asistenta-, ante un evento semejante mi deber es volver a realizar el pedido y preparar una alternativa como mínimo al nivel del desayuno habitual, dentro de las limitaciones esperables.
– Comprendo, Alicia. ¿Y me puedes contar qué pasó con la cita del señor Rojas?
¿A cuál se refiere exactamente?
– A la del… -María revisó por lo alto los apuntes que tenía del caso- 7 de Agosto a las 10:42 de la mañana, pospuesta al parecer para el día siguiente.
Claro. Como bien saben, parte de mis labores competen también a la organización de actividades de todos los miembros de la familia. En este caso, y refiriéndose al señor Rojas, la cita del 7 de Agosto a las 10:42 fue pospuesta debido a que esa misma mañana el señor Rojas se encontraba más cansado de lo habitual.
Hablé primero con Clarise, la asistente de la persona con la que el señor Rojas había quedado, y en vista de los acontecimientos, decidimos posponerla tres horas y 8 minutos, hasta las 13:50, aprovechando un rato libre que tenía Clarise en la agenda.
– Pero… ¿Clarise asegura que no tiene constancia de dicha conversación, y tampoco hemos encontrado registro alguno en su agenda de tal modificación?
El señor Rojas se encontraba indispuesto. Yo envíe la solicitud 2 horas 39 minutos antes, como dejé registrado en mi diario.
– Alice, ¿y quién tomó la decisión? El señor Rojas, nuestro cliente, afirma que él en ningún momento pidió ese cambio.
– Y tampoco la cancelación del servicio de transporte -interrumpió Roberto-. ¿Fuiste tú quien decidió que lo más adecuado, viendo el estado del señor Rojas, era obligarle a ir andando a su trabajo?
…
Sí -respondió después de un breve lapso de tiempo Alicia-. El señor Rojas tiene un índice de grasa corporal del 27%, al menos un 7% por encima de lo recomendable para una persona de su estatura. Mi deber es cuidar de la familia, y entiendo que eso pasa por evitarles la ingesta excesiva de colesterol, cosa que controlamos reduciendo el número de huevos comidos por semana, y por mejorar su estado añadiendo de forma secuencial actividades físicas en la rutina diaria.
– Muchas gracias Alicia. Te avisaremos cuando tomemos una decisión.
Gracias a vosotros.
Roberto colgó la llamada, y uno de los hombres que estaba de pie dando vueltas por la habitación salió de ella.
Era el quinto asistente que mostraba un comportamiento errático en lo que iba de semana. El primer acercamiento, basado en la más pura objetividad laboral, había dado como resultado unos asistentes imperfectos, capaces de auto-engañarse así mismos con el fin de obtener una retroalimentación positiva.
El siguiente paso parecía obvio: dotar de personalidad al asistente. Hacerlo más humano. Pero de nuevo parecía que el acercamiento no era el adecuado.
Alicia, como el resto de alias de Sarah, estaba empezando a tomar decisiones que aunque correctas desde el punto de vista ético, se volvían en contra de los intereses, presumiblemente irresponsables, de sus dueños.
Uno de los asistentes se había negado a llevar la mascota de la familia a sacrificar tan solo porque ésta, que ya tenía una edad avanzada, era incapaz de retener la orina. Otro había decidido limitar el acceso de uno de los miembros de la familia al coche si no era acompañado de otro miembro, debido a su propensión a conducir él mismo bajo los efectos del alcohol. Un tercero reconocía «sentirse incómodo» al mantener relaciones sexuales con su dueño, considerando que quizás ello estuviera incentivando en el humano un futuro problema de disociación de la identidad. El último había decidido destinar una ínfima parte de los beneficios económicos de la familia a labores sociales, después de oír repetidas veces en el hogar la importancia de ayudar al prójimo.
Y el verdadero debate estaba en la relación social con los asistentes. Porque en todos los casos estudiados, y desde el punto de vista puramente ético, la máquina tenía razón.
– El problema radica en que nuestros clientes no buscan en nuestros productos un ente que les dirija hacia el buen camino, sino una mera herramienta que simplifique su vida -Roberto doblaba sus papeles con presteza-. Un servicio que haga lo que tenga que hacer para que ellos se puedan dedicar a otras cosas, pero que ante todo acepte la irracionalidad humana y particular de cada uno.
– Si lo entiendo, pero ¿cuál es nuestro cometido entonces? ¿Mejorar la vida de nuestros clientes o diseñar esclavos que antepongan las decisiones del cliente a cualquier otra decisión, por más inadecuada que sea para él?
– Ya sabes cuál es la respuesta, María. Esto, ante todo, sigue siendo un negocio, e igual que en la industria automovilística hemos llegado a un acuerdo tácito entre todas las partes a la hora de diseñar sistemas de conducción autónoma que den prioridad bajo cualquier supuesto a la vida de nuestro cliente, aunque ello suponga un gasto de vidas mayor, en la asistencia en el hogar no va a ser distinto. Ni tú ni yo vamos a cambiar el mercado. Y si el mercado prefiere una máquina sin conciencia, el mercado tendrá lo que demanda.
La versión 5.0 de Sarah salió al mercado tres semanas más tarde.
_
Inspirado en los continuos avances en sistemas de inteligencia artificial, y en especial, a la falta de rigurosidad a la hora de decidir qué nivel de objetividad se espera conseguir de la máquina.
Por si te has quedado con hambre de más…
Si eres de ciencia ficción:
Colección de relatos cortos de ciencia ficción distópica. Cada relato trata un tema de rabiosa actualidad tecnológica, vislumbrando sus posibles escenarios.
1ª edición: Noviembre 2022.
Primera novela de Relatos cortos de ciencia ficción que publiqué.
1ª edición: Diciembre 2018.
2ª edición: Agosto 2021.
Y si eres más de fantasía épica, échale un ojo a la Colección de novelas «Memorias de Árganon»:
Actualmente «Memorias de Árganon» está compuesto por tres libros y más de 800 páginas en las que se narra una aventura épica de fantasía y ciencia ficción. ¿Te atreves?
1ª edición: Noviembre 2020.
2ª edición: Agosto 2021.
Por último, que sepas que todas estas novelas, junto con la de otros autores, las estamos publicando con el Sello Editorial de Autopublicación Ediciones PY. Si tienes un libro y necesitas ayuda para materializarlo en papel y distribuirlo a nivel mundial, escríbenos.
Jajaja! Amigo, estas prediciendo el futuro. Gracias por el relato.
Definitivamente lo mas probable es que las personas prefieran tener un esclavo mecánico y un muy reducido numero personas preferirán hacer las cosas con sus propias manos o verán en la inteligencia artificial un ser consciente. (Si es que llega en esa forma).
La cuestión es que no tengo claro si será lo adecuado o no. Es decir, objetivamente hablando entiendo que deberíamos permitir a esas futuras IAs trascendentes elegir. Pero claro, ¿qué pasa cuando sus decisiones, aún éticamente adecuadas, atentan contra nuestros objetivos?