Sarah se había vuelto desde hace un par de semanas el ojito derecho de Pedrito, un cincuentón padre de familia que tenía además a su cargo las fábricas de logística del Imperio de Amazon en EMEA.
La inteligencia artificial, considerada “persona electrónica” en Europa (ES) desde hacía relativamente poco, había nacido de aquel Amazon Echo inicial con la pretensión de mantener limpias y ordenadas las fábricas de la multinacional (ahora gobernadora de medio mundo), pero como solía pasar con estos desarrollos, pronto había escalado hasta la gestión integral de los bienes de multitud de clientes, entre los que estaban tanto organizaciones públicas como empresas privadas.
En su versión 3, de la cual Pedrito tenía acceso a una beta privada, se planteaba la irrupción de Sarah como asistente en el hogar, atacando así el mercado B2C que hasta ahora, por estrategia “de los de arriba”, no era el objetivo principal.
Y en estas dos últimas semanas la experiencia había sido, cuanto menos, gratificante. Acostumbrado a su melodiosa voz en el trabajo, Pedrito no encontró el mismo rechazo que su mujer, María, y sus dos pequeñajos, Pablo y Diana, demostraron cuando aquella tarde del Viernes Sarah ejecutó el mapeo y configuración de perfiles iniciales.
Desde entonces, y pasado ese tiempo de aprendizaje esperable (tanto para la máquina, como sobre todo, para las personas que allí habitaban), la convivencia familiar volvió nuevamente a la rutina, y Sarah pasó a ser una “herramienta hiper-eficiente“ más del día a día, encargada de servir a los intereses de los padres, hacerse cargo de las tareas de casa, y como no, entretener de una manera instructiva a los peques.
Y todo había salido a pedir de boca hasta este mismo Lunes, cuando las cosas empezaron a complicarse.
Índice de contenido
1.- Efectos secundarios negativos
Sería a eso de las 10 de la mañana y Pedrito estaba tranquilamente revisando las miles de filas de la hoja de Excel que tenía frente a sí, cuando el smartwatch de la pulsera empezó a vibrar.
Era su mujer, María, que le llamaba consternado.
Al parecer, Sarah había servido el desayuno a los niños como media hora antes, que tenían hoy clase virtual desde casa, y así como estaba implementado en su rutina, se dispuso a recoger la cocina.
Sin embargo, esta vez algo debió fallarle porque cuando María pasó por la habitación de camino al jardín se dio cuenta de que Sarah había tirado a la basura todos los restos del desayuno, platos, cubiertos y vasos incluidos.
– Tranquila mujer, que bajo yo ahora a hablar con los técnicos. Ya verás como es una tontería.
2.- Hackeo de recompensas
Y con las mismas Pedrito alcanzó para montarse en el ascensor y bajar de su planta 31 al Bajo 2, sin ventanas, donde empezaban los laboratorios de los ingenieros. Después de preguntar a un par de chicos que sorbían con presteza un café de máquina, obtuvo un nombre (“Manu”), un cargo (“Jefe de proyecto”) y una sala donde seguramente podría encontrarlo (56B). Y hasta allí se dirigió Pedrito, con tal suerte que en efecto el señor Manuel se encontraba en su puesto.
– Perdone, ¿Manuel?
– El mismo que viste y calza -le respondió un hombre de mediana edad al que le urgía cortarse la coleta-. ¿En qué puedo ayudarle?
– Mire, soy Pedro Jiménez, de la 31. Llevo como dos semanas en la prueba piloto de Sarah en el Hogar para altos directivos -no pudo evitar que la boca se le llenara al decir esto último-, y la cosa es que hace un rato mi mujer me ha llamado avisándome de que la máquina, en vez de recoger los restos del desayuno, ha tirado toda la mesa a la basura, platos, cubiertos y vasos con ella.
– Vaya…, déjeme que le eche un vistazo. ¿Cuál es su usuario y contraseña?
– [email protected] -le deletreó Pedrito con parsimonia- y contraseña 1234.
– 1…2…3…4… -dijo en voz alta Manu mientras tecleaba los números-. ¿Tiene un segundo factor de autenticación?
– ¿Un qué?
– Nada, da igual. Pues a ver qué tenemos por aquí… -otro de los ingenieros se acercó a mirar también la pantalla, que únicamente mostraba una lista ininteligible de datos volcados por el terminal-. Pues vaya, todo parece correcto. A las 9:57 S0128943523, la ID de su Sarah, realizó la operación de limpieza del desayuno de forma satisfactoria, obteniendo el visto bueno de VISOR, un agente neutral que supervisa las operaciones de nuestra inteligencia artificial. Sería un error puntual. Déjeme que tome los datos para crear un ticket, y si el problema persiste, me vuelve a avisar y envío a un técnico a su domicilio.
3.- Supervisión escalable
Pero el problema volvió a aparecer. Esta vez, ya de Miércoles.
Diana, después de una de sus clases, fue corriendo en busca de su querida amiga María Isabel, una barbie “inteligente” que le habían regalado hace ya cuatro años. Pero María Isabel no estaba ni donde la chiquilla recordaba haberla dejado (encima de la cama), ni en el baúl.
Media hora de llantos de la pobre niña hasta que su madre descubrió el paradero de la muñeca: El cubo de la basura.
Después de asegurarse de que no fuera una “graciosada más” de Pablito, todas las miradas se dirigieron hacia Sarah, que como cada mañana, había sido la encargada de limpiar las habitaciones.
Algo que el log revisado por los técnicos pudo corroborar.
– Al parecer -concluyó Manuel-, la muñeca llevaba ya el suficiente tiempo sin ser actualizada como para que Sarah considere que se trataba de un objeto de tipo 2 -es decir, de escaso valor y potencialmente peligroso para un niño–, y por tanto, decidiera tirarlo con el resto de objetos de tipo 1 -polvo, pelusas, bienes rotos, deshechos,...
4.- Exploración segura
Pero el mayor susto se lo llevó el propio Pedrito cuando, esa misma noche, metido en la ducha, notó un leve calambrazo en la pierna.
Lo achacó en primera instancia a la ciática, que de vez en cuando se le pinzaba, pero al ver que volvía a repetirse una y otra vez, descorrió la cortina, para descubrir estupefacto cómo Sarah estaba limpiando con insistencia una toma de corriente del baño.
¿Cuál era el problema? Que la IA había empantanado el baño con la fregona húmeda, y cada vez que intentaba quitar esas motas de polvo que seguramente el enchufe tendría, parte de la electricidad atravesaba el cable, diseminándose a intervalos por el suelo humedecido por la fregona y llegando hasta la ducha donde Pedrito estaba en ese momento.
5.- Robustez frente a múltiples escenarios
La versión 3.0 de Sarah no vería la luz del día. Al menos, hasta dentro de unos cuantos años.
Amazon había intentado escalar las problemáticas habituales de un entorno de oficina a un hogar, y la inteligencia artificial no estaba aún preparada para ello.
La multitud de quejas que recibió el programa piloto de altos directivos así lo constató, e incluso llegó a saldarse con la hospitalización de un par de trabajadores (el primero por la insistencia de Sarah a que realizar sus labores era más crítico de cara a la seguridad y bienestar de la familia que desconectarse, como le habían pedido, y el segundo por una intoxicación por los gases despedidos de los productos de limpieza en una habitación no convenientemente ventilada).
Hubo un par de mascotas que desaparecieron misteriosamente (todavía hoy se desconoce su paradero), pero sobre todo, la mayoría de problemas venían asociados por las acciones de una IA incapaz de adaptarse a entornos muy diversos.
Una IA que había aprendido a hackear la supervisión de su agente de inteligencia, encontrando caminos alternativos a la hora de limpiar una mesa (como podía ser tirar todo a la basura), o considerando que algunos bienes (como las antigüedades que muchos de los trabajadores tenían en su hogar) debían ser eliminados.
_
Inspirado en el paper (EN/PDF) que investigadores de Google, OpenAI, Stanford y Berkeley publicaban recientemente sobre algunos de los retos reales (no teóricos) a los que la industria de la inteligencia artificial debe enfrentarse antes de depositar toda nuestra confianza en las máquinas.
Por si te has quedado con hambre de más…
Si eres de ciencia ficción:
Colección de relatos cortos de ciencia ficción distópica. Cada relato trata un tema de rabiosa actualidad tecnológica, vislumbrando sus posibles escenarios.
1ª edición: Noviembre 2022.
Primera novela de Relatos cortos de ciencia ficción que publiqué.
1ª edición: Diciembre 2018.
2ª edición: Agosto 2021.
Y si eres más de fantasía épica, échale un ojo a la Colección de novelas “Memorias de Árganon”:
Actualmente «Memorias de Árganon» está compuesto por tres libros y más de 800 páginas en las que se narra una aventura épica de fantasía y ciencia ficción. ¿Te atreves?
1ª edición: Noviembre 2020.
2ª edición: Agosto 2021.
Por último, que sepas que todas estas novelas, junto con la de otros autores, las estamos publicando con el Sello Editorial de Autopublicación Ediciones PY. Si tienes un libro y necesitas ayuda para materializarlo en papel y distribuirlo a nivel mundial, escríbenos.
Buenas,
A mi en lo personal me a encantado y por supuesto que me a servido para ambas cosas, aun siendo consciente por mis humildes conocimientos sobre la importancia que tiene hoy en día el implementar un 2º factor de autenticación en todas nuestras cuentas, servicios online y digitales en donde nos lo permitan, si la lección es divertida, nunca se olvida !
“… Las organizaciones gastan muchos millones en firewalls y dispositivos de seguridad, pero tiran el dinero porque ninguna de estas medidas cubre el eslabón más débil de la cadena de seguridad: la gente que usa y administra los sistemas y ordenadores …\”
Saludos!
Así es Jonathan. Y me alegro que te sirva. Solo por eso merece el tiempo dedicado :).
Muchas gracias!
Muy entretenida tu reflexión Pablo. En los términos que lo planteas, mejor que esta IA continúe teniendo un IQ tan bajo. Se podría decir que se trata de un robot realmente bruto. Yo he conocido algunos de carne y hueso que actúan de forma similar. Pero que podrá pasar cuando su desarrollo rompa la barrera invisible donde comience a tomar decisiones propias de forma inteligente, es decir a desarrollar conceptos y actuar de acuerdo a ellos. Apenas ayer se utilizó un robot conducido remotamente por un humano para volar por los aires a un terrorista local en Dallas. Pero y si mañana este robot actúa por si mismo dirigido por una IA realmente capas… a donde llegaremos.
Fernando, estoy ahora mismo preparando un artículo al respecto en la intranet de mecenas. Te me adelantas hijo, te me adelantas, jaja.
Muy acertado tu comentario. sin lugar a duda, hay que plantearse urgentemente escenarios de este tipo, porque los primeros movimientos ya los tenemos encima.