5 problemas concretos de la IA ejemplificados en el “robot de limpieza” [relato distópico]

robot limpieza

Sarah se había vuelto desde hace un par de semanas el ojito derecho de Pedrito, un cincuentón padre de familia que tenía además a su cargo las fábricas de logística del Imperio de Amazon en EMEA.

La inteligencia artificial, considerada “persona electrónica” en Europa (ES) desde hacía relativamente poco, había nacido de aquel Amazon Echo inicial con la pretensión de mantener limpias y ordenadas las fábricas de la multinacional (ahora gobernadora de medio mundo), pero como solía pasar con estos desarrollos, pronto había escalado hasta la gestión integral de los bienes de multitud de clientes, entre los que estaban tanto organizaciones públicas como empresas privadas.

En su versión 3, de la cual Pedrito tenía acceso a una beta privada, se planteaba la irrupción de Sarah como asistente en el hogar, atacando así el mercado B2C que hasta ahora, por estrategia “de los de arriba”, no era el objetivo principal.

Y en estas dos últimas semanas la experiencia había sido, cuanto menos, gratificante. Acostumbrado a su melodiosa voz en el trabajo, Pedrito no encontró el mismo rechazo que su mujer, María, y sus dos pequeñajos, Pablo y Diana, demostraron cuando aquella tarde del Viernes Sarah ejecutó el mapeo y configuración de perfiles iniciales.

Desde entonces, y pasado ese tiempo de aprendizaje esperable (tanto para la máquina, como sobre todo, para las personas que allí habitaban), la convivencia familiar volvió nuevamente a la rutina, y Sarah pasó a ser una herramienta hiper-eficiente más del día a día, encargada de servir a los intereses de los padres, hacerse cargo de las tareas de casa, y como no, entretener de una manera instructiva a los peques.

Y todo había salido a pedir de boca hasta este mismo Lunes, cuando las cosas empezaron a complicarse.

1.- Efectos secundarios negativos

Sería a eso de las 10 de la mañana y Pedrito estaba tranquilamente revisando las miles de filas de la hoja de Excel que tenía frente a sí, cuando el smartwatch de la pulsera empezó a vibrar.

Era su mujer, María, que le llamaba consternado.

Al parecer, Sarah había servido el desayuno a los niños como media hora antes, que tenían hoy clase virtual desde casa, y así como estaba implementado en su rutina, se dispuso a recoger la cocina.

Sin embargo, esta vez algo debió fallarle porque cuando María pasó por la habitación de camino al jardín se dio cuenta de que Sarah había tirado a la basura todos los restos del desayuno, platos, cubiertos y vasos incluidos.

– Tranquila mujer, que bajo yo ahora a hablar con los técnicos. Ya verás como es una tontería.

2.- Hackeo de recompensas

Y con las mismas Pedrito alcanzó para montarse en el ascensor y bajar de su planta 31 al Bajo 2, sin ventanas, donde empezaban los laboratorios de los ingenieros. Después de preguntar a un par de chicos que sorbían con presteza un café de máquina, obtuvo un nombre (“Manu”), un cargo (“Jefe de proyecto”) y una sala donde seguramente podría encontrarlo (56B). Y hasta allí se dirigió Pedrito, con tal suerte que en efecto el señor Manuel se encontraba en su puesto.

– Perdone, ¿Manuel?

– El mismo que viste y calza -le respondió un hombre de mediana edad al que le urgía cortarse la coleta-. ¿En qué puedo ayudarle?

– Mire, soy Pedro Jiménez, de la 31. Llevo como dos semanas en la prueba piloto de Sarah en el Hogar para altos directivos -no pudo evitar que la boca se le llenara al decir esto último-, y la cosa es que hace un rato mi mujer me ha llamado avisándome de que la máquina, en vez de recoger los restos del desayuno, ha tirado toda la mesa a la basura, platos, cubiertos y vasos con ella.

– Vaya…, déjeme que le eche un vistazo. ¿Cuál es su usuario y contraseña?

– PEDRITO.JIMENEZ@amazon.es -le deletreó Pedrito con parsimonia- y contraseña 1234.

– 1…2…3…4… -dijo en voz alta Manu mientras tecleaba los números-. ¿Tiene un segundo factor de autenticación?

– ¿Un qué?

– Nada, da igual. Pues a ver qué tenemos por aquí… -otro de los ingenieros se acercó a mirar también la pantalla, que únicamente mostraba una lista ininteligible de datos volcados por el terminal-. Pues vaya, todo parece correcto. A las 9:57 S0128943523, la ID de su Sarah, realizó la operación de limpieza del desayuno de forma satisfactoria, obteniendo el visto bueno de VISOR, un agente neutral que supervisa las operaciones de nuestra inteligencia artificial. Sería un error puntual. Déjeme que tome los datos para crear un ticket, y si el problema persiste, me vuelve a avisar y envío a un técnico a su domicilio.

3.- Supervisión escalable

Pero el problema volvió a aparecer. Esta vez, ya de Miércoles.

Diana, después de una de sus clases, fue corriendo en busca de su querida amiga María Isabel, una barbie “inteligente” que le habían regalado hace ya cuatro años. Pero María Isabel no estaba ni donde la chiquilla recordaba haberla dejado (encima de la cama), ni en el baúl.

Media hora de llantos de la pobre niña hasta que su madre descubrió el paradero de la muñeca: El cubo de la basura.

Después de asegurarse de que no fuera una “graciosada más” de Pablito, todas las miradas se dirigieron hacia Sarah, que como cada mañana, había sido la encargada de limpiar las habitaciones.

Algo que el log revisado por los técnicos pudo corroborar.

– Al parecer -concluyó Manuel-, la muñeca llevaba ya el suficiente tiempo sin ser actualizada como para que Sarah considere que se trataba de un objeto de tipo 2 -es decir, de escaso valor y potencialmente peligroso para un niño, y por tanto, decidiera tirarlo con el resto de objetos de tipo 1 -polvo, pelusas, bienes rotos, deshechos,...

4.- Exploración segura

Pero el mayor susto se lo llevó el propio Pedrito cuando, esa misma noche, metido en la ducha, notó un leve calambrazo en la pierna.

Lo achacó en primera instancia a la ciática, que de vez en cuando se le pinzaba, pero al ver que volvía a repetirse una y otra vez, descorrió la cortina, para descubrir estupefacto cómo Sarah estaba limpiando con insistencia una toma de corriente del baño.

¿Cuál era el problema? Que la IA había empantanado el baño con la fregona húmeda, y cada vez que intentaba quitar esas motas de polvo que seguramente el enchufe tendría, parte de la electricidad atravesaba el cable, diseminándose a intervalos por el suelo humedecido por la fregona y llegando hasta la ducha donde Pedrito estaba en ese momento.

5.- Robustez frente a múltiples escenarios

La versión 3.0 de Sarah no vería la luz del día. Al menos, hasta dentro de unos cuantos años.

Amazon había intentado escalar las problemáticas habituales de un entorno de oficina a un hogar, y la inteligencia artificial no estaba aún preparada para ello.

La multitud de quejas que recibió el programa piloto de altos directivos así lo constató, e incluso llegó a saldarse con la hospitalización de un par de trabajadores (el primero por la insistencia de Sarah a que realizar sus labores era más crítico de cara a la seguridad y bienestar de la familia que desconcectarse, como le habían pedido, y el segundo por una intoxicación por los gases despedidos de los productos de limpieza en una habitación no convenientemente ventilada).

Hubo un par de mascotas que desaparecieron misteriosamente (todavía hoy se desconoce su paradero), pero sobre todo, la mayoría de problemas venían asociados por las acciones de una IA incapaz de adaptarse a entornos muy diversos.

Una IA que había aprendido a hackear la supervisión de su agente de inteligencia, encontrando caminos alternativos a la hora de limpiar una mesa (como podía ser tirar todo a la basura), o considerando que algunos bienes (como las antigüedades que muchos de los trabajadores tenían en su hogar) debían ser eliminados.

 

_

Para la creación de este relato me he inspirado en el paper (EN/PDF) que investigadores de Google, OpenAI, Stanford y Berkeley publicaban recientemente sobre algunos de los retos reales (no teóricos) a los que la industria de la inteligencia artificial debe enfrentarse antes de depositar toda nuestra confianza en las máquinas.

Puede leer más de estas piezas distópicas bajo el tag Relatos.

Si le ha servido para pasar el rato, o incluso para pensar de manera divergente en el asunto, que sepa que puede invitarme a lo que vale un café (o incluso a lo que vale un café con churros) de tres maneras distintas :).

hazme patrono pabloyglesias