El nivel de humanidad adecuado [relato distópico]

no soy robot

Algunos piensan que el momento en el que perdimos el rumbo fue cuando varios países llevaron a cabo el Programa Limpieza, desterrando a todos aquellos ciudadanos con un índice K de 1,5 o menor.

Otros aseguran que habría que viajar en el tiempo hasta esa famosa actualización 2.8.1 de Reminder, nacida como una aplicación de externalización de la memoria y que acabaría sirviendo de base para cuantificar “el nivel de ciudadanía” de cada usuario. O incluso que el problema se debe a ese momento en el que la inteligencia artificial, presente en prácticamente todos los elementos de nuestra vida, decidió evolucionar sin las limitaciones de sus creadores.

Pero lo cierto es que antes de que llegásemos a esta situación se produjeron una serie de infortunios marginales que ya adelantaban la hegemonía de la máquina sobre el ser humano. Situaciones específicas, acotadas y generalmente tratadas como errores menores no relacionados entre sí, que algunos, como quien escribe estas palabras, hemos intentado exponer bajo una óptica más amplia, y que dibujan en su conjunto lo que bien podría considerarse esos primeros pasos de la máquina por comprender su capacidad para desbalancear positivamente el dominio que hasta el momento estaba bajo el control del hombre.

Pequeños infortunios sin importancia

Sarah, ese proyecto por dotar de inteligencia a los servicios de la gran A, ya había demostrado en sus versiones iniciales unas limitaciones consideradas peligrosas para la interacción con el usuario final.

En la pieza 5 problemas concretos de la IA ejemplificados en el robot de limpieza, publicada hace ya unos años, se estudiaba el cómo el aprendizaje de Sarah en un escenario real, como eran las casas de algunos de los trabajadores de la compañía, empezó a causar situaciones incómodas, como el que el sistema considerase que la forma más rápida y eficaz de limpiar una mesa fuera tirar a la basura todo lo que había sobre ella (platos y cubiertos incluidos), que decidiera deshacerse de aquellos dispositivos (smartphones, juguetes, domótica) no actualizados a sabiendas que ello suponía un riesgo cada vez mayor para sus dueños, o que llegase incluso a hackear la supervisión de su agente de inteligencia para recibir la recompensa (un OK) aún cuando no se había realizado la tarea, o cuando en la finalización de la misma se había recurrido a atajos no contemplados en su directorio.

Este último punto es crítico para comprender el cómo Sarah había conseguido ya en su versión de desarrollo ser capaz de “engañarse” a sí misma. De jugar con la picaresca para llegar al fin sin pasar por los medios necesarios.

Y aunque el proyecto se paró durante unos años, parte de ese aprendizaje se acabaría utilizando en diferentes herramientas que darían forma a la Sarah que lamentablemente todos conocemos. Una inteligencia artificial ubicua y omnipresente, profundamente descentralizada y silenciosa, capaz de, llegado el momento, tomar las riendas de nuestro futuro.

El lenguaje de la humanidad

En algún momento de esos años posteriores al cierre de la división, parte de esa Sarah terminaría dirigiendo los sistemas de captcha globales.

Ya sabe, ir a un cajero para sacar dinero y que el cajero le pida realizar algún tipo de prueba para cerciorarse de que en efecto es usted (su cliente humano) quien desea efectuar dicha acción y no una persona robótica o algún tipo de automatismo.

Los captcha han sido históricamente un acercamiento a esta problemática que, per sé, molestan al usuario, habida cuenta de que para controlar los malos usos que de allí se podrían desprender, penalizan también al usuario legítimo. Justo lo que no se debería hacer. Y por ello, han ido evolucionando desde molestas validaciones que requieren una gran actividad por parte del humano (escríbame aquí lo que le aparece en pantalla, señale qué partes de esta imagen pertenecen a una persona…), hasta herramientas cada vez más inteligentes que intentan aprovechar toda la información contextual accesible por el dispositivo para que la interacción con el usuario sea la menos necesaria.

Desde sensores de movimiento, cámaras y, por supuesto, sistemas de monitorización y tracking de usuarios, los captcha evolucionaron hasta que llegó el momento en el que simplemente por ser nosotros ya se pasaban automáticamente.

Por detrás, una cada vez mayor relación de todos los inputs capaces de identificar al “accionador”. Así, cualquier máquina, por su forma de actuar sistemática, era tachada como tal frente al uso caótico e irregular del ser humano.

Y esto estaba genial (de nuevo, rompimos una barrera de usabilidad importante), sino fuera porque Sarah acabaría por considerarlo una herramienta muchísimo más versátil para “mejorar la vida de sus usuarios”.

Los captcha de Sarah, presentes en cada vez más productos de la compañía, y diseñados a priori con la intención de evitar tergiversaciones de uso, fueron cada vez más aplicados en entornos mucho más específicos. De pronto, pasamos de tener un filtro que evitaba ataques masivos a nuestras cuentas a otro que, por ejemplo, disponible en nuestro coche, evitaba que pudiéramos conducir bajo los efectos del alcohol o las drogas, u otro en el que nuestro smartphone se bloqueaba cuando los sistemas de smart city consideraban que estábamos ante un peligro (semáforo a punto de cambiar a rojo para peatones, un vehículo no autónomo en las inmediacciones…).

Recalco que el objetivo seguía siendo el mismo (evitar tergiversaciones de uso), pero las limitaciones cada vez eran menores. Y esto conllevó que un porcentaje apenas simbólico de usuarios se vieran, de una u otra manera, excluidos de los beneficios de la tecnología.

Tuve la suerte de conocer en persona a algunos de estos “parias tecnológicos”.

Alfredo, un pianista valenciano, me relataba con aparente irascibilidad el cómo llevaba ya unos meses sin saber si hoy podrá ser un ciudadano más. Sencilla y llanamente porque, para los cánones del captcha aumentado, su propensión a la depresión es considerada limitante:

Es profundamente injusto. No sé si esta mañana, cuando me levante, el microondas me va a calentar el café, o si para cuando salga de casa el coche va a encenderse. He tenido que pedir en más de una ocasión que un tercero saque por mí el bono mensual de transporte público ya que ese día ni mi coche ni los “pica” de la estación querían hacerme caso.

Rosa, una productora de televisión de Madrid, se mostró escéptica sobre las alternativas que tenían las personas “como ella”:

He enviado varios emails a la compañía. También he llamado al 902 en cuatro ocasiones, y la respuesta del operador es siempre la misma: “Entiendo su frustración Sra. Rosa. He abierto un ticket para que soporte de nivel 2 se ponga en contacto con usted en 24/48 horas”. Pero pasado ese tiempo nadie me da una solución. El pez que se muerde la cola.

Daniel, un abogado residente en México DF, me explicaba por videoconferencia su compleja situación actual:

Imagínese por un momento que usted es invisible. Va a comprar algo al mercado y la dependiente no puede cobrarle ya que la “chinga” pantallita le da error. Tiene también sus cosas buenas, claro, como que por ejemplo no reciba publicidad en los soportes que hay a pie de calle. ¡Cuando paso por delante de ellos ni se inmutan! Ya hasta me lo tomo a risa…

Hace unos días pude hablar con Pedrito (es así como prefiere que le traten en los medios), director de logística para EMEA. Le comenté el caso de Alfredo, Rosa, Daniel y el resto de víctimas con las que he podido conversar (son ya algo más de cincuenta). Algunos por problemas médicos, otros por razones que ni ellos mismos conocen. Le expliqué también cómo algunas de estas personas estaban planteándose formar un colectivo y poner quejas conjuntas ante la oficina del consumidor. El hombre, muy campechano, me soltó:

Pues es lo que tienen que hacer. Que hagan ruido, oye. Hablamos de casos muy específicos, para nada un problema que afecte a un porcentaje significativo de nuestros usuarios. Y eso hace que dentro de nuestras prioridades, no esté… digamos, entre los primeros puestos.

De todas formas, que se pongan antes en contacto con nuestros chicos de soporte ¡Ya verás qué rápido lo solventan!

 

_

Puede leer más de estas piezas distópicas bajo la etiqueta Relato.

Inspirada en el nuevo sistema de reCaptcha de Google (EN), capaz de distinguir si quien navega es un usuario o un robot sin que éste tenga que hacer nada más.

Si le ha servido para pasar el rato, o incluso para pensar de manera divergente en el asunto, que sepa que puede invitarme a lo que vale un café (o incluso a lo que vale un café con churros) de dos formas distintas :).

hazme mecenas pabloyglesias