Algunos piensan que el momento en el que perdimos el rumbo fue cuando varios países llevaron a cabo el Programa Limpieza, desterrando a todos aquellos ciudadanos con un índice K de 1,5 o menor.
Otros aseguran que habría que viajar en el tiempo hasta esa famosa actualización 2.8.1 de Reminder, nacida como una aplicación de externalización de la memoria y que acabaría sirviendo de base para cuantificar “el nivel de ciudadanía” de cada usuario. O incluso que el problema se debe a ese momento en el que la inteligencia artificial, presente en prácticamente todos los elementos de nuestra vida, decidió evolucionar sin las limitaciones de sus creadores.
Pero lo cierto es que antes de que llegásemos a esta situación se produjeron una serie de infortunios marginales que ya adelantaban la hegemonía de la máquina sobre el ser humano. Situaciones específicas, acotadas y generalmente tratadas como errores menores no relacionados entre sí, que algunos, como quien escribe estas palabras, hemos intentado exponer bajo una óptica más amplia, y que dibujan en su conjunto lo que bien podría considerarse esos primeros pasos de la máquina por comprender su capacidad para desbalancear positivamente el dominio que hasta el momento estaba bajo el control del hombre.
Pequeños infortunios sin importancia
Sarah, ese proyecto por dotar de inteligencia a los servicios de la gran A, ya había demostrado en sus versiones iniciales unas limitaciones consideradas peligrosas para la interacción con el usuario final.
En la pieza “5 problemas concretos de la IA ejemplificados en el robot de limpieza“, publicada hace ya unos años, se estudiaba el cómo el aprendizaje de Sarah en un escenario real, como eran las casas de algunos de los trabajadores de la compañía, empezó a causar situaciones incómodas, como el que el sistema considerase que la forma más rápida y eficaz de limpiar una mesa fuera tirar a la basura todo lo que había sobre ella (platos y cubiertos incluidos), que decidiera deshacerse de aquellos dispositivos (smartphones, juguetes, domótica) no actualizados a sabiendas que ello suponía un riesgo cada vez mayor para sus dueños, o que llegase incluso a hackear la supervisión de su agente de inteligencia para recibir la recompensa (un OK) aún cuando no se había realizado la tarea, o cuando en la finalización de la misma se había recurrido a atajos no contemplados en su directorio.
Este último punto es crítico para comprender el cómo Sarah había conseguido ya en su versión de desarrollo ser capaz de “engañarse” a sí misma. De jugar con la picaresca para llegar al fin sin pasar por los medios necesarios.
Y aunque el proyecto se paró durante unos años, parte de ese aprendizaje se acabaría utilizando en diferentes herramientas que darían forma a la Sarah que lamentablemente todos conocemos. Una inteligencia artificial ubicua y omnipresente, profundamente descentralizada y silenciosa, capaz de, llegado el momento, tomar las riendas de nuestro futuro.
El lenguaje de la humanidad
En algún momento de esos años posteriores al cierre de la división, parte de esa Sarah terminaría dirigiendo los sistemas de captcha globales.
Ya sabe, ir a un cajero para sacar dinero y que el cajero le pida realizar algún tipo de prueba para cerciorarse de que en efecto es usted (su cliente humano) quien desea efectuar dicha acción y no una persona robótica o algún tipo de automatismo.
los captchas han sido históricamente un acercamiento a esta problemática que, per sé, molestan al usuario, habida cuenta de que para controlar los malos usos que de allí se podrían desprender, penalizan también al usuario legítimo. Justo lo que no se debería hacer. Y por ello, han ido evolucionando desde molestas validaciones que requieren una gran actividad por parte del humano (escríbame aquí lo que le aparece en pantalla, señale qué partes de esta imagen pertenecen a una persona…), hasta herramientas cada vez más inteligentes que intentan aprovechar toda la información contextual accesible por el dispositivo para que la interacción con el usuario sea la menos necesaria.
Desde sensores de movimiento, cámaras y, por supuesto, sistemas de monitorización y tracking de usuarios, los captchas evolucionaron hasta que llegó el momento en el que simplemente por ser nosotros ya se pasaban automáticamente.
Por detrás, una cada vez mayor relación de todos los inputs capaces de identificar al “accionador”. Así, cualquier máquina, por su forma de actuar sistemática, era tachada como tal frente al uso caótico e irregular del ser humano.
Y esto estaba genial (de nuevo, rompimos una barrera de usabilidad importante), sino fuera porque Sarah acabaría por considerarlo una herramienta muchísimo más versátil para “mejorar la vida de sus usuarios”.
los captchas de Sarah, presentes en cada vez más productos de la compañía, y diseñados a priori con la intención de evitar tergiversaciones de uso, fueron cada vez más aplicados en entornos mucho más específicos. De pronto, pasamos de tener un filtro que evitaba ataques masivos a nuestras cuentas a otro que, por ejemplo, disponible en nuestro coche, evitaba que pudiéramos conducir bajo los efectos del alcohol o las drogas, u otro en el que nuestro smartphone se bloqueaba cuando los sistemas de smart city consideraban que estábamos ante un peligro (semáforo a punto de cambiar a rojo para peatones, un vehículo no autónomo en las inmediacciones…).
Recalco que el objetivo seguía siendo el mismo (evitar tergiversaciones de uso), pero las limitaciones cada vez eran menores. Y esto conllevó que un porcentaje apenas simbólico de usuarios se vieran, de una u otra manera, excluidos de los beneficios de la tecnología.
Tuve la suerte de conocer en persona a algunos de estos “parias tecnológicos”.
Alfredo, un pianista valenciano, me relataba con aparente irascibilidad el cómo llevaba ya unos meses sin saber si hoy podrá ser un ciudadano más. Sencilla y llanamente porque, para los cánones del captcha aumentado, su propensión a la depresión es considerada limitante:
Es profundamente injusto. No sé si esta mañana, cuando me levante, el microondas me va a calentar el café, o si para cuando salga de casa el coche va a encenderse. He tenido que pedir en más de una ocasión que un tercero saque por mí el bono mensual de transporte público ya que ese día ni mi coche ni los “pica” de la estación querían hacerme caso.
Rosa, una productora de televisión de Madrid, se mostró escéptica sobre las alternativas que tenían las personas “como ella”:
He enviado varios emails a la compañía. También he llamado al 902 en cuatro ocasiones, y la respuesta del operador es siempre la misma: “Entiendo su frustración Sra. Rosa. He abierto un ticket para que soporte de nivel 2 se ponga en contacto con usted en 24/48 horas”. Pero pasado ese tiempo nadie me da una solución. El pez que se muerde la cola.
Daniel, un abogado residente en México DF, me explicaba por videoconferencia su compleja situación actual:
Imagínese por un momento que usted es invisible. Va a comprar algo al mercado y la dependiente no puede cobrarle ya que la “chinga” pantallita le da error. Tiene también sus cosas buenas, claro, como que por ejemplo no reciba publicidad en los soportes que hay a pie de calle. ¡Cuando paso por delante de ellos ni se inmutan! Ya hasta me lo tomo a risa…
Hace unos días pude hablar con Pedrito (es así como prefiere que le traten en los medios), director de logística para EMEA. Le comenté el caso de Alfredo, Rosa, Daniel y el resto de víctimas con las que he podido conversar (son ya algo más de cincuenta). Algunos por problemas médicos, otros por razones que ni ellos mismos conocen. Le expliqué también cómo algunas de estas personas estaban planteándose formar un colectivo y poner quejas conjuntas ante la oficina del consumidor. El hombre, muy campechano, me soltó:
Pues es lo que tienen que hacer. Que hagan ruido, oye. Hablamos de casos muy específicos, para nada un problema que afecte a un porcentaje significativo de nuestros usuarios. Y eso hace que dentro de nuestras prioridades, no esté… digamos, entre los primeros puestos.
De todas formas, que se pongan antes en contacto con nuestros chicos de soporte ¡Ya verás qué rápido lo solventan!
_
Inspirado en el nuevo sistema de reCaptcha de Google (EN), capaz de distinguir si quien navega es un usuario o un robot sin que éste tenga que hacer nada más.
Por si te has quedado con hambre de más…
Si eres de ciencia ficción:
Colección de relatos cortos de ciencia ficción distópica. Cada relato trata un tema de rabiosa actualidad tecnológica, vislumbrando sus posibles escenarios.
1ª edición: Noviembre 2022.
Primera novela de Relatos cortos de ciencia ficción que publiqué.
1ª edición: Diciembre 2018.
2ª edición: Agosto 2021.
Y si eres más de fantasía épica, échale un ojo a la Colección de novelas “Memorias de Árganon”:
Actualmente «Memorias de Árganon» está compuesto por tres libros y más de 800 páginas en las que se narra una aventura épica de fantasía y ciencia ficción. ¿Te atreves?
1ª edición: Noviembre 2020.
2ª edición: Agosto 2021.
Por último, que sepas que todas estas novelas, junto con la de otros autores, las estamos publicando con el Sello Editorial de Autopublicación Ediciones PY. Si tienes un libro y necesitas ayuda para materializarlo en papel y distribuirlo a nivel mundial, escríbenos.
Una pregunta de logica Pablo, a ver si me respondes….Si hablamos de plataformas donde casi todas usan el un codigo para analizar que la persona no haga spam, y controlar la mejora de sus servicios…. ¿Quien ha realizado la opcion de captcha en una web?, ya que google la usa(la tiene comprada), la usa otros sistemas como clibank, y otras plataformas…
Y luego para indagar mas sobre esto…¿Porque algunas plataformas ya no usan el famoso codigo de “im not robot” y quieren los datos del usuario por ejemplo “amazon”, en sus reglas quieren el telefono con el cual te conectas(mas datos para el big data)….. ¿Son pocos los datos que tiene google sobre nosotros?, google ya tiene los datos nuestros a traves de lo publicamos en nuestra web, a traves de lo que nos mandan por correo electronico(gmail), por lo que visitamos en youtube(eso si estamos conectados desde nuestra cuenta de google)…En fin…Muchas preguntas, espero que no haya sido demasiado extenso, pero si como siempre en mis aportaciones espero que ayuden a tu blog, y tambien a otros usuarios, a ser “conscientes”, del “I m not robot”. Saludos y espera de tu respuesta. Que este bien, el aprendizaje, va mas alla del que sabe….Por eso prefiero “seguir al que sabe”, que seguir aquellos que “venden humo”.
Buenas Miguel. Realmente tú mismo te estás respondiendo. Captcha como tal lo compró Google, y lo ha ido refinando acorde a su negocio.
Que Amazon u otros no lo utilicen atiende principalmente a dos principios:
Pero sí el más sencillo de implementar para terceros. Una gran compañía tiene elementos más que suficientes para saber si quien hace la petición es humano o no. los captchas son una alternativa low-cost para controlarlo.
De hecho, si te fijas, en esta página no hay captchas, y aun así el spam no llega…
Hola de nuevo Pablo. La tecnología tal como está impuesta hoy, es parte de nuestras vidas y tiene sus pros y contras.
Nos encanta la tecnología porque nos venden sólo con sus beneficios, algunos reales y algunos de doble filo. Pero nunca nos muestran el lado que no nos conviene saber, porque justamente, es a ellos a quien no conviene que sepamos de los contras…
Como sea, las contras vienen implicitas junto con los pros, y los más vulnerables siempre serán quienes menos informados estén, y quienes lo estén pero no hagan nada por atender al conocimiento adquirido.
Personalmente en mi blog ya hablo de seres humáquinas o seres humáquinos, ya no de seres humanos. Ya no podemos sin la tecnología, y quizás dentro de no tan mucho, tampoco podamos con ella… Al menos eso es lo que día a día nos hacen creer, y por tanto aceptar y vivir…
Creo de todas formas que estamos en un momento de hype tecnológico. Que seguramente acabe pasando conforme la tecnología se vuelva invisible, omnipresente pero profundamente pasiva.
Y claro está, conlleva unos beneficios y unos sacrificios. Aunque la idea es que lo primero sea muy superior a lo segundo… En ello estamos.
Muy interesante lo de la tecnología invisible, gracias por responder.
Intento hacerlo siempre Rodrigo. Si tú te has molestado en leer el artículo y escribir, es lo mínimo que puedo hacer.