Los riesgos asociados a unos sistemas de recomendación imperceptibles

fingerprint

Es innegable que uno de los mayores éxitos que ha tenido el mundo digital es su capacidad de personalización. El generar diferentes lecturas dependiendo de quién sea el cliente/usuario.

La personalización de la experiencia es una máxima de cualquier negocio. En la plaza del pueblo, seguramente usted iba a comprar a Pepe, el mismo frutero de siempre, porque además de tener buen producto (como seguramente el resto de fruteros de la plaza) y buenos precios (como seguramente el resto de fruteros de la plaza), le caía bien.

Y Pepe se encargaba de personalizar su experiencia de compra mientras le llenaba el carro. Que si cómo está su madre, que si al final había hecho ese viaje que tenía pensado, que sí…

¿Qué ganaba con esto? Que la próxima vez volviéramos a elegirle para comprar nuestra fruta, ya que la experiencia, que a priori se espera desagradable y fría (tener que pagar dinero para obtener el sustento no es algo que nos haga especialmente felices) se vuelve entretenida. Y de paso, quizás caiga alguna recomendación: “¿Te gustaron los plátanos del otro día? Pues he traído otros, por si quieres“.

Una risita aquí, unas gracias por allí, alguna anécdota tirada del historial de anécdotas que tiene el frutero, y listo. La magia ya está hecha. Así se va a casa con la compra que esperaba hacer y unos plátanos de acompañamiento.

Pero trasladar este tipo de personalización a un entorno más grande (como el de un supermercado) se vuelve por momentos insondable. Y si en vez de un supermercado, hablamos de un centro comercial o unos grandes almacenes, todavía peor.

Para solucionarlo aparece la tecnología, y las barreras para generar en el usuario la sensación de que le están escuchando se vuelven a reducir.

En una primera etapa, utilizando las mismas estrategias del frutero. Preguntar al cliente directamente para conocerlo, almacenar esa información, y sacarle provecho cuando fuese oportuno.

Un proceso que pierde parte de su gracia ya que se vuelve por momentos frío. Igual que hablar con una persona como Pepe puede ser agradable, encontrarte un formulario con varias preguntas resulta molesto e impersonal.

La invisibilidad de la recolección del dato

¿Que está cambiando en nuestros días? Que esa fase de conocimiento inicial se está volviendo invisible.

Si visita Amazon, descubrirá cómo “mágicamente” la empresa le está ya recomendando los productos que sabe que le gustan. Aunque quizás nunca haya comprando en Amazon.

Si alguien le regala su primer Android, quizás se de cuenta que el sistema le recomienda aplicaciones que sin duda a usted le interesan. Y nunca antes había tenido un smartphone Android. ¿Cómo es esto posible?

Los motores de recomendación se han sofisticado hasta el punto de que a día de hoy ya no es necesario preguntarle al cliente. La información se saca del contexto utilizando estrategias cada vez más invasivas e invisibles, se almacena y se procesa en tiempo real.

Una información que se explota tanto dentro como fuera de cada “establecimiento digital”, generando una suerte de conocimiento global de nuestro paso por este mundo. Una huella digital basada en nuestras acciones e intereses, que es compartida entre diferentes competidores, y continuamente engrasada por las grandes agencias de publicidad.

Hablamos de esto en su día, y es que la mayor parte de nuestra información está en manos de apenas una veintena de grandes corporaciones. Enormes almacenes de conocimiento, que guardan una parte específica de nuestro Yo, y generan con él beneficios multimillonarios.

Tecnologías como Hadoop (EN) abren la puerta a la explotación de datos masivos partiendo de entornos medio controlados y con salidas desconocidas, sin ningún tipo de ética. Quizás las estadísticas nos lleven a descubrir una necesidad que ni siquiera el cliente tiene constancia de su existencia.

Una necesidad que puede ser vendida a terceros como oro, y que estos materializarán y la harán llegar nuevamente por esas mismas plataformas de publicidad.

Entra también en juego que el expertise de todo este tiempo está permitiendo evolucionar la capacidad de abstracción del almacén digital. Si hace unos años, Google etiquetaba las URLs por unas palabras clave, ahora lo hace por centenares de factores que en su suma producen un sistema más eficaz y cercano al modo de comprensión de nuestra especie.

Porque al final la tecnología detrás de cualquier recomendación necesita “comprender” los principios subjetivos que llevan a una persona a interesarse por una cosa y no por otra. Una subjetividad que como vimos es difícilmente alcanzable a nivel de 1s y 0s, lo que lleva a aprovechar oportunidades y apaños que no siempre aciertan, y que acaban en la práctica por tergiversar parte de la realidad.

¿El mejor ejemplo? Ese remarketing que nos atosiga día sí día también con aquellas botas que en su momento buscamos por internet, y que quizás hemos comprado en un establecimiento meses atrás. No es que la idea haya sido mala, es que su implementación es ineficiente. El sistema no cuenta con toda la información necesaria, y lo que en principio representaba una oportunidad de negocio se vuelve frustrante.

El negocio manda

Malas implementaciones accidentales, y malas implementaciones buscadas. Porque si bien las primeras pueden llegar a entenderse (a fin de cuentas, esto no es más que un aprendizaje que seguirá durante décadas evolucionando), las segundas sí creo que son preocupantes.

Hablamos de ellas cuando estamos ante esos motores de recomendación cuyos algoritmos, mejor o peor diseñados, devuelven unos resultados corrompidos por intereses alejados de la propia recomendación. Intereses que solo responden al beneficio unilateral de la compañía que está detrás.

Así, una búsqueda en Google devolverá los resultados que el buscador (el algoritmo) cree que se acercan más al interés del usuario, siempre y cuando eso no contravenga el interés de la propia Google por posicionar antes sus servicios frente a los de la competencia. Porque recordemos que Google es un servicio editorializado, no es un buscador objetivo.

Así, revistas como Flipboard mostrarán por delante de su algoritmo de recomendación basado en temáticas (objetividad), aquellos resultados de empresas que hayan pagado por aparecer antes, sean o no mejores que las que orgánicamente se habían posicionado.

Así, esa misma invisibilidad permite por un lado generar en el consumidor el sentimiento de que para alguien de ahí detrás sus intereses son importantes, y por otro, dirigirle hacia necesidades que pueden venir dadas por su propia trayectoria en el mundo digital, o por intereses de negocio de las empresas que han diseñado esos algoritmos de recomendación.

Y este conocimiento se traslada a los entornos físicos. De ahí que si usted va a comprar a Decathlon y utiliza su tarjeta, el software sea capaz de hacerle recomendaciones muy precisas sobre qué podría estar interesado en comprar. Sea una necesidad que innatamente usted tenía, o sea una necesidad auto-impuesta por un stock sobrante en el almacén o una campaña cuyos números tienen que “cuajar”.

Bienvenido a la realidad de la sociedad de la información… gestionada por corporaciones.