Riesgo vs oportunidad en dispositivos de “Ambient Listenning and Seeing”

amazon echo

La paulatina irrupción de dispositivos de escucha activa como el Amazon Echo (alrededor de 5 millones vendidos en EEUU) y Google Home (que llegaba hace apenas un par de meses a las tiendas) a los hogares de cada vez más familias, se ve ennegrecida por un caso de asesinato en el que las autoridades han pedido acceso al historial de grabaciones (EN) de dicho dispositivo.

Por supuesto, Amazon se ha negado (EN), en una estrategia brillante por intentar que la situación no pase de anecdótica, y habida cuenta de que de demostrarse que el mismo resulta ser una prueba crítica para este caso, sería como aceptar públicamente que en efecto lo que usted ha comprado e instalado en su casa es una suerte de espía que no descansa.

La realidad, como comentaba recientemente Enrique (ES), no es tan distópica. Estos dispositivos únicamente se activan en el momento en el que entienden que alguien de la casa les llama. En el caso de Amazon Echo la palabra que lo activa es “Alexa”, y en el caso de Google Home, el ya clásico “Ok, Google”.

Por supuesto, puede haber situaciones en las que pese a que el usuario proactivamente no ha expresado su deseo de poner en marcha al asistente, éste crea que así ha sido (un anuncio de televisión, una palabra que se le parece pillada en una conversación con algún otro miembro de la familia…), por lo que las dos herramientas cuentan con la opción de que sea el cliente el que pueda acceder al histórico de grabaciones para eliminar cualquiera que haya quedado registrada indebidamente en los servidores de la compañía. Por supuesto, poca gente hará este trámite…

¿Por qué alguien en su sano juicio iba a meter un aparato de estos en casa?

La razón la comentaba esta misma semana a colación del desarrollo que había llevado a Zuckerberg a diseñar un asistente virtual que controlaba cada vez más funciones del hogar. Las posibilidades de Amazon Echo o Google Home escalan conforme más dispositivos tenemos conectados en casa: Abrir/cerrar persianas, ponerme X canción, recuérdame esto o lo otro, vete preparando las tostadas, lo que se le ocurra.

Sin obviar su papel como sistema de información generalista (dime qué sabes sobre X cosa), y como no, la capacidad de realizar compras en uno u otro market (Amazon o Google Shopping) utilizando una interfaz tan inmediata como es la voz.

En el asesinato de Arkansas, en el que presuntamente un hombre invitó a un conocido que más tarde aparecería muerto en la bañera, el impacto de una posible grabación que se activara en el momento adecuado por parte del Amazon Echo es más bien anecdótica. El dispositivo estaba en el salón y la muerte (presuntamente) ocurrió en el baño. Descontando que va a ser difícil que el asesino o la víctima justo pronunciaran la palabra mágica (¡Alexa!) en los momentos previos al suceso.

Pero la duda ahí queda.

Un entorno rico en asistencia permanente

El tema me parece importante no solo por el interés que podría tener en situaciones semejantes aledañas, sino por el escenario distópico que se podría llegar a plantear.

El cliente era además dueño de numerosos dispositivos conectados: termostato, alarma inteligente, monitor meteorológico, sistema de control lumínico, gestor de consumo de agua… Sin olvidar smartphone, tablets (cuatro al parecer…), videoconsolas, smart tv,…

La mayoría dispositivos que de una u otra manera tienen capacidad para ofrecer información contextual e identificativa que per sé podría resultar intrascendente, pero que unida al resto de suite de dispositivos, quizás dibuje un escenario lo suficientemente rico en información como para ayudar a esclarecer este caso… o lo que fuera necesario.

Ese sistema de control lumínico podría identificar el número de personas que estaba en ese momento en la casa por el uso de la luz de una u otra estancia. La alarma seguramente cuente con un sistema de videovigilancia permanentemente activo. El medidor de consumo de agua tenía un registro del gasto en ese intervalo de tiempo. Al parecer, 530 litros, muy por encima del gasto esperable en un baño (y fácilmente personalizable con la media de gasto que tenga el historial de ese usuario), lo que apunta a que posiblemente parte de ese agua se debió utilizar para limpiar la habitación, y por tanto, se elimina la posibilidad de que estuviéramos ante un accidente desafortunado.

Dispositivos que de una u otra manera aplican al paradigma de “ambient listenning and seeing”, allí donde antes únicamente llegaban los smartphones. Y dispositivos que están cada vez más presentes en nuestro entorno privado.

¿Llegará el momento el que un escenario tan potencialmente rico en información acabe por pasarnos factura? Sinceramente, es difícil saberlo. Pero lo importante es que esa posibilidad está sobre la mesa.

Creo que a nadie le importaría el que, frente a un robo y como no, frente a un asesinato, fuera la propia casa capaz de ayudar a identificar al agresor para que las autoridades pudieran castigarle como es debido.

Pero ¿qué hay cuando esa información le sirva a la compañía de turno para sesgar de manera negativa al cliente? Una aseguradora que utilice la información suministrada por ese dispositivo que gentilmente nos ha subvencionado para ajustar su beneficio según criterios hasta ahora considerados privados. Un puesto de trabajo o el acceso a una hipoteca que se nos es negado porque el algoritmo de turno, en base al análisis pormenorizado de múltiples variables extrapoladas de nuestra rutina diaria, considera que no somos adecuados para ello.

Sin obviar, por supuesto, la tergiversación que en un futuro pudiera haber de esos historiales que durante años hemos alimentado, y que son, a fin de cuentas, datos más que suficientes para identificarnos. El verdadero riesgo de este entorno rico en asistencia virtual son los malos usos que el día de mañana pudieran aparecer cuando estos gigantes tecnológicos caigan y acaben vendiendo dicho historial a una agencia de inteligencia, a un gobierno… o a saber quién. Cuando de pronto un sistema político democrático se ve amenazado por un nuevo gobierno totalitarista capaz de forzar a dichas compañías a ceder su conocimiento para los fines más terroríficos que se nos puedan llegar a ocurrir.

No sería la primera vez que algo así ocurre, de hecho. Con la salvedad de que ahora las bases de datos son muchísimo más identificativas y masivas que en su momento.

Y habida cuenta de todo esto, ¿Debemos por tanto negar los beneficios de este tipo de dispositivos en nuestro día a día? Nada más lejos de la realidad. Pero conviene que nos planteemos el entorno actual y el futuro, que seamos críticos con el impacto de dichas tecnologías, y que exijamos más y más garantías para minimizar lo máximo posible el riesgo que conlleva cualquier avance tecnológico. Tanto hacia un lado (apostar por estas interfaces de voz y estos sistemas de escucha permanente), como hacia el otro (obviar una evolución que nos dirige hacia el entorno idílico en el que la tecnología es invisible y absolutamente accesible para cualquiera).