Hablando sobre privacidad y asistentes virtuales en La Nueva España

asistentes virtuales py

Elena Menéndez, redactora en La Nueva España, me escribía el miércoles pasado para trasladarme algunas preguntas respecto al impacto en materia de privacidad y seguridad que tiene la llegada de Google Home a los hogares españoles, y en líneas generales, el mercado de los asistentes virtuales.

Un tema del que ya hemos hablado largo y tendido por estos lares, y cuyas respuestas le han servido para publicar estos días una pieza al respecto (ES).

Así que como suelo hacer habitualmente, te dejo por aquí mis respuestas a las preguntas que me trasladaba Elena.

¿En qué dirías que se diferencia uno de estos altavoces para el hogar de los asistentes de los móviles (tipo Siri o el propio Google Assistant)?

Lo comentaba, de hecho, en la review en la que analizaba la versión en español de Google Home. Realmente, si nos atenemos a la funcionalidad actual, el asistente del móvil ofrece mejores herramientas que lo que nos vamos a encontrar en esta versión española de Google Home.

La cuestión, no obstante, y donde está el punto chulo de los asistentes de hogar, radica en la especialización. En tener un dispositivo en casa específicamente diseñado para ello, y cuyo uso, además, se antoja invisible.

Una especialización que a día de hoy todavía no queda tan palpable en la versión española del dispositivo de Google, pero que créeme que llegará. La ventaja de un Alexa o un Google Home es que con el mismo hardware sus funcionalidades irán evolucionando, expandiendo el abanico de posibilidades que ofrecen, y enfocándolo a las necesidades que realmente tendría una familia en el hogar.

¿Están seguros mis datos en este tipo de aparatos?

Tal y como has definido la pregunta mi respuesta sería que sí. Como ya he explicado en alguna que otra ocasión, la infraestructura de Google es de las más seguras que existe.

Ten en cuenta que Google lleva años trabajando en ello. Les va, literalmente, el negocio en que así sea. Y por ello no habrás oído “hackeos” o “filtraciones masivas” que afecten directamente a los chicos de Mountain View.

¿El micro graba las 24 horas?

No. Estamos ante un sistema de ambient listenning bien implementado, y eso quiere decir que está en efecto escuchando 24 horas, pero solo graba cuando oye el comando de activación, que en el caso de Google Home en España, por ahora, es “Ok, Google” (se podrá cambiar más adelante).

Así que los conspiranoicos pueden estar tranquilos. Solo se envía la información a los servidores de la compañía (algo necesario para analizar y almacenar dicha información) a partir de oír ese “Ok, Google”. Lo único que sí podría pasar, y que de hecho ha quedado registrado en alguna que otra ocasión, es que en una frase específica el sonido producido se parezca lo suficiente a ese comando de activación como para que el sistema se active.

Sin ir más lejos, a finales de mayo se hizo viral el caso de una pareja de Portland (EN) que aseguraba que su dispositivo Alexa (el asistente de hogar de Amazon) grabó una conversación privada entre ellos y envió la grabación a un contacto. Como explicaría la propia compañía, que viendo la repercursión conseguida por la pareja (salieron hasta en televisión) analizó personalmente el caso, todo esto había ocurrido debido a un conjunto de desafortunadas coincidencias (EN):

Una conversación de fondo que sonaba como “Alexa” (el comando de activación) hizo que el sistema se activase, y justo la frase dicha después por la pareja parecía, en este contexto, que estaba pidiendo que dicha conversación se enviase a un contacto (enviar mensaje). El asistente preguntó “¿A quién” en voz alta, y de nuevo, de pura casualidad, la conversación entre esta pareja fue analizada como que le estaban pidiendo que se lo enviara a su contacto. El sistema volvió a pedir en voz alta “[Nombre de contacto], ¿no?”, recibiendo una confirmación (la pareja estaba en otra estancia y por ello se entiende que no oyera a Alexa) que de nuevo estaba sacada de contexto.

Como podrás ver, son errores difícilmente reproducibles, y que deberían pasar muy pocas veces en la vida. Pero vaya, que no deja de ser un sistema informático, que depende de unos algoritmos de reconocimiento de voz, y que por tanto siempre va a tener un margen de error a considerar.

Igual queda muy peliculero pero, ¿tenemos un espía en casa con estos aparatos? ¿son fáciles de hackear?

Es lo que te comentaba antes. El objetivo de estos sistemas es ofrecer la máxima funcionalidad posible para que su uso se vuelva una commodity, y por ende, retener al usuario un poquito más dentro de un mismo ecosistema (en el de Google en el caso de Google Home, en el de Amazon en el caso de Alexa…).

Estas grandes compañías de Internet no necesitan espiarnos. Sinceramente, ya saben muchísimo de nosotros simplemente por la información de cedemos a cambio del uso de sus servicios, jajaja.

De verdad, que en eso, al menos por ahora, podemos estar tranquilos. Como también en la parte de posibles hackeos, y por lo que te comenté en la respuesta a tu primera pregunta.

Lo que sí me da más miedo son las potenciales tergiversaciones en el uso de estos dispositivos. La casuísticas no cubiertas todavía por sus algoritmos y sus ingenieros, que pueden llevar a que en efecto se produzcan errores como el anteriormente mencionado, y otros que pueden venir dados por la mala uva, o el interés dañino, de otras personas.

A fin de cuentas, no deja de ser un dispositivo inteligente más conectado a la red, y por tanto, un vector más susceptible de manipulación por parte de terceros. Es cierto, eso sí, que quiero pensar que las actualizaciones de seguridad serán habituales, y que por tanto la pata de seguridad más o menos la vamos a tener cubierta.

Pero nada nos quita que alguien pueda hacerse pasar en nuestro hogar por nosotros para, por ejemplo, consultar o editar nuestra agenda o correo.

Son, no obstante, casos que están más o menos controlados por la compañía. Google Home por ejemplo utiliza Voice Match, un sistema que en teoría identifica a diferentes usuarios en un mismo hogar. Yo no he podido probarlo en profundidad (solo somos dos en casa, y la voz de mi pareja es muy diferente a la mía), pero como cualquier otro sistema de reconocimiento de voz, está sujeto a un margen de error que abre la veda a potenciales tergiversaciones de uso que comprometan nuestra privacidad y/o seguridad.

Por hablarte de otro caso, hace tiempo un anuncio de Burger King utilizó de forma magistral estos dispositivos para expandir el marketing de la compañía del televisor hasta el propio hogar. El presentador preguntaba en alto qué tal era la nueva hamburguesa que habían sacado, activando por el comando de voz al dispositivo, que consultaba una página de la Wikipedia que previamente había sido manipulada por la compañía. Sobra decir que aquí el interés era puramente publicitario, pero ya te puedes hacer una idea de por dónde podrían ir los tiros :).

¿Podrían protagonizar en un futuro un nuevo escándalo por el mal uso de sus datos?

Esta es una buena pregunta, más que nada porque resulta difícil darte una respuesta definitiva. ¿Podría el día de mañana Google estar envuelta en un escándalo por mal uso de nuestros datos? Hombre, estos días tenemos a Google haciendo frente a la mayor multa de la historia en Europa por abuso de posición dominante con Android (ES), y casi cada año acaba saliendo algo. Con Facebook ya ni hablemos

Realmente diría que es potencialmente probable que algo acabe ocurriendo. A fin de cuentas, no deja de ser un escenario que es nuevo en nuestra sociedad. En apenas cincuenta años hemos cambiado radicalmente la forma de comunicarnos, y eso conlleva una inmensidad de oportunidades, pero por supuesto también una serie de riesgos. Algunos de ellos conocidos, y otros que sencilla y llanamente aún desconocemos.

De momento no han calado mucho en la sociedad, ¿crees que lo harán?

Ojo, que no han calado en España, más que nada porque apenas llevan por aquí un par de meses. Pero vaya, que en EEUU Alexa es un dispositivo presente en un porcentaje significativo de hogares de clase media. Algo que no es de extrañar teniendo en cuenta que Amazon Prime es una suscripción que se ha vuelto prácticamente obligatoria para millones de hogares (en mi casa tenemos dos, jajaj).

Respondiendo a tu pregunta, y barajando todos los pros y contras de estos dispositivos, un servidor se inclina más a pensar que en efecto será algo que tarde o temprano sea habitual en hogares, y fuera de ellos.

Las interfaces de voz son claramente más cómodas de utilizar en la amplia mayoría de tareas mundanas que un teclado o una pantalla táctil. Los seres humanos nos comunicamos vía voz, y cabría esperar que conforme estos sistemas evolucionen, ofrezcan mayores garantías y menor tasa de error, se acaben imponiendo a las interfaces tradicionales. Que seguiremos utilizándolas, por supuesto (tranquila que tú y yo vamos a seguir aporreando el teclado por mucho tiempo, jajaja), pero para el día a día pediremos las cosas y el asistente nos las dará.

Y te lo dice alguien, por cierto, que actualmente no le ve sentido a un Google Home en Español. Lo he probado, y soy consciente de que para mis necesidades actuales es casi más una molestia que un beneficio. Lo que no quita que en unos años, cuando mejore y adquiera muchas más aplicaciones, cuando mi casa sea realmente domótica, le acabe sacando más valor, hasta hacerlo un elemento indispensable del hogar.