Este es un ejemplo de los artículos que semanalmente escribo de forma exclusiva para los mecenas de la Comunidad.
Si quieres recibir contenido exclusivo como éste directamente en tu bandeja de correo, revisa las opciones de mecenazgo de esta página.
*******
Lo he repetido hasta la saciedad: Tan malo es tener una presencia digital no controlada, como no tener presencia digital.
La última justo esta semana, en la presentación de un estudio reputacional para una multinacional de Centroamérica.
Uno de sus directivos, financiero de profesión, nos preguntó al hilo de plan de riesgo que les habíamos preparado, que por qué dos de sus países tenían un riesgo tan alto (menos del 20% en una métrica que llamamos RS) si de hecho no tenían ningún reputacional negativo activo.
Como le expliqué, el problema era que aunque no tuvieran ningún reputacional negativo, apenas tenían reputacionales positivos. Que a la búsqueda de marca en esos mercados, Google devolvía resultados puramente neutrales (no hablaban de ellos).
Y esto, a la hora de calcular matemáticamente el riesgo reputacional supone, de facto, que obtuvieran ese resultado tan bajo en la métrica RS, que es a fin de cuentas crítica a la hora de establecer estrategias de mitigación de riesgo.
Volviendo al mundo de las personas, lo cierto es que como ya he contado alguna que otra vez, si no estás en Internet, no existes para los negocios. Y esto afecta tanto a aquellos que emprendéis o tenéis una empresa, como también a los que trabajáis por cuenta ajena.
En un entorno cada vez más rico en información, como es el actual, lo normal es que antes de tomar una decisión, busquemos en nuestros sistemas informáticos qué datos tenemos de la otra persona.
Y según lo que veamos, decidiremos o no contratarlos, trabajar juntos, conocernos, apoyarlos…
Fíjate que esto, que lo había enfocado a la parte puramente laboral, se aplica por igual en cada vez más escenarios.
Este es el caso del que quería hablarte hoy.
En el mayor estudio jamás realizado sobre los datos hipotecarios del mundo real (EN/PDF), los economistas Laura Blattner de la Universidad de Stanford y Scott Nelson de la Universidad de Chicagoencontraron que había una clara diferencia entre el número de hipotecas aceptadas para grupos mayoritarios que a los considerados minoritarios.
Las razones, a priori, apuntaban al ya esperable sesgo ideológico, cultural y étnico. Algo que lamentablemente es innato en nuestra sociedad (y aún más en la estadounidense, dicho sea de paso…).
Sin embargo, lo chulo del estudio es que encontraron además otra razón de peso para que esto ocurriese: los grupos minoritarios, y los de bajos ingresos, tienen menos datos en sus historiales crediticios.
Esto significa que cuando estos datos se utilizan para calcular una calificación crediticia con la que hacer una predicción sobre el impago del préstamo, esa predicción será menos precisa. Y es esta falta de precisión la que conduce a la desigualdad, no solo el sesgo.
Tomas de decisión asistidas por una IA que requiere un mínimo de información
La calificación crediticia, como la mayor parte de sistemas asistidos por algoritmos, reduce una variedad de datos socioeconómicos, como el historial laboral, los informes financieros y los hábitos de compra, en un solo número. Además de decidir sobre las solicitudes de préstamos, se utilizan para tomar muchas decisiones que cambian la vida, como el seguro, la contratación y la vivienda.
Analizando datos crediticios de 50 millones de estadounidenses, llegaron a la conclusión de que las calificaciones crediticias no estaban simplemente sesgadas, sino que eran ruidosas (el término estadístico para los datos que no se pueden usar para hacer predicciones precisas).
Por ejemplo, un solicitante de algún grupo minoritario tiene una calificación crediticia de 620. En un sistema sesgado, podríamos esperar que esta calificación siempre exagere el riesgo de ese solicitante, y que la calificación más precisa fuera 625, por ejemplo. En teoría, este sesgo podría explicarse a través de alguna forma de acción afirmativa algorítmica, como reducir el umbral de aprobación para las minorías.
Pero Blattner y Nelson demuestran que el ajuste por sesgo no tuvo ningún efecto. Descubrieron que la calificación crediticia de 620 de un solicitante de una minoría era de hecho un mal indicador de su solvencia, y que esto se debía a que el error podía aparecer en ambos sentidos: 620 podría ser 625 o también 615.
Esta diferencia puede parecer sutil, pero es importante. Debido a que la inexactitud proviene del ruido en los datos, y no del sesgo en la forma en la que se utilizan estos, es algo que no se puede solucionar mejorando los algoritmos.
Y además esto genera un bucle de retroalimentación que es muy complicado romper:
Se dan los préstamos a las personas equivocadas, y una parte de la población nunca tiene la oportunidad de acumular los datos necesarios para conseguir un préstamo en el futuro.
Un ejemplo más de que, mal que nos pese a algunos, la tecnología no siempre tiene las respuestas que necesitamos.
Que bien utilizada se puede volver una gran herramienta. Pero que entraña, por sí misma, nuevos quebraderos de cabeza. Quebraderos que se transforman en problemas cuando delegamos buena parte de las tomas de decisiones en sus inexactas conclusiones.
Exactamente igual que nos pasa con nuestras propias y sesgadas decisiones, por cierto.
________
Este es un ejemplo de los artículos que semanalmente escribo de forma exclusiva para los mecenas de la Comunidad.
Si quieres recibir contenido exclusivo como éste directamente en tu bandeja de correo, revisa las opciones de mecenazgo de esta página.
