Este es una de las newsletters antiguas que se enviaron de forma exclusiva a los miembros del Club Negocios Seguros, y que se liberan públicamente un mes más tarde.

Si quieres recibir las actuales cada martes y jueves en tu bandeja de correo, hazte miembro ahora.

*******

Negocios Seguros

algoritmia probabilistica

Leía con entusiasmo hace un rato el artículo que el MIT publicaba sobre los límites de la inteligencia artificial, y cómo, sin quererlo, estamos delegando su control a interfaces con las misma limitaciones que el ser humano (ES).

Es algo de lo que ya hemos hablado en profundidad la semana pasada, en ese artículo sobre La dictadura de la máquina que tanto he disfrutado escribiendo (cualquiera diría que no tengo abuela :)), por lo que me gustaría que encontraras en este un apoyo para documentarte con mayor profundidad sobre el asunto.

Y es que el MIT se hace eco de varios estudios y noticias actuales que sirven de ejemplo real de lo que estamos hablando. 

Como que el Senado de Estados Unidos haga un llamamiento (EN) para que Facebook ofrezca una explicación oficial sobre cómo está funcionando su algoritmo de recomendación de noticias, a colación de la supuesta tergiversación con intereses políticos que pudiera estar interfiriendo en «la neutralidad» del mismo.

Sobre cómo  el antiguo director de Datos de Kickstarter Fred Benenson califica de «mathwashing« (EN/a medio camino entre «matemáticas» y «lavado de cerebro») ese afán por creer que la algoritmia es neutral y puramente objetiva, cuando en verdad adolece de los sesgos de sus creadores («meros» seres humanos).

Sobre ese estudio (EN) de la profesora de la Universidad de Harvard Latanya Sweeny, que analizando los anuncios de Google AdSense que se visualizaron durante búsquedas de nombres asociados con bebés blancos (Geoffrey, Jill, Emma) y búsquedas de nombres asociados con bebés afroamericanos (DeShawn, Darnell, Jermaine), se dio cuenta de que objetividad, lo que se dice objetividad, no es que hubiera mucha.

En fin, un repaso cargado de enlaces para expandir el conocimiento en un tema que traerá muchísima cola de aquí en adelante, únicamente para tus (vuestros) ojos.

Y acabo por auto-quotearme (que sí, que parece que no tengo abuela :)):

Si esperamos que estos sistemas presenten la suficiente confianza como para depositar en ellos nuestro bien más preciado (la vida), no solo basta con que en efecto sean desarrollos sujetos a la auditoría de terceros, sino que además sean capaces de encontrar un equilibrio entre aprendizaje profundo y rendición de cuentas al órgano competente, que espero sea un ente neutral (un regulador, por ejemplo), y no únicamente la compañía que vive de ello.

Dicho queda. Ahora falta que nos hagan caso.

________

Si quieres recibir contenido exclusivo como éste el día uno y directamente en tu bandeja de correo cada martes y jueves, hazte miembro del Club «NEGOCIOS SEGUROS».

Banner negocios seguros