Este es una de las newsletters antiguas que se enviaron de forma exclusiva a los miembros del Club Negocios Seguros, y que se liberan públicamente un mes más tarde.

Si quieres recibir las actuales cada martes y jueves en tu bandeja de correo, hazte miembro ahora.

*******

Negocios Seguros

inteligencia artificial

Por estos lares he defendido a ultranza la importancia de incluir perfiles no técnicos en el proceso de diseño del software y hardware que usamos en nuestro día a día.

Sin ir más lejos, la semana pasada dedicaba el artículo privado de mecenas precisamente a cómo esa obcecación de la industria tecnológica por los perfiles técnicos ha generado un caldo de cultivo perfecto para que las aplicaciones de rastreo COVID, en líneas generales, hayan resultado ineficientes en países occidentales.

Y un sector donde esto se hace aún más palpable es en el diseño de inteligencias artificiales, por eso de que, de base, parece que la propia esencia de una inteligencia artificial debe partir de unos conceptos éticos robustos.

No porque, en efecto, corramos riesgos a crear un HAL9000 o un Terminator que nos erradique del planeta. La realidad es que, de salir algo mal con una IA trascendente, ésta a lo sumo dejará de funcionar, o funcionará erróneamente.

Bajo este prisma, me ha gustado la reflexión que hacía Donald Clark en una pieza publicada hace unas semanas en su blog (EN), y que venía a defender que, más que un problema ético, estamos ante problemas de diseño.

Como la IA usa datos para aprender, literalmente tienes que «entrenar» modelos con datos, seleccionados o más generales, comete errores, …

Esta es la base de cualquier diseño de producto. Debemos asumir las casuísticas en las que tiene que funcionar el producto, y en el caso de las IA, por lo general, es el de haber sido entrenadas por datos que en muchos casos, como ya hemos visto, vienen claramente sesgados.

Bien sea inconscientemente, bien sea consciente.

Exactamente igual que le pasa a un niño. En su proceso de aprendizaje, va a aprender en base a lo que ve a su alrededor… que puede y seguramente tenga errores heredados.

Sistemas de IA

¿Significa esto que el niño jamás va a ser capaz de dirigirse hacia el lado correcto? Pues no, puesto que en el propio diseño de esa educación se contempla la arbitrariedad de los datos que va a aprender, y en el propio diseño de su cerebro está esa escalabilidad y subjetividad necesaria para que, con más y más entreno, sea capaz de decidir qué es correcto y qué no.

Pues lo mismo pasa con las IAs, con la salvedad de que, por supuesto, aún estamos a años luz de hacerle la competencia a millones de años de evolución biológica.

Si partimos del supuesto de que los datos que le vamos a dar de comer a la máquina son erróneos, el problema deja de ser ético (estamos dándole de comer contenido sesgado), y pasa a ser puramente de diseño (cómo diseñamos el sistema para que el propio sistema, en base a consumir contenido bueno y contenido malo, sea capaz de aprender y no heredar sesgos).

Eso y que no debemos olvidar que las IAs modernas dan respuestas a problemas cuya solución previamente hemos acotado. Que no tienen capacidad de raciocinio, sino una mayor capacidad de análisis.

Una suerte de automatización de procesos que el ser humano es capaz de hacer, pero a menor ritmo.

Lo que nos lleva a plantearnos hasta qué punto, esa obcecación por la ética que algunos llevamos años defendiendo, no es más que un mero efecto secundario del propio sesgo de confirmación que tenemos interiorizado (hay que tener cuidado con la IA, que nos quita el trabajo y potencialmente el día de mañana nos va a querer exterminar).

En lugar de la aplicación de la «ética», que es el estudio de los principios morales, lo que es bueno y malo, la AI y la ética parecen haber abandonado silenciosamente el lado bueno y moral. Es cíclico en su enfoque en lo malo.

Y esto no es ética: es activismo.

Algo en lo que seguramente un servidor ha pecado en más de una ocasión, lamentablemente.

Eso, o quizás simplemente sea una excusa bien argumentada de un ingeniero que vive precisamente de esto, y que siente que le están desplazando de su trabajo perfiles no técnicos.

Que cada uno se quede con lo que más le parezca oportuno.

________

Si quieres recibir contenido exclusivo como éste el día uno y directamente en tu bandeja de correo cada martes y jueves, hazte miembro del Club «NEGOCIOS SEGUROS».

Banner negocios seguros