Este es una de las newsletters antiguas que se enviaron de forma exclusiva a los miembros del Club Negocios Seguros.

Si quieres recibir las actuales cada martes y jueves en tu bandeja de correo, hazte miembro ahora.

*******

Negocios Seguros

redes neuronales

Goodfellow es mejor conocido por ser el creador de las redes generativas antagónicas (GAN, por sus siglas en inglés), un tipo de inteligencia artificial que hace uso de dos redes entrenadas en los mismos datos. Una de las redes, llamada generativa, crea datos sintéticos (generalmente imágenes), mientras que la otra red, llamada discriminador, usa el mismo conjunto de datos para determinar si la entrada es real. Goodfellow analizó casi una docena de ejemplos sobre cómo los diferentes investigadores han usado las GAN en su trabajo, pero se centró en su principal interés actual de investigación: defender a los sistemas de aprendizaje automático de ser engañados. El investigador sostiene que, en las tecnologías anteriores, como los sistemas operativos, la defensa contra la tecnología se agregó más tarde; un error que no quiere que se repita con el aprendizaje automático.

«Quiero que sea lo más seguro posible antes de que confiemos demasiado en él«, dijo Goodfellow.

Las GAN son excelentes creando ejemplos contradictorios realistas, y estos terminan siendo una magnífica forma de entrenar a los sistemas de IA para desarrollar una defensa robusta. Si los sistemas están instruidos para detectar ejemplos antagónicos, entonces también mejoran en reconocer ataques antagonistas. Cuanto mejores sean esos ejemplos antagónicos, más fuerte es la defensa.

Me ha parecido una estrategia de ML realmente interesante. Ya no hablamos de enfrentarnos al esperable sesgo algorítmico, y al esperable sesgo de los desarrolladores que están detrás, sino de que activamente seamos capaces de automatizar un sesgo más neutral para que la máquina aprenda, dentro de sus limitaciones, en base a sesgos que no estén dirigidos.

Flipante.

Visto en el MIT (EXT)

________

Si quieres recibir contenido exclusivo como éste el día uno y directamente en tu bandeja de correo cada martes y jueves, hazte miembro del Club «NEGOCIOS SEGUROS».

Banner negocios seguros