La sociedad moderada [relato distópico]

censura algoritmica

Los mediados de la segunda década del siglo han sido, sin lugar a dudas, el punto de inflexión que acabaría por llevarnos a la situación en la que estamos a día de hoy.

La salida de la zona euro de Reino Unido, junto con la victoria de Trump en las elecciones estadounidenses, o el auge de la extrema derecha en países como Francia y Alemania, e incluso el referendum catalán, demostraron cómo lo que hasta el momento se habían considerado plataformas de información neutrales estaban siendo utilizadas magistralmente por unos pocos para desestabilizar el status quo democrático que había llevado a Occidente a una de las épocas más longevas en cuanto paz y prosperidad se recuerdan.

Echando la vista atrás

La sociedad en manos de los hombres había demostrado, por aquel entonces, ser ineficiente. Y daba igual el sistema de gobierno que unos u otros promulgaran como el más adecuado, porque en todos ellos el germen del egoísmo hacía acto de presencia, rompiendo la buena praxis del sistema elegido y amparándose en la tergiversación política del papel del poder.

Bien fuera por la obcecación en la neutralidad de unos algoritmos de machine learning que habían aprendido de bases de conocimiento creadas por humanos, bien sea porque detrás de su programación no había máquinas, sino programadores de carne y hueso, bien fuera porque el acercamiento a la neutralidad se hacía desde la óptica de que el usuario tenía la suficiente capacidad crítica como para decidir qué quería y qué no consumir y, por supuesto, bien fuera por la masificación de las mecánicas de propaganda y el negocio asociado a ellas en las mal llamadas nuevas tecnologías, el hecho inefable es que todo ese ecosistema informativo se había pervertido lo suficiente como para representar un grave problema para el futuro de la sociedad.

Al liberalismo tecnológico de aquella época vendría una nueva era de excepticismo, que desencadenaría el conflicto de La Descentralización, y con él, el nuevo auge de la delegación absoluta en la objetividad de la máquina.

Ejemplo de ello fue, sin lugar a dudas, lo que llevaría a esa España Post-Descentralización, y a buena parte de los países considerados “cívicos”, a crear una sociedad sin UNOS. Todo aquel que no había pasado por el aro algorítimo de Reminder, sería desterrado de la vida en sociedad, obligado a vivir más allá de las murallas tecnológicas y el bienestar de la abundancia de las grandes urbes, en la barbarie de aquellos escasos lugares en los que aún la tecnología no había hecho acto de presencia.

Aldous Huxley ya se había adentrado (ES), un siglo antes, en los acontecimientos del momento, pero se equivocó al pensar que el problema vendría dado por la revolución biomédica. Los salvajes (AKA llamados los UNOS) envejecían y eran pasto de las enfermedades, pero los cívicos, el resto de la sociedad, eran esclavos de su propia cárcel tecnológica, dependientes en todo momento de los vaivenes del índice K de sus perfiles, único y hegemónico elemento que dictaba sus vidas.

La delegación absoluta en la máquina acabó por llegar hasta el punto en el que era nuestro alterego digital quien decidía por nosotros en algo hasta el momento tan humano como era votar. La máquina había llegado a un punto tal que realmente era capaz de ofrecer mejores outputs ahí donde la más pura subjetividad humana nublaba los resultados. El alterego que todos teníamos en Reminder era más fiel a nuestra naturaleza individual que lo que había conseguido llegar a ser el propio individuo, liberado así de las ataduras de los prejuicios históricos, de la incapacidad de nuestro cerebro de procesar con acierto grandes volúmenes de información… Para bien, y para mal.

Una sociedad moderada

Pero si algo está cambiando para siempre el futuro de la sociedad, sin lugar a dudas, es la implantación del Estado de Moderación en Reminder. Creado en principio como una manera de limitar el alcance de los contenidos pornográficos y violentos en la red social, va a acabar volviéndose el Caballo de Troya de toda una sociedad que ansia ser éticamente irreprochable.

Lo que de facto nos está conduciendo a un entorno informativo autocensurado.

¿Qué pasa cuando se delega en la inteligencia artificial la moderación de un ecosistema informativo creado por y para humanos? ¿Qué pasaría si en una futura actualización, a aquellos estados que claramente podemos considerar como pornográficos o violentos (es decir, nocivos para el resto de la sociedad según la tabla de principios recogida por los Derechos Humanos), se les suma también como sujetos a moderación estados que difieran del pensamiento mayorista?

Si podemos ser censurados por ejercer nuestro derecho al libre pensamiento públicamente, habida cuenta de que éste entra en conflicto con esa estabilidad ética marcada en la tabla de prioridades del sistema informático.

E iría aún más lejos.

¿Y si de esa misma IA ya no solo depende el que podamos ejercer este derecho, sino en la práctica del futuro que tendremos dentro de la sociedad?

Es decir, qué pasaría si por haber compartido un estado en mi cuenta sobre un tema controvertido, ya no solo se me priva de ello (contenido automáticamente moderado), sino que además ello conlleva una bajada porcentual de mi índice K, y con él, la pérdida quizás de acceso a una vivienda digna o la expulsión de mi trabajo.

Por último, un corolario final:

¿Qué sociedad crearíamos entonces?

Una en la que a la autocensura innata en la vida en colectivo se uniera el miedo a la censura de un sistema como el del Estado de Moderación de Reminder. Un Ministerio de la Verdad como el detallado en la obra de Orwell (ES) pero cuyos operarios no descansan, no se ponen de baja y no enferman.

Ahora es la pornografía y la violencia, pero ¿y si el día de mañana lo es también la política, o la crítica a la evolución tecnológica, o las relaciones sentimentales, o las fotos de nuestros niños? Y si el día de mañana todo lo que hagamos está sujeto a un juicio inmediato y absolutista, en el que el juez (la máquina) es también el verdugo, capaz de castigarnos con la pérdida de nuestro status social de forma taxativa e inapelable.

¿Y qué ocurriría en caso de que la máquina se equivocara, criminalizando a un ciudadano por un malentendido?

¿Es este el futuro que queremos dejar a nuestros hijos?

Susana Rodríguez (1.556 amigos), hace 14 minutos 

Me gusta (3) - Compartido (0) 

Contenido eliminado en base al artículo 34 del EM 

0,534 K descontados de su cuenta 

Si tiene algún problema, háganoslo saber en este formulario 

¡Muchas gracias por utilizar Reminder! 

 

 

_

Puede leer más de estas piezas distópicas bajo la etiqueta Relato.

Inspirada en la puesta en marcha de sistemas de análisis y procesamiento algorítmico como el de Tuputech (EN), cuyo principal objetivo es el de automatizar la detección y moderación de contenidos considerados por sus creadores como inapropiados.

Si le ha servido para pasar el rato, o incluso para pensar de manera divergente en el asunto, que sepa que puede invitarme a lo que vale un café (o incluso a lo que vale un café con churros) de dos formas distintas :).

hazme mecenas pabloyglesias