La sociedad moderada [relato distópico]

Los mediados de la segunda década del siglo han sido, sin lugar a duda, el punto de inflexión que acabaría por llevarnos a la situación en la que estamos hoy en día.

La salida de la zona euro de Reino Unido, junto con la victoria de Trump en las elecciones estadounidenses, o el auge de la extrema derecha en países como Francia y Alemania, e incluso el referendum catalán, demostraron cómo lo que hasta el momento se habían considerado plataformas de información neutrales estaban siendo utilizadas magistralmente por unos pocos para desestabilizar el statu quo democrático que había llevado a Occidente a una de las épocas más longevas en cuanto paz y prosperidad se recuerdan.

Echando la vista atrás

La sociedad en manos de los hombres había demostrado, por aquel entonces, ser ineficiente. Y daba igual el sistema de gobierno que unos u otros promulgaran como el más adecuado, porque en todos ellos el germen del egoísmo hacía acto de presencia, rompiendo la buena praxis del sistema elegido y amparándose en la tergiversación política del papel del poder.

Bien fuera por la obcecación en la neutralidad de unos algoritmos de machine learning que habían aprendido de bases de conocimiento creadas por humanos, bien sea porque detrás de su programación no había máquinas, sino programadores de carne y hueso, bien fuera porque el acercamiento a la neutralidad se hacía desde la óptica de que el usuario tenía la suficiente capacidad crítica como para decidir qué quería y qué no consumir y, por supuesto, bien fuera por la masificación de las mecánicas de propaganda y el negocio asociado a ellas en las mal llamadas nuevas tecnologías, el hecho inefable es que todo ese ecosistema informativo se había pervertido lo suficiente como para representar un grave problema para el futuro de la sociedad.

Al liberalismo tecnológico de aquella época vendría una nueva era de escepticismo, que desencadenaría el conflicto de La Descentralización, y con él, el nuevo auge de la delegación absoluta en la objetividad de la máquina.

Ejemplo de ello fue, sin lugar a duda, lo que llevaría a esa España Post-Descentralización, y a buena parte de los países considerados “cívicos”, a crear una sociedad sin UNOS. Todo aquel que no había pasado por el aro algorítimo de Reminder, sería desterrado de la vida en sociedad, obligado a vivir más allá de las murallas tecnológicas y el bienestar de la abundancia de las grandes urbes, en la barbarie de aquellos escasos lugares en los que aún la tecnología no había hecho acto de presencia.

Aldous Huxley ya se había adentrado (ES), un siglo antes, en los acontecimientos del momento, pero se equivocó al pensar que el problema vendría dado por la revolución biomédica. Los salvajes (AKA llamados los UNOS) envejecían y eran pasto de las enfermedades, pero los cívicos, el resto de la sociedad, eran esclavos de su propia cárcel tecnológica, dependientes en todo momento de los vaivenes del índice K de sus perfiles, único y hegemónico elemento que dictaba sus vidas.

La delegación absoluta en la máquina acabó por llegar hasta el punto en el que era nuestro alter ego digital quien decidía por nosotros en algo hasta el momento tan humano como era votar. La máquina había llegado a un punto tal que realmente era capaz de ofrecer mejores outputs ahí donde la más pura subjetividad humana nublaba los resultados. El alter ego que todos teníamos en Reminder era más fiel a nuestra naturaleza individual que lo que había conseguido llegar a ser el propio individuo, liberado así de las ataduras de los prejuicios históricos, de la incapacidad de nuestro cerebro de procesar con acierto grandes volúmenes de información… Para bien, y para mal.

Una sociedad moderada

Pero si algo está cambiando para siempre el futuro de la sociedad, sin lugar a duda, es la implantación del Estado de Moderación en Reminder. Creado en principio como una manera de limitar el alcance de los contenidos pornográficos y violentos en la red social, va a acabar volviéndose el Caballo de Troya de toda una sociedad que ansia ser éticamente irreprochable.

Lo que de facto nos está conduciendo a un entorno informativo autocensurado.

¿Qué pasa cuando se delega en la inteligencia artificial la moderación de un ecosistema informativo creado por y para humanos? ¿Qué pasaría si en una futura actualización, a aquellos estados que claramente podemos considerar como pornográficos o violentos (es decir, nocivos para el resto de la sociedad según la tabla de principios recogida por los Derechos Humanos), se les suma también como sujetos a moderación estados que difieran del pensamiento mayorista?

Si podemos ser censurados por ejercer nuestro derecho al libre pensamiento públicamente, habida cuenta de que éste entra en conflicto con esa estabilidad ética marcada en la tabla de prioridades del sistema informático.

E iría aún más lejos.

¿Y si de esa misma IA ya no solo depende el que podamos ejercer este derecho, sino en la práctica del futuro que tendremos dentro de la sociedad?

Es decir, qué pasaría si por haber compartido un estado en mi cuenta sobre un tema controvertido, ya no solo se me priva de ello (contenido automáticamente moderado), sino que además ello conlleva una bajada porcentual de mi índice K, y con él, la pérdida quizás de acceso a una vivienda digna o la expulsión de mi trabajo.

Por último, un corolario final:

¿Qué sociedad crearíamos entonces?

Una en la que a la autocensura innata en la vida en colectivo se uniera el miedo a la censura de un sistema como el del Estado de Moderación de Reminder. Un Ministerio de la Verdad como el detallado en la obra de Orwell (ES) pero cuyos operarios no descansan, no se ponen de baja y no enferman.

Ahora es la pornografía y la violencia, pero ¿y si el día de mañana lo es también la política, o la crítica a la evolución tecnológica, o las relaciones sentimentales, o las fotos de nuestros niños? Y si el día de mañana todo lo que hagamos está sujeto a un juicio inmediato y absolutista, en el que el juez (la máquina) es también el verdugo, capaz de castigarnos con la pérdida de nuestro status social de forma taxativa e inapelable.

¿Y qué ocurriría en caso de que la máquina se equivocara, criminalizando a un ciudadano por un malentendido?

¿Es este el futuro que queremos dejar a nuestros hijos?

Susana Rodríguez (1.556 amigos), hace 14 minutos 

Me gusta (3) - Compartido (0) 

Contenido eliminado en base al artículo 34 del EM 

0,534 K descontados de su cuenta 

Si tiene algún problema, háganoslo saber en este formulario 

¡Muchas gracias por utilizar Reminder! 

_

Inspirado en la puesta en marcha de sistemas de análisis y procesamiento algorítmico como el de Tuputech (EN), cuyo principal objetivo es el de automatizar la detección y moderación de contenidos considerados por sus creadores como inapropiados.

Por si te has quedado con hambre de más…

Si eres de ciencia ficción:

Colección de relatos cortos de ciencia ficción distópica. Cada relato trata un tema de rabiosa actualidad tecnológica, vislumbrando sus posibles escenarios.

1ª edición: Noviembre 2022.

Página de venta del libro “Historias Conectadas”

Primera novela de Relatos cortos de ciencia ficción que publiqué.

1ª edición: Diciembre 2018.

2ª edición: Agosto 2021.

Página de venta del libro “25+1 Relatos Distópicos”

Y si eres más de fantasía épica, échale un ojo a la Colección de novelas “Memorias de Árganon”:

Actualmente «Memorias de Árganon» está compuesto por tres libros y más de 800 páginas en las que se narra una aventura épica de fantasía y ciencia ficción. ¿Te atreves?

1ª edición: Noviembre 2020.

2ª edición: Agosto 2021.

Página de venta de la Colección “Memorias de Árganon”

Por último, que sepas que todas estas novelas, junto con la de otros autores, las estamos publicando con el Sello Editorial de Autopublicación Ediciones PY. Si tienes un libro y necesitas ayuda para materializarlo en papel y distribuirlo a nivel mundial, escríbenos.