Cómo combatir las fake news y las teorías de la conspiración… con IA

Este es una de las newsletters antiguas que se enviaron de forma exclusiva a los miembros del Club Negocios Seguros, y que se liberan públicamente un mes más tarde.

El Club Negocios Seguros está actualmente, y de forma temporal, cerrado, por lo que no se admiten nuevos miembros

*******

Negocios Seguros

Newsletter 957

*************

Creo que sobra decir ya, a estas alturas, que en los últimos años, las teorías de la conspiración han ganado terreno a un ritmo alarmante, especialmente con el auge de las redes sociales y los medios digitales.

De hecho, de esto mismo hablaré pasado mañana en Los Desayunos de ESADE, como te contaba ayer en la newsletter.

La facilidad con la que se propagan y el impacto que generan en nuestras sociedades son innegables. Según una encuesta reciente, más del 50% de los estadounidenses cree en alguna teoría de la conspiración, lo que supone un reto enorme para quienes trabajamos en el campo de la reputación digital y la gestión de la información.

Combatir estas creencias, por tanto, no es para nada una tarea sencilla. En artículos previos, ya he mencionado cómo las teorías de la conspiración se desarrollan en torno a una base de verdad, sobre la cual se teje una narrativa engañosa que va evolucionando con el tiempo. Esto hace que los esfuerzos para desacreditarlas sean más costosos y complicados de implementar, pues cada persona puede tener una versión ligeramente distinta de la misma conspiración.

Sin embargo, un estudio reciente publicado en Science bajo el título «Durably reducing conspiracy beliefs through dialogues with AI« (EN) arroja luz sobre un enfoque prometedor y, lo que es más importante, sostenible en el tiempo. El estudio propone el uso de chatbots conversacionales, como herramienta efectiva para disuadir a las personas de sus creencias erróneas.

En este artículo, exploraremos los detalles de este estudio y las implicaciones que tiene para quienes trabajamos en la gestión de la reputación digital.

¡Vamos!

El estudio y sus resultados

El equipo de investigadores que llevó a cabo este estudio seleccionó a 2.190 estadounidenses abiertamente autodeclarados como conspiranoicos. Estos participantes creían firmemente en al menos una teoría de la conspiración, y su interacción con el chatbot desarrollado para la investigación, llamado DebunkBot (EN), formó la base de la experimentación.

DebunkBot es un chatbot diseñado específicamente para abordar las teorías de la conspiración. Utiliza un modelo de lenguaje de gran capacidad, basado en GPT-4 Turbo, y se ha especializado en proporcionar contraargumentos basados en hechos y evidencias. A través de diálogos personalizados, los participantes compartieron con el chatbot sus teorías favoritas, junto con las «pruebas» que, según ellos, respaldaban esas creencias. La respuesta del chatbot, en cada caso, consistía en ofrecer refutaciones cuidadosamente adaptadas, respaldadas por datos objetivos.

Una de las características más impresionantes de este estudio fue la precisión de las respuestas proporcionadas por el chatbot. Los investigadores realizaron una verificación profesional de cada una de las afirmaciones hechas por DebunkBot, concluyendo que el 99,2% de sus respuestas eran veraces, mientras que solo el 0,8% fueron calificadas como engañosas. Lo más notable es que ninguna de ellas fue etiquetada como falsa, lo que refuerza la eficacia de utilizar un modelo de IA tan avanzado en este tipo de contextos.

Los resultados del estudio son aún más sorprendentes. Después de haber mantenido varias conversaciones con el chatbot, los participantes mostraron una disminución del 20% en sus creencias conspirativas. Este cambio no solo se produjo inmediatamente después de la interacción con DebunkBot, sino que se mantuvo durante al menos dos meses, cuando los participantes fueron evaluados nuevamente.

¿Por qué es tan difícil combatir las teorías de la conspiración?

Las teorías de la conspiración, como hemos mencionado, son particularmente resistentes a los intentos de desacreditarlas. Existen varias razones detrás de esto:

1. Bases de verdad parciales: Estas teorías suelen construirse sobre una base que contiene algo de verdad. Esto les otorga una cierta legitimidad, lo que hace más difícil refutarlas completamente.
2. Flexibilidad narrativa: A medida que se desacreditan partes de una teoría, la narrativa se adapta para incluir nuevas interpretaciones o justificaciones. Este proceso continuo hace que sea complicado enfrentarlas con una única respuesta definitiva.
3. Efecto de refuerzo de creencias: Las personas que creen en teorías de la conspiración a menudo reaccionan con hostilidad cuando se les intenta mostrar pruebas en su contra. Este efecto de refuerzo es uno de los mayores desafíos para quienes buscamos erradicar la desinformación.
4. Diversidad de versiones: Dentro de una misma teoría de la conspiración, puede haber múltiples variantes, lo que hace difícil abordar todas las interpretaciones que circulan entre los creyentes.

Ante este panorama, es fácil entender por qué los enfoques tradicionales, como los fact-checks, pueden ser ineficaces o, en el mejor de los casos, insuficientes. Sin embargo, el uso de un chatbot como DebunkBot ofrece una solución potencialmente más efectiva, precisamente porque puede adaptarse a cada versión específica de la conspiración que se presenta, respondiendo de manera individualizada.

El papel de la IA en la lucha contra la desinformación

Uno de los aspectos más interesantes del uso de chatbots en este contexto es su capacidad para neutralizar reacciones emocionales negativas. Las interacciones humanas, especialmente en debates intensos sobre creencias profundamente arraigadas, suelen escalar hacia la confrontación. En contraste, los chatbots, al carecer de emociones, pueden mantener una conversación calmada y racional, enfocada en los hechos, sin incitar a una respuesta defensiva.

Además, un chatbot como DebunkBot puede analizar rápidamente grandes volúmenes de información y seleccionar los datos más relevantes para refutar una teoría específica. Esta personalización es clave, pues la refutación genérica suele ser menos efectiva que un enfoque que responda directamente a las pruebas que presenta el creyente.

Otra ventaja es la sostenibilidad en el tiempo. Mientras que un ser humano puede cansarse o verse limitado por su capacidad de atender a múltiples personas, un chatbot puede interactuar con miles de usuarios simultáneamente, manteniendo la coherencia y calidad de sus respuestas.

¿Un cambio de paradigma?

El uso de chatbots en este ámbito es un cambio de paradigma que podría revolucionar la manera en la que abordamos las teorías de la conspiración y la desinformación. Si bien es cierto que aún queda mucho por investigar, los resultados del estudio son, cuanto menos, prometedores. La reducción del 20% en creencias erróneas, que además se mantuvo durante al menos dos meses, sugiere que este enfoque tiene el potencial de generar un impacto real y duradero.

Y aquí viene lo verdaderamente importante:

Este tipo de tecnología no solo podría ayudar a desacreditar las teorías de la conspiración, sino que lo hace de una manera que las personas están más dispuestas a aceptar. El hecho de que la refutación provenga de un chatbot y no de una persona puede disminuir la sensación de ataque personal, lo que favorece un diálogo más constructivo.

Conclusión: el futuro de la reputación digital y la desinformación

El estudio «Durably reducing conspiracy beliefs through dialogues with AI» es un paso importante hacia la creación de herramientas más efectivas para combatir la desinformación. En el contexto de la reputación digital, este avance es clave, ya que las teorías de la conspiración no solo afectan a las personas, sino también a empresas y figuras públicas.

Si logramos implementar soluciones como DebunkBot a mayor escala, podríamos estar ante un punto de inflexión en la lucha contra la desinformación. Como consultor de presencia digital, creo que este es un camino que debemos seguir explorando y aprovechando al máximo. La inteligencia artificial, lejos de ser una amenaza, se está convirtiendo en una aliada clave para proteger la verdad y la reputación en el entorno digital.