La IA puede combatir teorías conspiratorias

En los últimos meses, la Inteligencia Artificial (IA) ha derrotado a los humanos en diversas tareas, desde los exámenes de medicina hasta la detección de imágenes falsas creadas por otras IAs; sin embargo, esta semana se dio a conocer una investigación que va más allá, pues muestra que una IA puede, hasta cierto punto, convencer a personas que creen en teorías conspiratorias de que están equivocadas, y lo hace en unos cuantos minutos.

Usualmente, los psicólogos consideran que las creencias de que ciertos eventos son el resultado de complots secretos de actores influyentes satisfacen necesidades psicológicas profundas de algunas personas, lo que las vuelve prácticamente inmunes a los hechos y la lógica que podrían demostrarles su error.

“En cierto sentido, se siente mejor creer que hay una sociedad secreta que lo controla todo que creer que la entropía y el caos gobiernan y que pueden suceder cosas horribles en cualquier momento”, explicó en una conferencia de prensa Thomas Costello, quien participó en la investigación como parte de su estancia postdoctoral con David Rand en la Escuela de Administración de Empresas del Instituto Tecnológico de Massachusetts (llamada MIT Sloan).

Sin embargo, Costello, Rand y Gordon Pennycook (de la Universidad de Cornell), el otro coautor de la investigación publicada el jueves pasado en la revista Science, sospechaban, con base en sus experiencias previas sobre difusión y aceptación de la desinformación, que la explicación podía ser, al menos en parte, más simple.

La complejidad que ayuda a simplificar

“Nos preguntamos si era posible que la gente simplemente no hubiera estado expuesta a pruebas convincentes que refutaran sus teorías”. David Rand, profesor investigador de MIT Sloan.

La hipótesis de la investigación es que las ideas conspirativas no sólo tienen muchas variedades, sino que los detalles y los argumentos utilizados para apoyar cada una de ellas “difieren de un creyente a otro”. Por lo tanto, si una persona trata de refutar una teoría conspiranoica, pero no ha escuchado los argumentos de ese “creyente” en particular, no estará preparada para refutarlos.

“Para probar esta hipótesis, necesitarías proporcionar, de alguna manera, un conjunto muy complejo de hechos e información, para cada persona en particular, dependiendo de lo que crean, lo que es, por logística, virtualmente imposible… al menos hasta hace poco”, explica Costello.

IA turbo

Así, Costello, Pennycook y Rand utilizaron la IA llamada GPT-4 Turbo, que es el gran modelo de lenguaje más avanzado de la compañía OpenAI, al que entrenaron para que pudiera platicar, de forma informada, persuasiva y personalizada, con más de dos mil creyentes en teorías conspirativas, estableciendo con cada uno diálogos basados en evidencia.

Primero se les pidió a los participantes que identificaran y describieran, usando sus propias palabras, una teoría conspirativa en la que creían, junto con la evidencia que respaldaba su creencia. Luego, GPT-4 Turbo utilizó esta información para generar un resumen personalizado de la creencia del participante e iniciar un diálogo.

Un factor “bastante crítico”, explicó Costello, fue que “la IA sabía de antemano lo que creía cada persona, y debido a eso, fue capaz de adaptar su persuasión a ese sistema de creencias preciso, informándoles principalmente de hechos particulares y piezas de evidencia que contradecían sus creencias”.

Resultados prometedores

Esta aproximación logró una disminución del 21.43% en la creencia entre las personas que estaban en “tratamiento”, frente al 1.04% que hubo en el grupo de control, donde la conversación se enfocó en un tema neutro. Además, alrededor de 27.4% de los participantes en el tratamiento se mostraron inseguros de su creencia en una conspiración después de la conversación con la IA, en comparación con 2.4% en el grupo de control.

“Si bien nuestros resultados son prometedores”, señala el equipo en el reporte de la investigación, también destacan limitaciones importantes del estudio, que impiden que se pueda generalizar: los encuestados eran todos de nacionalidad estadounidenses y decidieron participar en el estudio, que se hizo en línea, a cambio de una compensación económica. Por lo que hace falta más investigación.

Por último, los autores destacan que “la IA no redujo la creencia en conspiraciones verdaderas”, y que, de acuerdo con un verificador de hechos profesional, en una muestra de 128 afirmaciones realizadas por la IA, “el 99.2% eran verdaderas, el 0.8% eran engañosas y ninguna era falsa”.