DESINFORMACIÓN Y FACT-CHECKING EN LA ERA DE LA IA.
POR JOSÉ GUILLERMO MÁRTIR HIDALGO.
“Desinformación y Fact-Checking en la Era de la IA” es una obra colectiva coordinada por David García-Marín, académico español vinculado al Centro Internacional de Estudios Superiores de Comunicación para América Latina (CIESPAL). García-Marín, quien participa activamente en dicho centro como investigador y conferencista en temas de comunicación crítica y estudios culturales, presenta este volumen publicado por CIESPAL en 2025.
En la obra se analiza cómo la inteligencia artificial (IA), los algoritmos y las plataformas digitales han transformado radicalmente la producción y circulación de la mentira. Lejos de ser un problema aislado, la desinformación se revela aquí como un fenómeno estructural ligado a la economía digital, a la polarización política y a los sistemas algorítmicos de las redes sociales. Existe, por tanto, una auténtica «industria de la desinformación» alimentada por intereses políticos, económicos e ideológicos, donde el engaño actual suele camuflarse mezclándose con datos reales, emociones y narrativas identitarias.
La desinformación funciona mejor cuando confirma los prejuicios y las emociones previas de las personas. Plataformas como Facebook, TikTok, X (antes Twitter) y YouTube priorizan aquellos contenidos capaces de generar interacciones emocionales. Al algoritmo no le importa distinguir entre verdad y mentira; su único fin es privilegiar aquello que retenga la atención del usuario. De este modo, el problema trasciende lo tecnológico para volverse profundamente político y económico, ya que las plataformas monetizan esa atención.
La desinformación triunfa porque conecta emociones profundas con identidades sociales: la gente comparte contenidos falsos simplemente porque refuerzan su visión del mundo o la de su grupo político y cultural. El peligro latente de esta abundancia de falsificaciones es la producción de una «Fatiga de la Verdad»; si todo parece manipulable, la ciudadanía termina por dejar de confiar en cualquier tipo de evidencia.
En el primer capítulo, de carácter introductorio, los autores Roberto Aparici, Manuel Álvarez Rufs y Fernando Bordigon abordan los conceptos clave de desinformación, posverdad y fake news. Los investigadores señalan que la posverdad representa el triunfo de la forma en que el cerebro procesa la información por encima del razonamiento lógico y la realidad de los hechos. Así, las emociones, las creencias y los atajos mentales condicionan inevitablemente cómo percibimos la realidad.
La llegada de la IA generativa ha cambiado por completo las reglas del juego. Los ejes del problema actual se concentran en los contenidos desinformadores, las tecnologías de frontera, los discursos de odio y la tecnopolítica. Ante esto, las soluciones más efectivas combinan la verificación de contenidos (fact-checking) humano con herramientas de IA diseñadas para detectar mentiras. Si bien la IA se utiliza para agilizar los procesos de verificación, la decisión final debe seguir siendo humana. Con estas nuevas tecnologías, la desinformación se ha vuelto más rápida, masiva y creíble que nunca.
En el segundo capítulo, Leonardo Murolo ahonda en la acción tecnopolítica, el tablero donde hoy se dirime la batalla ideológica, vinculando este fenómeno con el auge de los movimientos neo fascistas globales. En este escenario, los influencers se erigen como actores clave para promover ciertas cosmovisiones, estando muchas veces al servicio de los populismos globales de ultra derecha
.
Por su parte, Fernando Bordigon presenta en el tercer capítulo los últimos desarrollos en IA generativa y sus efectos directos en la desinformación. El autor ofrece distintivos prácticos para detectar deep-fakes o contenidos artificiales:
Señales visuales en vídeo e imágenes: Rostros u ojos extraños, dientes y manos deformes, cabello y bordes con un aspecto «derretido», o movimientos poco naturales.
Señales en audio y voz: Monotonía, cortes extraños o, por el contrario, una pronunciación excesivamente perfecta.
Señales en el texto: Estilos demasiado genéricos, hechos inventados con detalles falsos e incoherencias lógicas.
Difusión: Velocidades de viralización anormales, falta de una fuente original y apelación a emociones extremas.
Dado que la inteligencia artificial amplifica, automatiza y dificulta la detección de mentiras, las prácticas de fact-checking se ven obligadas a evolucionar. Surgen así formas emergentes de información falsa o engañosa difundida tanto con intención como por error a través de modelos de lenguaje extenso (LLM), imágenes, audios deep-fake, vídeos manipulados y campañas automatizadas mediante bots. En este punto, el libro introduce precisiones conceptuales: la desinformación sin intención es denominada «masinformación», mientras que la información dañina pero basada en hechos reales se categoriza como «malinformación».
La dinámica de la IA permite la generación rápida de contenido creíble a un coste muy bajo, facilitando mensajes adaptados a audiencias específicas para maximizar su impacto mediante redes de botnets y cuentas falsas. Debido a que la verificación manual es insuficiente ante la velocidad de difusión, se vuelve indispensable el uso de herramientas forenses avanzadas (detección de texto generado por IA, análisis forense de imágenes y audio, rastreo de metadatos y análisis de redes). La clave del éxito radica en combinar la IA para el pre filtrado y los verificadores humanos para el veredicto final.
En el cuarto capítulo, David García-Marín profundiza en la tipología de estos contenidos generados con IA, cuyas narrativas falsas explotan instrumentos algorítmicos con fines económicos, ideológicos y políticos. El impacto de estos productos es letal para las democracias en términos sociales y económicos, pero también afecta a los ciudadanos a nivel individual al dañar su reputación, imagen personal y salud mental.
El mismo autor, en el quinto capítulo, explica los métodos del proceso de verificación, defendiendo que todo ciudadano debe actuar hoy en día como un verificador de mensajes falsos, engañosos, descontextualizados y maliciosos. Para ello, expone técnicas desinformativas frecuentes como el ataque mariposa (butterfly attack), la supresión (doxing), el blanqueo de información (information laundering) y la creación de una ilusión de apoyo popular (astroturfing).
Finalmente, en el sexto capítulo, Roberto Aparici, Manuel Álvarez Rufs y Fernando Bordigon plantean que el combate definitivo contra la desinformación requiere, de manera obligatoria, la alfabetización de las audiencias. La alfabetización mediática se presenta como una herramienta democrática urgente para formar ciudadanos críticos capaces de analizar discursos, identificar manipulaciones, comprender el funcionamiento de los algoritmos y verificar fuentes antes de compartir cualquier dato.
Esto debe acompañarse de una regulación y responsabilidad legal de las plataformas, moderación, etiquetado de contenidos y una cooperación público-privada que guarde un estricto balance ético entre la libertad de expresión y la protección contra el daño social.
El fenómeno analizado en el libro encuentra un correlato directo en la realidad centroamericana contemporánea. Un ejemplo de ello es la dinámica de la desinformación en los influencers salvadoreños pro-Bukele, la cual funciona como un aparato paralelo de propaganda digital. Estos creadores producen contenido milimétricamente alineado con el discurso oficial: exageran logros, ocultan violaciones a los derechos humanos y monetizan millones de vistas en plataformas como YouTube y TikTok. Aunque no verifican datos y se camuflan bajo un formato «informativo», operan en la práctica como potentes altavoces del gobierno.