Desinformación digital: el desafío tecnológico que la IA generativa multiplica

Nunca había sido tan fácil producir, modificar y distribuir información a gran escala. Hoy, una imagen, un audio o un vídeo pueden crearse mediante inteligencia artificial en cuestión de minutos y difundirse globalmente antes de que exista siquiera la oportunidad de verificar su autenticidad. Esa facilidad, que hace apenas unos años habría requerido conocimientos técnicos avanzados y recursos considerables, hoy está al alcance de cualquier persona con un teléfono y una conexión a internet, lo que ha cambiado por completo las reglas del juego en materia de información.

Un desafío que trasciende las redes sociales

Este nuevo escenario ha convertido a la desinformación digital en uno de los principales desafíos tecnológicos y sociales de la actualidad, con implicaciones que van mucho más allá de las plataformas donde nació el fenómeno. Su impacto alcanza los procesos democráticos, las reputaciones personales, las operaciones empresariales, la ciberseguridad e incluso la confianza en las instituciones. Ya no se trata únicamente de un problema de comunicación que se resuelve desmintiendo publicaciones falsas, sino de una amenaza estructural que atraviesa distintos sectores de la sociedad y que exige respuestas coordinadas desde múltiples frentes.

El diagnóstico del CPIC: de detectar noticias falsas a entender la tecnología

Según el Colegio de Profesionales en Informática y Computación (CPIC), el desafío ya no consiste únicamente en identificar noticias falsas, sino en comprender cómo evolucionan las tecnologías que permiten manipular contenidos y en desarrollar las capacidades necesarias para enfrentarlas. Este cambio de enfoque es clave, porque reconoce que la lucha contra la desinformación ya no puede limitarse al trabajo de verificación de datos: requiere también vigilancia tecnológica constante y una actualización permanente de las herramientas de defensa.

La desinformación dejó de ser únicamente un problema de comunicación. Hoy es también un desafío tecnológico. Herramientas como la inteligencia artificial generativa permiten crear contenidos cada vez más difíciles de distinguir de la realidad, lo que obliga a fortalecer tanto las capacidades técnicas como el pensamiento crítico de la ciudadanía», afirmó Marvin Jiménez, especialista en ciberseguridad y miembro de la Comisión de Ciberseguridad del CPIC.

La velocidad, el mayor obstáculo para frenar la desinformación

Uno de los mayores retos radica en la velocidad con la que circula la información en los entornos digitales. Los algoritmos de recomendación, diseñados originalmente para mantener a los usuarios interesados en un contenido, terminan también acelerando la propagación de mensajes engañosos cuando estos generan reacciones intensas. A esto se suma la automatización de publicaciones y el uso de cuentas falsas o bots, que pueden amplificar contenidos manipulados en cuestión de minutos, mucho antes de que existan mecanismos de verificación capaces de intervenir a tiempo. El resultado son efectos que, una vez desatados, resultan sumamente difíciles de revertir, incluso cuando posteriormente se demuestra que la información original era falsa.

Deepfakes: entre la innovación legítima y el riesgo reputacional

A este panorama se suma el crecimiento de tecnologías como los c, capaces de recrear imágenes, voces y vídeos con un nivel de realismo cada vez más difícil de detectar a simple vista. Estas herramientas no son intrínsecamente negativas: poseen aplicaciones legítimas y valiosas en ámbitos como el entretenimiento, la educación o la investigación científica. Sin embargo, esa misma sofisticación técnica también incrementa el riesgo de fraudes, suplantación de identidad, campañas de manipulación dirigidas y afectaciones reputacionales tanto para personas como para empresas e instituciones, que pueden ver comprometida su credibilidad en cuestión de horas por un contenido fabricado.

La ciudadanía informada como primera línea de defensa

Frente a este escenario, el CPIC insiste en que la herramienta más efectiva sigue siendo el criterio individual de cada usuario antes de compartir información. La mejor herramienta para combatir la desinformación sigue siendo una ciudadanía informada. Antes de compartir un contenido, es importante preguntarse quién lo publicó, cuál es la fuente original, si existe evidencia que lo respalde y qué intención podría existir detrás de ese mensaje», agregó Jiménez. Este hábito de verificación básica, aunque sencillo en apariencia, actúa como un filtro decisivo que puede frenar la cadena de propagación antes de que un contenido falso alcance una difusión masiva.

Una respuesta integral: tecnología, educación y colaboración

Desde la perspectiva del Colegio, enfrentar la desinformación requiere una respuesta integral que combine innovación tecnológica, educación digital, ciberseguridad y colaboración entre instituciones, empresas, academia y sociedad civil. Ningún actor por sí solo tiene la capacidad de contener un fenómeno que se mueve a la velocidad de las redes y que evoluciona al mismo ritmo que la tecnología que lo hace posible. En un entorno donde cualquier persona puede generar contenidos con apariencia de autenticidad, fortalecer la confianza digital será uno de los principales desafíos para garantizar una convivencia segura y responsable en el ecosistema tecnológico del futuro.