La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) define la desinformación como la información falsa o engañosa que se difunde deliberadamente para engañar a las personas. La desinformación disemina información falsa con la intención de hacer daño a ciertos grupos sociales, organizaciones o países, creando o amplificando contenidos inexactos o engañosos. Además, este fenómeno convive con otros como la difusión de información errónea, que posee elementos falsos pero no ha sido creada con la intención de hacer daño; o con la información maliciosa, que sí se basa en la realidad pero se utiliza para perjudicar a propósito a ciertas personas, instituciones, empresas…
Aunque la desinformación se ha producido también en otras épocas para minar a uno u otro bando durante conflictos armados o disputas políticas, lo cierto es que, en la sociedad digital actual, es una problemática notable. De hecho, el Informe sobre Riesgos Globales de 2024 del Foro Económico Mundial ya señalaba la desinformación y la difusión de información como graves amenazas, destacando el posible aumento de propaganda y censura en los próximos años.
Tal y como destaca la UNESCO, en la actualidad convivimos con un ambiente de desinformación debido a factores como el acceso a las nuevas tecnologías, la alta exposición constante a los flujos de información diarios y la diversidad de productores y distribuidores de información. Todo ello, unido además a la falta de mecanismos y personal dedicado a realizar actividades de comprobación, así como con la proliferación de prácticas informativas y acciones sesgadas que provienen de actores mediáticos y políticos que buscan conseguir ciertos objetivos ante públicos concretos.
La IA y su contribución a la desinformación
En este contexto de rápido acceso a la información de la mano de la tecnología, la inteligencia artificial (IA) juega un papel crucial cuando analizamos el aumento de la desinformación en la sociedad.
Tal y como destaca la Fundación Luca de Tena, una exhaustiva encuesta realizada a más de 2.700 investigadores de inteligencia artificial destaca que el 86% de las personas preguntadas considera que la difusión de información falsa merece ser una preocupación ‘sustancial’ o ‘extrema' en los próximos 30 años, y resaltan además la influencia de la IA en la opinión pública y el debate democrático actual.
Entre los aspectos notables y las consecuencias que relacionan la IA con la desinformación, encontramos la manipulación de tendencias de opinión pública a gran escala con herramientas como virus diseñados, el empeoramiento de la desigualdad económica en base a sistemas de IA que benefician de forma desproporcionada a algunos individuos o incluso el uso de la IA por gobernantes autoritarios con el fin de controlar a su población. Además, el rápido desarrollo de estas tecnologías supera habitualmente la capacidad de supervisión de los gobiernos, por lo que, si no se legisla o controla, puede generar problemas de gran calado en la sociedad.
Deepfakes y modelos generativos mal utilizados
Podemos destacar algunas de las principales amenazas que es capaz de generar esta tecnología en favor de la desinformación.
- Deepfakes. El Instituto Nacional de Ciberseguridad en España (INCIBE) define los deepfakes como vídeos manipulados y creados para engañar a los espectadores, haciéndoles creer que una persona específica está realizando declaraciones o acciones que nunca ocurrieron. “Estos vídeos se crean mediante el uso de herramientas o programas equipados con tecnología de inteligencia artificial, lo que hace posible el intercambio de rostros en imágenes y vídeos, además de la alteración de la voz”, explican sus expertos. Por su parte, Andrés Visus, profesor especializado en Transformación Digital en ESIC, resalta que los creadores de deepfakes usan algoritmos de redes neuronales, las llamadas deep learning o aprendizaje profundo. Dentro de los deepfakes, encontramos la manipulación de imágenes o vídeos (deepface), que superponen el rostro de una persona sobre el rostro de otra simulando sus expresiones faciales y permitiendo simular acciones de todo tipo con ella; y la manipulación de voz (deepvoice), basadas en juntar palabras o frases que pronuncia una persona para formar un discurso diferente e irreal. Los creadores de los deepvoice también pueden realizar un discurso propio copiando la voz original.
- Textos automáticos manipulados. Otra de las capacidades que tiene la IA y que juega a favor de la desinformación es la generación de textos automáticos. Los creadores pueden usar chatbots generativos para generar artículos falsos, manipular narrativas en las redes sociales con comentarios o posts que simulan los de un usuario humano. Buen ejemplo de ello es la página de noticias DCWeekly.org que, tal y como informa el El País, era parte de una operación rusa de manipulación de masas durante la guerra de Ucrania. Según reveló la BBC británica, ni sus informaciones ni sus periodistas eran reales, pero logró diseminar una docena de artículos falsos escritos con IA basados en la supuesta corrupción del gobierno de Zelenski, impactando de forma directa en muchos lectores estadounidenses.
- Social bots o cuentas automatizadas. Muy relacionados con los casos anteriores, encontramos bots sofisticados que pueden interactuar en las redes sociales como si fueran personas reales y que difunden desinformación de manera constante, influyen en los hashtags o tendencias y pueden polarizar en estas plataformas.
- Microtargeting falso y masivo. La IA también tiene la capacidad de personalizar campañas de desinformación para influir en acontecimientos sociales tan relevantes como los comicios electorales. Tal y como explican desde la empresa de ciberseguridad Sophos Iberia, la IA generativa ofrece herramientas para crear contenidos sofisticados y personalizados a gran escala, lo que antes era difícil y requería mucho trabajo. Este microtargeting falso es capaz de contactar con el usuario por vías como el correo electrónico, apelando a sus intereses, ideologías y miedos para influir en él. “Con estas capacidades, el riesgo que plantean los actores maliciosos puede alcanzar nuevos niveles”, recalcan desde la empresa.
¿Cómo puede la IA combatir la desinformación?
Aunque la IA generativa es una parte esencial del problema de la desinformación, su tecnología también puede aportarnos soluciones para combatirla. “Los sistemas avanzados de IA pueden analizar patrones, usar el lenguaje y el contexto para ayudar en la moderación de contenidos, comprobar si las noticias son falsas y detectar información errónea y desinformación”, explican desde el Foro Económico Mundial.
Podemos destacar algunas soluciones que proporciona la IA para luchar contra la desinformación:
- Fact-checking automatizado. Son herramientas de IA que combaten la desinformación mediante la verificación de afirmaciones públicas como noticias, imágenes, vídeos o cualquier otro tipo de contenido informativo. Buen ejemplo de ello es el FacTeR-Check, uno de los principales resultados del Proyecto CIVIC, un programa de caracterización inteligente de la veracidad de la información asociada a la pandemia Covid-19, que destaca el informe ‘Luchando contra la desinformación mediante la inteligencia artificial’ de la Fundación BBVA. Esta herramienta utiliza técnicas avanzadas de natural language processing de la IA y puede verificar si las frases o afirmaciones que analiza son reales o bulos. Realiza su función mediante el contraste con bases de datos de hechos ya verificados por entidades de fact-checking.
- Bots para combatir la desinformación. Existen ya varios proyectos activos que buscan combatir la desinformación mediante uso de chatbots de IA. Buen ejemplo de ello es DebunkBot, el sistema desarrollado por el MIT que usa la IA para interactuar con los distintos individuos y proporcionarles información basada en evidencias para contrarrestar los bulos o las fake news. Otro ejemplo lo encontramos en Brasil en la época Covid19, que creó el chat CoronaAI para luchar contra las mentiras sobre la pandemia respondiendo a dudas de los usuarios y utilizando información veraz y contrastada.
- Alianzas y estándares técnicos. Otro de los puntos clave de cómo la IA puede combatir la desinformación son las alianzas entre compañías del sector y los estándares técnicos que alcanzan mediante consensos. Como ejemplo tenemos la C2PA, integrada por compañías tan relevantes como Adobe, Microsoft, Meta y OpenAI, entre otras, que se centra en aportar sistemas estándar técnicos que rastrean y determinan el historial de edición y procedencia de un archivo digital. Otra iniciativa referente es la Alianza para la Gobernanza de la IA del Foro Económico Mundial, que reúne a líderes de la industria, de los gobiernos, del mundo académico y de la sociedad civil para promover el desarrollo y la implementación de sistemas de IA transparentes y responsables.
Invertir en empresas del futuro
Desde Pictet Asset Management invertimos en compañías que miran hacia el futuro y que aprovechan las oportunidades relacionadas con la digitalización y las soluciones robóticas para mejorar el día a día de la industria y de la vida diaria de las personas. Puedes consultar nuestra gama de fondos aquí.
