À l’heure de l’IA, la pluridisciplinarité contre la désinformation

La désinformation constitue une opération pour influencer l’opinion publique à des fins stratégiques en favorisant la diffusion d’informations fausses ou biaisées. Ce phénomène ancien prend aujourd’hui de l’ampleur. Les outils d’intelligence artificielle (IA) permettent de fabriquer des informations à faible coût et les réseaux sociaux favorisent la diffusion d’informations non vérifiées et la création de « bulles informationnelles ». Ces « facilitateurs » technologiques rencontrent par ailleurs un contexte social et géopolitique qui favorise le développement des opérations de désinformation et leur impact sur la société. 

Identifier les manipulations

Ces deux facettes illustrent la complexité du problème qui fait l’objet de recherches pour mieux en comprendre les causes, les mécanismes et les enjeux, afin de développer les technologies facilitant la lutte contre la désinformation, et pour renforcer la résilience de la société face aux influences. De nombreuses initiatives viennent appuyer la recherche en Bretagne sur ces sujets, notamment sur le thème de l’IA avec le Cluster SequoIA, centre d’excellence regroupant les établissements publics d’enseignement supérieur et de recherche présents en Bretagne et labellisé dans le cadre de la stratégie nationale en IA.

En abordant le problème sous le prisme technologique, un des grands enjeux tourne autour de l’identification des contenus — vidéos, images, sons, textes — générés ou manipulés par IA. En lien avec les programmes nationaux d’envergure, on s’intéresse ainsi à introduire des marques invisibles dans les contenus afin de pouvoir tracer leur origine et leur légitimité, ou encore à développer des algorithmes capables de détecter, voire de décrire les manipulations de ces contenus. Sur ces deux aspects, l’IA est à la fois un outil puissant pour concevoir des algorithmes performants, et un adversaire redoutable capable de créer des contenus extrêmement réalistes. La notion de contexte devient alors capitale mais reste difficile à analyser automatiquement.

Une affaire de contexte 

Le traitement automatique du langage constitue un autre enjeu majeur, par exemple pour analyser le contexte d’utilisation d’une image ou pour caractériser les articles diffusés sur les réseaux sociaux ou dans les médias en ligne. Le projet TrustedNews que nous menons est emblématique à cet égard, associant chercheurs en informatique (notamment à l’Irisa, à Rennes) et en philosophie, le média Ouest-France et l’industriel Airbus. Un de ses objectifs est de concevoir des algorithmes fournissant des indicateurs de la qualité informationnelle d’un article en analysant le texte : contient-il des faits précis que l’on peut vérifier ? Est-il plutôt objectif ou subjectif ? Fait-il appel à des leviers psychologiques de persuasion ? Malgré les progrès récents autour des modèles de langues (LLMs) et des agents conversationnels, ces différents problèmes restent difficiles en raison de la subtile complexité du langage et des biais que peuvent avoir certains LLMs.

Mais les enjeux technologiques ne doivent surtout pas faire oublier les aspects humains, sociaux, économiques ou encore géopolitiques. Ainsi, à titre d’exemple, en recherche, la psychologie cognitive est mobilisée pour étudier les facteurs humains et sociaux qui favorisent l’impact de la désinformation. Le cadre juridique qui peut être mobilisé au niveau de l’Europe et de la France pour lutter contre la désinformation fait également l’objet d’études et de propositions d’évolution pour être plus adapté et performant.