| Imprimer |
| Controllable content generation and online behavior simulation to fight against influence operations (Génération contrôlée de contenu et simulation de comportements en ligne pour lutter contre les opérations d'influence) Oliveri, Ulysse - (2026-06-02) / Université de Rennes Controllable content generation and online behavior simulation to fight against influence operations
| |||
Langue : Anglais Directeur(s) de thèse: Gravier, Guillaume; Lolive, Damien Discipline : Informatique Laboratoire : IRISA Ecole Doctorale : MATISSE Classification : Informatique Mots-clés : Génération de contenu contrôlable, opérations d’influence, simulation de réseaux sociaux
| |||
Résumé : Cette thèse explore l’intersection de la cybersécurité, de la manipulation de l’information et de l’intelligence artificielle générative pour développer des plateformes d’entraînement permettant d’atténuer les opérations de Manipulation de l’Information. Alors que les réseaux sociaux permettent la mise en œuvre d’opérations informationnelles à grande échelle ayant des impacts sur les démocraties, il existe un besoin critique de méthodologies d’entraînement efficaces permettant de lutter contre ces opérations. Notre recherche aborde trois questions clés : (1) Comment produire du contenu diversifié, conforme au scénario et crédible pour peupler des réseaux sociaux simulés ; (2) Comment modéliser l’activité de ces réseaux, incluant des comportements malveillants ; et (3) Comment concevoir une solution qui soit utilisable et contrôlable par les formateurs. Le système proposé, SocialForge, utilise des graphes de connaissances et l’IA générative pour produire un contenu conforme au scénario, diversifié et réaliste. Ce système permet aussi de simuler des comportements de réseaux sociaux dynamiques, ce qui inclue des activités malveillantes. Les évaluations démontrent la capacité du système à générer des simulations crédibles, permettant de maximiser l’immersion de l’entraînement. Ce faisant, ces travaux comblent ainsi le fossé entre la formation en cybersécurité et la défense contre la manipulation de l’information. Abstract : This thesis explores the intersection of cybersecurity, information manipulation, and generative artificial intelligence to develop training platforms dedicated to the mitigation of in- formation manipulation operations. As social networks enable large-scale informational operations that destabilize democratic societies, there is a critical need for effective training methodologies to mitigate such operations. We focus on three key questions: (1) How to generate diverse, scenario-adhering, and credible content to populate simulated social networks (2) How to model social network activity and malicious behaviors in a coherent framework; and (3) How to design training systems that are controllable and usable by trainers. The proposed SocialForge system leverages knowledge graphs and generative AI to produce scenario-aligned, diverse, and realistic social media content. SocialForge also enables the simulation of dynamic social network behaviors including malicious activities. Evaluations demonstrate the credibility of the generated simulations, aiming at improving the capabilities of the trainees to detect adversarial behaviors, bridging the gap between cybersecurity training and information manipulation defense. | |||