Enquêter sur les menaces numériques : les trolls en ligne

Ce volet du guide pour enquêter sur les menaces numériques s’intéresse aux trolls et vise à aider les journalistes à identifier s’il s’agit, ou non, d’une campagne de harcèlement initiée par une entreprise ou une puissance.

En parcourant réseaux sociaux, forums de discussion et autres plateformes en ligne, on rencontre fréquemment des internautes qui s’opposent violemment aux autres pour susciter de vives réactions. Sur internet, on appelle ces individus des trolls.

Certains internautes considèrent que toute opinion controversée et toute interaction désagréable relève du trolling. Il peut être difficile de prouver que quelqu’un trolle délibérément, mais de nos jours, il est courant de trouver des comptes anonymes ou dont l’identité est dissimulée derrière un pseudonyme qui utilisent des techniques de trolling dans le cadre de campagnes de harcèlement. Ils profèrent insultes et injures, diffusent des informations fausses ou trompeuses, et perturbent des conversations authentiques avec des mèmes offensants ou absurdes. L’objectif est d’agacer, de dénigrer, de faire passer un message particulier et de faire perdre l’envie à un individu ou un groupe donné d’aller sur internet. Les journalistes d’investigation doivent apprendre à identifier le trolling et à établir s’il s’agit d’un événement isolé ou s’il fait partie d’une campagne de harcèlement.

Le trolling comme modèle d’entreprise

Afin d’identifier, d’analyser et de mettre au jour les trolls et les campagnes de trolling, il faut comprendre comment le trolling est devenu un modèle commercial.

À la fin des années 1980 et au début des années 90, le terme trolling désignait le comportement des utilisateurs et se moquait des nouveaux arrivants – cela faisait partie de la culture internet. 4chan et d’autres forums en ligne ont vu le jour. Le trolling y est devenu une habitude. Lorsque les réseaux sociaux sont apparus, certains utilisateurs connaissaient le comportement des trolls en ligne. Mais beaucoup ont découvert cette sous-culture à ce moment-là. Avec l’expansion de l’internet, le trolling s’est mêlé à des comportements extrêmes, tels que l’intimidation et le harcèlement, et a été déployé par des personnes souffrant de troubles psychologiques.

Enfin, les gouvernements et les responsables politiques ont fait du trolling une arme contre leurs ennemis, opposition comme médias. En 2014, une fuite de courriels a révélé la création d’une armée de trolls par le régime chinois, la 50 Cent Army. Celle-ci employait au moins 500 000 trolls pour publier de faux commentaires sur les articles de presse et les réseaux sociaux. En 2017, cette opération comptait deux millions d’internautes. L’objectif de la manœuvre : noyer les conversations et les informations jugées indésirables pour le régime tout en vantant les mérites du gouvernement comme du Parti communiste chinois.

A mesure que des opérations d’astroturfing ont été mises au jour, d’autres études et reportages sur cette nouvelle cyberguerre ont commencé à paraître. En 2016, la Lettonie a fait face à une forme de guerre hybride déclenchée par la Russie qui comportait une part de trolling en ligne. Dans un rapport de l’OTAN sur cette affaire, les analystes ont relevé la différence entre les trolls classiques (gérés par un ou plusieurs humains) et les trolls hybrides (partiellement automatisés et partiellement gérés par des humains).

En 2016, l’Agence russe de recherche sur internet (IRA) a mené une campagne agressive pour perturber l’élection présidentielle américaine en utilisant de faux comptes sur les réseaux sociaux. Ceux-ci ont trollé Hillary Clinton et ses partisans. Les chercheurs ont également documenté comment l’IRA est devenu un outil d’interférence électorale du Kremlin ciblant différentes élections à travers le monde. En 2018, l’IRA a été accusé par les procureurs fédéraux américains d’ingérence dans la politique des Etats-Unis par le biais, essentiellement, du trolling et de la désinformation. Le trolling s’est installé dans d’autres pays également. Aux Philippines, il est courant que les campagnes électorales engagent des agences de marketing spécialisées dans l’utilisation de trolls pour diffuser de la propagande et s’en prendre à l’opposition.

Le trolling a évolué pour devenir une composante des opérations d’information et des stratégies militaires. Les fermes de trolls et les fabriques à trolls dans les petits pays européens et en Asie peuvent produire de faux contenus à grande échelle. Un modèle similaire existe en Amérique latine, où les agences numériques créent des fabriques à trolls à des fins électorales, comme on l’a vu lors de la dernière élection présidentielle au Mexique. Aujourd’hui, le trolling professionnel est une entreprise mondialisée.

Comment les trolls gagnent en influence

Les trolls ne sont pas tous les mêmes. Ils partagent pourtant certains comportements et tactiques. Les plus courants sont les suivants :

1. Diffusion sur les réseaux sociaux : Les trolls utilisent les réseaux sociaux pour diffuser leurs messages. Ils peuvent ouvrir plusieurs comptes et se servir de comptes automatisés pour amplifier leur contenu. En générant des likes, des partages et des commentaires, les trolls peuvent manipuler les algorithmes de la plateforme ciblée pour rendre leur contenu plus visible et ainsi atteindre un public plus large.
2. Détournement de hashtag : Les trolls suivent les tendances en matière de hashtags ou créent leurs propres hashtags pour répandre de la désinformation ou harceler certaines cibles. Cela leur permet d’injecter leur contenu dans des conversations virales.
3. Manipulation émotionnelle : Les trolls utilisent souvent un langage provocateur pour susciter de vives réactions, voire de la rage, de la part des utilisateurs.
4. Astroturfing : Les trolls créent l’illusion qu’un grand nombre de personnes soutient leur cause, leurs idées ou leur récit en coordonnant un grand nombre de faux comptes. Cette tactique peut rendre leurs campagnes de désinformation plus crédibles et donner l’impression faussée d’une grande popularité.
5. Cibler les personnes influentes : Les trolls ciblent des célébrités, des politiciens ou des personnes influentes pour tirer profit du grand nombre d’internautes qui suivent leurs comptes.
6. Création et diffusion de mèmes : Les trolls utilisent des mèmes humoristiques ou provocateurs pour diffuser de la désinformation ou du contenu injurieux. Les mèmes deviennent rapidement viraux, atteignant un large public.
7. Deepfakes et médias manipulés : De nouvelles technologies permettent aux trolls de créer des vidéos, images et enregistrements audio faussés afin de répandre de la désinformation, discréditer certains individus ou alimenter des théories du complot.
8. Exploiter les divisions : Les trolls se servent des divisions qui existent au sein des sociétés, notamment les différences politiques, religieuses ou culturelles, pour semer la discorde et tendre les discussions en ligne.

Trolls et campagnes de harcèlement

Pour comprendre comment fonctionnent les fabriques à trolls et comment elles agissent dans le cadre de campagnes de harcèlement en ligne, il nous faut d’abord décrire leur mode opératoire.

Les fabriques à trolls ouvrent de faux comptes sur les réseaux sociaux et de faux sites web pour diffuser leurs contenus. Les trolls ciblent également des plateformes et des communautés spécifiques pour amplifier leur message. À bien des égards, ils fonctionnent comme n’importe quelle agence de marketing numérique, en créant des messages et du contenu et en ciblant certains groupes pour atteindre leurs objectifs.

Ils ont deux objectifs : d’une part diffuser le plus largement possible, d’autre part attaquer.

La diffusion du message

Les fabriques à trolls utilisent tous les comptes, canaux et pages à leur disposition pour diffuser et amplifier leurs messages. Ce graphique montre les composantes d’un écosystème de diffusion servant à manipuler l’opinion publique. L’écosystème change selon les objectifs poursuivis.

L’écosystème de diffusion d’une campagne de trolling. Image : reproduite avec l’autorisation de Luis Assardo

L’attaque

L’organigramme ci-dessous montre une opération typique pour diffuser un récit sur les réseaux sociaux.

1. Définition du contenu : On voit d’abord un groupe de faux comptes jetables (en jaune) publiant du contenu de trolling (fabriqué, faux, manipulé, etc.). Ces comptes ne sont pas forcément suivis ; leur but est de publier du contenu qui sera ensuite diffusé à un public plus large.
2. Ce contenu est ensuite distribué à certains publics (principalement des partisans ou des internautes radicalisés) par les comptes en rouge (trolls et personnalités publiques). Ces comptes en rouge provoquent leurs adversaires avec ces contenus. S’ils sont signalés aux plateformes (Twitter ou Meta), les rouges éviteront toute sanction puisqu’ils n’ont fait « que » partager quelque chose qui vient d’autres comptes. Les comptes jaunes sont les seuls qui risquent d’être suspendus. C’est ainsi que les trolls évitent d’être bannis des réseaux sociaux.
3. Une fois que la provocation atteint sa cible, c’est-à-dire les comptes du groupe vert, le message se répand de manière organique pour atteindre un public plus large. Après quoi, un autre ensemble de comptes jaunes (ou le même, s’ils ne sont pas encore suspendus) amplifiera les messages des comptes verts.

La stratégie de diffusion d’une campagne de trolling. Image : reproduite avec autorisation de Luis Assardo

Comment les journalistes d’investigation peuvent identifier et analyser les trolls

Il y a deux étapes à toute enquête sur les trolls : la détection puis l’analyse.

La détection

Dans la phase de détection, il est impératif de surveiller et d’identifier les modèles de comportement ou de contenu suspects, tels que les messages coordonnés, les messages répétitifs ou l’augmentation soudaine des commentaires ou des interactions négatives. Pour ce faire, il vous faudra des outils d’écoute et de surveillance sociales. Ceux-ci permettent de suivre l’activité sur les réseaux sociaux, les forums en ligne et d’autres espaces numériques où les trolls peuvent sévir. Il est également important de créer un canal sécurisé afin de recevoir les informations d’internautes susceptibles d’être visés. Tout signe d’attaques ciblées, de doxxing (la divulgation de données privées) ou de menaces peut contribuer à l’identification précoce d’une campagne de dénigrement.

L’analyse

Au cours de la phase d’analyse, les journalistes doivent examiner le contenu, le moment et l’origine de l’activité suspecte afin de déterminer si elle fait partie d’une campagne coordonnée. Pour cela, il faut étudier la cohérence des messages, analyser les profils concernés (y compris les dates de création des comptes, leur activité et les liens qu’ils entretiennent avec d’autres comptes de trolls déjà connus) et évaluer l’impact potentiel de la campagne sur les personnes ou les communautés ciblées.

Voici un exemple de tweets provenant de comptes créés pour amplifier les messages. Ces tweets montrent des comptes créés récemment (dans les 24 heures qui ont précédé l’activité) qui retweetent tous les comptes contenant le hashtag en question. Ces comptes font partie d’un réseau plus large de plus de 200 comptes qui font de même. Avec des outils spécifiques tels que Twitter Archiver, Tweet Archivist et tout autre outil de téléchargement des tweets, on peut détecter les comptes créés le même jour et à la même heure, qui partagent les mêmes messages et ont une activité intense au même moment.

Les comptes Twitter utilisés dans une campagne de trolling. Image : reproduite avec l’autorisation de Luis Assardo

Voici comment détecter et analyser des comptes de trolling :

1. Surveillez les réseaux sociaux à la recherche d’activités suspectes ou de changements soudains dans le ton ou le contenu des discussions en ligne.
2. Utilisez des outils d’écoute sociale, tels que Brandwatch, Meltwater, Brand24, Talkwalker, etc. pour suivre des mots-clés, hashtags ou phrases spécifiques qui peuvent être associés à des campagnes de trolling ou de harcèlement.
3. Utilisez des outils d’analyse de réseau, tels que Graphext, Graphistry, Gephi ou NodeXL, pour visualiser les connexions entre les comptes et établir s’ils travaillent ensemble.
4. Analysez le contenu des messages à la recherche d’activités régulières, de connexions ou de signes qu’ils ont comme objectif de désinformer.
5. Étudiez les profils de trolls potentiels, y compris les dates de création de leur compte, leur activité et les connexions aux comptes de trolls connus.
6. Collaborez avec d’autres journalistes, chercheurs en désinformation ou experts en cybersécurité pour vérifier vos résultats et obtenir des informations complémentaires.
7. Documentez et préservez les données à l’aide de captures d’écran et d’archives publiques comme le site Wayback Machine.
8. Publiez des reportages sur les campagnes que vous avez pu mettre au jour pour sensibiliser le public à ces démarches et aider à atténuer leur impact.

Il existe également des outils qui peuvent aider à identifier, analyser et visualiser les campagnes de trolling.

• Outils d’écoute sociale : Brandwatch, Meltwater, Brand24, Talkwalker ou encore Mention.
• Outils d’analyse de réseau : Graphext, Graphistry, Gephi, NodeXL ou UCINet (sur Windows uniquement).
• Outils de visualisation de données : Tableau, D3.js ou Google Data Studio.
• Outils d’intelligence en sources ouvertes (OSINT) : Maltego, TweetDeck ou Google Advanced Search.
• Sites de vérification des faits : Snopes, FactCheck.org ou Full Fact.
• Conditions d’utilisation et règles des réseaux sociaux (Twitter, Facebook, TikTok, etc.).
• Des outils de sécurité numérique pour protéger vos données et vos communications. Utilisez le cryptage pour protéger vos conclusions.

Le trolling peut venir de comptes utilisant un vrai nom comme il peut venir de comptes qui utilisent un pseudonyme ou un faux nom, comme le montre ce tableau :

Mettre au jour les trolls : les meilleures pratiques pour partager vos découvertes

Tout reportage sur le trolling doit inclure quatre éléments de base : le mode opératoire, le type de contenu concerné, l’intentionnalité (si celle-ci est démontrée) et l’attribution (si démontrée).

Il faut avant toute chose contextualiser la campagne de harcèlement ou de trolling. Il s’agit notamment d’expliquer l’origine et les motivations de la campagne, les personnes ou les communautés ciblées et tout lien potentiel avec des questions sociales ou politiques plus larges. Ce contexte aidera les lecteurs à comprendre l’importance et les conséquences potentielles de la campagne. Il est très important d’éviter le sensationnalisme.

Il faut préciser la méthodologie et les preuves à l’appui de l’identification et de l’analyse que vous faites de la campagne mise au jour. Expliquez les outils, les techniques et les sources de données utilisés au cours de vos recherches, tout en conservant un ton clair et objectif. Une analyse transparente contribue à établir la crédibilité de votre enquête et constitue un socle solide pour la compréhension du public.

Pensez également à l’éthique de votre reportage. Veillez à ne pas amplifier les messages ou les tactiques des trolls ou des harceleurs en reproduisant un contenu injurieux ou en amplifiant leur message. Cela pourrait être leur objectif. Protégez toujours la vie privée et la sécurité des personnes ciblées en ne partageant pas d’informations sensibles ou d’images sans leur consentement.

Voici une liste des informations à inclure dans un reportage sur les campagnes de harcèlement et de trolling :

• Le contexte et les informations générales sur la campagne.
• Les individus ou les communautés ciblés.
• Les motivations et les objectifs des harceleurs ou des trolls.
• Les preuves de coordination ou d’organisation conjointe.
• La méthodologie et les outils utilisés pour l’identification et l’analyse.
• Les données quantitatives et qualitatives, telles que le volume des messages ou la gravité du harcèlement.
• Les conséquences et les impacts potentiels sur les personnes ou les communautés ciblées.
• Les liens avec des questions sociales ou politiques plus larges, le cas échéant.
• Toute mesure prise par les réseaux sociaux, les forces de l’ordre ou d’autres parties concernées pour résoudre le problème.

Les journalistes d’investigation devraient éviter les écueils suivants :

• Sensationnaliser ou exagérer l’impact de la campagne.
• Reproduire du contenu injurieux ou nuisible sans but journalistique clair.
• Accorder une attention indue aux objectifs ou aux messages des trolls ou des harceleurs.
• Violer la vie privée ou la sécurité des personnes ciblées en partageant des informations ou des images sensibles sans leur consentement.
• Spéculer sur les motivations ou l’identité des harceleurs ou des trolls sans preuves suffisantes.

Études de cas

Nous connaissons leurs origines et leurs méthodes, mais à quoi ressemble une campagne de trolling ? Voici quelques exemples de campagnes bien financées qui ont brassé des quantités faramineuses de contenu et se sont appuyées sur des milliers de faux comptes.

Les créateurs d’images saoudiens : une armée de trolls et un initié de Twitter – The New York Times

Jamal Khashoggi, un journaliste dissident saoudien, a été assassiné en 2018. Avant cela, il a fait face à une campagne de trolling d’envergure pour essayer de le faire taire, ainsi que d’autres critiques de l’Arabie saoudite. Ils ont utilisé un réseau soutenu par l’État pour diffuser de la désinformation et des campagnes de diffamation à son endroit. Cette enquête montre parfaitement comment le suivi des campagnes de trolling et le journalisme traditionnel, qui s’appuie sur des sources, peuvent mettre au jour des opérations de désinformation, les ressources utilisées et les responsables.

Maria Ressa : Combattre un déferlement de violence en ligne – Centre international des journalistes (ICFJ)

L’ICFJ a analysé plus de 400 000 tweets et 57 000 messages et commentaires publics sur Facebook publiés sur une période de cinq ans dans le cadre d’une campagne de trolling contre la PDG de Rappler, Maria Ressa, une journaliste qui a remporté le prix Nobel de la paix en 2021. À l’aide d’outils de collecte et de visualisation des données, les autrices de cette enquête ont réussi à comprendre le mode opératoire de ces attaques et à identifier les responsables. Dans ce cas précis, le facteur clé est le comportement mis au jour. Une fois attribué, le niveau de violence décrit les personnes derrière les attaques.

Rana Ayyub : Violence ciblée en ligne au croisement de la misogynie et de l’islamophobie – ICFJ

Rana Ayyub est une journaliste d’investigation primée qui tient une tribune au Washington Post. Ses analyses sur la violence et les violations des droits de l’Homme en Inde ont conduit à une campagne de dénigrement qui comprenait des attaques contre sa crédibilité, ainsi que des menaces sexistes et misogynes. Les chercheurs ont recréé une chronologie des attaques sur de nombreuses années et analysé environ 13 millions de tweets et de contenus provenant de médias traditionnels ayant participé à la diffusion de ces messages.

Des partisans de Trump à un avocat des droits de l’Homme : les influenceurs numériques qui ont harcelé une journaliste – Forbidden Stories

En février 2023, Forbidden Stories a publié une enquête détaillée intitulée Story Killers. Une partie de l’enquête a révélé une opération de trolling contre Ghada Oueiss, une journaliste expérimentée travaillant pour Al Jazeera. Les journalistes qui ont enquêté sur l’affaire ont retrouvé les principaux profils impliqués dans la campagne de harcèlement.

Luis Assardo est formateur indépendant en sécurité numérique, chercheur en logiciels libres et journaliste enquêteur, et fondateur de Confirmado, un projet guatémaltèque de lutte contre la désinformation. Il a été récompensé pour ses enquêtes et ses recherches sur les usines à trolls, la désinformation, la radicalisation, les discours de haine et les opérations d’influence. Basé à Berlin, il travaille avec Reporters Sans frontières (RSF), le Collectif de protection holistique (HPC) et d’autres organisations de défense des droits de l’homme.