Investigando Ameaças Digitais: Campanhas de Trolling

Quando navegamos nas redes sociais, salas de bate-papo, comunidades online e outras plataformas, frequentemente encontramos pessoas que antagonizam ou provocam outras pessoas a uma resposta emocional. Eles são chamados de trolls da internet.

Usuários da Internet frequentemente apontam qualquer opinião controversa ou interação desagradável como trolling. Pode ser difícil provar que alguém está trollando deliberadamente, mas hoje em dia é comum encontrar contas anônimas ou usando pseudônimos utilizando técnicas de trolling como parte de campanhas de assédio.Eles lançam insultos e calúnias, espalham informações falsas ou enganosas ou interrompem conversas genuínas com memes ofensivos ou sem sentido. O objetivo é irritar, difamar, empurrar uma mensagem específica e afetar negativamente a experiência de uma pessoa ou grupo específico. Jornalistas investigativos precisam aprender a identificar trolling e se é um evento isolado ou parte de uma campanha de assédio.

Trolling como modelo de negócio

Para identificar, analisar e expor trolls e campanhas de trolling, precisamos entender como o trolling se tornou um modelo de negócio.

No final dos anos 1980 e início dos anos 90, o termo trolling era usado para definir o comportamento dos usuários e zombar dos recém-chegados — fazia parte da cultura da internet. Comunidades online como 4chan e outros fóruns da internet surgiram onde o trolling era parte do comportamento esperado. Quando as mídias sociais chegaram, alguns usuários estavam familiarizados com o comportamento dos trolls online. Mas muitos não estavam, e tiveram seu primeiro gostinho dessa subcultura. À medida que a internet se expandia, o trolling interseccionava com comportamentos sociais extremos, incluindo bullying e stalking, e era usado por aqueles que sofriam de distúrbios psicológicos.

Eventualmente, governos e autoridades políticas transformaram o trolling “em uma arma” para atacar seus inimigos, a oposição e a mídia. Em 2014, houve um vazamento de e-mails que expôs a criação de um exército de trolls da internet pelo regime chinês — o chamado Exército de 50 Centavos empregou pelo menos 500.000 trolls da internet para deixar comentários falsos em artigos de notícias e mídias sociais. Em 2017, a estimativa do exército aumentou para dois milhões de pessoas. O objetivo dessa operação massiva era abafar conversas e informações consideradas indesejáveis ​​ao regime enquanto celebravam o governo e o Partido Comunista Chinês.

À medida que outras operações de astroturfing foram expostas como parte da guerra cibernética, mais pesquisas e reportagens começaram a ser publicadas. Em 2016, a Letônia enfrentou uma forma de guerra híbrida da Rússia que contou com trolls online. Em um relatório da OTAN sobre o caso letão, analistas comentaram sobre a diferença entre trolls clássicos (gerenciados por um ou mais humanos) e trolls híbridos (parcialmente automatizados e parcialmente gerenciados por humanos).

Durante as eleições dos Estados Unidos em 2016, a Agência Russa de Pesquisa na Internet (IRA) travou uma campanha agressiva para atrapalhar a eleição dos EUA usando contas falsas de mídia social que trollavam Hillary Clinton e seus apoiadores. Os pesquisadores também documentaram como o IRA se tornou parte do manual de interferência eleitoral do Kremlin visando eleições ao redor do mundo. Em 2018, o IRA foi acusado por promotores federais dos EUA de interferir no sistema político dos EUA por meio de, essencialmente, trollagem e desinformação. O trolling criou raízes nos sistemas políticos de outros países. Nas Filipinas, é comum que as campanhas contratem agências de marketing especializadas em usar trolls para espalhar propaganda e atacar a oposição.

​​O trolling evoluiu para se tornar um componente de operações de informação e estratégias militares. Fazendas e fábricas de trolls em pequenos países europeus e partes da Ásia podem produzir conteúdo falso em escala. Um modelo semelhante existe na América Latina, onde agências digitais criam fábricas de trolls para fins eleitorais, como visto na eleição presidencial do México em 2018. Hoje, o trolling profissional é um negócio global.

Como os trolls ganham alcance

Nem todo troll é igual, mas há alguns comportamentos — e táticas — consistentes que eles empregam. Os mais comuns são:

1. Amplificação por meio de redes sociais: Trolls usam plataformas de mídias sociais para espalhar suas mensagens, frequentemente criando múltiplas contas ou empregando bots automatizados para amplificar seu conteúdo. Ao gerar curtidas, compartilhamentos e comentários, os trolls podem manipular algoritmos de plataformas para tornar seu conteúdo mais visível e atingir públicos maiores.
2. Sequestro de hashtag: Trolls monitoram hashtags que estão em evidência ou criam as suas próprias para espalhar desinformação ou assediar indivíduos alvos. Isso permite que eles injetem suas mensagens em conversas populares e ganhem mais exposição.
3. Manipulação emocional: Trolls frequentemente usam linguagem carregada de emoção e conteúdo provocativo para causar reações fortes nos usuários. O chamado rage farming é muito comum.
4. Astroturfing: Trolls criam a ilusão de apoio popular para uma causa, ideia ou narrativa específica coordenando um grande número de contas falsas. Essa tática pode fazer com que suas campanhas de desinformação pareçam mais confiáveis ​​e criem a impressão de apoio popular.
5. Visando indivíduos influentes: Os trolls podem visar celebridades, políticos ou indivíduos importantes para lucrar com os seguidores deles e ganhar mais atenção.
6. Criação e disseminação de memes: Trolls usam memes humorísticos ou provocativos para espalhar desinformação ou conteúdo ofensivo. Memes se tornam virais rapidamente, alcançando grandes públicos.
7. Deepfakes e mídia manipulada: Trolls podem usar tecnologia avançada para criar vídeos, imagens ou gravações de áudio falsos para espalhar desinformação, desacreditar indivíduos ou alimentar teorias da conspiração.
8. Explorando divisões existentes: Trolls frequentemente capitalizam com divisões sociais, como diferenças políticas, religiosas ou culturais, para amplificar a discórdia e polarizar discussões online.

Trolls e campanhas de assédio

Para entender como as fábricas de trolls funcionam e como elas se comportam em campanhas de assédio, precisamos identificar seu modus operandi e seus métodos.

Fábricas de trolls produzem contas falsas de mídia social e sites para espalhar suas narrativas. Os trolls também têm como alvo plataformas e comunidades específicas para amplificar sua narrativa. De muitas maneiras, eles operam como qualquer agência de marketing digital, criando mensagens e conteúdo e direcionando-os estrategicamente em todos os canais para atingir seus objetivos.

Há duas maneiras de entender sua atividade como parte de uma campanha de assédio: seu papel como parte de um ecossistema de amplificação e seu papel em uma operação de ataque.

Ecossistema de amplificação

Um ecossistema de amplificação é o inventário de ativos, contas, canais, páginas ou espaços usados ​​para disseminar e amplificar mensagens que fazem parte de qualquer estratégia. Este gráfico mostra um exemplo dos elementos de um ecossistema de amplificação de mídia usado para manipular a opinião pública. Cada estratégia exigiria um diferente.

Diferentes elementos do ecossistema de amplificação de uma campanha de trolling. Imagem: Cortesia de Luis Assardo

Operação de Ataque

O fluxograma a seguir nos mostra uma operação básica nas mídias sociais para espalhar uma narrativa.

1. Definindo o conteúdo: O que vemos primeiro é um grupo de diversas contas falsas “descartáveis” ​​(em amarelo) postando conteúdo de trollagem (fabricado, falso, adulterado, etc.). Essas contas podem não ter engajamento; seu propósito é postar conteúdo que mais tarde será enviado para públicos maiores.
2. Esse conteúdo será retirado e distribuído para públicos específicos (principalmente apoiadores ou usuários radicalizados) pelo grupo de contas em vermelho (trolls e figuras públicas). Essas contas vermelhas provocam adversários e interagem com apoiadores usando o conteúdo. Caso a plataforma (X/Twitter ou Meta) receba denúncias sobre esse conteúdo, as contas vermelhas evitarão qualquer problema ou suspensão, pois elas “apenas” compartilharam algo postado por outras contas. Em qualquer caso, as contas amarelas são as expostas à suspensão. É assim que os trolls evitam ser desligados.
3. Uma vez que a provocação e/ou engajamento ocorra e alcance as contas no grupo verde, se espalhará organicamente e alcançará um público maior. Depois que isso acontece, outro conjunto de contas em amarelo (ou o mesmo, se elas ainda não estiverem suspensas) amplificará as postagens das contas verdes.

Fluxograma da estratégia de implementação de uma campanha de trolling. Imagem: Cortesia de Luis Assardo

Como jornalistas investigativos podem identificar e analisar trolls

Há duas etapas principais na investigação de trolls: detecção e análise.

Detecção

Na fase de detecção, é crucial monitorar e identificar padrões suspeitos de comportamento ou conteúdo, como postagens coordenadas, mensagens repetitivas ou um crescimento repentino de comentários ou interações negativas. Para fazer isso, precisamos de ferramentas de monitoramento e escuta social. Elas nos permitem monitorar plataformas de mídia social, fóruns online e outros espaços digitais onde os trolls podem estar ativos. Também é importante criar um canal seguro para receber informações de qualquer usuário da Internet que possa estar sob ataque. Qualquer sinal de ataques direcionados, doxxing ou ameaças pode ajudar na identificação precoce de uma possível campanha.

Análise

Durante a fase de análise, os jornalistas devem examinar o conteúdo, o momento e a origem da atividade suspeita para determinar se ela faz parte de uma campanha coordenada. Isso envolve explorar as mensagens para verificar consistência, analisar os perfis envolvidos (incluindo datas de criação de contas, padrões de postagem e conexões com outras contas de trolls já conhecidas, por meio de interações ou hashtags) e avaliar o potencial impacto da campanha em indivíduos ou comunidades alvos.

Aqui está um exemplo de tweets de contas criadas para amplificar mensagens. Esses Tweets mostram contas criadas recentemente (em menos de 24 horas) retuitando todas as contas que incluem a hashtag em que estão trabalhando. E essas faziam parte de uma rede maior de mais de 200 contas fazendo o mesmo. Com ferramentas específicas como Twitter Archiver, Tweet Archivist e qualquer outra usada para baixar tweets, podemos identificar contas criadas no mesmo dia e hora, compartilhando as mesmas mensagens e atividade de alta intensidade nos mesmos períodos de tempo.

Uma planilha rastreando um grupo de contas do X/Twitter sendo usadas em uma campanha de trolling. Imagem: Cortesia de Luis Assardo

Esta metodologia descreve um processo que você pode usar para detectar e analisar possíveis contas de trolls.

1. Monitore plataformas de mídia social para atividades suspeitas ou mudanças repentinas no tom ou conteúdo de discussões online.
2. Use ferramentas de escuta social, como Brandwatch, Meltwater, Brand24, Talkwalker, etc. para rastrear palavras-chave, hashtags ou frases específicas que podem estar associadas a campanhas de trollagem ou assédio.
3. Use ferramentas de análise de rede, como Graphext, Graphistry, Gephi ou NodeXL, para visualizar conexões entre contas e identificar possível coordenação.
4. Analise o conteúdo das mensagens em busca de padrões, conexões ou sinais de desinformação.
5. Investigue os perfis de trolls em potencial, incluindo datas de criação de contas, padrões de postagem e conexões com contas de trolls já conhecidas.
6. Colabore com outros jornalistas, pesquisadores de desinformação ou especialistas em segurança cibernética para verificar descobertas e obter insights adicionais.
7. Documente e preserve dados usando capturas de tela e arquivos públicos como o Wayback Machine.
8. Reporte campanhas identificadas para aumentar a conscientização e ajudar a mitigar seu impacto.

Também existem ferramentas que podem ser utilizadas para identificar, analisar e visualizar campanhas de trolling.

• Ferramentas de escuta social: Brandwatch, Meltwater, Brand24, Talkwalker ou Mention.
• Ferramentas de análise de rede: Graphext, Graphistry, Gephi, NodeXL ou UCINet (apenas Windows).
• Ferramentas de visualização de dados: Tableau, D3.js ou Google Data Studio.
• Ferramentas de inteligência de código aberto (OSINT): Maltego, X Pro (antigo TweetDeck) ou Google Advanced Search.
• Referências de verificação de fatos: Snopes, FactCheck.org ou Full Fact.
• Termos de serviço, regras e políticas das plataformas de mídia social (X/Twitter, Facebook, TikTok, etc.).
• Ferramentas de segurança digital para proteger seus dados e comunicações. Use criptografia para proteger suas descobertas.

O trolling é normalmente executado por contas que usam um nome ou identidade real, ou aquelas que usam um nome falso ou pseudônimo, conforme mostrado nesta tabela:

Expondo Trolls: Melhores Práticas para Compartilhar Suas Descobertas

Qualquer reportagem sobre trolling deve incluir quatro itens básicos: modus operandi, tipo de conteúdo usado, intencionalidade (se comprovada) e atribuição (se comprovada).

Primeiro, é importante fornecer contexto e informações básicas sobre a campanha de assédio ou trolling. Isso inclui explicar a origem e as motivações por trás da campanha, os indivíduos ou comunidades visados ​​e quaisquer possíveis conexões com questões sociais ou políticas mais amplas. Fornecer esse contexto ajuda os leitores a entender o significado e as consequências potenciais da campanha. É muito importante evitar sensacionalizá-la.

Você deve incluir a metodologia e as evidências que dão suporte à identificação e análise da campanha que está expondo. Explique as ferramentas, técnicas e fontes de dados usadas na pesquisa, mantendo um tom claro e objetivo. Uma análise transparente ajuda a estabelecer a credibilidade da sua reportagem e fornece uma base sólida para o entendimento público.

Considere também as implicações éticas de sua denúncia. Tenha cuidado para não amplificar as mensagens ou táticas dos trolls ou assediadores reproduzindo conteúdo ofensivo ou amplificando o conteúdo deles. Esse pode ser o objetivo deles. Sempre proteja a privacidade e a segurança dos indivíduos visados, não compartilhando informações pessoais ou imagens sensíveis sem o consentimento deles.

Aqui está uma análise das informações a serem incluídas em uma reportagem sobre campanhas de assédio e trolling.

• Contexto e informações básicas sobre a campanha.
• Os indivíduos ou comunidades alvo.
• Motivações e objetivos dos assediadores ou trolls.
• Evidências de coordenação ou esforços organizados.
• Metodologia e ferramentas utilizadas para identificação e análise.
• Dados quantitativos e qualitativos, como o volume de mensagens ou a gravidade do assédio.
• Possíveis consequências e impactos sobre indivíduos ou comunidades alvos.
• Conexões com questões sociais ou políticas mais amplas, se relevante.
• Quaisquer ações tomadas por plataformas de redes sociais, autoridades policiais ou outras partes relevantes para resolver o problema.

Jornalistas investigativos devem evitar esses elementos ao fazer reportagens.

• Sensacionalizar ou exagerar o impacto da campanha.
• Reproduzir conteúdo ofensivo ou prejudicial sem um propósito jornalístico claro.
• Dar atenção indevida aos objetivos ou mensagens dos trolls ou assediadores.
• Violar a privacidade ou a segurança de indivíduos visados ​​ao compartilhar informações ou imagens sensíveis sem consentimento.
• Especular sobre as motivações ou identidades dos assediadores ou trolls sem evidências suficientes.

Estudos de caso

Sabemos suas origens, suas estratégias e suas táticas, mas como é uma campanha de trolling? Estes exemplos mostram campanhas bem financiadas que incluem quantidades massivas de conteúdo e envolvem milhares de contas, em sua maioria, falsas.

Criadores de imagens sauditas: Um exército de trolls e um infiltrado no Twitter — The New York Times

Jamal Khashoggi foi um jornalista dissidente saudita, assassinado em 2018. Antes disso, ele lidou com uma campanha massiva de trolls tentando silenciá-lo, assim como outros críticos da Arábia Saudita. Eles usaram uma rede apoiada pelo estado para espalhar desinformação e campanhas de difamação. Este é um bom exemplo de como o monitoramento de campanhas de trolls e reportagens tradicionais com fontes podem expor grandes operações de desinformação, os recursos usados ​​e quem está por trás delas.

Maria Ressa: Lutando contra uma onda de violência online — International Center for Journalists (ICFJ)

O ICFJ analisou mais de 400.000 tweets e 57.000 postagens e comentários públicos no Facebook publicados ao longo de um período de cinco anos como parte de uma campanha de trollagem contra a CEO do Rappler, Maria Ressa, uma jornalista que ganhou o Prêmio Nobel da Paz em 2021. Usando ferramentas de coleta e visualização de dados, a equipe de reportagem conseguiu entender como os invasores estavam operando e conseguiu identificar recursos e autores. Aqui, o fator-chave é o comportamento exposto. Uma vez atribuído, o nível de violência descreve as pessoas por trás dos ataques.

Rana Ayyub: Violência online direcionada na intersecção da misoginia e da islamofobia — ICFJ

Rana Ayyub é uma repórter investigativa premiada e colunista do Washington Post. Seus comentários sobre violência e abusos de direitos humanos na Índia levaram a uma campanha de trollagem que incluiu ataques à sua credibilidade, bem como ameaças sexistas e misóginas. Os pesquisadores recriaram uma linha do tempo de ataques ao longo de muitos anos e analisaram cerca de 13 milhões de tuítes e conteúdo da mídia tradicional envolvida na amplificação.

De apoiadores de Trump a advogados de direitos humanos: os influenciadores digitais que assediaram um jornalista — Forbidden Stories

Em fevereiro de 2023, a Forbidden Stories publicou uma investigação detalhada chamada Story Killers. Parte da investigação expôs uma operação que incluía trollagem contra Ghada Oueiss, uma jornalista veterana que trabalhava para a Al Jazeera. Os jornalistas que investigaram o caso rastrearam os principais perfis envolvidos na campanha de assédio e cruzaram referências às redes envolvidas.

Luis Assardo é um instrutor freelancer de segurança digital, pesquisador de código aberto, jornalista investigativo de dados e fundador do Confirmado, um projeto guatemalteco para combater a desinformação. Ele ganhou prêmios por suas investigações e pesquisas sobre fábricas de trolls, desinformação, radicalização, discurso de ódio e operações de influência. Baseado em Berlim, ele trabalha com a Repórteres Sem Fronteiras (RSF), o Holistic Protection Collective (HPC) e outras organizações de direitos humanos.