Guia para investigar algoritmos de mídias sociais

Os impactos dos algoritmos das redes sociais são múltiplos: os feeds de notícias algorítmicos nas redes sociais ameaçam desestabilizar países e governos em todo o mundo, impactar profundamente a saúde mental e destruir nossos relacionamentos. Aqui estão alguns exemplos notáveis:

• Conteúdo censurado de contas pró-Palestina.
• Campanhas de desinformação e informações falsas destinadas a fomentar a agitação política em Gana.
• Uma mãe deixando de seguir a filha nas redes sociais porque as suas diferenças políticas são amplificadas online.

Cobrir os algoritmos das redes sociais pode assumir muitas formas. Algumas abordagens investigativas podem levar semanas e exigir conhecimentos de perícia digital e programação. Mas muitas outras investigações podem ser feitas com pouco ou nenhum conhecimento técnico, simplesmente rastreando conteúdo em diferentes contas ou realizando experimentos em plataformas sociais para ilustrar como eles causam danos.

Independentemente da abordagem escolhida, as reportagens sobre a responsabilização dos algoritmos das redes sociais exigem um pouco de criatividade. Isso se deve, em grande parte, ao fato de empresas privadas como a Meta ou o TikTok não serem obrigadas a divulgar como seus algoritmos são desenvolvidos. Além de eventuais vazamentos de documentos, a maioria dos jornalistas precisará encontrar maneiras de fazer engenharia reversa para entender como os algoritmos funcionam ou, simplesmente, provar que eles causam danos ao disseminar conteúdo odioso ou enganoso.

O que são algoritmos e como funcionam?

Algoritmos são conjuntos de regras ou cálculos criados para realizar uma tarefa. No contexto das mídias sociais, os algoritmos avaliam dados de entrada — informações como o conteúdo que um usuário curtiu, quem são suas conexões na plataforma ou com quais publicações ele interagiu — para determinar quais informações o usuário verá em seu feed de notícias, linha do tempo ou feed de conteúdo e para prever com o que esses usuários têm maior probabilidade de interagir.

Esses algoritmos são constantemente alterados por suas empresas proprietárias e se tornaram cada vez mais sofisticados ao longo do tempo. O algoritmo do Facebook, por exemplo, recebe cerca de 10.000 sinais para prever com que tipos de publicações um usuário tem maior probabilidade de interagir, de acordo com uma reportagem do The Washington Post de 2021.

Em 2021, o The Washington Post fez uma análise aprofundada das mudanças no algoritmo do Facebook e como isso afeta o que os usuários veem em seus feeds. Imagem: Captura de tela, The Washington Post

Os algoritmos das redes sociais não são apenas extremamente complexos, como as empresas que os produzem também não divulgam seu funcionamento. Por isso, jornalistas investigativos se concentram principalmente nos efeitos nocivos desses algoritmos ao fazer jornalismo de prestação de contas sobre as plataformas. Isso pode incluir analisar os tipos de conteúdo que viralizam nessas plataformas, entender que tipo de vídeos podem ser exibidos para certos grupos vulneráveis, criar contas falsas para testar o funcionamento dos algoritmos ou investigar a disseminação de trolls — tentativas intencionais de provocar ou “pescar” alguém com publicações ofensivas ou inflamatórias — ou de informações falsas em uma plataforma.

Cobrir notícias sobre a web social, também implica discutir o fluxo de informações. Quando você está conduzindo investigações nessa área, pode ser útil desenvolver um entendimento comum de termos e conceitos, já que muitos fenômenos que observamos online são exclusivos das mídias sociais.

Desinformação, informações incorretas e discurso de ódio nas redes sociais: o que são e como se propagam?

Embora haja uma infinidade de recursos relevantes para jornalistas que cobrem o fluxo de informações online, como o glossário de desinformação criado pela organização de pesquisa sem fins lucrativos EU DisinfoLab, três termos são os mais populares no discurso público: desinformação, informações incorretas e discurso de ódio online.

Informações incorretas. Esse termo é frequentemente usado como um guarda-chuva para descrever uma infinidade de problemas online. Mas, na verdade, seu significado é muito mais específico: informações incorretas são informações falsas ou imprecisas que muitas vezes são acreditadas como verdadeiras por aqueles que as compartilham e disseminam. Por exemplo, em situações de notícias de última hora, as pessoas podem compartilhar, por engano, fotos de um evento diferente ou ocorrido no passado, pensando que elas estão relacionadas à notícia em desenvolvimento.

Desinformação são informações criadas ou compartilhadas intencionalmente para enganar ou prejudicar. Por exemplo, durante a eleição presidencial dos EUA em 2016, uma investigação conduzida pelos Comitês de Inteligência do Senado e da Câmara dos Representantes dos EUA, em cooperação com o Facebook, descobriu que agentes russos se fizeram passar por eleitores americanos e espalharam informações falsas sobre protestos fictícios para gerar divisão política. A Rússia negou qualquer interferência nas eleições.

Discurso de ódio é outro tipo importante de informação prejudicial que frequentemente se espalha online. Eles expressam e incitam a violência contra um grupo com base em suas características, incluindo raça, religião, gênero ou orientação sexual. Por exemplo, líderes políticos de Mianmar usaram o Facebook para desumanizar e demonizar os rohingya, uma minoria étnica muçulmana, o que levou à violência contra o grupo. Posteriormente, o Facebook baniu 20 organizações e indivíduos em Mianmar — em resposta a um relatório das Nações Unidas — para impedir “a disseminação de ódio e desinformação”. Autoridades militares do país rejeitaram as conclusões desse relatório.

É igualmente importante para os jornalistas entender quem são os principais atores dentro de qualquer ecossistema midiático. Os algoritmos criam experiências online personalizadas, o que significa que cada um de nós habita seu próprio pequeno universo de informações, frequentemente chamado de “câmaras de eco” ou “bolhas de filtro”.

Existem os membros da audiência, ou usuários em grande parte passivos que fazem parte desse ecossistema e podem compartilhar conteúdo, mas não necessariamente criam grandes quantidades dele. Depois, há os criadores de conteúdo ativos que produzem muita informação. Eles tendem a ter muita influência sobre o tipo de informação que os membros da audiência consomem e podem incluir entidades governamentais, organizações de notícias e influenciadores, bem como agentes mal-intencionados que tentam semear a discórdia. Por último, mas não menos importante, existem os algoritmos — o equivalente a um conjunto de regras baseadas em dados que determinam qual conteúdo é exibido nas linhas do tempo das pessoas — que ajudam a moldar as experiências nesses ecossistemas de mídia.

Três abordagens para investigar algoritmos de mídias sociais

Há alguns anos, a repórter Jane Lytvynenko e eu também desenvolvemos uma estrutura para investigar essas questões. A chave é abordar as histórias tendo como ponto focal central uma das três entidades que compõem um ecossistema midiático: o público, os criadores de conteúdo ou o algoritmo.

1. Investigando como o público interage com os feeds algorítmicos

Focar nos membros da audiência ou nos usuários das redes sociais é um bom ponto de partida. Muitas vezes, são pessoas que não têm consciência do que está acontecendo e usam as redes sociais para se conectar com amigos ou consumir notícias e informações.

Como discutimos anteriormente, a forma como alguém vivencia desinformação e informações enganosas é muito individual. Para aprofundar as visões de mundo distorcidas criadas por algoritmos e feeds de notícias, os jornalistas poderiam considerar focar nos dados das visualizações de um usuário online — ou fazer uma “selfie quantificada” da experiência de uma pessoa na web social.

Essa abordagem envolve solicitar acesso aos dados de uma pessoa para analisar como ela interage com as redes sociais. Graças ao Regulamento Geral de Proteção de Dados (RGPD) da União Europeia, muitas empresas de redes sociais que operam na UE, incluindo TikTok, Meta e X, são obrigadas a dar aos usuários mais controle sobre seus próprios dados, o que significa que permitem que as pessoas acessem, baixem e excluam dados de suas atividades online.

Nesta reportagem para o Documented, por exemplo, o repórter Malick Gai reuniu arquivos de visualização do TikTok de cinco migrantes senegaleses diferentes que foram influenciados a ir para os Estados Unidos, em parte, pelas informações que encontraram no TikTok. Os migrantes ainda dependiam muito da plataforma para obter informações em seu idioma nativo. Por meio do arquivo, o repórter pôde constatar que os migrantes estavam assistindo a muitos vídeos que lhes forneciam informações imprecisas ou enganosas sobre os processos de imigração. Por exemplo, alguns vídeos apresentavam informações incorretas sobre como preencher um pedido de asilo, o que, se seguido, poderia ter consequências negativas em seus processos de imigração. Outro vídeo afirmava falsamente que o prefeito da cidade de Nova York estava distribuindo US$50 milhões entre migrantes. A ByteDance, empresa proprietária do TikTok, não respondeu ao pedido de comentário.

Da mesma forma, repórteres investigaram o impacto devastador das redes sociais na saúde mental de mulheres jovens. A repórter da NBC News, Kat Tenbarge, encontrou diversos grupos de usuários no X que promoviam distúrbios alimentares e que haviam acumulado entre 2.000 e 173.000 usuários, com alguns se identificando como com apenas 13 anos de idade. De acordo com uma declaração fornecida à NBC News: “O X proíbe conteúdo que promova ou incentive comportamentos de automutilação e tem tolerância zero para exploração sexual infantil. Neste caso, após uma análise minuciosa, suspendemos a Comunidade por violar nossas Regras”.

O documentário de 2025, “Can’t Look Away“, apresenta denunciantes que trabalharam anteriormente no Facebook, TikTok e Instagram. Ele explora como os algoritmos podem causar danos na forma como exibem conteúdo, especialmente para os mais jovens. Em uma discussão sobre o documentário e seu trabalho no TikTok, Charles Bahr, um dos denunciantes apresentados, afirma que os algoritmos otimizam tudo sem inteligência emocional, o que leva a danos. Ele falou sobre como o TikTok, especificamente, mostrava conteúdo no qual os usuários passavam mais tempo, em vez do conteúdo que eles buscavam. Em outras palavras, se um usuário assiste a um vídeo deprimente, seu feed se tornará rapidamente uma câmara de eco de conteúdo semelhante. O TikTok argumenta que oferece “proteções para o público mais jovem, ferramentas de gerenciamento de tempo de tela, ferramentas de segurança para pais e responsáveis ​​e outros recursos semelhantes”.

Arturo Bejar, outro denunciante que trabalhou tanto no Facebook quanto no Instagram, afirmou que as empresas gostam de “fingir” que existem maneiras de os usuários controlarem o conteúdo que não desejam mais em seus feeds por meio do botão “Não tenho interesse”. No entanto, esses controles não são eficazes porque o algoritmo ainda mostra aos usuários principalmente conteúdos nos quais eles passam mais tempo. A Meta, por sua vez, alega ter “implementado mais de 30 recursos para melhorar a experiência dos adolescentes em suas plataformas”.

Bahr também afirmou que, se for fácil replicar o problema que os usuários estão enfrentando em uma plataforma, especialmente em relação a conteúdo perturbador ou angustiante, isso significa que o problema é mais estrutural. Assim, jornalistas podem tentar fazer engenharia reversa de como seu feed se apresenta quando interagem mais com um determinado tipo de conteúdo, para entender como isso pode impactar os usuários em geral.

2. Investigando como os criadores de conteúdo se aproveitam dos algoritmos para amplificar informações prejudiciais ou falsas

Se optar por investigar criadores de conteúdo problemáticos em suas investigações, você talvez queira analisar conteúdos virais falsos ou enganosos e rastreá-los até sua origem.

Muitos agentes mal-intencionados que conduzem campanhas de desinformação usam conteúdo falso ou enganoso e o publicam repetidamente em diversas plataformas.

Em uma reportagem da Code for Africa, jornalistas descobriram que uma rede de 16 contas do Facebook, não sediadas em Gana, disseminava sistematicamente informações falsas sobre supostas prisões de manifestantes pró-Rússia em Gana, copiando e colando repetidamente a mesma publicação. Segundo os jornalistas, as contas estavam sediadas na Costa do Marfim, Burkina Faso, Mali, França e Espanha.

Em outra reportagem, jornalistas da emissora pública suíça Schweizer Radio und Fernsehen (SRF) usaram aprendizado de máquina para identificar contas falsas. Eles compraram 5.000 contas falsas, treinaram seu modelo de aprendizado de máquina com base nas características dessas contas e, em seguida, identificaram outras contas falsas usando esse modelo treinado.

Em uma investigação sobre uma campanha de influência pró-Rússia em Gana, a Code for Africa descobriu em quais países estrangeiros as diferentes contas estavam realmente sediadas. Imagem: Code for Africa

3. Investigando como os algoritmos funcionam

Outra abordagem é escrever sobre os algoritmos que impulsionam grande parte das redes sociais.

Essas histórias examinam o sistema que rege grande parte da nossa experiência online, incluindo o impacto dos algoritmos na propagação de informações ou no acesso a oportunidades.

Mas examinar ou auditar os algoritmos das redes sociais pode ser extremamente difícil — são sistemas opacos e complexos, de difícil compreensão e inacessíveis ao público. Segundo o The Washington Post, por exemplo, o algoritmo do Facebook leva em consideração mais de 10.000 sinais diferentes para prever se uma pessoa pode interagir com uma publicação.

Isso significa que, muitas vezes, os jornalistas precisam fazer engenharia reversa para descobrir como alguns algoritmos funcionam, com base na coleta de dados e em experimentos com contas de teste. Por exemplo, o The Wall Street Journal criou 100 contas do TikTok para testar qual impacto diferentes ações — desde permanecer por mais tempo em uma publicação até rever vídeos — teriam no conteúdo que essas contas veriam.

Mas nem todo mundo precisa usar uma abordagem de alta tecnologia para investigar a tecnologia. Como repórter, você nem sempre precisa explicar os sistemas. Às vezes, basta “testar o sistema” e mostrar que ele causa danos.

Nesta reportagem da ProPublica, jornalistas criaram uma conta para veicular anúncios no Facebook e descobriram que a plataforma não os impedia de publicar anúncios que excluíam pessoas com base em raça, gênero e outras características pessoais. Ao demonstrarem que conseguiram encontrar maneiras de infringir a lei, eles comprovaram a falha do Facebook em impedir que danos ocorressem. O Facebook informou à ProPublica que proíbe anunciantes de usar seus serviços de forma discriminatória.

Investigando como as empresas de mídia social falham em mitigar os danos algorítmicos

Também pode ser útil tentar investigar mais a fundo o funcionamento interno das empresas de redes sociais. Jornalistas podem fazer isso desenvolvendo relacionamentos com funcionários atuais e antigos dessas empresas, investigando processos judiciais movidos contra elas ou trabalhando com denunciantes. O repórter Tekendra Parmar, por exemplo, investigou a morte de Meareg Amare, um professor etíope assassinado após a disseminação de conteúdo falso e odioso sobre ele no Facebook.

Parmar conversou com várias pessoas que trabalharam com o Facebook por meio do programa Parceiros de Confiança da empresa, uma rede de organizações da sociedade civil que possuíam o conhecimento linguístico e cultural necessário para identificar e sinalizar informações de ódio para a empresa. Seis participantes do programa disseram a Parmar que o Facebook “rotineiramente ignorava seus alertas sobre conteúdo de ódio”, incluindo alertas sobre desinformação que circulavam em torno de Amare. Eles também permitiram que Parmer revisasse suas comunicações com a empresa.

A Meta, empresa controladora do Facebook, disse ao Insider que seu objetivo é revisar o conteúdo relatado pelos Parceiros de Confiança o mais rápido possível, e que o tempo de revisão pode variar dependendo do caso.

Como demonstram esses exemplos, existem diversos métodos de reportagem que podem ser utilizados em investigações sobre a web social. Isso pode incluir abordagens de alta tecnologia, como a extração de dados das plataformas para análise ou o uso de métodos de perícia digital para rastrear agentes mal-intencionados. Mas os repórteres também podem obter sucesso com soluções de baixa tecnologia, como entrevistar pessoas que sofreram danos nas plataformas ou realizar experimentos nas plataformas para comprovar resultados prejudiciais. Sendo um campo em expansão, a principal chave para investigações bem-sucedidas sobre algoritmos de mídias sociais é uma abordagem criativa.

Leitura adicional

Ferramentas para jornalistas

• Alfabetização algorítmica para jornalistas: um guia prático para ajudar jornalistas e redações a compreenderem algoritmos. Os mesmos pesquisadores também escreveram um guia conciso para realizar uma auditoria algorítmica por conta própria
• Indicator, um boletim informativo dos especialistas em desinformação e informações enganosas Craig Silverman e Alexios Mantzarlis
• Bellingcat, uma organização que realiza um extenso trabalho de verificação no âmbito das redes sociais e publica muitos guias úteis
• Artigo da GIJN “Novas ferramentas de investigação para monitorização de plataformas de redes sociais” (em inglês)
• Mining Social Media (Mineração de Mídias Sociais), um livro em Python sobre extração e análise de dados da web social
• A Editoria dos Algoritmos: Ângulos e Métodos de Investigação, um capítulo do Manual de Jornalismo de Dados sobre Investigação de Algoritmos

Pesquisa

• Algorithmic Justice League, uma organização que documenta e examina os danos causados ​​por algoritmos
• AI Now Institute, um instituto independente que publica pesquisas sobre IA e responsabilidade algorítmica
• Centro para a Democracia e a Tecnologia, uma organização sem fins lucrativos que publica relatórios sobre liberdades civis na era digital
• Data and Society, uma organização sem fins lucrativos de pesquisa focada em tecnologia, dados e políticas
• Algorithm Watch, uma organização sem fins lucrativos com sede em Zurique e Berlim

Lam Thuy Vo é uma jornalista que combina análise de dados com reportagens in loco para examinar como sistemas e políticas afetam os indivíduos. Atualmente, ela é repórter investigativa da Documented, uma redação independente e sem fins lucrativos dedicada a reportagens com e para comunidades imigrantes, e professora associada de jornalismo de dados na Craig Newmark Graduate School of Journalism. Anteriormente, trabalhou como jornalista no The Markup, BuzzFeed News, The Wall Street Journal, Al Jazeera America e no programa Planet Money da NPR.