O Instagram não conseguiu remover comentários tóxicos direcionados à vice-presidente Kamala Harris e outras importantes mulheres políticas do seu aplicativo à medida que as eleições de 2024 se aproximam, de acordo com uma pesquisa do Center for Countering Digital Hate.
A advocacia sem fins lucrativos está analisando grandes plataformas de internet para ver se elas estão monitorando adequadamente seus sites para discurso de ódio. O relatório de quarta-feira foi baseado em uma análise de 560.000 comentários em postagens do Instagram de cinco políticas republicanas e cinco democratas com altos níveis de engajamento.
Os políticos monitorados pelo grupo incluíam Harris, que agora é a candidata democrata à presidência, a deputada Alexandria Ocasio-Cortez (D-NY) e a deputada Jasmine Crockett (D-Texas), bem como os membros republicanos da Câmara Marjorie Taylor Greene, da Geórgia, e Lauren Boebert, do Colorado.
Dos comentários publicados entre 1º de janeiro e 7 de junho, os pesquisadores identificaram mais de 20.000 que foram considerados “tóxicos” por do Google Ferramenta de moderação de conteúdo Perspective AI. Os pesquisadores então conduziram uma análise manual e descobriram 1.000 comentários que “claramente violavam os termos do Instagram”, disse o CEO do CCDH, Imran Ahmed, durante uma coletiva de imprensa na terça-feira.
“Nossas recomendações podem ser resumidas de forma bem simples, pois o Instagram deve aplicar suas políticas projetadas para proteger as mulheres na vida pública”, disse Ahmed durante o briefing. “As organizações precisam estar mais bem equipadas para dar suporte a candidatas que sofrem abuso e dar a elas as melhores práticas para lidar com isso com bastante frequência.”
A Meta, empresa controladora do Instagram, tem sido repetidamente criticada por legisladores por não abordar a disseminação de conteúdo odioso em sua família de aplicativos e por sua incapacidade ou falta de vontade de reprimir comportamentos prejudiciais. O procurador-geral do Novo México alegou em um processo em andamento contra a Meta que a empresa está falhando em proteger usuários menores de idade de predadores e exploração sexual.
Em ciclos eleitorais anteriores, o Facebook também foi um centro de disseminação de desinformação e conteúdo tóxico direcionado a candidatos políticos.
Alguns dos comentários problemáticos capturados pelo CCDH incluíam declarações como “tornem o estupro legal” e “não queremos negros ao nosso redor, não importa quem sejam”, disse o relatório. Um comentário direcionado a Harris zombou de sua origem racial, enquanto outro comentário pediu sua agressão sexual pelo presidente Joe Biden.
Os pesquisadores do CCDH então usaram as próprias ferramentas de denúncia de conteúdo do Instagram para sinalizar os 1.000 comentários ofensivos descobertos manualmente. Uma semana depois, “o Instagram não tomou nenhuma ação contra 926 deles, o equivalente a uma falha em agir em 93% deles”, disse o relatório.
Meta disse em uma declaração que revisaria os exemplos que a CCDH destacou e removeria comentários que violassem as políticas da empresa, mas acrescentou que alguns conteúdos podem ser ofensivos, mas não violam suas regras. A empresa também disse que a ferramenta de IA do Google na qual a CCDH confiou para parte de sua pesquisa nem sempre é precisa.
“Nós fornecemos ferramentas para que qualquer um possa controlar quem pode comentar em suas postagens, filtrar automaticamente comentários, frases ou emojis ofensivos e ocultar automaticamente comentários de pessoas que não os seguem”, disse Cindy Southworth, chefe de segurança feminina da Meta, em uma declaração. “Trabalhamos com centenas de parceiros de segurança ao redor do mundo para melhorar continuamente nossas políticas, ferramentas, detecção e aplicação, e revisaremos o relatório do CCDH e tomaremos medidas sobre qualquer conteúdo que viole nossas políticas.”
Em relação ao comentário racista direcionado a Harris, um dos pesquisadores do CCDH eventualmente recebeu uma notificação do Instagram que dizia que a postagem “não vai contra nossas Diretrizes da Comunidade”, disse o relatório. O relatório também disse que mais de um quinto dos 1.000 comentários ofensivos que os pesquisadores sinalizaram vieram de “‘reincidentes’ que postaram abusos pelo menos duas vezes”.
A reportagem sobre o Instagram foi publicada alguns meses depois de um juiz federal da Califórnia ter rejeitado uma ação judicial contra o CCDH movida por X, de Elon Musk. A ação foi movida logo após o grupo publicar uma pesquisa mostrando um aumento no discurso de ódio após a aquisição do site anteriormente conhecido como Twitter por Musk.
Por causa de toda a atenção negativa que fluiu na direção de Musk, a Meta e o CEO Mark Zuckerberg escaparam do escrutínio ultimamente e há uma percepção de que o Instagram “se tornou uma plataforma que as pessoas se sentem seguras” usando, disse Ahmed.
“Mark Zuckerberg tem jogado uma estratégia de manter a cabeça baixa enquanto X está agindo como um para-raios para muita raiva da toxicidade na vida pública e no discurso político”, disse Ahmed. “Queríamos olhar especificamente para essa plataforma para ver se eles estão ou não realmente apoiando parte de sua exultação com os infortúnios de X com ações próprias.”
ASSISTIR: Stef Knight sobre a entrevista entre Trump e Musk.