O conteaºdo online malicioso do COVID-19 - incluindo conteaºdo racista, desinformação e desinformação - prospera e se espalha online ao contornar os esforços de moderação de plataformas individuais de ma­dia social, de acordo com uma nova pesquisa publicada na revista Scientific Reports . Ao mapear grupos de a³dio online em seis principais plataformas de ma­dia social, os pesquisadores da George Washington University mostram como o conteaºdo malicioso explora caminhos entre as plataformas, destacando a necessidade das empresas de ma­dia social repensarem e ajustar suas políticas de moderação de conteaºdo.

Liderada por Neil Johnson, professor de física da GW, a equipe de pesquisa começou a entender como e por que o conteaºdo malicioso se desenvolve tão bem online, apesar dos esforços de moderação significativos, e como ele pode ser interrompido. A equipe usou uma combinação de aprendizado de ma¡quina e ciência de dados de rede para investigar como as comunidades de a³dio online aprimoraram o COVID-19 como uma arma e usaram os eventos atuais para atrair novos seguidores.

"Atéagora, desacelerar a disseminação de conteaºdo malicioso online era como jogar um jogo de whack-a-mole, porque um mapa do multiverso do a³dio online não existia", Johnson, que também épesquisador do GW Institute for Data , Democracia e Pola­tica, disse. "Vocaª não pode vencer uma batalha se não tiver um mapa do campo de batalha. Em nosso estudo, apresentamos um mapa deste tipo de campo de batalha. Quer vocêesteja examinando tópicos de a³dio tradicionais, como antissemitismo ou racismo antiasma¡tico em torno de COVID-19, o mapa do campo de batalha éo mesmo. E éesse mapa de links dentro e entre as plataformas que falta para entender como podemos desacelerar ou impedir a disseminação de conteaºdo de a³dio online . "

Os pesquisadores começam mapeando como os clusters de a³dio se interconectam para espalhar suas narrativas em plataformas de ma­dia social. Focando em seis plataformas - Facebook, VKontakte, Instagram, Gab, Telegram e 4Chan - a equipe começou com um determinado cluster de a³dio e olhou para fora para encontrar um segundo cluster fortemente conectado ao original. Eles descobriram que as conexões mais fortes eram VKontakte no Telegram (40,83% das conexões de plataforma cruzada), Telegram no 4Chan (11,09%) e Gab no 4Chan (10,90%).

Os pesquisadores então voltaram sua atenção para a identificação de conteaºdo malicioso relacionado ao COVID-19. Eles descobriram que a coeraªncia da discussão do COVID-19 aumentou rapidamente nas fases iniciais da pandemia, com grupos de a³dio formando narrativas e convergindo em torno dos tópicos do COVID-19 e desinformação. Para subverter os esforços de moderação por plataformas de ma­dia social, os grupos que enviam mensagens de a³dio usaram várias estratanãgias de adaptação a fim de se reagrupar em outras plataformas e / ou reentrar em uma plataforma , descobriram os pesquisadores. Por exemplo, os clusters frequentemente mudam seus nomes para evitar a detecção por algoritmos dos moderadores, como vacina para va $$ ine. Da mesma forma, os clusters antissemitas e anti-LGBTQ simplesmente adicionam cadeias de 1's ou A's antes de seus nomes.

"Como o número de plataformas de ma­dia social independentes estãocrescendo, esses grupos geradores de a³dio provavelmente fortalecera£o e expandira£o suas interconexões por meio de novos links e provavelmente explorara£o novas plataformas que estãoalém do alcance dos Estados Unidos e das jurisdições de outras nações ocidentais . " Disse Johnson. "As chances de fazer com que todas as plataformas de ma­dia social globalmente trabalhem juntas para resolver isso são muito pequenas. No entanto, nossa análise matemática identifica estratanãgias que as plataformas podem usar como um grupo para reduzir ou bloquear efetivamente o conteaºdo de a³dio online."

Com base em suas descobertas, a equipe sugere várias maneiras para as plataformas de ma­dia social desacelerarem a disseminação de conteaºdo malicioso:

Aumente artificialmente os caminhos que o conteaºdo malicioso precisa seguir entre os clusters, aumentando as chances de sua detecção por moderadores e atrasando a disseminação de material urgente, como informações incorretas COVID-19 como arma e conteaºdo violento.

Controle o tamanho da base de suporte de um cluster de a³dio online colocando um limite no tamanho dos clusters.

Apresente conteaºdo mainstream não malicioso para diluir efetivamente o foco de um cluster .

"Nosso estudo demonstra uma semelhança entre a disseminação do a³dio online e a disseminação de um va­rus", disse Yonatan Lupu, professor associado de ciência pola­tica da GW e coautor do artigo. "As plataformas de ma­dia social individuais tem dificuldade em controlar a disseminação do a³dio online, que reflete a dificuldade depaíses individuais ao redor do mundo em impedir a disseminação do va­rus COVID-19."

Daqui para frente, Johnson e sua equipe já estãousando seu mapa e sua modelagem matemática para analisar outras formas de conteaºdo malicioso - incluindo a transformação em arma de vacinas COVID-19 em que certospaíses estãotentando manipular o sentimento dominante para ganhos nacionalistas. Eles também estãoexaminando atéque ponto os atores individuais, incluindo governos estrangeiros, podem desempenhar um papel mais influente ou controlador neste espaço do que outros.