Imagem: Cole Burston / Bloomberg via Getty Images Um funcionário do Twitter que trabalha com aprendizado de máquina acredita que uma solução proativa e algorítmica para a supremacia branca também atrairia os políticos republicanos.O argumento que os especialistas externos fizeram ao Motherboard se alinha com o que o funcionário do Twitter transmitiu: a sociedade como um todo exigiu de forma incontroversa e inequívoca que o Twitter tomasse medidas contra o ISIS após a decapitação de vídeos espalhados por toda a plataforma. A abordagem automatizada que o Twitter adotou para erradicar o ISIS foi bem-sucedida: eu não vi um apoiador legítimo do ISIS no Twitter que dure mais de 15 segundos por dois anos e meio, Amarnath Amarasingam, um pesquisador de extremismo do Institute for Strategic Diálogo, disse ao Motherboard em um telefonema. A sociedade e os políticos estavam dispostos a aceitar que algumas contas foram suspensas por engano pelo Twitter durante esse processo (por exemplo, contas pertencente ao grupo hacktivista Anonymous que estavam relatando contas do ISIS ao Twitter como parte de uma operação chamada #OpISIS foram eles próprios banidos).
Essa mesma abordagem de erradicar tudo, aplicada à supremacia branca, é muito mais controversa.
O Twitter atualmente não tem uma boa maneira de suspender supremacistas brancos específicos sem intervenção humana e, portanto, continua a usar moderadores humanos para avaliar tweets. Em um e-mail, um porta-voz da empresa disse ao Motherboard que conteúdos e comportamentos diferentes exigem abordagens diferentes.
Para conteúdo relacionado ao terrorismo, temos muito sucesso com tecnologia proprietária, mas para outros tipos de conteúdo que violam nossas políticas, que muitas vezes podem [ser] muito mais contextuais, vemos os melhores benefícios usando tecnologia e análise humana em conjunto, disse a empresa.
O Twitter não fez um trabalho particularmente bom na remoção de conteúdo da supremacia branca e mostrou relutância em tomar qualquer ação de qualquer tipo contra Líderes mundiais mesmo quando seus tweets violam as regras do Twitter. Mas Berger concorda com o Twitter em que o problema que a empresa enfrenta com a supremacia branca é fundamentalmente diferente daquele que enfrentou com o ISIS em um nível prático.
Com o ISIS, a marca obsessiva do grupo, as redes sociais restritas e o pequeno número tornaram mais fácil evitar danos colaterais quando as empresas quebraram (embora tenha havido alguns), disse ele. Os nacionalistas brancos, em contraste, têm uma marca inconsistente, redes sociais difusas e um grande corpo de pessoas simpáticas na população, então o risco de danos colaterais pode ser percebido como sendo maior, mas realmente depende de onde a empresa traça seus limites em torno do conteúdo .
Mas só porque erradicar a supremacia branca no Twitter é um problema difícil, não significa que a empresa deve ser aprovada. Depois que o Facebook proibiu explicitamente a supremacia branca e o nacionalismo branco, o Motherboard perguntou ao YouTube e ao Twitter se eles fariam mudanças semelhantes.Nenhuma empresa se comprometeriapara fazer essa alteração explícita e nos encaminhou para suas regras existentes.
O Twitter tem a responsabilidade de eliminar todas as vozes de ódio em sua plataforma, disse ao Motherboard Brandi Collins-Dexter, diretora sênior de campanha do grupo ativista Color Of Change. Em vez disso, a empresa está dando uma carona para políticos conservadores, cuja retórica perigosa permite o crescimento do movimento da supremacia branca na corrente dominante e o aumento do ódio, online e offline.