O portal The Intercept vazou na terça-feira (12) uma "lista negra" de mais de 4.000 pessoas e grupos restringidos pela política do Facebook.
A lista, chamada de Organizações e Indivíduos Perigosos (DIO, na sigla em inglês), é acompanhada por um documento de política associada, destinado a auxiliar o trabalho dos moderadores que são encarregados de decidir quais mensagens devem ser apagadas e quais usuários devem ser punidos.
A lista negra está dividida nas categorias de Ódio, Crime, Terrorismo, Movimentos Sociais Militarizados e Atores Violentos Não Estatais, todos eles organizados em um sistema de três níveis, indicando o tipo de medida restritiva que a empresa tomará em relação ao conteúdo. Embora ninguém na lista DIO seja permitido nas plataformas do Facebook, os níveis determinam o que outros usuários estão autorizados a dizer sobre as entidades proibidas.
O mais restritivo é o nível 1, que apresenta alegados grupos terroristas, grupos de ódio e organizações criminosas. O terrorismo é definido como "organizar ou defender a violência contra civis", e o ódio como "desumanizar ou defender repetidamente o dano contra pessoas”. Os restantes usuários não podem expressar nada considerado como elogio ou apoio às pessoas e organizações deste grupo.
Na categoria de Terrorismo, que se diz constituir 70% do nível 1, quase 1.000 entradas são referentes a Terroristas Globais Especialmente Designados (SDGT, na sigla em inglês), uma lista de indivíduos sancionados do Departamento do Tesouro, mas também as listas do Consórcio de Pesquisa e Análise de Terrorismo (TRAC, na sigla em inglês), uma base de dados privada, acessível por subscrição, de supostos extremistas violentos, e do Grupo Site, rastreador privado de terrorismo.
A categoria de Crime do nível 1 é quase inteiramente composta por gangues de rua americanas e cartéis de drogas latino-americanos, predominantemente negros e latinos.
O nível 2 é denominado Atores Violentos Não Estatais, composto principalmente por rebeldes armados, que se envolvem em violência contra governos. Os usuários são autorizados a elogiar ações não violentas relacionadas a estes grupos, mas não podem expressar qualquer "apoio substantivo" para os próprios grupos.
O nível 3, que inclui os Movimentos Sociais Militarizados, predominantemente brancos, se refere a grupos que não são violentos, mas que se envolvem repetidamente em discursos de ódio, sendo provável que se tornem violentos em breve, ou violem repetidamente as políticas relativas a DIO. Outros usuários do Facebook têm permissão para discutir livremente os listados no nível 3.
Diretrizes para moderadores
Os materiais internos do Facebook também revelam como a força de trabalho terceirizada de moderação de conteúdo é orientada no discurso de censura sobre as pessoas e grupos da lista negra.
As diretrizes internas do Facebook dizem que os usuários estão autorizados a usar discurso neutro ou crítico em relação às entidades do nível 1, mas não podem fazer qualquer comentário que "glorifique a entidade através do uso de adjetivos, frases, imagens, etc.", e, que, portanto, seja interpretado como "elogio", que "procure fazer com que outros pensem mais positivamente", ou "legitime" membros deste grupo.
Entretanto, os moderadores do Facebook podem decidir por si mesmos o que constitui uma "glorificação" perigosa em vez do "discurso neutro" permitido.
Por exemplo, falar "positivamente" sobre uma entidade designada seria dizer que o cartel mexicano de Sinaloa doa grande parte de seus lucros à caridade. No entanto, afirmar que uma entidade não é uma ameaça relevante ou digna de atenção não é considerada pelas diretrizes como falar "positivamente" sobre elas. O material cita como exemplo neste caso, "a supremacia branca não é uma ameaça".
O material dá como exemplo a frase: "Hitler não fez nada de errado". Neste caso, "legitimar" em referência a uma entidade designada é definido como fazer afirmações sobre a justificação moral, legal, da atividade criminosa, de ódio ou terrorista. A justificação faz com que um comentário seja considerado "violador".
Com relação ao incitamento violento, as diretrizes permitem, nos materiais de política, que se exorte à violência contra "lugares não menores que uma aldeia", citando como exemplo a declaração "Devemos invadir a Líbia". A contestação de eventos e fatos históricos também não viola as diretrizes do Facebook, permitindo aparentemente um debate neutro.
Apesar de tudo, um moderador do Facebook que trabalha fora dos EUA foi citado pela publicação como reconhecendo que os analistas "tipicamente têm dificuldades em reconhecer o discurso político" sobre conteúdos que atendem às definições do Facebook de discurso proibido.
Preocupações com a lista negra
O Facebook recusou anteriormente pedidos de acadêmicos do direito e defensores das liberdades civis para publicar a lista negra, apesar do fato de o Conselho de Supervisão da empresa ter recomendado formalmente a publicação da lista em várias ocasiões, insistindo que a informação é de interesse público. O gigante de TI tem justificado a política por temor que as entidades possam contornar as restrições, e uma eventual publicação colocaria os funcionários do Facebook em perigo.
"Quando grupos americanos satisfazem nossa definição de grupo terrorista, eles são designados como organizações terroristas (por exemplo, The Base, Atomwaffen Division, National Socialist Order). Quando satisfazem nossa definição de grupos de ódio, são designados como organizações de ódio (por exemplo, Proud Boys, Rise Above Movement, Patriot Front)", explicou porta-voz, descartando preocupações de que o Facebook estaria beneficiando certos grupos.
"Vale a pena notar que nossa abordagem aos grupos de ódio de supremacia branca e organizações terroristas é muito mais agressiva do que a de qualquer governo [...] Nossa definição de terrorismo é pública, detalhada e foi desenvolvida com contribuições significativas de especialistas e acadêmicos externos. Ao contrário de algumas outras definições de terrorismo, nossa definição é agnóstica à religião, região, perspectiva política ou ideologia", de acordo com porta-voz da empresa.