Gordon Welters para The New York Times
Gordon Welters para The New York Times

Nova lei na Alemanha obriga Facebook a acabar com mensagens de ódio

Uma faxina nas mensagens de ódio no Facebook

Katrin Bennhold, The New York Times

27 Maio 2018 | 10h15

BERLIM - A segurança é rigorosa nesse edifício de tijolos na zona oeste de Berlim. Do lado de dentro, um sinal alerta: “Quem estiver sem distintivo pode ser um espião!”

Espalhadas em cinco andares, centenas de homens e mulheres estão sentados em fileiras de seis mesas, olhando para a tela de seus computadores. Todos assinaram acordos de confidencialidade. Há quatro especialistas em trauma à disposição deles sete dias por semana.

Eles são os agentes do Facebook, e têm o poder de decidir o que é liberdade de expressão e o que é discurso de ódio.

Esta é uma central de limpeza, uma das maiores mantidas pelo Facebook, com mais de 1,2 mil moderadores de conteúdo. Sua responsabilidade é fazer uma faxina no conteúdo que viola a lei e as diretrizes da comunidade da empresa: símbolos nazistas, propaganda terrorista e abuso infantil, entre outros.

A Alemanha, onde entra em vigor uma nova lei de combate ao discurso de ódio na internet, se tornou um laboratório para um dos problemas mais urgentes enfrentados pelos governos na atualidade: como e quando regulamentar a maior rede social do mundo.

Em todo o planeta, o Facebook e outras plataformas de redes sociais estão enfrentando uma reação contra a desinformação, o discurso de ódio e as falhas na proteção à privacidade.

Na Índia, sete pessoas foram espancadas até a morte depois da divulgação de uma falsa mensagem viral no WhatsApp, subsidiária do Facebook. Em Myanmar, a violência contra a minoria Rohingya foi incentivada, em parte, por informações falsas espalhadas no Facebook. Nos Estados Unidos, o congresso convocou Mark Zuckerberg, diretor executivo do Facebook, para depor a respeito da incapacidade da empresa de proteger a privacidade de seus usuários.

A Europa, e a Alemanha em particular, emergiram como reguladores de facto dessa indústria, exercendo uma influência que ultrapassa suas fronteiras. A repressão digital de Berlim contra o discurso de ódio, que teve início em 1º de janeiro, é observada atentamente por outros países. E as autoridades alemãs estão desempenhando um papel de destaque na mais agressiva jogada da Europa para controlar as empresas de tecnologia, rigorosas regras de proteção à privacidade que entrarão em vigor na União Europeia em 25 de maio e estão motivando mudanças globais.

Zuckerberg apareceu diante do parlamento europeu em 22 de maio e pediu desculpas pelo estrago causado pelo Facebook.

“Seja no caso das notícias falsas, da interferência estrangeira nas eleições ou no mau uso das informações de usuários feito por desenvolvedores, não enxergamos a devida amplitude de nossas responsabilidades", disse ele.

No país associado ao Holocausto, o compromisso no combate ao discurso de ódio é tão feroz quanto o compromisso com a liberdade de expressão. O livro de Hitler, “Mein Kampf”, só está disponível em versão comentada. As suásticas são ilegais. A incitação ao ódio pode incorrer em penas de até cinco anos de detenção.

Mas textos, fotos e vídeos proibidos têm circulado normalmente no Facebook e outras redes sociais. 

Agora as empresas que não removerem conteúdo considerado “obviamente ilegal” num prazo de até 24 horas receberão multas de até 50 milhões de euros.

A central de limpeza antecede a nova legislação, mas seus esforços adquiriram nova urgência. Todos os dias, moderadores de conteúdo em Berlim, contratados por terceiros para trabalhar exclusivamente no Facebook, analisam centenas de publicações marcas pelos usuários como inadequadas ou ilegais e tomam uma decisão: ignorar, excluir ou “encaminhar” para uma equipe global de advogados do Facebook.

Algumas decisões de exclusão são fáceis. Publicações negando o Holocausto e delírios genocidas contra grupos específicos como refugiados são candidatos óbvios a serem apagados.

Outros casos são mais complicados. No dia 31 de dezembro, véspera do início da vigência da nova lei, um legislador de extrema-direita reagiu a uma mensagem de ano novo em árabe publicada no Twitter pela polícia de Colônia, acusando-a de tentar agradar “grupos de muçulmanos bárbaros e estupradores".

A solicitação de bloqueio acompanhada por um instantâneo da tela mostrando a publicação do legislador foi parar na alçada do agente Nils, 35 anos, da central de limpeza de Berlim. Ele decidiu manter a publicação. Um colega recomendou que fosse excluída. No fim, a publicação foi encaminhada para advogados em Dublin, Londres, Vale do Silício e Hamburgo. Na tarde daquele mesmo dia, a mensagem foi apagada, levando a uma série de críticas à nova lei, conhecida no país como “Lei do Facebook".

“Muitas situações são fáceis de arbitrar", disse Nils. Citando a segurança do funcionário, o Facebook não permitiu que ele revelasse o sobrenome. “Mas há casos mais ambíguos.”

Os casos complicados trouxeram a preocupação de a combinação entre multas pesadas e o prazo de 24 horas para a exclusão levar as empresas a tomar decisões que exagerem na censura.

O usuário de extrema-direita Alternativa da Alemanha, dado a publicações numerosas e estridentes nas redes sociais, logo acusou “o fim da liberdade de expressão". As organizações de direitos humanos alertaram que a legislação estava inspirando cópias por parte de governos autoritários.

Outros alegam que a lei simplesmente confere a uma empresa privada poderes demais para decidir o que representa discurso de ódio ilegal numa democracia, raciocínio apresentado pelo Facebook contra a lei (a empresa prefere diretrizes voluntárias).

“Não há nenhum problema em parâmetros definidos pelo governo alemão”, disse Elliot Schrage, vice-presidente do Facebook para comunicação e políticas públicas. “Mas achamos que é má ideia se o governo alemão terceirizar a decisão de definir o que está dentro ou fora da lei.”

Richard Allan, vice-presidente do Facebook para políticas públicas na Europa, colocou as coisas em termos mais simples: “Não queremos ser os árbitros da liberdade de expressão".

As autoridades alemãs respondem que as plataformas de mídias sociais já são esse árbitro. Tudo se resume a uma questão, disse Gerd Billen, secretário de estado do ministério da justiça e proteção ao consumidor da Alemanha. “Quem é a entidade soberana? O parlamento ou o Facebook?”

Quando Nils se candidatou à vaga de emprego na central de faxina, a primeira pergunta feita pelo entrevistador foi: “você sabe o que vai ver aqui?”

Nils já viu de tudo. Tortura de crianças. Mutilações. Suicídios. Até assassinato: certa vez ele viu um vídeo de um homem arrancando o coração de outro ser humano vivo.

E há também o ódio.

“Vemos toda a feiúra do mundo reunida", disse Nils. “Todos são contra todos os demais. Todo mundo se queixa de algum grupo. E todos dizem as mesmas coisas horríveis.”

Para Nils, a questão é profundamente pessoal. Ele tem uma filha de 4 anos. “Também faço isso por ela", disse ele.

A central é administrada pela Arvato, uma provedora de serviços que pertence ao conglomerado Bertelsmann. Os agentes revisam o conteúdo vindo de alguns países.

“Dois agentes analisando a mesma publicação deveriam chegar à mesma decisão", diz Karsten König, administrador da parceria da Arvato com o Facebook.

A central de Berlim foi aberta em 2015 com 200 funcionários num momento em que a Alemanha abria suas portas aos refugiados. Publicações chamando os refugiados de estupradores, neandertais e escória sobreviveram por semanas, de acordo com a organização jugendschutz.net, financiada pelo público para defender a segurança na internet. Muitas nunca foram apagadas.

Billen ficou alarmado. Em setembro de 2015, ele reuniu executivos do Facebook e de outras empresas de redes sociais. Foi criada uma força-tarefa para combater o discurso de ódio. Alguns meses mais tarde, as empresas assinaram uma declaração conjunta, prometendo “examinar o conteúdo denunciado e apagar ou bloquear a maioria das publicações ilegais em até 24 horas".

Mas o problema não foi solucionado. Nos 15 meses que se seguiram, pesquisadores independentes contratados pelo governo se passaram por usuários comuns em duas ocasiões, denunciado conteúdo ilegal contendo discurso de ódio. Durante os testes, eles revelaram que o Facebook tinha excluído  46% e 39% do conteúdo.

“Eles sabiam que sua plataforma era usada para comportamento criminoso e apelos para a realização de atos criminosos, mas se apresentavam a nós como um lobo em pele de cordeiro", disse Billen.

Então nasceu a Lei de Policiamento da Rede, definindo 21 tipos de conteúdo considerados “claramente ilegais” contra os quais as empresas devem agir rapidamente.

O desempenho do Facebook na exclusão do discurso ilegal de ódio na Alemanha subiu para 100% nos 12 meses mais recentes, de acordo com nova checagem da UE.

No escritório do Facebook em Berlim, Allan reconheceu que, sob o acordo voluntário anterior, a empresa não agiu de maneira suficientemente decisiva no começo.

Ele disse que a melhoria não foi decorrência da legislação alemã, e sim de um código de conduta voluntário da UE. Os resultados do Facebook melhoraram em todos os países europeus, e não apenas na Alemanha, disse Allan.

“Não havia necessidade de novas leis", disse ele. Billen discorda.

“Eles podiam ter evitado a lei", disse ele. O YouTube teve 90% de pontuação no exercício de monitoramento do ano passado. Se outras plataformas apresentassem desempenho semelhante, não haveria novas leis hoje, disse ele.

A abordagem rigorosa da Alemanha para o discurso de ódio e privacidade dos dados já fez do país um exemplo atípico na Europa. “Para nós, a proteção aos dados é um direito fundamental subjacente às nossas instituições democráticas", disse Billen.

Agora o posicionamento de muitos governos em relação ao Facebook endureceu depois da revelação que a empresa de consultoria Cambridge Analytica teria coletado dados pessoais de até 87 milhões de usuários.

A comissão europeia está pensando em adorar leis semelhantes às alemãs para o conteúdo online relacionado a terrorismo, extremismo violento e pornografia infantil.

E a influência da Alemanha é evidente nas novas regras de privacidade da Europa, conhecidas como Regulamentação Geral de Proteção aos Dados (GDPR, em inglês). As regras conferem às pessoas o controle de como sua informação é coletada e usada.

“Tem-se agora mais urgência, e a certeza de que estamos lidando com algo muito perigoso que pode ameaçar o desenvolvimento das democracias livres", disse a comissária de justiça da UE, Vera Jourova, que busca também maneiras de combater as notícias falsas e as campanhas de desinformação.

Vera, que cresceu atrás da Cortina de Ferro na antiga Checoslováquia, há muito se mostra cética em relação aos governos que legislam a respeito de aspectos da liberdade de expressão. O pai dela perdeu o emprego depois de fazer um comentário a respeito da invasão soviética de 1968, o que a impediu de frequentar a universidade até casar e assumir o sobrenome do marido.

“Passei metade da vida na atmosfera criada pela propaganda soviética", disse ela. “O princípio de ouro era: uma mentira repetida cem vezes se torna verdade.”

Na central de limpeza, há momentos em que algum dos funcionários perde o controle. Recentemente, uma mãe deixou a escrivaninha aos prantos depois de assistir a um vídeo de uma criança sendo abusada sexualmente. Um jovem se sentiu enjoado depois de ver um vídeo de um cachorro sendo torturado. Os agentes assistem a vídeos de automutilação de adolescentes e garotas que relatam seus estupros.

Há sessões grupais de terapia com psicólogos, e os especialistas em trauma estão sempre de prontidão.

Mas há no escritório um espírito de camaradagem em torno de uma missão: Nils disse que os agentes têm orgulho de “passar a borracha no ódio”.

Encontrou algum erro? Entre em contato

publicidade

publicidade

publicidade

O Estadão deixou de dar suporte ao Internet Explorer 9 ou anterior. Clique aqui e saiba mais.