Justin T. Gellerson para The New York Times
Justin T. Gellerson para The New York Times

Como surge um radical do YouTube

Caleb Cain abandonou a faculdade, e ao buscar ajuda no YouTube, ingressou em um mundo repleto de teorias conspiratórias, racismo e misoginia

Kevin Roose, The New York Times

15 de junho de 2019 | 06h00

MARTINSBURO, WEST VIRGINIA - Caleb Cain tirou o revólver da cintura, e displicentemente o jogou sobre o balcão da cozinha. "Eu o comprei um dia depois de receber ameaças de morte", disse.

As ameaças, como explicou, vinham em trolls de extrema direita em reação a um vídeo que ele postara no YouTube uns dias antes. No vídeo, contou que havia sido engolido por um verdadeiro redemoinho da política de extrema direita no YouTube. "Caí na toca do coelho da direita alternativa", acrescentou.

Recentemente Cain, 26, abandonou a direita alternativa, que conheceu há cinco anos, e passou a criticá-la insistentemente. Ele ficou traumatizado ao compreender que havia sido radicalizado por um "culto descentralizado", como o define, de personalidades de extrema direita do YouTube que o convenceram de que a civilização ocidental estava sendo ameaçada por imigrantes muçulmanos e marxistas culturais, que diferenças inatas de Q.I. explicavam as disparidades raciais, e que o feminismo era um perigo.

"Fui caindo cada vez mais nestas ideias, que exerciam um fascínio sobre mim porque me faziam sentir uma profunda afinidade com aquilo tudo", afirmou. "Sofri uma lavagem cerebral".

Há inúmeras versões da história de Cain: um jovem sem rumo visita o site do YouTube em busca de uma direção ou de distração e é seduzido por uma comunidade de criadores de extrema direita. O fio condutor comum é o YouTube e seu algoritmo de recomendação, software que determina quais vídeos aparecem nas páginas de entrada dos usuários e no box "Próximo" ao lado de um vídeo que está sendo exibido. O algoritmo ocupa mais de 70% de todo o tempo que as pessoas gastam no site.

A radicalização de jovens (rapazes) ocorre por um complexo conjunto de elementos emocionais, econômicos e políticos. Mas críticos e pesquisadores independentes afirmam que o YouTube criou inadvertidamente uma perigosa rampa de acesso ao extremismo ao combinar um modelo de negócio que premia os vídeos provocadores com exposição e dinheiro da publicidade, e um algoritmo que orienta os usuários a seguirem caminhos personalizados no intuito de mantê-los presos a suas telas.

"No YouTube há um espectro entre a seção calma - de Walter Cronkite e Carl Sagan - e Crazytown, onde se encontram os extremismos", explicou Tristan Harris, ex-especialista em ética do design do Google, a controladora do YouTube. "Se eu sou o YouTube e quero que você fique mais ligado na tela, vou sempre querer dirigi-lo para Crazytown".

No início deste mês, o YouTube anunciou que estava proibindo vídeos que apoiavam fanatismos, e mudaria seu algoritmo de recomendação a fim de conter o alastrar-se da desinformação. Com 2 bilhões de usuários mensais ativos fazendo upload de mais de 500 horas de vídeos por minuto, o tráfego do YouTube é considerado o segundo maior depois do motor de busca do Google.

Assim como muitas empresas do Vale do Silício, o YouTube tem uma política corporativa aparentemente liberal. O presidente Donald J. Trump e outros conservadores afirmam que esta e outras redes sociais têm preconceito contra as posições de direita. Na realidade, o YouTube está sendo uma bênção para os hiperpartidários de todos os lados, permitindo que eles divulguem suas posições ao público em geral.

Vídeos recomendados. Desde muito cedo, Cain ficou fascinado pela cultura da internet. Adolescente, ele navegava pelo 4Chan, um quadro de avisos dos sem lei. Jogava videogames online e devorava vídeos de intelectuais que debatiam temas como a existência de Deus. Cresceu em Appalachia, educado por pais cristãos conservadores. Foi para uma escola técnica, mas abandonou o curso. Sem dinheiro e deprimido, procurou ajuda no lugar onde costumava procurar todo tipo de coisas, o YouTube.

Um dia, em 2014, o YouTube recomendou um vídeo de autoajuda de Stefan Molyneux, um canadense que se declarava filósofo e falava em superar as dificuldades pelo crescimento pessoal. Parecia arguto, apaixonado, e discutia sobre questões importantes como o livre arbítrio, e temas como relacionamentos e entrevistas para emprego.

Molyneux tinha também um programa político. Defendia os direitos do homem e afirmava que a política de gênero progressista era um atraso de vida para os jovens. E ainda fazia comentários de caráter conservador sobre acontecimentos correntes.

Cain se preocupava com a justiça social, com a desigualdade da riqueza, e acreditava na mudança climática. Mas achava a retórica de Molyneux fascinante, embora discordasse. "Ele queria tratar diretamente as questões que diziam respeito aos jovens de uma maneira como nunca ouvira antes", disse Cain.

Em 2015 e 2016, à medida que Cain ia mais a fundo em suas recomendações do YouTube, descobriu um universo de criadores de direita, como o da ativista Lauren Southern. Eram humoristas, e formaram um público com seus esquetes satíricos. Poucos tinham ligações evidentes com grupos conservadores do establishment. Eles defendiam questões como a liberdade de expressão e o antifeminismo, definiam-se rebeldes que falavam a verdade combatendo "os guerreiros da justiça social" desprovidos de humor. Para Cain, o simples fato de assistir aos vídeos do YouTube equivalia a ter sido admitido em um clube exclusivo.

Se a alienação foi um dos ingredientes da radicalização de Cain, resistentes persuasivos como Molyneux foram outros, e o terceiro foi a série de decisões sobre o produto que o YouTube tomou a partir de 2012. Em março daquele ano, os engenheiros do YouTube fizeram uma atualização do algoritmo de recomendações do site: ele daria mais peso ao tempo de visualização, e não às posições assumidas. Os criadores seriam encorajados a fazer vídeos a serem concluídos pelos usuários, de maneira que o YouTube pudesse exibir mais anúncios. 

No prazo de algumas semanas, a companhia informou que o tempo de visualização total estava aumentando. Logo depois das modificações, o YouTube mudou as suas normas a fim de permitir que todos os criadores mostrassem anúncios com seus vídeos e ganhassem uma parcela de sua receita. O algoritmo do YouTube não tinha qualquer preferência implícita por um conteúdo político radical. Mas as mensagens inflamadas eram mais atraentes do que as mais brandas. E agora os criadores tinham um incentivo para fazer quantas quisessem.

Vários funcionários antigos e atuais do YouTube, que só concordaram em falar se a sua identidade fosse preservada, afirmaram que os chefes da companhia estavam obcecados pelo crescente engajamento naquele período e raramente pararam para pensar se os algoritmos não estariam alimentando a divulgação de conteúdos radicais.

Em 2015, uma equipe da divisão de inteligência artificial do Google começou a reformular o sistema de recomendações do YouTube em termos de uma rede neural, um tipo de I.A. que imita o cérebro humano. Um dos problemas era que a I.A. tendia a colocar os usuários em nichos, recomendando vídeos semelhantes aos que eles já haviam visto. Os usuários acabaram se entediando.

Os pesquisadores do Google pensaram se seria possível manter os usuários do YouTube por mais tempo encaminhando-os para partes diferentes do YouTube. Começaram testando um novo algoritmo que incorporava um tipo diferente de I.A. chamado aprendizado de reforço, que se destinava a maximizar o engajamento dos usuários ao longo do tempo, prevendo quais seriam as recomendações que ampliariam seus gostos.

Em uma conversa durante uma conferência sobre I.A., em fevereiro, Minmin Chen, pesquisadora do Google, afirmou que o novo algoritmo já começava a modificar o comportamento dos usuários. "Nós podemos realmente levar os usuários a um estado diferente, em lugar de recomendar um conteúdo que é familiar", elaboração afirmou.

Funcionários do YouTube, por sua vez, desmentiram que o algoritmo orientasse os usuários para um conteúdo mais radical.

Fugindo do radicalismo. Em 2016, Cain assistiu a 4 mil vídeos da plataforma, mais do dobro dos que havia visto no ano anterior. Este fato mostra que a maior parte de suas posições foi inspirada em canais de extrema direita. E depois das eleições presidenciais, começou a sondar criadores mais radicais que não escondiam suas posições racistas em memes sarcásticos.

Cain afirmou que nunca deu muito peso às posições mais radicais da extrema direita, como a necessidade de um Estado baseado na etnia branca. No entanto, começou a referir a si mesmo como um "tradcon", um conservador tradicional, e brigou com amigos liberais.

Alguns dos criadores favoritos de Cain no YouTube também começavam a modificar suas visões políticas. Molyneux focava o "realismo da raça", um tema favorito dos nacionalistas brancos. Ele entrevistava personalidades da extrema direita, e seu canal cresceu. Agora, tem mais de 900 mil assinantes, e seus vídeos foram vistos cerca de 300 milhões de vezes.

Em 2018, começou a aparecer um novo tipo de vídeo nas recomendações de Cain. Uma delas era um debate sobre imigração entre Lauren Southern e Steven Bonnell, um liberal do YouTube conhecido como Destiny. Cain assistiu e aplaudiu Lauren, mas com relutância teve de declarar que o vencedor foi Bonnell.

Cain encontrou também vídeos de Natalie Wynn, uma ex-filósofa acadêmica conhecida como ContraPoints. Ela costumava vestir fantasias e explicava os motivos pelos quais a cultura ocidental não era atacada pelos imigrantes. Bonnell e Wynn eram fascinantes. Eles não se sentiam ultrajados pelas ideias da extrema direita, que transformavam em algo sem sofisticação.

Wynn e Bonnell fazem parte do BreadTube, um grupo de YouTubers que tentam criar um contrapeso à extrema direita do YouTube. Falando dos mesmos tópicos, eles conseguem fazer seus vídeos serem recomendados ao mesmo público. "Natalie e Destiny construíram uma ponte até o meu lado", afirmou Cain. atalie Wynn, a figura mais destacada do BreadTube, tem 615 mil assinantes, uma fração do público atraído pelos maiores criadores da direita.

Recentemente, Cain decidiu começar seu canal no YouTube - Faraday Speaks - para mostrar aos jovens uma saída da extrema direita. Pouco depois da exibição de seu primeiro vídeo, Cain passou a receber ameaças de trolls da direita alternativa no site 4Chan. Há várias semanas, ele se mudou da West Virginia.

O mais surpreendente na nova vida de Cain é o fato de que ela se parece com a vida antiga. Ele continua assistindo diariamente a dezenas de vídeos do YouTube. E afirma que apesar de todos os problemas da plataforma, é nela que se travam e se ganham as batalhas políticas. Deixá-la equivaleria essencialmente a abandonar o debate.

"É por meio do YouTube que enviamos uma mensagem", disse. "Mas agora aprendemos que não podemos recorrer ao YouTube e achar que ali encontraremos algo que nos eduque, porque não é o que acontece". TRADUÇÃO DE ANNA CAPOVILLA

Tudo o que sabemos sobre:
Youtubeideologia

Encontrou algum erro? Entre em contato

Comentários

Os comentários são exclusivos para assinantes do Estadão.

Tendências:

O Estadão deixou de dar suporte ao Internet Explorer 9 ou anterior. Clique aqui e saiba mais.