Como os algoritmos têm ajudado a radicalizar meninos da Geração Z

Depois que o usuário mostra interesse no tema, ele é bombardeado com conteúdos da "machosfera". Depois de duas a três horas consumindo vídeos na rede social e engajando em conteúdos radicalizados, cerca de 77% das recomendações seguintes passaram a ser apenas de vídeos masculinistas. Ou seja, o usuário é imerso cada vez mais na "manosfera" e vai deixando de assistir outros temas e perspectivas.

Os algoritmos tendem a aprofundar os usuários em seus temas de interesse, criando as chamadas "bolhas". Manoel Fernandes, sócio da Bites, empresa de análise de dados, explica que é comum entrar em contato com um conteúdo que se apresenta de maneira mais branda e, aos poucos, ir mergulhando no universo daquele tema, cada vez com mais profundidade, conforme surgem recomendações ofertadas pelo algoritmo. Para o analista, o ideal seria que o usuário, ao perceber que já pesquisou o suficiente sobre o tema, pesquisasse sobre o outro lado da discussão. Porém, as pessoas passam a se identificar com o grupo e ganham a sensação de pertencimento, o que dificulta o abandono do conteúdo.

Meninos com dificuldades para socializar estão mais propensos a serem atraídos e radicalizados. A cientista social Bruna Camilo pesquisou o movimento masculinista e explica que "a fase da adolescência é muito complexa, e quando um menino não consegue socializar como outros garotos, ele fica totalmente envolvido em jogos, ele fica o dia inteiro em casa em frente o computador". Diante de uma rejeição amorosa, por exemplo, eles tendem a recorrer aos fóruns formados por pessoas com os mesmos problemas, onde se sentem acolhidos. "Quando se tem jovens fragilizados é muito mais fácil de organizar algum tipo de radicalização, porque é mais fácil identificar qual a angústia daquele menino e dizer 'você tem razão, as meninas não querem meninos como você, elas são aproveitadoras e interesseiras'", exemplifica a pesquisadora.

Nos Estados Unidos, na Alemanha e na Coreia do Sul, os homens da Geração Z estão cada vez mais conservadores. Gráficos divulgados pelo jornal norte-americano Financial Times mostram que, nestes três países, o número de homens de 18 a 29 anos que se identificam como conservadores tem aumentado ao longo dos últimos anos. As mulheres, no entanto, seguem o movimento contrário, identificando-se cada vez mais como liberais. Para a cientista social Bruna, o fenômeno tem como uma das causas o impulsionamento do movimento masculinista na internet, que tem como alvo especialmente os meninos.

Ao UOL, o Google informou que o YouTube não permite vídeos com discurso de ódio, assédio e cyberbullying. "Temos políticas de conteúdo rigorosas nessas áreas e as aplicamos utilizando uma combinação de revisores humanos e tecnologia de aprendizado de máquina. Continuamos a expandir e a investir em políticas e sistemas para proteger a nossa comunidade", diz a nota enviada.

A reportagem também tenta contato com o TikTok para um posicionamento sobre os dados obtidos na pesquisa. O espaço segue aberto para manifestação.

Papel das plataformas

Algoritmos se preocupam com eficiência, não com segurança. A natureza de um bom algoritmo é entregar as informações de maneira rápida e precisa, segundo Manoel Fernandes. Neste processo, os algoritmos deixam de lado a preocupação com a maneira que conteúdo será interpretado por cada usuário. "A gente precisa discutir como equilibrar a efetividade e a qualidade de entrega com a segurança daqueles que não conseguem discernir [como crianças e adolescentes] e são influenciados por isso [conteúdos extremistas]", explica.

Alguns dos influenciadores com maior alcance são acusados de crimes contra mulheres. A pesquisa feita em Dublin fez um levantamento dos produtores de conteúdo mais recomendados da "machosfera" e, consequentemente, os que mais influenciam os usuários. Tanto no TikTok quanto no YouTube, o influenciador anglo-americano Andrew Tate, que responde judicialmente por crimes sexuais e tráfico de pessoas, ocupa o primeiro lugar disparado. A lista também inclui o ex-presidente Donald Trump, que foi considerado culpado por abuso sexual e difamação de uma jornalista em 2023.

O funcionamento da "manosfera" é rentável para as plataformas, segundo a socióloga. Para Bruna, os masculinistas souberam implementar o que ela chama de "mercantilização da misoginia". "A gente tem cursos dentro da plataforma do YouTube, por exemplo, ensinando qual mulher o homem tem que cortejar, qual mulher 'não presta', como uma mulher tem que se comportar e com qual mulher aquele homem deve se casar, e esses cursos são rentáveis para o YouTube", explica. Apesar de o conteúdo incentivar a radicalização dos meninos, o YouTube continua exibindo os vídeos, pois os cursos atraem a audiência de seguidores, retêm a atenção do público e geram mais lucro para o aplicativo, acrescenta a cientista social.

Internet deve ser uma ferramenta para disseminar uma educação saudável, segundo a pesquisadora. Bruna entende que a "machosfera" também é um ambiente de aprendizado, mas de uma "educação tóxica". Ela sugere que as plataformas passem a rentabilizar outros tipos de educação, que não despertem ódio, ressentimento e radicalismo nos meninos. "Já que o lucro é o foco das plataformas, vamos pensar em lucros que não atinjam os direitos humanos", acrescenta.

Plataformas devem ter compromissos éticos e produtores de conteúdo devem ser responsabilizados. Para Manoel, as big techs deveriam apresentar suas práticas e princípios éticos com mais transparência, facilitando o entendimento de como funcionam os algoritmos e o impulsionamento de certos tipos de conteúdo. Além disso, os influenciadores que produzem vídeos que incitam o extremismo ou exploram as fragilidades das pessoas deveriam ser punidos, na visão do analista de dados. Segundo Bruna, as penalizações são importantes porque a disseminação de ódio é alimentada pela sensação de impunidade. "Enquanto a gente não tiver uma internet 100% regulamentada e não houver essa preocupação [em combater os conteúdos extremistas], ainda vão acontecer esses casos de meninos radicalizados e a disseminação de ódio contra mulheres", conclui a pesquisadora.