UNIVERSIDADE FEDERAL FLUMINENSE

WILLIAM LUIZ PARAISO NORYS

RAÇA E INTERNET: AGÊNCIA, ESTRUTURA E RACISMO NO MUNDO DIGITAL

NITERÓI
2020
 WILLIAM LUIZ PARAISO NORYS

RAÇA E INTERNET: AGÊNCIA, ESTRUTURA E RACISMO NO MUNDO DIGITAL

Trabalho de conclusão de curso apresentado ao curso de

Ciências Sociais como requisito à obtenção do título de
Bacharel em Ciências Sociais

Orientador: Prof. Doutor Marcial Alécio Garcia Suarez

 Ficha catalográfica automática - SDC/BCG
Gerada com informações fornecidas pelo autor

P221r Paraiso norys, William Luiz

Raça e Internet: agência, estrutura e racismo no mundo
digital / William Luiz Paraiso norys ; Marcial Alécio Garcia
Suarez, orientador. Niterói, 2020.
49 f.

Trabalho de Conclusão de Curso (Graduação em Ciências

Sociais (Bacharelado/Licenciatura))-Universidade Federal
Fluminense, Instituto de Ciências Humanas e Filosofia,
Niterói, 2020.

1. Raça. 2. Internet. 3. Agência. 4. Estrutura. 5.

Produção intelectual. I. Garcia Suarez, Marcial Alécio,
orientador. II. Universidade Federal Fluminense. Instituto de
Ciências Humanas e Filosofia. III. Título.

CDD -

Bibliotecário responsável: Sandra Lopes Coelho - CRB7/3389

 WILLIAM LUIZ PARAISO NORYS

RAÇA E INTERNET: AGÊNCIA, ESTRUTURA E RACISMO NO MUNDO DIGITAL

Trabalho de Conclusão de Curso apresentado ao

Programa de Graduação em Ciências Sociais dao
Instituto de Filosofia e Ciências Humanas da
Universidade Federal Fluminense, como requisito
parcial à obtenção do título de Bacharel em Ciências
Sociais.

BANCA EXAMINADORA

________________________________________________________________________________
Prof Dr Marcial Alecio Garcia Suarez – UFF
Orientador

________________________________________________________________________________
Prof Dr Carlos Henrique Aguiar Serra – UFF

________________________________________________________________________________
Prof Dr Claudio de Farias Augusto – UFF

Niterói
2020
À minha mãe.
 AGRADECIMENTOS

Na academia, assim como na vida, nenhuma trajetória é solitária. Agradeço a todos os

professores e funcionários da Universidade Federal Fluminense que sustentaram a minha formação.
Agradeço também aos meus amigos e familiares por seu incansável apoio.
Agradeço especialmente a Eduardo Freitas e Marcial Suarez, que souberam como poucos
mesclar as virtudes da amizade e da docência.
“O céu sobre o porto tinha a cor de uma televisão
sintonizada num canal fora de ar.”
William Gibson
 RESUMO

Este estudo busca compreender os impactos sociais das formas inovadoras de racismo
possibilitadas pelas tecnologias computacionais associadas às redes digitais. A partir da articulação
teórica de conceitos fundamentais analisa-se os contornos do movimento supremacista branco
norte-americano em dois momentos distintos. Em seguida, a produção e reprodução automatizada
de estereótipos raciais é analisada a partir da contextualização histórica, social e política de
algoritmos computacionais. Ao final argumenta-se que algoritmos constituem um processo de
estruturação social automatizada e propõe-se novos caminhos de pesquisa para identificar possíveis
soluções para esse problema.

Palavras-chave: Raça. Agência. Internet.

ABSTRACT

This study seeks to understand the social impacts of innovative forms of racism made
possible by computational technologies associated to digital networks. Starting with the theoretical
articulations of basic concepts, the North American white supremacist movement is then analyzed
in two different moments. Next, the production and automatized reproduction of racial stereotypes
is analyzed from the historical, social and political context of computational algorithms. In the end,
it is argued that algorithms make for an automated process of social structuration and, finally, new
research paths are proposed in order to identify possible solutions for this problem.

Keywords: Race. Agency. Internet.

 SUMÁRIO

1. INTRODUÇÃO................................................................................................................................9
2. AGÊNCIA, ESTRUTURA E RACISMO NA SOCIEDADE EM REDE......................................12
3. O SUPREMACISMO BRANCO ONLINE...................................................................................20
4. ALGORITMOS, IDENTIDADE E RAÇA....................................................................................30
5. CONSIDERAÇÕES FINAIS.........................................................................................................45
6. REFERÊNCIAS.............................................................................................................................46
 9

1. INTRODUÇÃO

Ao redor do mundo há atualmente 4,13 bilhões de usuários da Internet com estimativa

de que esse número cresça para ao menos 5,3 bilhões em 2023 (STATISTA 2019, CISCO
SYSTEMS 2020). Com a pandemia de COVID-19, o consumo de dados através de banda
larga apenas no primeiro trimestre de 2020 cresceu 47% nos EUA e Europa em relação ao
primeiro trimestre de 2019 e o comércio eletrônico já em maio havia crescido 77% em relação
ao mesmo mês do ano anterior (OPENVAULT, 2020; KOEZE e POPPER, 2020; KOETSIER,
2020). É seguro dizer que a Internet é um fator indispensável da vida contemporânea. Através
dela limites espaciais tornaram-se menos executáveis devido à dificuldade praticamente
irrelevantes para a circulação de informação, limites temporais são progressivamente
desafiados com o armazenamento digital de informações, e limites políticos tornaram-se
menos efetivos devido à grande dificuldade do exercício de soberania pelo Estado num
contexto tão volátil. Uma pessoa no Brasil pode interagir com outra na China em tempo real
acessando arquivos armazenados e disponibilizados online anos atrás por meio de canais que
escondam completamente sua identidade e local de acesso através dessa tecnologia
verdadeiramente revolucionária.
Também limites corporais são parcialmente nulificados pela Internet, seus usuários
têm grande capacidade de decidir o quanto de seus corpos será exposto para outros usuários,
nesta suposta civilização da Mente a imaterialidade é garantia de liberdade (BARLOW, 1996).
Mas assim como toda tecnologia, seus usos são condicionados por um contexto social mais
amplo. Então para além de sua eventual capacidade de possibilitar o cumprimento da
promessa cartesiana de um local caracterizado pela pura transmissão de informação entre
mentes autônomas e racionais, a internet também possibilita interações ao redor de uma
tecnologia bem mais antiga: a raça.
Este estudo, fruto de uma pesquisa ainda em andamento e que será levada para além
da graduação, busca compreender a relação entre racismo e Internet a partir de dois aspectos
específicos: a instrumentalização da Internet por parte do supremacismo branco norte-
americano, com enfoque na Alt-right, e o papel de algoritmos na reprodução da discriminação
racial.
O interesse pelo tema surgiu após a leitura de “Kill all Normies” de Angela Nagle
(2017) que, apesar de ser uma muito obra esclarecedora, carece de aprofundamento teórico e
 10

visão mais ampla, provavelmente devido ao fato de ser uma obra mais curta. Em seguida a
leitura de Castells (2010 e 2015) e Daniels (2009 e 2018) forneceram as primeiras referências
diretamente relacionadas às interseções entre Internet e racismo, porém ambos sofrem com
certas limitações devido a sua época de publicação. Embora suas análises permaneçam úteis, a
ascensão meteórica da Alt-right em grande parte devido ao uso da Internet por volta de 2016
foi um fenômeno tão inovador que desafia a literatura precedente. Mas Stalder (2018) e
Schroeder (2018) atualizam em grande parte as inevitáveis lacunas teóricas de Castells.
Estudos específicos sobre a Alt-right e o supremacismo branco norte-americano como
Hawley (2017) e Stern (2019) fornecem o enquadramento político que, aliado aos ótimos
estudos sobre cultura digital de Milner (2016) e Phillips (2015) guiam a análise aqui feita
sobre o supremacismo branco online. Em relação ao papel dos algoritmos a principal obra é a
de Mau (2019), pois interpreta a proliferação dos algoritmos num contexto mais amplo de
quantificação da vida social. As análises críticas de Boyd (2012), Crawford (2019) e O’Neil
(2016) sobre o fenômeno de Big Data possibilitam conectar o aspecto técnico de novas
tecnologias digitais às suas consequências sociais. Já o impressionante trabalho de Chenney-
Lippold (2017) explora as profundas consequências da digitalização algorítmica para a
construção identidade e permite realizar a conexão teórica entre os aspectos sociais do
algoritmo e o caso real de reprodução de estereótipos raciais gerado pelo motor de buscas do
Google analisado por Noble (2018).
Mas dentre todas as obras lidas aquela que mais se aproxima tematicamente deste
estudo é Race After Technology, de Ruha Benjamin (2019). Similarmente a este estudo,
Benjamin interpreta o racismo como uma tecnologia e compara-o com outras tecnologias
digitais típicas para melhor compreender seus efeitos políticos respectivos à desigualdade
racial. Porém sua obra, apesar de brilhante e francamente incontornável para qualquer estudo
acerca da relação entre desigualdade e as novas tecnologias digitais, tem como principal
lacuna a pouca consideração pela apropriação criativa com fins políticos das tecnologias
algorítmicas. Benjamin foca no aspecto estrutural do racismo e sua perpetuação por meio da
programação e execução de algoritmos, porém explora pouco os efeitos daquele que interage
com o código algorítmico: o usuário.
Dado que nenhuma tecnologia pode ser socialmente estudada sem levar em
consideração seus diversos usos (incluindo sua criação, produção, execução, adaptação, etc.),
então uma perspectiva analítica que não considere apropriadamente a ação dos usuários é
 11

limitada para explicar fenômenos que dependem da apropriação estratégica dessas tecnologias
por seus usuários, como é o caso da Alt-right. O objetivo deste estudo é precisamente
identificar o lugar da agência na produção e reprodução do racismo associadas às tecnologias
digitais contemporâneas: o primeiro capítulo tratará dos conceitos teóricos essenciais para o
resto do estudo; o segundo capítulo analisará o movimento supremacista branco norte-
americano online e apontará para a necessidade de uma análise conjunta entre a agência
humana e os algoritmos computacionais que sustentam essa agência no mundo digital; já o
terceiro contextualizará a proliferação de algoritmos no interior da ampla tendência de
quantificação social e a construção da identidade associada à utilização desses algoritmos; por
último nas considerações finais erá apresentado um balanço desse estudo assim como
possíveis caminhos futuros de pesquisa.
 12

2. AGÊNCIA, ESTRUTURA E RACISMO NA SOCIEDADE EM REDE

Racismo é um tema que permanece desafiando a capacidade explicativa de qualquer

análise social. Ao mesmo tempo histórico e momentâneo, nacional e global, individual e
institucional, esse fenômeno tão elusivo quanto proeminente têm levado vários pesquisadores
a adotar diversos recortes teóricos em seus esforços de conceitualização. Almeida (2019), por
exemplo, considera que, apesar de suas diferentes formas e níveis de manifestação, o racismo
é sempre estrutural, ou seja, é em última instância sempre gerado pela estrutura social. No
entanto, esse tipo de abordagem tem como limitação a pouca atenção sobre a agência e o
processo de construção dessa estrutura, sobre a estruturação. Ao abordar o racismo como fruto
de uma estrutura social já existente, tende-se a perder de vista a volatilidade da estrutura
social causada pelo caráter criativo e em grande parte imprevisível da ação individual e a
cristalização dessa volatilidade em padrões e normas capazes de coagir a ação. Embora
Almeida demonstre consciência dessa limitação, para os fins deste estudo o racismo será
considerado em sua relação com a agência e sua capacidade de formar estruturas.
Segundo Giddens agência e estrutura têm uma forte relação entre si, embora
costumem ser encaradas pela análise social como elementos independentes (GIDDENS 1979
pp. 49-53). Na intenção de superar essa dualidade, o sociólogo define agência como a
capacidade de intervenção causal num objeto maleável inserida num fluxo temporal contínuo
de ações (GIDDENS 1979 pp. 55-56). O agente pode ou não exercer essa capacidade, no
entanto a continuidade da ação humana indica a necessidade de contextualizar a ação
individual em sua relação com a ação com outros indivíduos, a agência é ao mesmo tempo
não-determinística e irredutível à volição do sujeito. Mas isso não significa que a intenção
seja irrelevante para a ação, pelo contrário: a intencionalidade é um fator central da conduta
humana, mas precisa ser analisada com cuidado (GIDDENS 1979 p. 56).
O sociólogo inglês propõe o chamado modelo de estratificação do agente para dar
conta dessa análise. Os agentes não apenas monitoram reflexivamente as próprias ações e seus
contextos como também de outros agentes com os quais se relacionam e buscam explicações
que sejam capazes de justificar essas ações de acordo com suas intenções (GIDDENS 1979 p.
57). Essas explicações, por sua vez, contam com a racionalização da ação, a capacidade do
agente de fornecer razões para sua conduta (GIDDENS 1979 p. 57). Já a motivação refere-se
a fatores que envolvem a cognição e a emoção do agente (1979 p.58), fatores inconscientes
 13

relacionados ao desejo que não “sobem” à consciência do agente (GIDDENS 1984 pp. 5-8).
Ou seja, interfere no mundo e tem plena capacidade de explicar as razões de sua ação, porém
a sua agência não se limita às intenções e razões conscientemente identificadas para justificá-
la nem mesmo às suas motivações inconscientes.
Há também outros fatores externos ao agente que compõem a sua ação. Como a
intenção não é responsável pelo todo da agência, as consequências não intencionais da ação
são fatores que fogem dos limites da intencionalidade e geram efeitos inesperados em ações
futuras do próprio agente ou até mesmo de outros, efeitos estes que podem ou não reforçar
condições sistemáticas que influenciam a ação sem serem reconhecidas. Seguindo o exemplo
dado por Giddens, o fato de um indivíduo intencionalmente falar inglês corretamente
contribui também, não intencionalmente, com a reprodução da linguagem como um todo
(GIDDENS 1984 p. 8). Logo, embora a característica mais marcante da agência seja a ação
causalmente efetiva, isso não significa que o agente seja por si só determinar totalmente sua
ação.
A teoria da estruturação conta também com outros dois conceitos centrais: sistema e
estrutura. Estrutura é o conjunto de regras e recursos relacionadas à reprodução de práticas
sociais (GIDDENS 1979 p. 64) enquanto sistemas são as interdependências entre relações
(GIDDENS 1979 pp. 73-74). Em oposição à agência e ao sistema, a estrutura é atemporal, ela
contém as regras e padrões que quando aplicadas à agência geram a reprodução de práticas
sociais enquanto sistema. Nesse sentido, agência e estrutura são dois momentos de um mesmo
processo de estruturação. Como diz o autor, “analisar a estruturação de sistemas sociais
significa estudar os modos nos quais tais sistemas (…) são produzidos e reproduzidos em
interação” (GIDDENS 1984 p.25). Portanto, a análise da ação individual deve sempre levar
em consideração a capacidade estruturante da agência.
É nesse sentido que este estudo pretende, a partir de Coleman (2009), utilizar o
conceito de raça como tecnologia. Como argumenta a acadêmica norte-americana a tecnologia
costuma ser associada a ferramentas externas capazes de estender a agência humana, como
por exemplo o caso de um caçador que utiliza uma pedra para caçar algum animal, enquanto
a raça costuma ser encarada como um fato biológico natural (COLEMAN 2009 pp. 177-178),
um dado imutável que independe da ação do sujeito. Interpretar raça como tecnologia, então,
é um esforço para contextualizar a agência na construção da identidade racial pois assim
como no caso de outras tecnologias, ela em última instância depende de seus usos, tanto por
 14

parte daquele que recebe a classificação. Nas palavras da autora, essa abordagem “(…)
reconhece o lugar apropriado da raça não como uma característica mas como uma ferramenta
(…) para reconceitualizar como raça encaixa num padrão mais amplo de significado e poder”
(COLEMAN 2009 pp. 184-185).
Consequentemente o racismo é ao mesmo tempo mais do que uma passiva reprodução
de estereótipos e comportamentos preexistentes ou um ato isolado motivado pela intenção
individual, ele é sempre um fenômeno de estruturação, simultaneamente produtor e reprodutor
de padrões sociais. Isso é especialmente notável em contextos marcados pela interação digital,
onde a “ausência” de corpos leva a uma quase impossibilidade (mesmo com o uso de fotos de
perfil a possibilidade de usar fotos falsas significa a permanência dessa dificuldade) de
identificação dos marcadores corporais da suposta realidade biológica racial. Com efeito,
nesse tipo de contexto e no contexto social mais amplo que o cerca, a sociedade em rede, a
identidade assume contornos específicos que precisam ser consideradas.
Embora sempre apresentem características similares, redes são formas de organização
presentes nos mais diversos contextos. Elas são sempre compostas por nós interconectados
cuja função é processar informações e contribuir com o cumprimento das metas da rede além
de serem formações essencialmente descentralizadas, a relevância de cada nó depende
somente de sua capacidade de contribuir com a rede (CASTELLS 2015 p. 66). Em relação a
fatores externos as redes sempre funcionam segundo uma lógica de inclusão-exclusão, ou
seja, todos os nós interconectados dentro de uma rede são relativamente próximos e
igualmente acessíveis enquanto todos aqueles fora da rede são completamente inacessíveis
(CASTELLS 2015 p. 67). Logo, tanto a competição quanto a cooperação entre redes é
possível, mas esta pressupõe algum ponto de acesso ou um protocolo comum para garantir o
fluxo de informações entre redes.
Dessa forma, redes são organizações extremamente maleáveis que não encontram
problemas em adaptar-se aos mais diferentes contextos. Sua flexibilidade garante que o
programa da rede (suas metas e objetivos) adapte-se reflexivamente e assim garanta uma
maior capacidade de sobrevivência e, acima de tudo, uma grande eficiência (CASTELLS
2015 p. 69-70).
Já a sociedade em rede é uma configuração social específica fundamentada nas redes
digitais de comunicação tornadas possíveis pela tecnologia microeletrônica (CASTELLS
2015 p. 70). Como essas redes digitais não são confinadas a fronteiras nacionais, a sociedade
 15

em rede é uma sociedade global, seus fluxos digitais de informação alcançam os mais
diversos locais desde que a tecnologia necessária esteja presente. Como consequência, essa
globalização é uma globalização desigual, já que a capacidade de acessar essas redes depende
de uma distribuição de recursos gerada pela estrutura social. Isso indica uma tendência da
sociedade em rede de reproduzir desigualdades estruturais preexistentes (CASTELLS 2015 p.
72), reproduzir padrões de marginalização a partir da nova lógica de inclusão e exclusão típica
das redes.
Esse choque entre uma estrutura social global e a localidade da experiência gera
diversas consequências sociais, inclusive uma noção específica de espaço-tempo. A interação
assíncrona independente da distância possibilitada pela tecnologia de redes digitais gera um
espaço de fluxo onde o fluxo de informações entre nós passa a ter maior relevância que as
limites espaciais do espaço físico (CASTELLS 2015 p. 80). O tempo, por sua vez, passa a ter
um aspecto intemporal devido à quebra da necessidade de sequenciamento temporal de
informações e eventos nas redes digitais (CASTELLS 2015 p. 81).
A partir do ponto de vista cultural há uma tendência a geração de diversidade em vez
de homogeneização cultural. A globalização desigual da sociedade em rede por um lado
implica na necessidade cada vez maior de protocolos capazes de conectar redes originadas nos
mais variados contextos culturais, e por outro lado leva pessoas a formarem grupos de
resistência orientados por valores comunitários, um processo de construção de identidade
típico dessa nova configuração social (CASTELLS 2015 pp. 82-84).
De acordo com Castells na sociedade em rede a identidade é a construção de
significado a partir da cultura (CASTELLS 2010 p. 54), de forma que um mesmo indivíduo
pode ao mesmo tempo possuir diversas identidades, às vezes até mesmo contraditórias entre
si. Definido como identificação simbólica do agente com a finalidade de um determinado ato,
esse significado possui fontes que são mais relevantes que outras, as chamadas identidades
primárias, ou seja, identidades capazes de estruturar outras identidades ao longo do espaço e
do tempo (CASTELLS 2010 p. 55).
Há três tipos de construção de identidade que correspondem também a três formações
sociais específicas: a identidade legitimadora, a identidade de resistência e a identidade de
projeto. A primeira é característica das instituições sociais dominantes e seu processo de
dominação racional dos atores sociais, sua formação social típica é uma sociedade civil, uma
série de instituições que garantem a reprodução da identidade que racionaliza essa dominação
 16

(CASTELLS 2010 p. 56). Já a segunda, a identidade de resistência, é criada por atores que
encontram-se em posições sociais prejudicadas pela dominação institucional vigente
(CASTELLS 2010 p. 57). Ela gera comunidades coletivas de resistência orientadas por uma
identidade comum distinta da dominante (CASTELLS 2010 p. 57). Por último, a identidade
de projeto é busca pela alteração da posição social e consequentemente uma ampla
transformação social através da redefinição de significados (CASTELLS 2010 p. 58). Sua
expressão social é o sujeito, o ator social coletivo que permite a indivíduos construir
significados a partir da própria experiência (CASTELLS 2010 p. 58).
Na sociedade em rede a identidade de resistência tende a ser o tipo de construção mais
prevalecente. O descolamento entre local e global típicos dessa sociedade gera uma
desarticulação da organização da sociedade civil e impossibilita a construção autônoma da
própria existência para a grande maioria das pessoas. Como consequência, a identidade
construída segundo princípios comunais passa a ser o princípio organizador apropriado nesse
contexto. Mesmo os sujeitos, quando surgem, estão associados a alguma formação social
comunal, não mais à sociedade civil como no caso do sujeito moderno (CASTELLS 2010 p.
59).
Interessantemente Castells não considera raça e etnia como fontes de significado
capazes de produzir comunas por si só. Para o autor esses fatores, por serem fundamentados
em vínculos sociais primários, perdem o sentido quando extraídos de seu contexto histórico e
inseridos no mundo de fluxos da sociedade em rede, geralmente sendo inclusive absorvidos
por comunas culturais mais amplas e melhor definidas como o nacionalismo e a religião
(CASTELLS 2010 p. 109). No próximo capítulo esse ponto de vista será confrontado com a
análise do supremacismo branco norte-americano online, mas antes é preciso apresentar uma
abordagem teórica geral sobre a sociabilidade relacionada aos às tecnologias digitais.
Stalder considera que a condição digital possui três formas específicas, ou seja, três
qualidades formais que moldam todo o universo digital, quais sejam a referencialidade, a
comunalidade e a algoritmicidade. A referencialidade diz respeito ao uso criativo de materiais
com algum significado preexistente com a finalidade de gerar novos significados(STALDER,
2018 p. 59). Fundamental para essa forma é a fácil reconhecibilidade das fontes, pois ela
permite que essa referencialidade gere um sistema interno de referenciais e que diferentes
indivíduos possam interagir livremente com essas fontes para participar desse processo
criativo(STALDER, 2018 p. 60). Essa forma indica a primazia da integração de diferentes
 17

sentidos que sua mera combinação, da transformação criativa sobre a preservação de sentidos
(STALDER, 2018 p. 60).
Graças a integração em redes em parte precedente à digitalidade, a disponibilidade de
objetos culturais que possibilitam essa forma cresceu enormemente, embora sua
acessibilidade seja condicionada por fatores sociais específicos (condição econômica, leis de
copyright, etc.) (STALDER, 2018 pp. 68-70). Mas esse crescimento também é responsável
por um ambiente composto por significados e interpretações progressivamente diversos, por
um verdadeiro caos informacional (STALDER, 2018 p. 71). Nesse sentido, a referencialidade
é também uma forma de criar uma metanarrativa coerente para um ambiente sem locais
definidos, uma forma de criar uma ordem de significados e interpretações (STALDER, 2018
p. 71).
Essa forma, por sua vez, conta também com três pilares essenciais: a capacidade de
chamar atenção, visto que a atenção é um recurso limitado nessa miríade de sentidos, o gasto
de tempo para consumir e interagir com alguma criação que seja produto dessa
referencialidade é uma forma de estabelecer comunicação (STALDER, 2018 p. 73); a
capacidade de conectar diferentes instâncias desses chamarizes atenção, uma capacidade
fundamental para gerar caminhos interpretativos nessa referencialidade (STALDER, 2018 pp.
75-76); e a renovação performática desses objetos e sentidos criativos, pois dado o já
mencionado caos informacional, toda criação corre constante risco de cair no esquecimento,
logo a reafirmação é o único meio de enfrentar esse perigo de obsolescência (STALDER,
2018 p. 79). Como será visto, a referencialidade é central para a criação e circulação de
memes, objetos culturais que desempenham um papel fundamental nos processos na
associação online.
A segunda forma é a comunalidade, a geração de práticas comuns num meio marcado
pela diferenciação irrestrita (STALDER, 2018 p. 80). Há grande dificuldade de considerar que
essas formações sejam comunidades pois o conceito de comunidade como definido por
Tönnies (a comunidade caracterizada pela pequena diferenciação entre atividades sociais e a
sociedade caracterizada pela diferenciação em esferas definidas, como economia, direito, etc.)
exige um certo grau de conexão social que essa forma ainda não demonstra (STALDER, 2018
pp. 81-82). Porém é possível identificar certa aproximação com as chamadas comunidades de
práticas, associações formadas ao redor de uma interpretação e atuação no mundo comuns aos
seus membros. A troca informal ainda que estruturada, o foco em novas formas de gerar
 18

produzir sentido e agir coletivamente, e a interpretação reflexiva da própria atividade são os

pilares dessa formação comunal e a comunicação é seu principal instrumento, pois é através
dela que são compartilhados os sentidos e objetos culturais que garantem a coerência do
grupo, é através dela que é praticada a autorreferencialidade (STALDER, 2018 p. 84). A
proximidade entre essas duas formas será examinada na atuação de grupos supremacistas
online, especialmente no caso da Alt-right.
Como a participação nessas formações é voluntária, espera-se autenticidade de seus
membros pois a única motivação para a participação é a busca pelo próprio interesse e essa
expectativa, por sua vez, gera um mínimo de confiança entre pares ao mesmo tempo que torna
a identidade compatível com a participação em outros grupos, mesmo que sejam
ideologicamente conflitantes(STALDER, 2018 pp. 85-86). Isso é indicativo de como a
construção da identidade individual na condição digital é um processo que exige o constante
estabelecimento de conexões sociais ao invés de atomização, que pressupõe a participação em
redes (STALDER, 2018 p. 88-89). Mas essa livre participação não implica na completa
ausência de mecanismos coercivos, a participação é sempre condicionada pelas regras e pelo
quadro interpretativo próprios ao grupo. A aceitação dessas convenções permite ao indivíduo
acessar as práticas associadas ao grupo, ou seja, de fato ser considerado um membro, mas a
não aceitação ativa uma série de práticas discriminatórias por parte do grupo. Mas assim
como todas as práticas associadas à comunalidade, essas práticas são também extremamente
criativas e, consequentemente, de difícil percepção perante os olhos da sociedade (STALDER,
2018 pp. 97-98). Com efeito, a comunalidade e suas qualidades fazem com que os verdadeiros
sujeitos da condição digital sejam essas formações coletivas em rede, afinal o indivíduo por si
só não tem como gerar sentido a partir de si sem contar com algum tipo de associação
(STALDER, 2018 p. 96).
A terceira e última forma da condição digital é a algoritmicidade. Algoritmos são
conjuntos de instruções cujo objetivo é converter input – as informações de entrada – em um
determinado resultado (STALDER, 2018 p. 104). Essas instruções necessitam ser descritas da
forma mais precisa possível em passos que sejam modulares, que sejam executáveis
independentemente de outros, e também necessitam sempre gerar o mesmo resultado. Alguns
algoritmos são capazes de alterar a si próprios dinamicamente com ou sem algum tipo de
supervisão humana, como é o caso dos algoritmos de aprendizado de máquina. Programas
desse tipo são desenvolvidos de forma largamente experimental, diferentes códigos são
 19

expostos a um grande volume de informação e progressivamente ajustados de acordo com o

resultado desejado (STALDER, 2018 pp. 109).
Nesse sentido, algoritmos dinâmicos são essencialmente reflexivos e são
cuidadosamente cultivados quando supervisionados, não basta executar um código e esquecê-
lo (STALDER, 2018 p. 110). Mas uma das consequências dessa reflexividade é a progressiva
complexificação e imprevisibilidade do código-fonte mesmo para seus criadores e outros
profissionais especializados, algoritmos tornam-se caixas-pretas. Dado o seu papel na
organização e simplificação de informações, algoritmos são também criadores de ordem, e,
como será demonstrado ao longo dese estudo, isso tem profundas consequências políticas. No
capítulo seguinte serão exploradas, primeiramente a partir da ação do supremacismo branco
na Internet, as interações entre essa série de conceitos (STALDER, 2018 pp. 112-113).
 20

3. O SUPREMACISMO BRANCO ONLINE

Em sua pesquisa sobre o racismo e o supremacismo branco, Daniels investiga, a partir

de uma crítica aos limites da análise de Castells sobre o lugar da raça na construção da
identidade na Internet (DANIELS, 2009 pp. 21, 40-46), como a produção e circulação da
retórica de grupos supremacistas norte-americanos na internet solapa valores culturais
democráticos da sociedade norte-americana (DANIELS, 2009 pp. 46-47). Ao analisar um
crime racialmente motivado – o envio em massa de textos racistas para universitários de
ascendência asiática – a autora identifica dois fatores essenciais: o uso da tecnologia, já que
foi o e-mail que permitiu o envio anônimo de um volume tão grande de mensagens a um
grupo específico; e a iniciativa individual, pois o autor do crime não tinha nenhuma afiliação
a movimentos sociais racistas e tampouco teria facilidade de integrar-se em algum grupo
supremacista branco, visto que possuía ascendência mexicana (DANIELS, 2009 pp. 35-37).
Esses mesmos fatores são amplificados quando ocorridos numa plataforma de mídia
participativa. A facilidade de uso e acesso e a desnecessidade de identificação formal geram
um ambiente livre de amarras tanto para os usuários entre si, visto que não precisam
estabelecer laços profundos entre si nem mesmo organizar-se hierarquicamente em torno de
líderes como em movimentos sociais tradicionais, quanto para a produção e circulação de
ideias racistas, visto que a ausência de qualquer tipo de gatekeeper significa que a
legitimidade de discursos desse tipo tende a permanecer incontestada (DANIELS, 2009 p.
47).
Nessa perspectiva, após acompanhar um fórum supremacista online Daniels
argumenta que as categorias clássicas usadas para descrever movimentos sociais (apoiadores,
militantes, etc) não são aplicáveis a grupos desse tipo pois a atividade política online por si só
não basta para determinar a intensidade do zelo ideológico de um sujeito (DANIELS, 2009
pp. 48-50). Consequentemente, a autora propõe a divisão entre participantes passivos
(visitantes e usuários não registrados que apenas consomem conteúdo) e participantes ativos
(usuários registrados e assíduos que são também criadores de conteúdo) e identifica que a
maior parte do tráfego é composta por participantes passivos (DANIELS, 2009 pp. 50-52).
Mas essa desproporcionalidade não deve ser encarada como indicativa de verticalidade
nem de pouca participação, pelo contrário: é também indicativa do papel da internet na
formação de uma identidade branca transnacional que, por sua vez, é construída
 21

reflexivamente por participantes de perfil ideológico variado (DANIELS, 2009 pp. 62-65).
Discussões sobre feminismo, sexualidade, relacionamentos inter-raciais e outras pautas
geralmente associadas à vida íntima demonstram multiplicidade das perspectivas presentes
nesse fórum (DANIELS, 2009 p. 75), assim como a capacidade de cada uma dessas
perspectivas de pautar novas discussões, reinterpretar princípios, e moldar identidades. Com
efeito, a desproporcionalidade entre membros ativos e membros passivos é muito mais
indicativa da circulação do fórum entre visitantes que da própria produção de conteúdo no
fórum (DANIELS, 2009 pp. 51-52).
Outro formato de mídia digital supremacista analisado pela autora são os sites de
propaganda estáticos que não permitem a geração de conteúdo pelo usuário. Dentre esses,
Daniels examina os chamados sites brochura (brochure sites) e sites disfarçados (cloaked
sites). Os sites brochura são, no geral (DANIELS, 2009 pp. 92-97), reproduções digitais de
material propagandístico impresso enquanto os sites disfarçados são páginas que escondem
sua real autoria e intenção com o objetivo de atrair usuários comuns da Internet e propagar
sua agenda política supremacista (DANIELS, 2009 p. 118). O uso desses sites disfarçados já
indica uma afinidade com a manipulação algorítmica que, como será visto, a alt-right aplica
com grande sucesso.
Essa interação participativa proporcionada por tecnologias associadas à Internet
possibilita a criação de comunidades. A referencialidade e a comunalidade são as formas da
digitalidade fundamentais para compreender esse fenômeno. Especificamente em relação ao
Stormfront, sua maior inovação em relação a outras comunidades supremacistas é justamente
a capacidade de agregar uma série de indivíduos de diferentes nuanças ideológicas numa
comunidade virtual cuja única bandeira explicitamente declarada é a promoção do
supremacismo branco. Segundo Daniels um dos fatores que influenciam no grande poder de
atração desse fórum é precisamente seu ecletismo, sua capacidade de gerar interesse em
usuários de diferentes perfis através do conteúdo criado pela comunidade de usuários mais
antigos (DANIELS, 2009 p. 109).
Vale ressaltar que esse processo só é possível graças ao enquadramento racial branco
que embasa a sociedade norte-americana. Sem ele, não haveria tantos usuários dispostos a
consumir e produzir esse tipo de conteúdo, provavelmente não haveria nem mesmo interesse
em propagar ideais supremacistas em qualquer lugar, fosse online ou não. No entanto, para
além do risco de erosão dos valores democráticos igualdade relacionados à igualdade que essa
 22

massificação digital do supremacismo racial representa, há também um ponto paralelo que,

visto em retrospecto, tem provado ser o grande catalisador dessa erosão: a normalização do
ideário racista nos espaços mainstream, a chamada lavagem de informação (KLEIN, 2017 p.
49). É esse o principal objetivo da chamada Alt-right, um movimento político norte-
americano que alcançou projeção nacional e internacional durante a época da eleição
presidencial de 2016. Mas o que exatamente é a Alt-right?
Nos dias 11 e 12 de agosto de 2017 circularam pelo mundo imagens que chocaram
diversas pessoas ao redor do mundo: majoritariamente homens brancos vestidos com roupa
casual desfilando com bandeiras confederadas e nazistas sob a luz do dia, outros marchando
durante o anoitecer com tochas acesas e entoando frases como “jews will not replace us” e
“blood and soil”, e outros até mesmo entrando em combate corporal municiados de bastões e
escudos pintados com simbologia associada ao nazismo e aos antigos Estados Confederados
da América. Essas foram algumas cenas ocorridas durante o protesto “Unite the Right” na
cidade de Charlottesville (VICE 2017, KATZ, 2017). Convocado por membros da alt-right
em resposta à retirada da estátua de um general confederado, um de seus objetivos era reunir
toda a extrema a direita sob a mesma bandeira: o supremacismo branco.
A alt-right, forma abreviada de alternative right, é um fenômeno de difícil definição.
Os laços entre seus integrantes são tão frágeis que é difícil chamá-la de organização
(HAWLEY, 2017 p. 11). Porém no centro dessa variedade é possível discernir a preocupação
com a identidade branca como constante. Consequentemente, a imigração é a questão política
mais cara para o movimento, pois, segundo a crença da alt-right, há um processo de
substituição demográfica nos EUA que ameaça a raça branca de extinção. Daí a razão de sua
principal reivindicação política: um etnoestado, uma nação cuja maior prioridade é a proteção
da identidade branca (STERN, 2019 paginação irregular, cap. III).
Historicamente, a alt-right não apresenta grandes novidades ideológicas. Como explica
Hawley (2017), o movimento supremacista norte-americano tradicional (fonte maior das
ideologias racistas norte-americanas cujo maior expoente é a Ku Klux Klan), o
paleoconservadorismo (vertente do conservadorismo americano surgida nos anos 80 cuja
maior característica era a defesa de um conservadorismo mais próximo de suas raízes
isolacionistas e nacionalistas em oposição à vertente neoconservadora menos inflexível à
igualdade), o libertarianismo radical (caracterizado pela defesa inquebrantável do
individualismo), e a nova direita europeia (caracterizada por um antimodernismo aristocrático
 23

e nostálgico de um passado idealizado) são seus principais antecessores (HAWLEY, 2017 pp.
21-42).
Assim como o primeiro, a alt-right possui a questão racial como principal prioridade.
Similar ao paleoconservadorismo há a hostilidade ao movimento conservadorismo
estabelecido, embora haja no caso da alt-right um desejo por sua destruição (HAWLEY, 2017
p. 31). Já a partir do libertarianismo radical assemelha-se a profunda antipatia por ideais
igualitários e políticas pró-imigração, assim como a primazia radical do desejo individual
sobre o bem-estar coletivo (HAWLEY, 2017 p. 35), fator que desponta como fundamental
para instrumentalização do comportamento troll. Por último, a adoção do ideário neonazista
por alguns de seus membros figuram como afinidades ideológicas da alt-right com a nova
direita europeia (HAWLEY, 2017 p. 36). Porém um fator distintivo separa esse fenômeno
movimento de qualquer outro movimento político precedente: seu uso inovador da Internet,
especialmente em relação a memes e trolls.
É possível afirmar que a trolagem é quase tão antiga quanto a própria internet. Como
analisa Donath (1995), já nos anos 90 percebia-se certos comportamentos antissociais de
usuários da Usenet, uma das primeiras redes de comunicação digitais. Mas para melhor pôr
em perspectiva a atuação online da alt-right é necessário retornar ao ano de 2014, ano em que
redes sociais foram inundadas pela hashtag #Gamergate.
Tudo começou com uma controvérsia sobre a suposta troca de favores sexuais pela
publicação de análises e artigos favoráveis entre uma game designer norte-americana e um
jornalista de um renomado site dedicado à cobertura de jogos eletrônicos. Em pouco tempo,
surgiram diversos protestos reivindicando ética e transparência em várias redes sociais
(4chan, 8chan, Reddit, Twitter) que logo degringolaram em uma vasta campanha de ataques
virtuais direcionada contra mulheres atuantes na indústria de jogos eletrônicos (BEZIO, 2018
p. 7; BRAITHWHITE, 2016 p 4). Em termos práticos, o Gamergate demonstrou duas
características que foram posteriormente aprofundadas e utilizadas pela alt-right: o enorme
potencial de impacto político de movimentos online organizados anonimamente em fóruns e
redes sociais (algumas empresas chegaram a perder contratos publicitários, por exemplo
(HAWLEY, 2017 p. 47)); e a capacidade de amplificação de comportamentos e conteúdo
antissocial intrínseco ao design de certas plataformas online (MASSANARI, 2015 p. 9-13).
Em seguida, abordaremos as principais características de memes e trolls.
 24

A partir da definição inicialmente proposta por Dawkins, segundo a qual memes são
elementos culturais análogos aos genes, como unidades de imitação que garantem a
transmissão de informação de cérebro a cérebro Milner aponta que essa definição tende a
eliminar a agência individual do processo de transmissão de informação e, consequentemente,
simplificar excessivamente a complexidade a comunicação humana (MILNER, 2016 pp. 20-
21). É justamente na intenção de melhor apreender essa capacidade sem necessariamente
rejeitar completamente o conceito de meme oferece seu estudo sobre memes digitais.
O autor afirma que a lógica dos memes é guiada por cinco princípios:
multimodalidade, reapropriação, ressonância, coletivismo e propagação. A multimodalidade
refere-se a capacidade de mesclar diferentes modos de comunicação para possibilitar novos
comunicados (MILNER, 2016 p. 24). Muitos memes, por exemplo, apresentam sobreposição
de imagens e textos retirados de contextos diferentes com o intuito gerar um novo sentido
específico. Mas na medida em que esse sentido requer um conhecimento prévio específico
para ser identificado, então esse processo de construção multimodal de significado é também
um processo de codificação destinado a um público específico (MILNER, 2016 pp. 25-26).
Já a reapropriação diz respeito ao processo criativo de apropriação de significados já
existentes e depois sua utilização para um fim diverso (MILNER, 2016 p. 26). De fato, a
reapropriação precede em muito o surgimento dos memes digitais. Porém as novas
tecnologias facilitam esse processo na medida em que oferecem ferramentas extremamente
acessíveis. A ressonância, por sua vez, é a capacidade do meme de gerar efeitos emocionais
numa pessoa a partir do choque entre o novo significado produzido e a bagagem cultural já
possuída (MILNER, 2016 pp. 29-32). Um aspecto central desse efeito é a incongruidade, a
lacuna entre o novo e o antigo que, por sua vez, gera o efeito de humor. Em seguida, há o
coletivismo dos memes, ou seja, sua capacidade de criar pontes entre indivíduos através de
sentidos, de conectar grupos e mobilizar identidades (MILNER, 2016 pp. 34-36).
Por último, talvez a característica mais imediatamente palpável dos memes: a
propagação. Memes precisam ser espalhados, um meme que não circula é um meme morto.
Mas essa circulação pode tanto ser restrita a certos grupos quanto alcançar o mainstream
(como no caso de um viral, por exemplo), ou seja, a propagação não é um aspecto puramente
quantitativo, cabe ressaltar que diferentes memes possuem diferentes critérios de valoração de
sua propagação, uma agência de publicidade digital e usuários de um fórum online, por
exemplo, julgariam um meme segundo critérios distintos (MILNER, 2016 pp. 38-39).
 25

Individualmente cada um desses elementos precede em muito tempo os memes

digitais, porém sua principal idiossincrasia é justamente a combinação inovadora desses
diferentes elementos, fator relacionado à referencialidade como definida por Stalder (2018).
Outro aspecto relevante dos memes é o conjunto de regras que é usado para interpretá-los, ou
seja, sua gramática, que é também majoritariamente caracterizada pela participação coletiva
(MILNER, 2016 pp. 49-53). Assim como a criação memética é um processo de participação
cultural que exige a compreensão e apropriação de significados já existentes para a criação de
um novo, a interpretação também é uma criação coletiva, pois pressupõe a compreensão de
uma série de significados preexistentes (especialmente se levarmos em consideração a
multimodalidade, por exemplo um meme de texto e imagem necessita de algum grau de
compreensão do conteúdo específico de cada um desses modos para que o significado único
do meme seja interpretado) para que seja interpretado.
Nessa perspectiva, tanto produção quanto interpretação se aproximam muito, de forma
que é possível considerá-los momentos diferentes de uma mesma conversa, sustentada por
uma gramática baseada na reapropriação e transformação de sentidos, pela bricolagem
(MILNER, 2016 pp. 61-63). Logo, a produção e circulação de memes é um meio de formação
de comunidades, afinal todos os seus aspectos são profundamente influenciados pelo coletivo.
Há certa semelhança entre as características do meme e as práticas do Troll, de forma
que não seria nada absurdo afirmar que o universo dos memes engloba também o
comportamento troll. Mas este apresenta algumas características específicas que o tornam
merecedor de uma abordagem específica. Troll é uma etiqueta comum usada para designar
uma série de diferentes comportamentos praticados principalmente online. De acordo com
Phillips (2015), são três os marcadores da cultura troll: a autoidentificação, a busca pelo lulz,
e a celebração do anonimato (PHILLIPS, 2015 paginação irregular cap. I). No sentido dos
integrantes da subcultura troll como estudados por Phillips, a mera adoção de
comportamentos antissociais não basta para que um indivíduo seja identificado como troll, é
necessário também identificar a si mesmo como tal, considerar o comportamento troll como
expressão da própria identidade. Ou seja, não basta trolar para ser troll, há que acreditar ser
um (PHILLIPS, 2015 paginação irregular cap. I).
Já o lulz é um conceito de difícil apreensão. Definido por um adágio troll como a única
razão para se fazer qualquer coisa, o lulz é um certo divertimento às custas do sofrimento
alheio (PHILLIPS, 2015 paginação irregular cap. II). Mas isso não é tudo. Na medida em que
 26

é uma mistura de reações emocionais (tanto da vítima da trolagem quanto do troll) e

classificação coletiva, o lulz é um objeto que precisa ser constantemente procurado e
produzido de acordo com certo senso estético coletivo (PHILLIPS, 2015 paginação irregular
cap. II). A autora identifica três características básicas constituintes do lulz: o fetichismo, ou
seja, sua capacidade de dissociar os atores de seus alvos, gerando assim um profundo
distanciamento emocional por parte do troll; a generatividade, ou seja, sua capacidade de
gerar associações e definir membros e outsiders da comunidade através do humor, aqueles
que riem com lulz são membros da comunidade enquanto aqueles que não riem são outsiders;
e a magneticidade, sua capacidade de atrair atenção tanto de membros quanto de outsiders e,
consequentemente, incentivar a compreensão humorística do lulz original por aqueles que não
compreenderam assim como a criação de releituras para alcançar uma propagação ainda
maior (PHILLIPS, 2015 paginação irregular cap. II). Essas características assemelham o lulz e
o comportamento troll como um todo ao meme, de forma não seria absurdo afirmar que o lulz
é algum tipo de meme específico de grupos trolls.
Dentre esses fatores Phillips (2016) ressalta o distanciamento emocional como o mais
problemático. Ele permite ao troll distanciar a si mesmo de seu alvo e distanciar a própria
identidade fora da internet de sua persona troll online (PHILLIPS, 2015 paginação irregular
cap. II). Visto que o comportamento troll é, em princípio, uma atitude lúdica destinada a
produzir humor, esse distanciamento permite ao troll estabelecer uma certa relação de
brincadeira com seu alvo sem necessitar da aceitação deste, ou seja, permite ao troll prescindir
da reciprocidade para estabelecer uma relação lúdica (PHILLIPS, 2015 paginação irregular
cap. II).
Igualmente, o distanciamento também gera para todos os envolvidos uma intensa
ambiguidade sobre o significado sobre a ação do troll, se é uma ação séria que deve ser
interpretada como parte do mundo real ou se é algo sem significado que pode ser ignorado
(PHILLIPS, 2015 paginação irregular cap. II). Para o troll, essa distância permite possibilita
uma desconexão entre seu comportamento antissocial online e seu comportamento social em
outros espaços, ou seja, permite que comportamentos extremamente contraditórios sejam
tornados compatíveis quando apresentados pela mesma pessoa. Logo, um troll online pode ser
ao mesmo tempo uma pessoa afável em outras relações pois cada persona segue diferentes
conjuntos de regras (PHILLIPS, 2015 paginação irregular cap. II).
 27

É por esse motivo que Phillips considera que trolar pressupõe algo como uma máscara,
que possibilita ao troll enquadrar seu comportamento de uma forma que seja ao mesmo tempo
facilmente reconhecível por outros trolls e desconectada de outros aspectos de seu
comportamento(PHILLIPS, 2015 paginação irregular cap. II). Consequentemente, é possível
dizer que trolls têm plena consciência do desconforto emocional que suas ações causam. Visto
que o lulz pressupõe em algum grau o sofrimento alheio, é também possível afirmar que o
sucesso de um troll depende justamente de sua capacidade de ser empático, já que o troll
precisa ser capaz de reconhecer como gerar o máximo de incômodo(PHILLIPS, 2015
paginação irregular cap. II). Logo, não é nada surpreendente que o uso de linguajar racista
seja comum entre trolls, embora não considerem que isso os torne racista, afinal estão apenas
trolando (PHILLIPS, 2015 paginação irregular cap. II).
A atuação durante a campanha presidencial de 2016 demonstra os sucessos e
limitações das táticas digitais adotadas pela alt-right. O candidato massivamente apoiado pelo
movimento foi o republicano Donald Trump, embora fosse comumente reconhecido que
Trump tinha um perfil ideológico bem diferente daquele da alt-right. O fato de Trump ser um
candidato conservador anti-imigração não o leva a ser defensor de um etnoestado (HAWLEY,
2017 pp. 116-138), mas há semelhança entre esses dois quando observa-se sua postura
destrutiva em relação ao conservadorismo mainstream, sua retórica vitriólica, e sua produção
e instrumentalização do caos. Assim como a alt-right, Trump tem uma relação conflituosa
com a política institucionalizada, até mesmo com o partido ideologicamente mais próximo, o
partido Republicano.
A retórica agressiva, por sua vez, é utilizada como forma de ganhar exposição para
seus ideais através do incômodo e, consequentemente, normalizar esses ideais a partir da
maior exposição. Para cada tweet absurdo ou ofensivo feito por Trump a mídia tradicional
costumava dar ampla cobertura em seus noticiários, gerando assim uma maior propagação do
conteúdo tuitado cujas consequências foram um aumento no número de pessoas que
identificam com as ideias e Trump e a normalização desse tipo de mensagem (SCHROEDER,
2017 pp. 64-65).
No caso da alt-right um bom exemplo a ser citado é um discurso feito por Hillary
Clinton em 2016 (HAWLEY, 2017 p. 121). Presumivelmente na intenção de associar seu
oponente eleitoral republicano a um grupo extremista antidemocrático, Clinton expôs para
uma grande plateia exemplos típicos de comportamentos e falas da alt-right. Mas ocorreu o
 28

efeito contrário: essa exposição não apenas agradou membros da alt-right como também
aumentou o interesse geral pelo grupo (HAWLEY, 2017 p. 125). Mas essa ascensão meteórica
apresentou também suas limitações. A eleição de Trump não levou efetivamente a um avanço
da agenda política da alt-right (HAWLEY, 2017 p. 137).
Diante do exposto é possível afirmar que a maior característica do supremacismo
branco online é a formação de comunidades online no molde da identidade de resistência
teorizada por Castells (2010). Por um lado a inaceitabilidade de sua postura ideológica no
espaço público tradicional reforça ainda mais a identificação dos membros com o movimento
e por outro lado a maleabilidade das classificações raciais, ficções sempre em última instância
arbitrárias, possibilitam que indivíduos de perfis mais diversos negociem sua posição na
chamada branquitude transnacional e, consequentemente, garante uma maior capacidade de
alcance ao ideal supremacista.
Já a alt-right tem como peculiaridade a combinação inovadora daquilo que Stalder
(2018) teoriza como as três formas da condição digital. O uso de memes e a trolagem, práticas
já bem estabelecidas em comunidades online antes da apropriação por parte da alt-right,
permitem que o movimento normalize sua ideologia tanto através da associação a essas
práticas digitais, fato que garante certo verniz de inofensividade e jocosidade ao movimento,
quanto através dos efeitos específicos dessas práticas, ou seja, a criação de objetos culturais
por meio da referencialidade, a formação de laços comunitários ao redor dessas criações
coletivas e o uso estratégico de sistemas algorítmicos.
Do ponto de vista da estruturação o sucesso do movimento supremacista é mais
limitado. Apesar de ter atraído grande atenção para si e ter levado o tema racial ao mainstream
do debate político norte-americano especialmente durante as eleições presidenciais de 2016,
as ações do supremacismo online não causaram, ao menos até agora, todo o impacto
institucional pretendido pelo movimento fora das redes e plataformas digitais..
Portanto, apesar de ser um movimento extremamente inovador a alt-right não surgiu
nem tem se sustentado no completo vácuo. Embora a combinação de supremacismo branco,
memes, trolls, e rebranding de ideologias extremistas seja inovadora, individualmente cada
um desses elementos precede a alt-right e efetivamente são independentes dela. Além disso a
dificuldade de efetivamente influenciar ou destruir instituições estabelecidas sugere que
talvez, ao menos até agora, a alt-right seja muito mais um fenômeno cultural de construção de
 29

comunidades online que um fenômeno político relacionado a uma grande mudança no perfil
político dos EUA e até do mundo e a um aumento de poder político do supremacismo branco.
Cumpre ressaltar que isso não significa que os efeitos políticos da alt-right tenham
menor relevância ou até mesmo que fenômenos majoritariamente culturais sejam
politicamente irrelevantes. O assassinato de Heather Heyer durante os protestos em
Charlottesville e o aumento no número de casos de terrorismo de extrema-direita nos EUA
são provas de que o supremacismo online tem efeitos políticos palpáveis. Significa somente
que a análise do supremacismo online a partir de lentes que priorizem aspectos culturais tende
a ser mais frutífera que aquelas que priorizem aspectos políticos.
Todos essas ferramentas tecnológicas fundamentais para o supremacismo branco na
Internet têm um mesmo ponto em comum: são algoritmos computacionais. Direta ou
indiretamente, eles também merecem atenção por terem possibilitado as práticas desse
movimento. No capítulo seguinte serão analisados com profundidade os aspectos sociais
desses algoritmos.
 30

4. ALGORITMOS, IDENTIDADE E RAÇA

A guerra costuma ser um dos principais motores da inovação tecnológica. Foi a

Primeira Guerra Mundial que levou aos ares os primeiros aviões que anos depois cruzariam
oceanos transportando civis, a própria Internet como conhecemos hoje é consequência da
ARPANET, um projeto de pesquisa militar norte-americano dos anos 60. Durante o auge da
Segunda Guerra Mundial a capacidade de decifrar as comunicações do inimigo era uma
vantagem estratégica importantíssima. Os esforços de criptanálise aliada foram largamente
apoiados pelo uso de calculadores e computadores que processavam mensagens codificadas
segundo instruções predefinidas para decifrá-las, por algoritmos.
Hoje algoritmos já são fatores incontornáveis da vida contemporânea. Seja no
lançamento e alinhamento de satélites espaciais, em transações bancárias internacionais ou no
despertador diário de um smartphone, atualmente linhas de código são responsáveis por
realizar atividades das mais complexas às mais mundanas. Mas essa dependência tem seus
custos. Nesse capítulo será analisado um custo social específico desse processo cada vez mais
pervasivo de algoritmização das relações sociais: a problemática relação entre algoritmo e
raça. Como afirma O’Neil (2016), algoritmos não são mais que opiniões congeladas em
código. Logo, não seria absurdo afirmar que um algoritmo pode ser racista, por mais inusitado
que isso possa soar. Mas primeiramente é importante situar o algoritmo no interior de uma
tendência social já existente, qual seja, a quantificação da sociedade.
De acordo com Mau (2019) a quantificação é efetivamente um processo de tradução
matemática, um processo que permite a expressão de fenômenos extremamente complexos
em termos numéricos cuja compreensão é universal. Na medida em que números são
associados a proporções e correspondências fixas, variações previsíveis, validade universal e
comprovável, enfim, à suposta universalidade da matemática, quantificações possuem um
certo verniz de neutralidade e objetividade que lhes garante ampla credibilidade, perante a
opinião pública (MAU, 2019 pp. 12-14). Consequentemente, a quantificação é também um
processo de atribuição de valor, dado que a neutralidade numérica é tomada como algum tipo
de instrumento acima de qualquer interesse. Mas esses efeitos são eficazes apenas na medida
em que a quantificação é encarada acriticamente como um processo natural em vez de uma
construção ativa de sentido que é afetada inclusive pelos próprios números, supostos arautos
desinteressados, portadores do sentido universal da matemática. A perspectiva numérica
 31

exclui todas as outras perspectivas que poderiam ser expressas por outro meios (MAU, 2019
p. 15).
De fato, a quantificação precisa ser tomada como um dado para que os números
possam exercer seu frio carisma (MAU, 2019 pp. 13). Compreender a tendência de
quantificação social implica compreender as demandas e pressões sociais que constroem a
objetividade numérica. De um ponto de vista histórico a quantificação não é um processo
novo. Na economia ela remonta pelo menos ao surgimento dos primeiros instrumentos de
contabilidade e na política o surgimento do Estado moderno e a realização de censos
populacionais.
Mas na sociedade contemporânea esse processo é impulsionado por dois fatores: a
digitalização e a economicização. O primeiro diz respeito à enorme capacidade de coleta,
processamento e armazenamento de dados proporcionada pelas novas tecnologias associadas
à internet e à computação digital no geral (MAU, 2019 p. 21). Já o segundo refere-se à
subordinação cada vez maior de diversas áreas da vida social a critérios de lucro e otimização
econômica. Como consequência, aqueles com maior acesso a dados e sua respectiva
infraestrutura de armazenamento e processamento são também aqueles com maior capacidade
de definir o que é ou não é socialmente relevante e usar esses dados de acordo com os
próprios interesses no geral (MAU, 2019 p. 22).
Esse fator é por sua vez parte de uma tendência econômica mais ampla, o
neoliberalismo. O individualismo extremo e a obsessão por performance geram um ambiente
propício para a proliferação de status, históricos e testes quantitativos [relacionados às coisas
mais diversas. Com efeito, há íntima relação entre o neoliberalismo e a digitalização. Como
argumenta Morozov (2017), o foco excessivo na inovação tecnológica esconde o amplo
contexto político e econômico neoliberal que condicionou-a. A crise financeira de 2008,
causada essencialmente pela desregulamentação do sistema financeiro norte-americano, gerou
um corte de gastos que atingiu profundamente as já enfraquecidas instituições do Estado de
bem-estar social. Uma vez esvaziada essa rede de proteção social pública, surgiu espaço para
a exploração econômica desses setores por parte de empresas privadas. E foi nesse cenário
favorável que proliferaram as maiores plataformas digitais, oferecendo gratuitamente serviços
que antes dependiam de instituições públicas para serem fornecidas ao passo que construíam a
imagem pública de solução técnica para problemas sociais (MOROZOV, 2017 pp. 43-61).
 32

A comparação é um ato socialmente condicionado. Para que diferentes elementos

sejam comparados, é necessário que sejam referidos a um terceiro elemento comum e, acima
de tudo, que esses dois elementos sejam considerados semelhantes o suficiente para seja
admitida a possibilidade de comparação (MAU, 2019 pp. 26-27). Visto que a matemática é
tida como fonte de precisão e objetividade, o uso de números permite a universalização da
comparação sem que seu aspecto social seja levado em consideração e, consequentemente,
sem que o próprio ato de comparação seja criticado (MAU, 2019 p. 32).
Indicadores, ratings e benchmarks exercem função similar ao dinheiro de reduzir
diferenças qualitativas a diferenças quantitativas que podem ser ordenadas e hierarquizadas.
Quando aplicados a pessoas, esses indicadores referem-se à posição e ao status social de cada
indivíduo e, consequentemente, atuam como atribuidores de valor (MAU, 2019 p. 36). Logo,
tais indicadores buscam representar quantitativamente a posição social de cada pessoa sem
que seus aspectos qualitativos, especialmente aqueles relacionados a sua subjetividade, sejam
levados em consideração.
Dessa forma, números passam a exercer grande influência sobre a estima social e o
autovalor de cada pessoa e, além disso, geram um ambiente de constante competição e
fixação por performance pois de fato ninguém desejaria que sua estima fosse desvalorizada
(MAU, 2019 p. 28). Em suma, números estendem a comparabilidade entre elementos distintos
a despeito de suas idiossincrasias qualitativas e da distância espacial e temporal que os
separam. PIBs nacionais, tempo gasto em redes sociais e número de passos dados por dia
passam a ser comparáveis e até mesmo associáveis independente do contexto que geraram tais
dados (MAU, 2019 p. 40).
Além disso, a quantificação gera uma aproximação entre estimação e estima cuja
consequência é a constante ameaça ao próprio autovalor e a adoção de práticas que busquem
protegê-lo. Um sujeito que percebe uma diminuição no número de seguidores em seu perfil de
alguma rede social e associa-a a uma degradação de sua própria reputação ou de seu valor
social pode adotar estratégias de otimização relacionadas a própria atividade na rede social
para reparar o dano à própria estima. Mas como esse dano é percebido através de um
indicador quantitativo, essa estratégia de otimização é também subordinada à valoração
quantitativa do próprio indicador (MAU, 2019 p. 36-38). Indicadores quantitativos, então,
geram um ciclo vicioso: suas classificações geram uma insegurança que só pode ser
remediada por meio de uma maior adesão a essas classificações.
 33

Rankings e ratings são exemplos primorosos desse ciclo vicioso. Esses dois tipos de
indicadores buscam fornecer um instrumento simples e acessível para visualizar informações.
No entanto, um dos seus maiores efeitos é a hierarquização . Ao ordenar diversos dados em
um quadro comum de classificação quantitativa, rankings e ratings atuam como guias
supostamente objetivos de avaliação social. A distância espacial, temporal e social entre
fatores diversos resumida num único valor numérico passa a ser substituída pela distância
meramente numérica entre diferentes indicadores organizados numa mesma lista quantitativa
que, por sua vez, passa a ser comparável com outras distâncias numéricas entre outros valores.
Especificamente, ratings são avaliações de performance relacionados a um conjunto de
pontuações padronizados, são como notas, enquanto rankings são listas dedicadas a ordenar
dados de acordo com um mesmo critério quantitativo (MAU, 2019 pp. 41-45). Quando
aplicados a pessoas, ratings e rankings geram uma quantificação da própria reputação social,
já que podem ser facilmente visualizados por qualquer um.
Além disso a participação nesses indicadores é praticamente inescapável. A constante
coleta e disponibilização de dados associadas às novas tecnologias digitais e ao chamado Big
data fazem com que o custo de evitar completamente a captura dos próprios dados por esses
indicadores seja simplesmente muito alto: por um lado, um indivíduo precisaria tomar
inúmeros medidas para proteger a privacidade de seus dados; por outro, não participar de
nenhum desses indicadores significa não participar de um instrumento cada vez mais
relevante para a avaliação social, significa aceitar as consequências da exclusão social (MAU,
2019 p. 44). Mas ainda falta analisar um aspecto da quantificação social: suas fontes de
legitimidade.
Como já mencionado, classificações, representações e padrões de percepção no geral
são criações coletivas. O mundo simbólico, como um todo, é socialmente construído. Dado
que o convívio social é um processo mutável permeado por uma série de conflitos e interesses
distintos, também seus símbolos são bens constantemente disputados. Mau (2019) utiliza o
conceito bourdieusiano de poder de nomeação, a capacidade de conferir legitimidade a
interpretações específicas de fenômenos sociais, para analisar a relação entre legitimidade e
quantificação (MAU, 2019 pp. 111-112). A ordem simbólica de uma sociedade é central para
a sua estrutura, ou seja, a posição social ocupada por seus membros, assim como para sua
estruturação, a reprodução dessa mesma estrutura, pois permite a diferentes atores legitimar
 34

simbolicamente sua posição e status e deslegitimar aquela de seus concorrentes nos mais
diferentes campos.
A instituição mais obviamente relacionada ao poder de nomeação é o Estado, cuja
principal função é exercer o monopólio da classificação correta, que como já mencionado tem
uma relação íntima com a quantificação devido ao uso da estatística (MAU, 2019 p. 113). Daí
vem grande parte da grande legitimidade possuída por números, mas há também o sistema de
preços da economia e grupos de experts com sua credibilidade. Na economia é o sistema de
preços que estrutura quantitativamente os processos básicos de competição ao enviar sinais
padronizados que permite aos agentes planejar seu consumo e produção e, consequentemente,
levar a uma melhor alocação de recursos no geral (MAU, 2019 pp. 116-118). Já o grupo de
experts é o conjunto de pesquisadores, cientistas, e outros quadros técnicos que costumam ser
encarregados de criar e aplicar indicadores quantitativos, garantindo assim certa credibilidade
a eles (MAU, 2019 pp. 119-121).
Mas o elemento fundamental para a legitimidade numérica contemporânea é o
algoritmo. Sua maior característica é atribuir, selecionar e processar sentido automaticamente
a partir da informação inserida sem necessidade de qualquer tipo de justificativa ou escrutínio
social porém sem perder seu verniz de objetividade (MAU, 2019 pp. 124-125). Embora em
última instância criados, administrados, e executados por especialistas, algoritmos têm uma
autoridade própria devido ao seu funcionamento específico. Essa autoridade será analisada e
exemplificada ao longo das próximas páginas, primeiramente a partir do fenômeno Big Data.
No geral Big Data é um termo guarda-chuva utilizado para descrever vários fatores
associados à coleta e o processamento de dados em grande escala com o objetivo de realizar
predições estatísticas e delas extrair algum tipo de valor. Sua definição é profundamente
contestada, diversos pesquisadores já propuseram mais de dez características para defini-lo
(KITCHIN, MCARDLE, 2016 pp. 1-2). No geral, as características mais relevantes para
considerar se um conjunto de dados pode ou não ser considerado Big Data são volume
(quantidade de dados), velocidade (geração de dados em tempo real), variedade (variedade de
dados entre si), exaustividade (o uso de dados de toda a população em vez de utilizar
amostras), resolução/indicialidade (grosso modo, a precisão, a capacidade de associar um
número de dados cada vez maior a um único identificador), relacionalidade (presença de
campos de dados comuns que permitem relacionar diferentes conjuntos de dados),
extensibilidade/escalabilidade (a facilidade de adicionar, modificar e expandir novos campos
 35

de dados) (KITCHIN, MCARDLE, 2016 pp. 3-6). Porém mais relevante para este estudo são
as consequências sociais das práticas associadas a Big Data.
Como argumentam Boyd e Crawford (2012), a emergência do Big Data tem seis
consequências sociais críticas dignas de atenção. A primeira delas é a definição de
conhecimento. Na medida em que enquadra questões em termos numéricos que só podem ser
respondidos através da análise massiva de dados, o Big Data gera uma compreensão tão
específica da realidade que influencia toda a epistemologia, a produção de conhecimento
passa a ser considerado um processo computacional e privado (BOYD, CRAWFORD, 2012
pp. 665-666). Os princípios de generalização e replicabilidade, centrais para a produção
científica contemporânea, são deixados de lado em nome de uma produção de conhecimento
imediatista, preocupada com aplicações comerciais (SCHROEDER, 2017 p. 130).
Outra consequência é a falsa reivindicação de precisão e objetividade. Como já visto,
essa reivindicação é extremamente problemática pois a tradução da realidade em dados
numéricos nunca é uma representação perfeita. A noção de que uma quantidade maior de
dados necessariamente leva uma qualidade maior de dados é também outra consequência
perniciosa da Big Data (BOYD, CRAWFORD, 2012 pp. 668-669). Toda manipulação
científica de dados pressupõe mecanismos para controlar vieses e avaliar a qualidade de
dados. Pesquisas que utilizam vários conjuntos de dados em grande volume muitas vezes
ignoram esses desafios metodológicos relacionados a qualidade dos dados em nome da
quantidade.
Também relacionada ao volume, a quarta consequência é o falso senso de equivalência
(BOYD, CRAWFORD, 2012 pp. 670-671). A grande disponibilidade de dados referentes a
redes sociais distintas gera a ideia errônea de que métodos e conclusões apropriadas a um
objeto de pesquisa são automaticamente apropriados a outro objeto, a despeito da diferença do
contexto que gera esses dados. Outro aspecto problemático é a ética em relação a coleta e
processamento de dados, não é porque os dados estão disponíveis que eles podem ser
utilizados livremente (BOYD, CRAWFORD, 2012 pp. 672-673). Dados anonimizados e
metadados não são garantias de privacidade, pois podem ser reconstituídos até tornarem-se
identificadores. A utilização e divulgação irrefletida desses dados pode gerar abusos e até
mesmo colocar indivíduos em perigo. Por último, há a questão da desigualdade. Apesar de
representar uma facilitação significativa do acesso a dados, utilizar as tecnologias associadas à
Big Data ainda exige uma série de habilidades específicas cuja obtenção é socialmente
 36

condicionada (BOYD, CRAWFORD, 2012 pp. 673-675). Universidades continuam sendo as

principais fornecedoras dessas habilidades, e as melhores universidades são as que possuem
melhores condições de gerarem os profissionais mais desejados pelas empresas mais
capacitadas para fazer pesquisas de Big Data, como as empresas de redes sociais.
No entanto, o volume e a exaustividade do Big Data não expressam nada por si
mesmo. A mineração de dados e a modelagem matemática são processos fundamentais para
dar sentido a esse caos informacional. Ao analisar criticamente do aprendizado de máquina
aplicado a imagens, o chamado machine vision, Crawford e Paglen (2019) fornecem um
ótimo panorama dos aspectos políticos da mineração de dados. O primeiro passo para o
aprendizado de máquinas é a seleção de dados. Para aprender a reconhecer padrões
automaticamente um algoritmo necessita entrar em contato com um grande conjunto de dados
(CRAWFORD, PAGLEN, 2019 paginação irregular). No caso de uma imagem o algoritmo
realiza uma análise estatística de cada imagem do conjunto para melhorar incrementalmente
sua capacidade de reconhecer diferentes classes de imagem. Logo, o conjunto de dados usado
como treinamento para o algoritmo é uma seleção, um recorte.
ImageNet, uma das mais populares bases de dados de imagens, também rotula grupos
de imagens baseado numa hierarquia de significados específica, a WordNet. E essa
classificação é, assim como qualquer outro sistema de classificação, politicamente motivado.
A categorização de indivíduos como brancos, negros, esquizofrênicos, malucos, etc. é em si
mesmo um ato político, e o fato dessa classificação residir na base da produção de um
algoritmo de aprendizado de máquina abala de vez o verniz de neutralidade desses algoritmos
(CRAWFORD, PAGLEN, 2012 paginação irregular).
Dois pontos problemáticos dessa classificação são a privacidade e a própria existência
dessas categorias. Esse banco de dados não apenas retira suas imagens a partir de buscas na
Internet sem a permissão das pessoas retratadas como também as expõe segundo sua rotulação
própria para qualquer pessoa com acesso à Internet (CRAWFORD, PAGLEN, 2012 paginação
irregular). Além disso, a inscrição dessas classificações em algoritmos sem nenhuma
discussão sobre a existência real dessas classes é em si mesmo um ato político. Treinar um
algoritmo segundo categorias raciais, que do ponto de vista biológico são inexistentes,
significa treinar um algoritmo segundo uma agenda cultural e política específicas
(CRAWFORD, PAGLEN, 2012 paginação irregular). Nesse sentido, o problema
 37

epistemológico é substituído por uma solução política: o algoritmo passa a ser reprodutor de
categorias politicamente motivadas.
Também central para a criação de sentido a partir do volume de dados do chamado Big
Data é a modelagem estatística. Segundo O’Neil (2016) todo modelo matemático é antes de
tudo uma simplificação abstrata da realidade. Dada a impossibilidade de abarcar
completamente a realidade, modelos utilizam dados passados para fazer estimativas em
relação ao futuro. Como consequência, a escolha dos dados que são incluídos e excluídos é
condicionada pela escolha humana, ou seja, é orientada por todos os preconceitos que
circulam na sociedade (O’NEIL 2016 paginação irregular, cap. I). Além disso, a grande
subjetividade desse processo significa também que não existe critério decisivo para julgar o
sucesso de um modelo, em última instância ele também é uma questão de opinião. Nas
palavras da autora, o modelo “codifica o passado, não inventa o futuro” (O’NEIL 2016
paginação irregular, cap. I).
Como é sabido, identidades são significados formados coletivamente na interação
social. Consequentemente, a captura e processamento algorítmico desses significados
pressupõe algum tipo de modelagem matemática que invariavelmente será imperfeita e
socialmente condicionada.
O papel desempenhada pelos chamados metadados é ilustrativa da forma como a
identidade é apreendida por algoritmos. Metadados são dados sobre dados, são informações
que descrevem as características de algum dado mas não apresentam nada sobre a conteúdo
do dado em si. Em relação a um livro ou arquivo de texto, o número de páginas e de
carácteres, tamanho em bytes, nome do autor, e data de criação são exemplos de metadados
enquanto o próprio conteúdo do texto são os dados.
Quando relacionado ao comportamento humano, o uso algorítmico de dados revela
duas coisas: primeiro, o grande desafio da proteção da privacidade no mundo digital, pois
dado o grande volume de dados coletáveis possibilita que metadados sejam suficientes para
várias aplicações estatísticas, ou seja, não se precisa saber o nome e local de nascimento de
cada pessoa para saber se uma página web é popular em certo país, basta saber o número e o
local de acesso (há formas de esconder essa informação, porém não costumam ser utilizadas e
nem mesmo pelo usuário comum) para que essa questão seja respondida; e segundo,
identidades, comportamentos e até mesmo relações pessoais podem ser inferidas através
desses dados “distantes”, basta que sejam categorizados de alguma forma que seja
 38

interpretável e processável por algoritmos. Esse é o ponto no qual a quantificação e a

automação se encontram para gerar consequências sociais sem precedentes.
Como já visto, essa categorização é, como já visto, em última instância arbitrária, dado
que não há critério objetivo universalmente válido para classificar a realidade empírica. Mas
no caso da identidade e do comportamento humano, essa categorização quantitativa gera
efetivamente uma realidade paralela ao mesmo oculta e condicionante. Em referência a
Weber, Chenney-Lippold (2017) descreve essa categorização como a construção de tipos-
mensuráveis, moldes quantitativos construídas exclusivamente a partir de informação
mensurável que permitem identificar e classificar os fenômenos que cabem nesses moldes
(CHENNEY-LIPPOLD 2017 paginação irregular, cap. I).
Assim como seu paralelo weberiano, tipos-mensuráveis são meras abstrações teóricas
úteis para auxiliar a compreensão social, mas quando utilizados para influenciar diretamente
os objetos que pretendem descrever geram uma norma, um padrão a partir do qual todas as
observações desviantes são consideradas anormais. Dado que a identidade humana é um
fenômeno extremamente mutável construído coletivamente pela percepção do outro sobre si,
subjetivamente pela percepção íntima que o sujeito tem sobre si próprio e reflexivamente pela
autopercepção através de critérios socialmente estabelecidos, então a compreensão da
identidade através de tipos-mensuráveis implica na essencialização da identidade
(CHENNEY-LIPPOLD 2017 paginação irregular, cap. I).
Essa essencialização não é em si mesma uma novidade, considerando a constante
mutabilidade toda classificação desse tipo, seja ela feita pelo próprio sujeito ou não, é também
uma essencialização. Mas a classificação algorítmica tem uma característica específica: ela
ocorre sem o consentimento, o conhecimento, nem a cooperação do sujeito, ela prescinde
completamente da agência consciente daqueles que são classificados, especialmente nos casos
em que algoritmos dinâmicos são utilizados, pois tendem a virar caixas-pretas.
Nesse sentido, o algoritmo na verdade realiza uma reessencialização da identidade de
acordo com os critérios utilizados pelos seus programadores que gera sobre os sujeitos um
controle sobre o qual eles não tem capacidade alguma de resistir pois é um controle ocorrido
segundo critérios algorítmicos inacessíveis, diferentes da coerção disciplinar exercida pelas
instituições políticas tradicionais (CHENNEY-LIPPOLD 2017 paginação irregular, cap. I).
Como no caso dos rankings e ratings, tipos-mensuráveis influenciam a autopercepção e a
 39

percepção de valor pessoais quando expostos, fato que leva também a uma certa capacidade
de influência do comportamento individual.
Quando encarados a partir de uma perspectiva populacional, essa influência demonstra
características diferentes do já conhecido fazer viver e deixar morrer disciplinar da
biopolítica, é o que Chenney-Lippold descreve como biopolítica suave (CHENNEY-
LIPPOLD 2017 paginação irregular, cap. I). A partir dos comentários feitos por Deleuze sobre
a sociedade disciplinar (DELEUZE 1992 pp. 1-4), o autor aponta que a característica
fundamental desse novo controle é sua modularidade, sua capacidade de abarcar variedade
sem necessitar alterar completamente toda sua programação. Segundo a tradicional metáfora
do panóptico, enquanto na sociedade disciplinar o conjunto dos sujeitos é coagido através da
constante vigilância disciplinar a partir de um ponto central, na sociedade de regulação
algorítmica os sujeitos não precisam conformar-se a um modelo disciplinar centralmente
imposto pois a vigilância e a coerção são perfeitamente capazes de adaptar-se a variabilidade
e reconfigurar-se para mantê-la sob controle, ou seja, esse novo mecanismo de controle é
perfeitamente capaz de lidar com os sujeitos enquanto dividualidades, sem necessitar que
comportem-se segundo um estreito modelo de individualidade (FOUCAULT 2013 pp. 190-
223; CHENNEY-LIPPOLD 2017 paginação irregular, cap. I, II).
Dado o enorme número de diferentes algoritmos e formas de rastreamento digital com
o qual o internauta comum entra em contato diariamente, para ele essa nova forma de coerção
tende a ser largamente invisível e irresistível, além de imprevisível visto que a propriedade
privada do código fonte do algoritmo costuma gerar falta de transparência diante do público.
Logo, essa captura da identidade gera um afastamento entre o indivíduo e sua capacidade de
controlar sua própria identidade, uma diminuição de sua agência que gera consequências
sociais reais.
Quando relacionados à raça esses processos algorítmicos geram uma forma de
segregação específica mas não sem precedentes, aquilo que Benjamin (2019) chama de Novo
Jim Code em alusão às leis Jim Crow e a segregação racial nos EUA. Como já visto
algoritmos, apesar de serem tidos como objetivos, realizam uma construção de sentidos de
acordo com as instruções feitas por seus criadores. Mas como argumenta Benjamin (2019), a
raça é também um código social arbitrário utilizado para discriminar normais e anormais e
justificar uma série de desigualdades (BENJAMIN 2019 paginação irregular, cap. I, II).
 40

A construção de uma diferença genética a partir de alguma diferença fenotípica com o

objetivo de naturalizar diferenças sociais e justificar segregações é uma abstração tão
logicamente insustentável e politicamente motivada quanto a identificação do gênero de uma
pessoa por meio de algoritmos que rastreiam dados relacionados ao histórico de páginas
acessadas na web. Ambas pressupõe um recorte de realidade, uma seleção de dados
específicos ao custo da exclusão de outros para serem construídos. Ademais, ambas são
ficções criadas a partir da realidade empírica cuja aplicação prática descritiva ou preditiva é
no máximo uma estimação, quando não completamente nula. No caso da raça, essa abstração
visa a efeitos políticos específicos e pode ser publicamente identificada, analisada e até
penalizada de acordo com as leis vigentes. No caso do algoritmo, busca alcançar vantagens
econômicas e costuma permanecer escondido do público como propriedade privada. Quando
ambos se fundem, surge uma tecnologia socialmente legítima e protegida da crítica capaz de
gerar castas digitais que exercem influência palpável sobre a sociedade (BENJAMIN 2019
paginação irregular, cap. IV).
Foi a partir de uma pesquisa casual no Google que Noble (2018) percebeu o enorme
impacto que o maior motor de buscas do mundo exerce na perpetuação da discriminação
racial. Ao inserir “black girl” na barra de texto e realizar a busca, o Google retornou como
resultado uma série de links e imagens relacionados a sexo e pornografia, conteúdo que
reproduz o estereótipo racial de hipersexualização de pessoas negras (NOBLE 2018
paginação irregular, cap. I). A partir desse caso a socióloga norte-americana analisa como o
algoritmo do Google, ferramenta de pesquisa supostamente neutra e confiável, é capaz de
reproduzir ficções raciais tão perniciosas.
A busca no Google é processada por uma série de algoritmos que, por serem
proprietários, são no geral inacessíveis para o público, porém o mais notável dos algoritmos
de busca, o PageRank, foi anos atrás criado e publicado pelos próprios fundadores da empresa
(NOBLE 2018 paginação irregular, cap. I). Grosso modo, seu funcionamento tem como base
a chamada análise de citação, um método de estudo já estabelecido academicamente que
pretende identificar a relevância de um texto a partir do número de vezes que ela é citada por
outros textos. No caso do PageRank, os links entre páginas são interpretados como citações
que, por sua vez, são processadas segundo um modelo matemático específico e utilizadas
como critério para definir a posição de cada página na lista de resultados. Dessa forma, esse
algoritmo essencialmente classifica a relevância de uma informação para a busca feita pelo
 41

usuário de acordo com o número de links que a página web que contém essa informação
possui em relação a outras páginas web (NOBLE 2018 paginação irregular, cap. I).
Embora haja mecanismos capazes de reduzir essa influência direta da quantidade de
links na relevância da busca (por exemplo algum tipo de filtro ou algum algoritmo auxiliar), é
evidente que em última instância um sistema desse tipo é passível de cometer erros factuais e
vulnerável a ser manipulado por páginas e links criadas para influenciar a posição de algum
tipo de informação na hierarquia de resultados. Diferentemente do caso de documentos
pesquisados num contexto acadêmico, as citações entre páginas web não são submetidas à
avaliação criteriosa e pública de uma comunidade de especialistas capaz de avaliar a
qualidade dessas citações, ou seja, de diferenciar popularidade e factualidade, o buscador do
Google é uma caixa-preta algorítmica cujo objetivo é associar informações populares a termos
buscados pelo usuário (NOBLE 2018 paginação irregular, cap. I). Esse aspecto fica ainda
mais claro com os mecanismos de monetização em torno do buscador: o AdWords,
mecanismo de marketing próprio do Google; e a otimização de motores de busca (SEO), uma
técnica de publicidade digital.
O AdWords permite que anunciantes possam associar suas páginas e peças
publicitárias a certas palavras-chave. Quando o usuário faz uma busca que inclua algum
desses termos, a plataforma mostra junto aos resultados um anúncio que seja capaz de atrair
sua atenção e, caso o usuário clique nesse anúncio, o Google então cobra do anunciante o
valor do chamado CPC, custo por clique (NOBLE 2018 paginação irregular, cap. I). Esse
sistema permite ao anunciante pagar por uma associação de informações vantajosa para si de
forma mais eficaz (dado que ele paga por cada engajamento individual com seu conteúdo em
vez de, por exemplo, pagar pela veiculação de um anúncio na televisão que não
necessariamente atingirá a quantidade estimada de pessoas) enquanto gera ao Google sua
principal fonte de renda, a receita publicitária, responsável por mais de U$ 130 bilhões apenas
no ano de 2019 (STATISTA 2020). Consequentemente, qualquer pessoa disposta a gastar
dinheiro pode influenciar no resultado de uma pesquisa no Google através de um mecanismo
próprio da plataforma, fato que esclarece o papel do Google como uma ferramenta
publicitária em vez de um mecanismo público e neutro de busca de informação.
Mas para além do AdWords há também outra forma de interferir na lista de resultados
geradas por um buscador. A SEO consiste numa série de técnicas utilizadas para melhorar o
posicionamento de uma página na listagem de algum motor de buscas. Similarmente ao
 42

AdWords, o uso de palavras-chave para criar associações e dirigir o tráfego do usuário a

determinada página, porém a SEO também envolve outras técnicas, como a descrição do
conteúdo da página, seu título e até mesmo as palavras no endereço virtual, destinadas a atrair
cliques sem a necessidade de contratar o serviço próprio da plataforma. Nesse sentido, é
possível dizer que empresas de SEO e a Google são em algum grau concorrentes, pois ambas
fornecem o mesmo serviço de publicidade associada à pesquisa online (NOBLE 2018
paginação irregular, cap. I).
Isso significa que apesar do verniz de neutralidade e utilidade pública o motor de
buscas do Google é muito mais uma ferramenta de marketing que uma ferramenta de
pesquisa. Tanto a própria empresa criadora quanto empresas e indivíduos que praticam SEO
manipulam comercialmente o resultado das pesquisas feitas através do buscador do Google, o
link no topo da lista de resultados será aquele que foi melhor financiado, não necessariamente
aquele que mais se aproxima da busca feita pelo usuário (NOBLE 2018 paginação irregular,
cap. I). Em relação à pesquisa sobre “black girl”, é possível que o resultado tenha sido
consequência da otimização de buscadores feita por empresas da indústria pornográfica, do
pagamento direto para a plataforma através do AdWords ou até mesmo de algum outro
algoritmo auxiliar (NOBLE 2018 paginação irregular, cap. II). O ponto é que a pesquisa
virtual gerou um resultado racista por meio da autoridade que essa ferramenta tem com o
público, o motor de buscas do Google reproduziu e, graças ao seu prestígio público, legitimou
o racismo.
Isso levanta uma série de questões sobre o papel político dessa plataforma de buscas.
Apesar de ter plena capacidade de eliminar conteúdo ilegal das buscas segundo as leis de cada
país, a presença de conteúdo racista revela uma preocupação apenas parcial da empresa com
as implicações sociais do conteúdo gerado por seu algoritmo, já que a ausência de uma
tipificação legal específica sobre o potencial discriminatório de algum conteúdo digital não
implica na inexistência desse potencial nem tampouco na ausência de eventuais danos morais
e físicos àqueles que são alvo desse conteúdo (NOBLE 2018 paginação irregular, cap. I).
Igualmente, essa reprodução algorítmica de estereótipos raciais também aponta para a falta de
indivíduos afetados por esse estereotipamento na equipe de desenvolvedores e
administradores desse algoritmo, pois eles teriam maior capacidade de questionar esse tipo de
coisa (NOBLE 2018 paginação irregular, cap. II). Como um todo essa situação revela, acima
de tudo, o grande desequilíbrio de poder entre proprietários e desenvolvedores no geral e
 43

indivíduos, especialmente aqueles que já são alvo de discriminação fora do mundo digital
(NOBLE 2018 paginação irregular, cap. II).
Esse caso do buscador do Google demonstra como indivíduos perdem qualquer
agência sobre seus dados e em grande medida sobre sua própria identidade diante de
algoritmos proprietários guiados por interesses comerciais privados. Como a Internet é
organizada segundo os interesses comerciais das companhias mais poderosas, os resultados
problemáticos dessa organização afetam mais profundamente aqueles em posições sociais
desfavorecidas, pois o alcance da regulação pública e a própria identificação desses resultados
é limitada pelo caráter privado dos algoritmos que geram tais problemas, a categorização
racial torna-se incriticável.
Como já visto, a reprodução de desigualdades e discriminações sociais é uma
tendência do mundo digital. Seja por meio da codificação de estereótipos raciais em algoritmo
do chamado “Novo Jim code”, seja por meio da facilidade de orquestração e expansão de
grupos supremacista, as tecnologias digitais associadas à Internet definitivamente amplificam
o alcance da ação individual, mas ainda falta analisar esse efeito em termos de sua capacidade
de estruturação.
Tanto a tecnologia racial quanto a digital influenciam a agência de forma específica,
mas apenas os algoritmos digitais são capazes de exercer agência de forma automatizada, ou
seja, fora da capacidade reflexiva dos agentes sociais. A partir do modelo proposto por
Giddens (1979; 1984) isso significa que enquanto a ação individual é conscientemente
monitorada tanto pelo próprio agente quanto por outros indivíduos, a ação algorítmica, em si
mesma produto de instruções programadas por indivíduos, não permite qualquer tipo de
monitoração reflexiva por parte de outros indivíduos a não ser que tenham livre acesso ao
código-fonte e possuam o conhecimento técnico necessário para interpretá-lo. Apenas no caso
de algoritmos de aprendizado de máquina é possível dizer que há certo grau de
monitoramento reflexivo, porém ainda assim é uma reflexividade limitada pois é
consequência de um automonitoramento incorporado no código por meio da programação.
Nesse sentido, algoritmos são, do ponto de vista da agência, agentes cujas ações
sempre geram consequências não-intencionais e também imprevisíveis tanto para seus
programadores quanto para seus usuários, já que nenhum dos dois é plenamente capaz de
prever as consequências da interação com o algoritmo. Pelo ponto de vista da estrutura
algoritmos, na medida em que são ao mesmo tempo instruções criadas por indivíduos
 44

destinadas a realizar certa ação a partir da entrada de alguma informação, são ao mesmo
tempo agentes e estruturas de um determinado sistema, geram um processo de estruturação
automatizada.
Então a tendência de reprodução estrutural deve ser melhor qualificada de acordo com
a estrutura e a sociedade específica em questão. No caso do racismo e das tecnologias de rede
digitais, essa reprodução conta com algoritmos proprietários de empresas privadas
predominantemente norte-americanas. Logo, as estruturas raciais digitalmente reproduzidas
são predominantemente aquelas presentes na sociedade norte-americana. A globalização
desigual da sociedade em rede é, também, uma globalização de desigualdades sociais
específicas.
 45

5. CONSIDERAÇÕES FINAIS

O racismo online, portanto, é um fenômeno social complexo. Se por um lado a

presença do supremacismo branco na Internet é consequência direta da existência desse
movimento fora das redes digitais, ou seja, é consequência direta das ações de agentes que
reproduzem na web estruturas sociais preexistentes, por outro lado essa agência apoia-se nas
ações automatizadas de sistemas algorítmicos, aos quais o acesso costuma ser restrito a
empresas privadas, programados com o objetivo explícito de gerar valor econômico para seus
proprietários e que, como consequência, também reproduzem, inadvertidamente ou não,
estruturas sociais preexistentes.
Nesse sentido, o processo de formação de comunas identitárias típico da sociedade de
rede fundem-se tanto com as práticas culturais inovadoras possibilitadas por interações sociais
possibilitadas por diversas plataformas online baseadas na tecnologia digital quanto com a
raça, uma ficção social usada como tecnologia para classificar diferenças humanas e legitimar
ou deslegitimar identidades e práticas sociais.
Para além desses fatos identificados por este estudo também é necessário reconhecer
suas implicações metodológicas. Na medida em que a agência online é produto de diversos
fatores, a compreensão da estruturação social online exige análise minuciosa da interação
individual com um conjunto de instruções programadas por outros indivíduos segundo
orientações geralmente comerciais; do contexto social que orienta os usuários desse
algoritmos; da quantidade de informação sobre si que algoritmos são programados para
esconder e revelar aos usuários; as instruções computacionais em si executadas pelo
algoritmo; os princípios que orientam os programadores na criação dessas instruções; e as
causas e efeitos sociais pretendidas ou acidentais desses diversos fatores, tanto combinados
entre si quanto considerados individualmente. Apenas mediante uma pesquisa profunda que
considere todos esses aspectos seria possível identificar uma solução eficaz para as diversas
consequências negativas identificadas neste estudo.
 46

6. REFERÊNCIAS

ALMEIDA, Roberto. Racismo estrutural. São Paulo: Pólen, 2019.

BARLOW, John Perry. A declaration of the independence of cyberspace. Davos, 1996.

Disponível em: <https://www.eff.org/cyberspace-independence> Acessado em: 14/12/2020.

BENJAMIN, Ruha. Race after technology: abolitionist tools for the new Jim code.
Cambridge: Polity Press, 2019.

BEZIO, Kristin. Ctrl-Alt-Del: GamerGate asa precursor to the rise ofthe alt-right.
Leadership, SAGE v. 14, n. 5, 2018.

BOYD, danah; CRAWFORD, Kate. Critical questions for big data. Information,
Communication & Society, Routledge 2012. Disponível em:
<https://www.bellisario.psu.edu/assets/uploads/criticalquestions.pdf> Acessado em:
10/12/2020.

BRAITHWHITE, Andrea. It’s About Ethics in Games Journalism? Gamergaters and

Geek Masculinity. Social Media + Society, SAGE 2016. Disponível em:
<https://journals.sagepub.com/doi/pdf/10.1177/2056305116672484> Acessado em:
14/12/2020.

CASTELLS, Manuel. O poder da identidade. São Paulo/Rio de Janeiro: Paz e Terra, 2010.

CASTELLS, Manuel. O poder da comunicação. São Paulo/Rio de Janeiro: Paz e Terra,

2015.

CHENNEY-LIPPOLD, John. We are data. Nova Iorque: New York University Press, 2017.

CISCO SYSTEMS, Cisco Annual Internet Report (2018–2023) White Paper. San José,
2020. Disponível em: <https://www.cisco.com/c/en/us/solutions/collateral/executive-
perspectives/annual-internet-report/white-paper-c11-741490.html> Acessado em: 12/12/2020.

COLEMAN, Beth. Race as technology. Camera Obscura. Durham: Duke University Press,
2009. Disponível em:
<https://pdfs.semanticscholar.org/e240/5022af48188822713ae7d8b3459bed30f748.pdf>
Acessado em: 10/12/2020.

CRAWFORD, Kate; PAGLEN, Trevor. Excavating AI: the politics of images in machine
learning training sets. Nova Iorque: The AI Now Institute, 2019. Disponível em
<https://www.excavating.ai/> Acessado em: 12/12/2020.
 47

DANIELS, Jessie. Cyber racism: white supremacy online and the new attack on civil
rights. Plymouth: Rowman and Littlefield Publishers, 2009.

DANIELS, Jessie. The algorithmic rise of the “alt-right”. Contexts, American Sociological
Association, v. 17, n. 1, 2018. Diponível em:
<https://journals.sagepub.com/doi/pdf/10.1177/1536504218766547> Acessado em:
10/12/2020.

DELEUZE, Gilles. Post-scriptum sobre as sociedades de controle. Rio de Janeiro: Editora

34, 1992. Disponível em:
<https://edisciplinas.usp.br/pluginfile.php/81001/mod_resource/content/1/TC%20Post
%20scriptum%20sobre%20as%20sociedades%20de%20controle.pdf> Acessado em:
15/12/2020.

DONATH, Judith. Identity and deception in the virtual community. In Communities in

Cyberspace. Londres: Routledge, 1999.

FOUCAULT, Michel. Em defesa da sociedade. São Paulo: Editora WMF Martins Fontes,
2010.

FOUCAULT, Michel. História da sexualidade 1: a vontade de saber. São Paulo: Editora

WMF Martins Fontes, 2017.

FOUCAULT, Michel. Vigiar e punir: nascimento da prisão. Petrópolis: Vozes, 2014.

GIBSON, William. Neuromancer. São Paulo: Aleph, 2008.

GIDDENS, Anthony. Central problems in social theory. Londres: Macmillan Education

1979.

GIDDENS, Anthony. The constitution of society. Cambridge: Polity Press, 1984.

HAWLEY, George. Making sense of the alt-right. Nova Iorque: Columbia University Press,
2017.

KITCHIN, Rob; MCARDLE, Gavin. What makes big data, big data? Exploring the
ontological characteristics of 26 datasets. Big data & Society, 2016. Disponível em:
<https://kitchin.org/wp-content/uploads/2019/04/BDS-2016-what-makes-big-data-big-
data.pdf> Acessado em: 13/12/2020.

KLEIN, Adam. Fanaticism, racism and rage online: corrupting the digital sphere. Nova
Iorque, Palgrave Macmillan: 2017.

KOETSIER, John. COVID-19 Accelerated E-Commerce Growth ‘4 To 6 Years’. Forbes,

Jersey City, 12 Jun. 2020. Disponível em:
<https://www.forbes.com/sites/johnkoetsier/2020/06/12/covid-19-accelerated-e-commerce-
growth-4-to-6-years/?sh=14f8691b600f> Acessado em: 12/12/2020.
 48

KOEZE, Ella; POPPER, Nathaniel. The Virus Changed the Way We Internet. The New
York Times, Nova Iorque, 7 Abr. 2020. Disponível em:
<https://www.nytimes.com/interactive/2020/04/07/technology/coronavirus-internet-use.html>
Acessado em: 12/12/2020.

MASSANARI, Adrienne. #Gamergate and The Fappening: How Reddit’s algorithm,

governance, and culture support toxic technocultures. New Media & Society, SAGE 2017.
Disponível em: <http://adriennemassanari.com/wp-content/uploads/2018/10/massanari-toxic-
nms.pdf> Acessado em: 14/12/2020.

MAU, Steffen. The metric society: on the quantification of the social. Cambridge: Polity
Press, 2019.

MILNER. The world made meme: public conversations and participatory media.
Cambridge: The MIT Press, 2016.

MOROZOV, Evgeny. Solucionismo, um conto de fadas. In: Big tech: a ascensão dos dados e
a morte da política. São Paulo: Ubu editora, 2018.

NAGLE, Angela. Kill all normies: the online culture wars from Tumblr and 4chan to the
alt-right and Trump. Winchester: Zero Books, 2017.

NOBLE, Safiya Umoja. Algorithms of oppression: how search engines reinforce racism.
Nova Iorque: New York University Press 2018.

O’NEIL, Cathy. Weapons of math destruction: how big data increases inequality and
threatens democracy. Nova Iorque: Crown, 2016.

OPENVAULT, OpenVault Broadband Industry Report (OVBI): Q1 Quarterly Advisory.

2020. Disponível em: <https://openvault.com/complimentary-report-Q120/> Acessado em:
12/12/2020.

PHILLIPS, Whitney. This is why we can’t have nice things: mapping the relationship
between online trolling and mainstream culture. Cambridge: The MIT Press, 2015.

SCHROEDER, Ralph. Social theory after the Internet. Londres: UCL Press, 2018.

STALDER, Felix. The digital condition. Cambridge: Polity Press, 2018.

STATISTA. Advertising revenue of Google from 2001 to 2019. Hamburgo, 2020.

Disponível em <https://www.statista.com/statistics/266249/advertising-revenue-of-google/>
Acessado em: 12/12/2020.

STATISTA. Number of internet users worldwide from 2005 to 2019. Hamburgo, 2019.
Disponível em: <https://www.statista.com/statistics/273018/number-of-internet-users-
worldwide/> Acessado em: 12/12/2020.
 49

STERN, Alexandra Minna. Proud boys and the ethnostate: how the alt-right is warping
the american imagination. Boston: Beacon Press, 2019.

ZUBOFF, Shoshana. The age of surveillance capitalism. Nova Iorque: PublicAffairs, 2018.