PLATAFORMIZAÇÃO,

INTELIGÊNCIA ARTIFICIAL
E SOBERANIA DE DADOS:
TECNOLOGIA NO BRASIL 2020-2030

Organização

Cláudio Penteado
Jerônimo Pellegrini
Sérgio Amadeu da Silveira

1
2
PLATAFORMIZAÇÃO,
INTELIGÊNCIA ARTIFICIAL
E SOBERANIA DE DADOS:
TECNOLOGIA NO BRASIL 2020-2030

Organização

Cláudio Penteado
Jerônimo Pellegrini
Sérgio Amadeu da Silveira

3
 O financiamento desta publicação integra o Termo de Fomento
CDRT n° 01/2020 Processo n° 0134/2020, realizado pelo Coletivo 660
representado pela Ação Educativa em convênio com a Secretaria
de Desenvolvimento Econômico, Ciência, Tecnologia (SDECTI)

Coletivo 660:
Chico Whitaker
Pe. Dário Bossi
Janaina Uemura
Jorge Abrahão
José Corrêa Leite
Luiz Marques
Mauri Cruz
Moema Miranda
Oded Grajew
Salete Valesan
Sérgio Haddad
Stella Whitaker

Licença Creative Commons

CC BY-NC Atribuição-NãoComercial (ou [cc] Ação Educativa, 2023)
Esta obra pode ser livremente compartilhada, copiada, distribuída
e transmitida, desde que as autorias sejam citadas e não se faça
nenhum tipo de uso comercial ou institucional não autorizado de
seu conteúdo.

4
PLATAFORMIZAÇÃO,
INTELIGÊNCIA ARTIFICIAL
E SOBERANIA DE DADOS:
TECNOLOGIA NO BRASIL 2020-2030

André Lemos
Cláudio Penteado
Débora Salles
Fernanda Bruno
Fernanda Campagnucci
Fernanda Rosa
Glenda Dantas
Helena Martins
Jader Gama
Jerônimo Pellegrini
José Correa Leite
José Paulo Guedes Pinto
Juliane Cintra
Larissa Ambrosano Packer
Nelson Pretto
Nina da Hora
Paulo Faltay
Paula Cardoso Pereira
Rafael Evangelista
Rafael Grohmann
Sérgio Amadeu da Silveira
Sivaldo Pereira da Silva
Tarcízio Silva
Wagner Meira Jr.

5
PLATAFORMIZAÇÃO, INTELIGÊNCIA ARTIFICIAL E
SOBERANIA DE DADOS: TECNOLOGIA NO BRASIL
2020-2030

Organização Editor: Coletivo 660:

Cláudio Penteado Janaina Uemura Chico Whitaker
Jerônimo Pellegrini Pe. Dário Bossi
Sérgio Amadeu da Silveira Prefácio: Janaina Uemura
José Correa Leite Jorge Abrahão
Autores: José Corrêa Leite
André Lemos Projeto gráfico, Luiz Marques
Cláudio Penteado ilustrações e Mauri Cruz
Débora Salles diagramação: Moema Miranda
Fernanda Bruno Juliana Vieira Oded Grajew
Fernanda Campagnucci Salete Valesan
Fernanda Rosa Revisão de texto: Sérgio Haddad
Glenda Dantas Madrigais Produção Editorial Stella Whitaker
Helena Martins
Jader Gama Realização:
José Correa Leite Ação Educativa e Coletivo 660 Edição:
José Paulo Guedes Pinto
Juliane Cintra Parceria/apoio:
Larissa Ambrosano Packer Secretaria de Desenvolvimento
Nelson Pretto Econômico, Ciência, Tecnologia do
Nina da Hora Estado de São Paulo (SDECTI), parte
Paulo Faltay do projeto de emenda parlamentar
Paula Cardoso Pereira “Inovação, desenvolvimento e
Rafael Evangelista resiliência nas políticas públicas
Rafael Grohman em São Paulo: um mapa para os
Sivaldo Pereira da Silva desafios entre 2020 e 2030”
Tarcízio Silva
Wagner Meira Jr.

Palavras-chave: tecnologia, plataformas, inteligência artificial, soberania de dados,

políticas públicas

Licença Creative Commons

CC BY-NC Atribuição-NãoComercial (ou [cc] Ação Educativa, 2023)
Esta obra pode ser livremente compartilhada, copiada, distribuída e transmitida, desde que
as autorias sejam citadas e não se faça nenhum tipo de uso comercial ou institucional não
autorizado de seu conteúdo.

6
7
8
Agradecemos a todas as pessoas que participaram
dos seminários, tanto as que fizeram exposições,
quanto as equipes da Ação Educativa e membros
do Coletivo 660.

9
10
SUMÁRIO

15 | Prólogo | José Corrêa Leite, Coletivo 660

19 | Apresentação
Dataficação, Plataformas Digitais, Regulação e
Políticas Anticoloniais | Claudio Luis de Camargo
Penteado, Jerônimo Pellegrini e Sérgio Amadeu da
Silveira

31 | Seminário Tecnologia no Brasil 2020-2030

| Primeiro Encontro |

33 | Plataformas digitais: o que incentivar, o que limi-

tar e o que vetar | Cláudio Penteado, André Lemos, Rafael
Grohman, Larissa Ambrosano Packer e Helena Martins

56 | Inteligência local, soberania digital e soberania de

dados | Jerônimo Pellegrini, Rafael Evangelista, Sérgio Amadeu
da Silveira, Nina da Hora, Fernanda Rosa

| Segundo Encontro |

79 | Inteligência Artificial, democracia e regulação | Glen-

da Dantas, Fernanda Bruno, Tarcízio Silva, Sivaldo Pereira da
Silva, Débora Salles

100 | Devemos apostar em tecnologias livres diante das

infraestruturas de IA | Juliane Cintra, Nelson Pretto, Jader
Gama, Fernanda Campagnucci e Wagner Meira

11
 119 | Capitalismo preditivo e os sistemas
algorítmicos | Sérgio Amadeu da Silveira (UFABC)

143 | O velho com cara de novo: subordinação

intelectual do trabalho ao capital e o capitalismo
monopolista de plataformas | José Paulo Guedes
Pinto (UFABC)

159 | Automatização e Desemprego: o uso de

Inteligência Artificial no Sistema Nacional de
Emprego | Fernanda Bruno (UFRJ), Paulo Faltay (UFRJ)
e Paula Cardoso Pereira (UFRJ)

182 | Quem escreveu este livro

12
13
PRÓLOGO
14
PRÓLOGO

E
ste livro trata de um dos em volumes avassaladores. Estamos
processos mais críticos por que não apenas diante de uma extensão
passa a humanidade. Vivemos horizontal da cultura mas de uma
uma mutação da sociedade sem rival desde introdução de uma nova mediação nas
a Revolução Industrial. O computador, conexões entre os seres humanos, um
desenvolvido na II GM para quebrar códigos meio que redefine, de forma qualitativa,
militares, transformou-se, com a invenção o que entendemos ser parte do nosso
do circuito integrado (o chip), no aparato universo simbólico.
definidor das relações de poder no mundo Como qualquer tecnologia, a digital
– da Guerra Fria à corrida espacial, das entra nas sociedades nos marcos das
previsões meteorológicas às especulações relações de poder preestabelecidas. Ela
financeiras. A abertura da internet, em potencializa a capacidade humana de
1994, permitiu que essa máquina de coordenação, cooperação e compreensão
armazenamento e processamento de do mundo e poderia permitir que
informações codificadas em linguagem vivêssemos vidas melhores. Mas, no
binária se transformasse em eficiente capitalismo, ela é apropriada e, na prática,
meio de comunicação. Mas foi a difusão quase monopolizada pelos detentores do
dos smartphones, pequenos computadores poder econômico e político. Tecnologias
e terminais da internet transformados digitais passam a ser primariamente
em telefones celulares, que permitiu, já desenvolvidas e utilizadas para que
neste século, que as tecnologias digitais a classe capitalista amealhe ainda
ganhassem capilaridade e chegassem mais poder e amplie a dominação dos
ao cotidiano de bilhões de pessoas. Elas subalternos. Elas estabelecem o meio
revolvem a economia, as relações sociais por onde circulam, hoje, as finanças
e a política pelo mundo. globais, aprofundando a precarização
Se as tecnologias industriais e a informalidade do trabalho – sua
representavam uma extensão dos membros “uberização” ou plataformização –,
e dos sentidos humanos, próteses que concentrando riquezas e ampliando
potencializam os poderes de nosso corpo a distância entre ricos e pobres.
na simbiose com máquinas, as tecnologias As redes e empresas digitais do
digitais amplificam as capacidades de início do século XXI deram origem, em
nosso cérebro, permitindo o tratamento menos de duas décadas, ao capitalismo
de informações transformadas em dados de plataformas das corporações de

15
PRÓLOGO

tecnologia estadunidenses e chinesas, exemplo, recriam conexões e padrões

as big techs, que vigiam cada aspecto mais valorizados, sem discernir realidade
de nossa vida e buscam modular nosso e fantasia, vieses e preconceitos. Mas
comportamento de forma cada vez mais estão sendo aprimorados e começam a
eficaz. Os algoritmos das plataformas ser utilizados nas mais variadas áreas;
varrem grandes e abrangentes bancos dessa forma, crescem as demandas pela
de dados, mapeando desejos, medos e regulamentação de seu uso.
fantasias, seduzindo-nos. As plataformas As tecnologias digitais de ponta,
buscam, como afirma Sérgio Amadeu, como os programas de inteligência
desenvolver um capitalismo preditivo. artificial, são também resultado de uma
As redes sociais passam a ser o meio por hiperespecialização e concentração de
onde circulam ideias e valores, se afirmam poderes inédita nas cadeias produtivas
bolhas de autoidentificação e onde são globais, que tornam o processo bastante
travadas disputas eleitorais, com uma caro e vulnerável. Um processador de
grande dianteira para as correntes de iPhone de ponta pode ter hoje 8.5 bilhões
extrema-direita. de transistores. Apenas uma empresa no
Os seminários que estão na origem mundo, a ASML da Holanda, produz as
deste livro foram propostos antes da máquinas de litografia ultravioleta extrema
pandemia, já buscando compreender capazes de imprimir os transistores de
a onda bolsonarista. Mas eles foram dois nanômetros (2nm), quase o tamanho
realizados de forma remota. Teletrabalho, da fita do ADN, no silício desses chips.
teleconferências, aulas remotas e explosão Uma única máquina desse tipo pode
de consumo de entretenimento on-line; custar US$ 350 milhões. E são poucas
tivemos, em três anos, o amadurecimento as empresas que podem produzir chips
de tendências que poderiam ter levado, como os utilizados pela Nvidia em seus
em outras circunstâncias, dez ou vinte programas de inteligência artificial, sendo a
anos para se difundirem pela sociedade. E, principal delas a TSMC, sediada em Taiwan.
coroando essa aceleração das inovações na É desnecessário dizer que isso acrescenta
área, vieram à luz programas de inteligência uma nota de urgência ao conflito geopolítico
artificial generativa (Chatgpt, Bard). Os entre os EUA e a China.
grandes modelos de linguagem já foram Para além dos alertas correntes sobre
chamados, por sua capacidade de simular os riscos do uso da inteligência artificial,
textos escritos pelos seres humanos, de trata-se de reconhecer nas tecnologias
“papagaios estocásticos”, isto é, aleatórios. digitais um enorme poder que precisa
Apoiando-se em gigantescos bancos de ser colocado a serviço dos interesses

16
públicos, submetido ao controle político
e democratizado em nosso país e no
mundo. Este livro é uma contribuição
muito valiosa para isso.

José Corrêa Leite

17
18
19
APRESENTAÇÃO
20
 Dataficação, Plataformas determinação social direcionada pela
Digitais, Regulação e tecnologia, é possível verificar que as
tecnologias fazem parte das dinâmicas
Políticas Anticoloniais sociais que envolvem relações de poder,
controle e resistência, nos diferentes
períodos das diversas sociedades que
Claudio Luis de Camargo Penteado compõem a história da humanidade.
Jerônimo Pellegrini A gênese das TDICs está associada à
Sérgio Amadeu da Silveira expansão da cibernética, microinformática e
da Internet, contando com forte investimento
financeiro militar do governo estadunidense
Introdução (projeto ARPAnet), com apoio da Big
Science e da contracultura hippie presente
na Califórnia, principalmente no Vale do
Testemunhamos, nas últimas décadas, Silício (CASTELLS, 2003). Com o ideal e
um crescente processo de digitalização discurso libertário de criar um livre fluxo das
da sociedade. Como qualquer processo informações, dentro de uma arquitetura de
social, o uso massivo de tecnologias digitais redes distribuídas, regulada pela economia
pela população apresenta importantes das redes (BENKLER, 2008), as TDICs
oportunidades, mas também desafios, tiveram uma rápida expansão apoiada
perigos e contradições que precisam na ideia de neutralidade tecnológica, na
ser debatidos. O desenvolvimento das figura do empreendedor e de startups
Tecnologias Digitais de Informação e que ocultam a expressão da ideologia
Comunicação (TDICs) trouxe profundas californiana altamente individualista e
transformações para as estruturas e neoliberal (BARBROOK; CAMERON, 2017).
dinâmicas sociais. Essas transformações O clima otimista das potencialidades
podem ser sentidas e vivenciadas em e possibilidades das TDICs para expansão
diversas áreas das atividades humanas da ciberdemocracia (LEMOS; LÉVY, 2010)
ao promoverem novas formas de e novas formas de práticas colaborativas
sociabilidade, produção de cultura, práticas (SHIRKY, 2008) possibilitou a emergência
políticas, relações de trabalho e dinâmicas de novos formatos de ativismo digital e
econômicas. hackers (SILVEIRA; BRAGA; PENTEADO,
As tecnologias sempre fizeram parte 2014) e a florescência de uma cultura digital
da configuração do tecido social, e não é inovadora, aberta para novas experiências,
possível dissociar o desenvolvimento e formação de comunidades de conhecimento
práxis sociais de suas tecnologias. Evitando e do individualismo colaborativo (SILVEIRA,
cair no discurso tecnodeterminista, de 2010).

21
 Por outro lado, a expansão da Internet Data) com informações pessoais e registro
também está associada à formação de de atividades dos usuários, formando perfis
redes de controle e vigilância, controladas de consumidores, criando uma robusta
por protocolos de comunicação em rede economia de dados pessoais (SILVEIRA,
(GALLOWAY, 2006). A capacidade de 2017). Esses dados são apropriados e
monitoramento dos fluxos informacionais processados por grandes empresas de
permitiu a criação de complexos sistemas tecnologia (Big Techs) na consolidação
de vigilância por parte de governos e de do capitalismo de vigilância (ZUBOFF,
empresas privadas de segurança de violação 2021) e de plataformas (SRNICEK, 2017),
de dados pessoais (BRUNO, 2008), que operado por técnicas de aprendizado de
também influenciaram (e ainda influenciam) máquina, algoritmos de interatividade,
os processos eleitorais, como ilustra o caso processamento de linguagem natural e
da Cambridge Analytica nas votações do outras técnicas de Inteligência Artificial na
Brexit e das eleições estadunidense de implementação de uma governamentalidade
2018 (CADWALLADR; GRAHAM-HARRISON, algorítmica (ROUVROY; BERNS, 2015) por
2018), sendo, hoje, uma ameaça real à meio do uso intensivo das informações
democracia. coletadas (extraídas) nas plataformas
Com o aumento da conexão digital, digitais.
principalmente por meio de smartphones, As plataformas digitais emergem
e a explosão das plataformas privadas de como espaços digitais controlados por
redes e mídias sociais (Orkut, Facebook, empresas privadas que concentram o fluxo
Instagram, Youtube, Twitter, TikTok etc.), de informação e geração de valor na atual
milhares de pessoas passaram a utilizar os configuração da sociedade. O crescente
diferentes canais de comunicação da web poder das plataformas digitais leva a um
em suas práticas cotidianas, criando novas processo de “plataformização da sociedade”,
sociabilidades e aplicações tecnológicas (os que, segundo Poell, Nieborg e van Dijck
famosos apps) para mediar (e controlar) (2020), pode ser compreendido como um
as diversas tarefas do dia a dia das pessoas processo econômico, político e cultural
na escola, nos deslocamentos, na compra que influencia os processos econômicos de
de produtos, busca de informações e tantas geração de valor, as estruturas e dinâmicas
outras atividades humanas, perfilando dos Estados nacionais e reorganiza as
um modelo de “servidão maquínica” práticas e os imaginários culturais da
(LAZZARATO, 2014) na consolidação de sociedade conectada nessas plataformas.
uma sofisticada e tecnológica sociedade O cenário de plataformização se
de controle, escamoteado pelo discurso intensifica a cada ano e se acelerou com
da neutralidade da tecnologia (SOUZA; a pandemia de covid-19 e a necessidade de
AVELINO; SILVEIRA, 2018). medidas de isolamento social. As plataformas
O uso cotidiano das TDICs abriu e aplicativos digitais que já dominavam a
espaço para a emergência de modelos de economia do entretenimento e diversos
negócios baseados na coleta e tratamento segmentos do mercado (SRNICEK, 2017)
da imensa quantidade de dados digitais avançaram ainda mais nas mediações da
(que ficaram popularizados pelo termo Big vida social. Relações de trabalho (e renda),
22
aluguel de imóveis, conteúdos educacionais, de controlar os dados, essas corporações
compras, entretenimento (principalmente dominam o processo de desenvolvimento
games e streaming) e até mesmo as relações tecnológico, definindo os padrões e os
pessoais e amorosas são mediadas por modelos de soluções tecnológicas. Um
plataformas e suas affordances. Essas exemplo simples, que já foi naturalizado, é
plataformas se colocam como mediadoras o uso do sistema operacional Windows da
de relações sociais, econômicas e políticas Microsoft Corporation. Além de não ser o
coletando dados da oferta e demanda de sistema operacional mais eficiente – como
segmentos do mercado, consolidando sua o é uma alternativa para ele, o GNU/Linux
centralidade nas práxis sociais. e suas distribuições, como Debian –, cria
Por meio da oferta de interfaces a dependência tecnológica desse sistema
atrativas e serviços gratuitos, as plataformas proprietário, que funciona como um potente
conseguem reunir bilhões de usuários em terminal de extração de dados, vigilância
todo o mundo, o que possibilita a coleta e modulação dos seus usuários, inclusive
massiva e processamento permanente das próprias Instituições e Agências do
dos dados extraídos das interações nas Estado, que usam, por exemplo, perfis nessas
plataformas digitais. Esse processo converte plataformas privadas, para a comunicação
todos os fluxos da vida em dados para pública, sem reflexão dos impactos desses
sofisticados dispositivos de controle, usos.
modulação e captura da atenção, operados Por mais que as plataformas
por algoritmos e estruturas de Inteligência digitais ofereçam importantes serviços e
Artificial. oportunidades de renda para uma crescente
Os dados extraídos e minerados parcela da população (motoristas de
pelas plataformas digitais, controladas por aplicativo, entregadores, desempregados e
grandes corporações de tecnologia do Norte outras atividades), principalmente em um
global, constituem um importante ativo contexto de austeridade fiscal e aumento
do capitalismo financeiro global. Dados do desemprego, a opacidade dos algoritmos
produzidos por usuários dos países do (como operam? o que fazem com os dados?)
Sul global são processados, tratados e e a falta de legislação específica criam sérios
armazenados em data centers localizados problemas para as economias nacionais,
em outras regiões (não em um espaço relações de emprego e até o bem-estar da
comum, conforme sugere a metáfora da população. Muitos arranjos de plataformas
Nuvem), fora da jurisdição da origem do acabam por precarizar as relações de
dado, sem que possa decidir de modo trabalho, criar dispositivos para burlar
autônomo sobre seus usos, convertendo-se os sistemas fiscais nacionais e concentrar
em um novo processo de colonização: o o lucro em empresas de Tecnologias da
colonialismo de dados (SILVEIRA, 2020). Informação do Norte global (ABÍLIO, 2020).
O colonialismo de dados produz Nesse contexto, visando entender
novas relações de subjugação dos Estados esse processo, o Laboratório de Tecnologias
nacionais e do mundo ao poderio das grandes Livres (LabLivre/ UFABC), em parceria com
empresas. O Estado é capturado pela lógica o Coletivo 660, organizou o “Seminário
das grandes empresas de tecnologia. Além Tecnologia no Brasil 2020-2030:
23
plataformização, Inteligência Artificial digital, que produzem impactos políticos,
e soberania de dados”, em setembro e econômicos, culturais e sociais, havendo a
outubro de 2021, com pesquisador@s necessidade de pensar formas de regulação
e especialistas de diferentes campos do de seu funcionamento. A influência das
conhecimento, para analisar o cenário plataformas e das tecnologias digitais
tecnopolítico e propor um conjunto de controladas por grandes empresas
ações e políticas imprescindíveis em estrangeiras acaba atingindo diversas
relação às tecnologias digitais, com foco atividades, como o agronegócio, e incorpora
nas plataformas, na Inteligência Artificial profundas transformações no mercado de
e na soberania de dados que preparem o trabalho, manipula processos políticos e
país para 2030. outras formas de impacto nas dinâmicas
da sociedade. Todos convergiram para um
posicionamento da necessidade de se buscar
O Seminário Tecnologia no Brasil mecanismos para regulação, transparência,
2020-2030 taxação das empresas e desconcentração
do poderio das Big Techs.
O Seminário fez parte do projeto A segunda mesa, em setembro de
“Inovação, desenvolvimento e resiliência 2022, debateu o tema da Inteligência local,
para as políticas públicas em São Paulo: soberania digital e soberania de dados.
um mapa para os desafios entre 2020- Com a participação do professor Rafael
2030”. A proposta surgiu de uma Emenda Evangelista (Unicamp), professor Sérgio
Parlamentar executada pela Secretaria de Amadeu da Silveira (UFABC), Nina da Hora
Desenvolvimento Econômico do Estado de (Computação Antirracista) e Fernanda Rosa
São Paulo para cartografar os multifacetados (Virginia Tech), a mesa realçou problemas
desafios e turbulências relacionados à relacionados à expansão do capitalismo
emergência socioambiental com os quais informacional por meio da consolidação do
o Estado de São Paulo se confrontará, em colonialismo digital, que coloca em xeque a
especial na década de 2020-2030, e as soberania dos Estados Nacionais. A ausência
alternativas que se apresentam em relação a de dispositivos de regulação e políticas
esses aspectos tendo em mente os Objetivos públicas para Ciência e Tecnologia para o
de Desenvolvimento Sustentável (ODSs). desenvolvimento de IA no Brasil aumenta
O Seminário contou, ao todo, com a assimetria no uso das ferramentas
quatro mesas de debate. A primeira mesa digitais e a dependência de soluções
foi direcionada para a discussão sobre as proprietárias controladas pelas grandes
plataformas digitais, com a participação corporações de TI. Os convidados apontaram
do professor André Lemos da UFBA, do a indispensabilidade de se debater mais
professor Rafael Grohmann (Unisinos sobre os códigos de funcionamento das
e DigiLabour), Larissa Packer (GRAIN IAs e olhar criticamente como os dados
– América Latina) e Helena Martins estão circulando pelas redes e plataformas,
(Intervozes). Nessa mesa, os palestrantes para combater práticas algorítmicas de
destacaram a centralidade das plataformas racismo e sexismo.
como dispositivo de mediação da vida Nos encontros de outubro, a terceira
24
mesa, “Inteligência Artificial, democracia e Gama (Núcleo de Altos Estudos Amazônicos
regulação”, contou com a presença de Tarcízio da UFPA), Fernanda Campagnucci (Open
Silva (Mozilla Foundation), da professora Knowledge Brazil) e Wagner Meira (UFMG).
Fernanda Bruno (UFRJ), do professor Sivaldo Essa mesa realçou que as tecnologias
Pereira (UnB) e Débora Salles (IBICT/ UFRJ). digitais proprietárias reproduzem ideais
Segundo as apresentações, o tema da IA neoliberais, que possibilitam a captura
envolve um certo grau de complexidade do Estado por empresas que fornecem
técnica e também mobiliza narrativas tecnologias, representadas pelo rótulo:
que vislumbram futuros automatizados Smart Cities (Cidades Inteligentes), por
e o “solucionismo tecnológico” dos exemplo. Outro exemplo ilustrado foi
aplicativos, que dificulta o debate sobre a digitalização (e plataformização) da
os problemas sociais, trabalhistas, políticos educação, intensificadas pela pandemia,
e até ambientais do uso massivo de IA, na qual os processos educacionais passaram
assim como o desenvolvimento de políticas a ser mediados (e controlados) por
públicas e, principalmente, de sua regulação. empresas de TI, como observou Pretto.
Outro ponto destacado envolve uma Contudo, emergem também possibilidades
dimensão ética em torno da IA: quem de uso comum das tecnologias digitais,
faz o treinamento dos algoritmos de IA? principalmente pelo uso de softwares livres,
Existe alguma preocupação social? Qual como no trabalho desenvolvido por Jader
o limite do processamento de dados? O Gama no estado do Pará. Além do uso de
desenvolvimento da IA está contribuindo tecnologias livres, o projeto desenvolve
para o bem-estar social ou para consolidar um processo de consciência tecnopolítica
estruturas de desigualdade? Qual a na produção de soluções que combinam
responsabilidade das empresas e seus os saberes ambientais, tradicionais e
desenvolvedores? tecnológicos (não proprietários). Outra
Nessa mesa, a professora Fernanda experiência interessante apresentada na
Bruno trouxe uma avaliação de seu estudo mesa foi o desenvolvimento de legislação e
sobre o uso da IA no Sistema Nacional políticas públicas na Nova Zelândia voltadas
de Emprego (Sine), do Governo Federal, para a responsabilidade e transparência
em acordo de cooperação técnica com a algorítmicas, para criar dispositivos para
Microsoft. O estudo ilustra o cenário de explicar o funcionamento dos algoritmos
dependência tecnológica e colonialismo para os usuários e identificação de alguma
de dados, com transferência de dados violação por parte destes.
sensíveis (mercado de trabalho) para Wagner Meira lembra que a força
empresas estrangeiras. Segundo Bruno, das tecnologias digitais e das plataformas
é possível identificar uma “lógica colonial” advém de sua enorme eficácia em atender
no desenho de políticas públicas de IA não somente interesses corporativos,
no Brasil. mas também de facilitar e melhorar
O último encontro, a mesa “Devemos processos cotidianos. Assim, é fundamental
apostar em tecnologias livres diante das que a regulação das plataformas e das
infraestruturas de IA?”, teve a participação tecnologias seja pensada com projetos
do professor Nelson Pretto (UFBA), Jader e experimentos que possam conduzir as
25
tecnologias para outros caminhos. Além capacidade computacional (processamento
disso, é preciso inserir os criadores de de dados), avanço de aplicações tecnológicas
grupos marginalizados pelas dinâmicas do e de Inteligência Artificial livres e públicas
grande capital na invenção, reconfiguração capazes de oferecer alternativas às soluções
e desenvolvimento das tecnologias digitais e proprietárias, para criar uma política
de inteligência de máquina. Talvez o caminho nacional de soberania digital. Criar uma
principal no qual devemos apostar seja legislação e marco regulatório que, além
recarregar o digital com novas cosmovisões. de responsabilizar as empresas por seus
códigos, fazer com que esses códigos sejam
“explicáveis” para seus usuários, isto é,
Caminhos para políticas públicas ir além do modelo de termos de aceite
de Tecnologia na próxima década existentes e desenvolver metodologias e
processos informativos do funcionamento
Um ponto comum emergiu na fala de dos aplicativos para o público comum.
todos os participantes dos encontros: A experiência da atual Agência
a necessidade URGENTE de regulação Nacional de Proteção de Dados, subordinada
das atividades de funcionamento das ao Poder Executivo, mostra as limitações
plataformas, algoritmos e Inteligência de uma regulação realizada apenas pelo
Artificial. Estado. A agência se paralisa diante das
medidas do governo, tais como o envio
Como já estão em operação, seus de dados de servidores públicos federais
mecanismos de funcionamento vão para criar modelos de aprendizado para
naturalizando práticas nocivas para a os sistemas algorítmicos de uma empresa
democracia, meio ambiente e para a norte-americana. É preciso envolver a
própria sociedade, dificultando qualquer sociedade civil organizada nos processos
tentativa de regulação social e cidadã da de supervisão e definição de regulamentos
atuação dessas plataformas e empresas mais flexíveis, mais ágeis e profundamente
de tecnologia. mais democráticos. Para isso, além de
Por mais que o termo regulação representantes escolhidos pela própria
mobilize um imaginário negativo em torno sociedade civil, as instituições de regulação
de si, a criação de dispositivos e marcos devem ter uma composição em que a
públicos regulatórios são essenciais para sociedade seja majoritária ou participe de
a manutenção da própria “liberdade na modo paritário com os poderes de Estado.
e da rede” diante da captura dos fluxos No médio prazo, deve-se apostar
e dependência tecnológica das grandes no processo de “desmistificação” das
empresas de tecnologia do Norte global. tecnologias digitais, quebrar a “caixa-preta”
É necessário criar limites diante do poder que envolve as dinâmicas de funcionamento
dessas empresas, garantindo que a cidadania do universo digital. O funcionamento das
das pessoas seja respeitada. aplicações não pode ser um “mistério” ou
Outro caminho estratégico é apostar “mágica”, elas devem fazer sentido para
no desenvolvimento de políticas de seus usuários, de forma que possam
incentivo e apoio para o desenvolvimento de promover reflexões e debates públicos
26
sobre seus benefícios e seus efeitos. As Por fim, há uma imprescindibilidade
pessoas precisam entender quais são as da criação de uma infraestrutura
implicações dos usos das tecnologias. O pública comum de dados digitais, para
que representa usar uma aplicação, quais criar alternativas de armazenamento,
informações pessoais são apropriadas? processamento e transmissão de pacote
Qual o impacto e os riscos do uso de data de dados. Essa infraestrutura possibilitará
centers (a chamada nuvem) de empresas diminuir as assimetrias no desenvolvimento
estrangeiras? O conhecimento dessas de softwares e aplicações e, principalmente,
dinâmicas possibilita o desenvolvimento de romper com o colonialismo digital, bloqueio
aperfeiçoamento reflexivo e crítico dessas criativo e dependência tecnológica.
tecnologias e o combate de práticas nocivas.
Outra trilha importante para
pensar o futuro da tecnologia no Brasil
é a incorporação, na grade dos Ensinos
Fundamental e Médio, de uma formação
interdisciplinar na área de tecnologia. Uma
formação que vise não o aprendizado (e
captura) de ferramentas proprietárias,
pelo contrário, nossas crianças precisam
aprender a desenvolver seus códigos,
processar e minerar dados, criar aplicações
e, ao mesmo tempo, ter uma visão crítica (e
social) e ética da implicação do uso dessas
tecnologias, sabendo identificar, além
das possibilidades, quais as implicações
sociais, políticas, econômicas, culturais,
ambientais e éticas das aplicações que
estão desenvolvendo e estão utilizando.
Será preciso avançar simultaneamente
na defesa da tecnodiversidade. Nossa cultura
e as cosmovisões que nosso território partilha
devem poder se expressar nas tecnologias
da informação e no desenvolvimento dos
sistemas e dispositivos de Inteligência
Artificial. Um dos grandes problemas
da proposta neoliberal de construir um
país moderno e avançado pelo consumo
de produtos e serviços de alta tecnologia,
independentemente da sua origem, está
no bloqueio de nossa inventividade local e
no desenvolvimento de nossa inteligência
coletiva.
27
Referências
AALST, W. van der; HINZ, O.; WEINHARDT, C. Big Digital Platforms. Business & Information
Systems Engineering, [s. l.], v. 61, n. 6, p. 645-648, 10 set. 2019. Disponível em: https://
link.springer.com/content/pdf/10.1007/s12599-019-00618-y.pdf?pdf=button. Acesso
em: 17 jul. 2021.

ABÍLIO, L. C. Breque no despotismo algorítmico: uberização, trabalho sob demanda e

insubordinação. Blog da Boitempo, [S. l.], p. 1-2, 30 jul. 2020. Disponível em: https://
blogdaboitempo.com.br/2020/07/30/breque-no-despotismo-algoritmico-uberizacao-
trabalho-sob-demanda-e-insubordinacao/. Acesso em: 16 jul. 2021.

BARBROOK, R.; CAMERON, A. The Californian ideology. Science as Culture, [s. l.], v. 6,
n. 1, p. 44-72, 1996. Disponível em: https://monoskop.org/images/d/dc/Barbrook_
Richard_Cameron_Andy_1996_The_Californian_Ideology.pdf. Acesso em: 20 ago. 2022.

BENKLER, Y. The Wealth of Networks: How Social Production Transforms Markets

and Freedom. Yale, EUA: Yale University Press, 2007. 528 p.

BRUNO, F. Estética do flagrante: Controle e prazer nos dispositivos de vigilância

contemporâneos. Revista Cinética, [s. l.], p. 1-14, 2008. Disponível em: http://www.
revistacinetica.com.br/cep/fernanda_bruno.pdf. Acesso em: 8 abr. 2022.

BRUNO, F.; CARDOSO, B.; KANASHIRO, M.; GUILHON, L.; MELGAÇO, L. Tecnopolíticas
da vigilância: Perspectivas da margem. 1. ed. São Paulo: Boitempo, 2018. 432 p.

CADWALLADR, C.; GRAHAM-HARRISON, E. Revealed: 50 million Facebook profiles

harvested for Cambridge Analytica in major data breach. The Guardian, Londres,
Inglaterra, p. 1-2, 17 mar. 2018. Disponível em: https://www.theguardian.com/
news/2018/mar/17/cambridge-analytica-facebook-influence-us-election. Acesso
em: 18 mar. 2022.

CASTELLS, M. A galáxia da internet: Reflexões sobre a Internet, os negócios e a

sociedade. 1. ed. São Paulo: Zahar, 2003. 339 p.

GALLOWAY, A. R. Protocol. Theory, Culture and Society, [s. l.], v. 22, n. 2-3, p. 317-
320, 2006.

LAZZARATO, M. Signs and Machines: Capitalism and the Production of Subjectivity.

Tradução: J. D. Jordan. [S. l.]: Semiotext(e), 2014. 279 p.

LEMOS, A.; LÉVY, P. O Futuro da Internet: Em Direção a uma Ciberdemocracia Planetária.

28
1. ed. São Paulo: Paulus Editora, 2010. 264 p.

POELL, T.; NIEBORG, D.; VAN DIJCK, J. Plataformização. Fronteiras – estudos midiáticos,
[s. l.], v. 22, n. 1, p. 1-10, jan/abr 2020. Disponível em: https://revistas.unisinos.br/
index.php/fronteiras/article/view/fem.2020.221.01/60747734. Acesso em: 17 mar.
2022.

ROUVROY, A.; BERNS, T. Governamentalidade algorítmica e perspectivas de emancipação::

o díspar como condição de individuação pela relação?. Eco-pós, [s. l.], v. 18, n. 2, p.
36-56, 2015.

SHIRKY, C. Here Comes Everybody: The Power of Organizing Without Organizations.

1. ed. Londres, Inglaterra: Penguin Books, 2009. 344 p.

SILVEIRA, S. A. da. Ciberativismo, cultura hacker e o individualismo colaborativo.

Revista USP, São Paulo, v. 86, p. 28-39, 2010. Disponível em: https://www.revistas.
usp.br/revusp/article/view/13811/15629. Acesso em: 17 dez. 2021.

SILVEIRA, S. A. da. Tudo sobre tod@s: Redes digitais, privacidade e venda de dados
pessoais. 1. ed. São Paulo: Edições Sesc SP, 2017. 119 p.

SILVEIRA, S. A. da. Colonialismo de dados: como opera a trincheira algorítmica na

guerra neoliberal. 1. ed. [S. l.]: Autonomia Literária, 2022. 238 p.

SILVEIRA, S. A. da. Inteligência artificial baseada em dados e as operações do capital.

PAULUS: Revista de Comunicação da FAPCOM, São Paulo, v. 5, n. 10, p. 16-29, 2021.
Disponível em: https://fapcom.edu.br/revista/index.php/revista-paulus/article/
view/480/440. Acesso em: 5 jan. 2023.

SILVEIRA, S. A. da; BRAGA, S.; PENTEADO, C. (org.). Cultura, política e ativismo nas
redes digitais. 1. ed. São Paulo: Fundação Perseu Abramo, 2014. 346 p. Disponível
em: https://fpabramo.org.br/publicacoes/wp-content/uploads/sites/5/2019/03/
RedesDigitais-web.pdf. Acesso em: 8 jul. 2021.

SOUZA, J.; AVELINO, R.; SILVEIRA, S. A. da (org.). A sociedade de controle: Manipulação

e modulação nas redes digitais. 1. ed. São Paulo: Editora Hedra, 2019. 160 p.

SRNICEK, N. Platform Capitalism. 1. ed. Cambridge, EUA: Polity Press, 2016. 120 p.

VAN DIJCK, J. Datafication, dataism and dataveillance: Big Data between scientific
paradigm and ideology. Surveillance & Society, [s. l.], v. 12, n. 2, p. 197-208, 2014.
Disponível em: https://ojs.library.queensu.ca/index.php/surveillance-and-society/
29
article/view/datafication/datafic. Acesso em: 11 mar. 2021.

ZUBOFF, S. A Era do Capitalismo de Vigilância. Tradução: G. Schlesinger. 1. ed. São

Paulo: Intrínseca, 2021. 800 p.

30
PLATAFORMIZAÇÃO, I.A. E SOBERANIA DE DADOS

Seminário Tecnologia
no Brasil 2020-2030
31
32
 Textos baseados nas falas apresentadas
durante o encontro virtual que pode ser
assistido na íntegra no canal da Ação
Educativa: https://www.youtube.com/
acaoeducativa

Primeiro Encontro
Parte 1 americano frente a esse desafio que se
apresenta no atual contexto da sociedade,
concebendo também políticas públicas
“Plataformas digitais: o que para a área de tecnologia no estado de
incentivar, o que limitar e o que São Paulo e no Brasil. Durante o primeiro
vetar”, Cláudio Penteado, André Lemos, encontro de tecnologia, contamos com a
Rafael Grohman, Larissa Ambrosano presença do professor André Lemos, da
Packer e Helena Martins Universidade Federal da Bahia - ele é
formado em Sociologia pela Université
Cláudio Penteado René Descartes, Paris V; é mestre em
Política, Ciência e Tecnologia pelo COPPE, da
Esta é uma publicação que faz parte Universidade Federal do Rio de Janeiro, bem
do projeto “Inovação, desenvolvimento como pós-doutor pelas Universidades de
e resiliência nas políticas públicas em Alberta e McGill, no Canadá, e pela National
São Paulo: um mapa para os desafios University of Ireland, na República da
entre 2020 e 2030”, iniciativa da emenda Irlanda; é professor titular da Faculdade
parlamentar desenvolvida pelo Coletivo de Comunicação da Universidade Federal
660, representado pela Ação Educativa, da Bahia e pesquisador nível 1A do CNPq;
em convênio com a Secretaria de atualmente, é coordenador do LAb404
Desenvolvimento Econômico, Ciência, – Laboratório de Pesquisa em Mídia
Tecnologia e Inovação do Estado de São Digital, Redes e Espaço, Lemos é uma
Paulo. Com esse projeto, o Coletivo 660 importante referência nos estudos sobre
buscou prospectar o contexto com o qual internet no Brasil. Também compôs este
o estado de São Paulo se confrontará nas encontro Larissa Packer, que é advogada
próximas décadas e como vai organizá-lo socioambiental, mestra em Filosofia do
com base em uma visão sistemática que Direito e integrante da Equipe Grain para a
possa auxiliar na produção de políticas América Latina; Helena Martins, doutora em
públicas, tendo em vista os objetivos do Comunicação pela Universidade de Brasília,
desenvolvimento sustentável. Estes textos mestra em Comunicação pela Universidade
são resultantes das mesas de debate Federal do Ceará e, atualmente, é docente
desenvolvidas com base neste projeto, da Universidade Federal do Ceará. Ademais,
nas quais discutimos diversos temas também contamos com a contribuição
relacionados à tecnologia no Brasil na do professor Rafael Grohmann, do
próxima década. Além de pensar em São DigiLabour, doutor e mestre em Ciências
Paulo, também é possível, portanto, pensar da Comunicação pela USP de São Paulo.
no Brasil e na colocação desse país sul- Atualmente, é professor da Universidade do
33
Vale do Rio dos Sinos, a famosa Unisinos. estender muito, vou falar de 30 pontos.
Além disso, é coordenador do Laboratório Argumentarei sobre 10 pontos referentes
Digital Labour, coordenador, no Brasil, à atualidade; 10 sobre o futuro e 10 sobre
do Projeto Fairwork e diretor científico o que devemos fazer. Em primeiro lugar, é
da COMPÓS. Então, nossa dinâmica foi necessário fazer um diagnóstico da coisa,
dividida em duas rodadas. Na primeira, pois são 10 pontos bem precisos sobre o
deixamos nossos expositores e expositoras nosso diagnóstico atual. Antes de mais
apresentarem suas ideias, tentando nada, essas plataformas constituem a
responder o que seria imprescindível infraestrutura da vida contemporânea,
para discutir a plataformização no Brasil, sendo que isso não é uma coisa de nerds,
pensando essa questão para daqui a 10 nem de geeks, também não é apenas
anos. E, na segunda rodada, cada expositor referente ao Facebook e ao YouTube, é
e expositora pôde fazer suas considerações toda uma infraestrutura social que está em
finais. Agora, teremos a introdução feita implementação no planeta; esse é o primeiro
pelo professor André Lemos. Boa mesa ponto da atualidade. Em segundo lugar,
para todos nós e bom livro para você, leitor! isso se configura com um amplo domínio
de rastreamento de dados. Então, isso vale
André Lemos para os rastreamentos feitos nas esferas
É um prazer estar aqui com vocês, econômica, social, política, industrial,
com o Rafael, com a Helena, com a Larissa, publicitária, de segurança etc. Essas
com todos que estão nos lendo e nos plataformas funcionam com base nessa
ouvindo. Obrigado pelo convite. Bom, dataficação expandida. O terceiro ponto é
eu vou, primeiro, tratar do futuro, que é o controle empresarial feito por grandes
sempre uma coisa muito complicada. Não conglomerados privados. No Ocidente, nós
é? Dez anos nem é tão longe assim, mas temos o nosso Big Five, mas temos um Big
eu tive o privilégio de estar no início da Five, um Big Three, também, na China.
formação dessa cultura digital; comecei a Então, a esfera pública está controlada, e
estudar isso em 1991, quando a internet quem controla essa infraestrutura é uma
estava apenas decolando. infraestrutura privada. O quarto ponto, que
é muito importante, é o funcionamento
E se me dissessem que a internet dessas plataformas, um funcionamento
iria se transformar nessa sociedade performativo. Ou seja, ele é aberto,
de plataforma e nesse capitalismo generativo, assimétrico. Por exemplo,
de vigilância, eu diria que isso um like de uma pessoa nunca é igual ao
seria impossível, dada a dinâmica de outra. Quando estamos assistindo a
libertária e emancipadora da um filme, as plataformas de streaming
internet. não estão apenas difundindo-o, estão
também coletando metadados sobre o
Mas o que nós temos hoje é uma cultura que nós estamos fazendo, sobre as nossas
digital muito diferente daquela que emergia apreciações etc. Então, sempre há um texto
nos anos 1990. Então, falar do futuro é dentro de outro texto. Isso é algo importante
sempre muito complicado. Para não me para a compreensão do funcionamento
34
dessas plataformas, pois são metatextos hipóteses. Essa é a primeira constatação. Em
performativos. O quinto ponto refere-se segundo lugar, acho que essas plataformas
a como essas plataformas configuram vão continuar controladas por grandes
nossa atual esfera pública midiática, com empresas transnacionais: as Big Five, ou
consequências importantes nas relações as grandes empresas chinesas, com ação e
sociais e nas formas de veiculação das tentáculos mundiais. Em terceiro lugar, elas
informações. O sexto ponto é que sempre continuarão a ser a infraestrutura e, cada
que se fala de controle, tenta-se barrar o vez mais, isso vai se configurar como uma
controle em prol da inovação; essa desculpa infraestrutura da sociedade. Em quarto
de falta de controle em prol da inovação lugar, acho que os usuários tenderão a
tem gerado uma massa manipulada, migrar para plataformas mais específicas.
algoritmicamente, de usuários no mundo Alguns dados mostram, por exemplo, o
inteiro. O sétimo ponto aborda uma ampla Facebook perdendo usuários, e outras
estrutura de vigilância de ameaça à vida plataformas crescendo, como TikTok,
privada. O oitavo ponto fala da mudança WhatsApp, Instagram etc. Então, há uma
significativa nas formas de trabalho, tendência de migração para plataformas
tanto novas formas de trabalho como mais específicas. O cansaço das telas, que nós
as formas tradicionais de trabalho. Hoje vivenciamos hoje, devido à pandemia, vai
em dia, trabalhamos na plataforma, pela gerar certa descontinuidade no uso dessas
plataforma ou potencializados por elas, plataformas, no curto prazo, e contribuir
como estamos fazendo aqui e agora (o para uma ação ainda mais agressiva dessas
encontro do seminário se deu virtualmente). plataformas, para não que elas não percam
O nono ponto é que tudo isso é comandado usuários nem engajamento. Com o mundo
por uma tecnocracia, ou o que John voltando à normalidade pós-covid, talvez
Danaher vai chamar de “algocracia”, que as pessoas passem a usá-las menos. A
é uma burocracia algoritmizada. Por fim, polarização política e as fake news vão
temos o décimo ponto, que é importante aumentar, e não acho que elas vão diminuir
também, pois há ganhos sociais com essas nos próximos 10 anos; mas isso tudo são
plataformas. Estamos aqui, neste espaço suposições, obviamente. O sétimo ponto
virtual, podemos nos encontrar a distância é que a autorregulação vai crescer por
porque temos uma plataforma. Eu posso causa das pressões sociais/políticas que
dar aulas on-line, porque temos plataforma. temos visto, pois ocorrerá uma tendência
Podemos nos socializar virtualmente de que as plataformas se autorregularão,
etc. Então, há ganhos sociais com o uso para evitar uma regulação maior do Estado.
das plataformas. Apresentei esses meus Vamos aumentar o uso dessas ferramentas,
10 pontos, para configurar, assim, a também, para o trabalho e para a educação,
atualidade do problema. Em relação ao sendo que, por um lado, as pessoas vão criar
futuro, o que vai acontecer daqui para a um certo distanciamento delas, mas, por
frente, em primeiro lugar, acho que em outro, vai haver um uso mais continuado
10 anos não vai mudar muita coisa. Esse disso em algumas áreas. O trabalho remoto
não é um futuro tão longínquo assim, mas vai ser instituído, de alguma maneira,
será um mundo pós-covid, na melhor das porque funcionou bem. Vamos adotar
35
determinados tipos de práticas na educação, algum tipo de sua regulação, com papel
nas universidades, nas escolas. Então, algo mais responsável dos governos. Assim,
que não era utilizado vai passar a ser mais é fundamental, principalmente, que haja
utilizado depois da pandemia. Já estamos plataformas com ação no espaço público
vendo isso, na realidade – esse é o meu oitavo e plataformas de interesse público, como
ponto –, com o aparecimento de plataformas a Plataforma Lattes, as de conhecimento,
bottom-up. Isso já pode ser visto na gig a do SUS, a da transparência etc. Esse é o
economy, por exemplo, em aplicativos de primeiro ponto. O segundo é monitorar
transporte, de entregas etc. As pessoas e frear processos que ampliem as formas
estão começando a fugir do controle total de vigilância e de discriminação. Temos
dessas grandes plataformas e criando suas que criar mecanismos para bloquear a
próprias. E o décimo ponto, para terminar sociedade de vigilância. É preciso investir,
de tecer ideias sobre esse pequeno futuro, de acordo com o que Demi Getschko disse,
é que continuaremos pilotados por uma recentemente, em um evento de que eu
tecnocracia. Bom, dado esse estado atual participei, no que é muito falado, que é
e esse futuro não tão diferente do que está o viés do algoritmo, da discriminação
acontecendo hoje, o que nós precisamos algorítmica. E aponta-se, às vezes, que o
fazer? Creio que algumas ações devem ser algoritmo não pode ter viés.
pensadas, mas não sei exatamente como
elaborá-las, mas penso que essas ações Ora, não existe nada neutro, tudo
devem ser pensadas; e acho que é essa a tem viés, tudo é uma construção.
ideia, de que se pense na prospecção de Dessa forma, temos que ter um
ideias. Então, vou focar os 10 pontos. A viés dos algoritmos, um viés de
primeira coisa a ser pensada é estudar garantia de estruturas que sejam
seriamente formas de regulação. Creio libertárias,emancipadoras,
que pode ser uma autorregulação, uma democráticas e não discriminatórias.
regulação do Estado, uma corregulação.
Mas, efetivamente, como as plataformas Precisamos frear esse tipo de vigilância
se configuram como uma nova esfera e de discriminação. Ligado a esse ponto,
pública, essa regulação deve incluir quadros temos de frear os abusos da biometria.
jurídicos, tecnológicos, educacionais, Isso já está sendo feito em alguns estados
ações antitruste e a garantia de que esse brasileiros, no mundo. Em alguns locais, isso
sistema continue inovando. Um desafio é já tem sido proibido, mas é preciso fazê-lo
achar uma regulação que seja, ao mesmo no Brasil. Na Bahia, o governo estadual
tempo, ágil e flexível para acompanhar está implementando o reconhecimento
a dinâmica do setor, não o congelando facial pesadamente, com câmeras de
completamente, sem gerar desestímulo, reconhecimento facial; em São Paulo,
pois essa é uma questão fundamental. também. É importante que tenhamos leis
Mas eu acho que pela ação política e claras que garantam a proteção dos dados
social dessas plataformas, constituindo pessoais. O banimento é fundamental, o
a esfera pública contemporânea, não existe banimento de sistemas e impedimento de
nenhuma forma de ação que não passe por outros. O importante é que nem tudo deve
36
ser feito porque pode ser feito. Esse é um sistema, talvez não à sua centralização. Isso
norte interessante. Penso que deveríamos tudo tem de ser pensado com muita atenção.
criar algo como “estudos prévios de impactos Não gosto de nada muito centralizado, mas
discriminatórios” para pensar lógicas um sistema flexível de consultores ad hoc,
algorítmicas. Assim, se alguma empresa para pareceres sobre sistemas públicos
ou instituição for implantar uma câmera de e público-privados, compulsórios, seria
vigilância, uma câmera de reconhecimento fundamental. Por exemplo, o SouGov.br,
facial, devemos questionar: Quais são os atualmente, lançado para nós, funcionários
impactos discriminatórios dessa ação? Não, públicos, é compulsório. O Currículo Lattes
não podemos fazer isso, ou por que vamos é compulsório. O ConecteSUS também.
fazer isso? Que estudos nos dão suporte Estacionamentos são compulsórios: se
para essa implementação? Estou falando eu não tiver esse sistema, se não tiver
de algo de interesse público, implementado uma pessoa vendendo a cartela de
na esfera pública, obviamente. Dessa estacionamento, eu vou ser multado. Então,
forma, precisamos criar esse estudo precisamos, sim, ter sistemas de auditoria
prévio de impactos discriminatórios. Outro algorítmica para detectar esses impactos
ponto importante – o quarto ponto – é prévios; e necessitamos de estudos prévios
a discussão sobre agência. Isso é muito desses impactos. O sexto ponto concerne à
pouco pensado na formatação dos dados. ampliação das diferenças e da pluralidade
Aquisições de informações, formulários, na representatividade da constituição dessa
enquetes, classificações, obrigatoriedade algocracia. Esse ponto foi abordado no
de fornecer dados para que o sistema diagnóstico atual. É sempre uma burocracia
funcione. Tudo isso vai constituir o que quem vai cuidar disso, que é alguém da
o Colin Koopman chama de Info-power. E informática. E o pessoal da informática –
isso vai produzir o cidadão. Uma vez, eu me desculpem aí o pessoal da computação,
fui a uma universidade dar uma palestra e mas falo isso com muita tranquilidade,
tive que preencher um formulário dizendo porque eu sou engenheiro de formação
qual era meu sexo. Por que, para eu dar uma –, normalmente dizem assim: “Não, nós
palestra, tenho de preencher um formulário implementamos”. Mas precisamos de vocês
que tenha esse tipo de informação? Isso nas Humanidades para pensar as coisas.
pode, obviamente, gerar ações afirmativas, Ora, se as pessoas que implementam não
mas pode gerar ações discriminatórias. sabem nada sobre as Humanidades, por que
Por um lado, ou pelo outro, isso vai me vamos deixar a nossa vida na mão dessas
constituir enquanto cidadão. Precisamos pessoas para implementarem sistemas?
pensar que todo sistema de dados produz Da mesma forma, nós, das Humanidades,
um cidadão. Somos os dados? Sim. No temos que entender esses procedimentos
entanto, não somos apenas os dados, mas, também. Então, o quadro de profissionais
ao mesmo tempo, somos também os dados. que lida com isso deve ser mais plural –
Precisamos pensar nessa formatação. Isso produzem datasets, produzem os códigos,
é fundamental. O quinto ponto trata da lidam com a analítica dos dados. “Plural” no
Auditoria Algorítmica para sistemas de sentido de representatividade de gênero,
relevância pública. Estou me referindo ao de raça, de classe. Precisamos explodir isso,
37
porque os vieses estão nessa constituição universidades, bem como os centros de
da algocracia, que vai decidir o que é que pesquisa, estão sob ataque, hoje, neste
se vai fazer com o dado, que modelo será país. Tudo o que está relacionado à cultura
implementado, como é que vamos montar e à educação está sob ataque. Precisamos
um dataset etc. Isso é fundamental para garantir uma formação em Computação,
o futuro próximo. Então, são coisas que em Digital Humanities. Nós, sociólogos,
precisamos começar a fazer agora; todos precisamos entender como funcionam os
esses pontos são para garantir melhorias dados. Os engenheiros precisam entender
daqui a 10 anos. Bom, obviamente, estamos como funciona a sociedade, as questões
sob ameaça hoje, mas a defesa do Marco éticas, morais e políticas. Precisamos
Civil da Internet e a atenção à Lei Geral investir na formação, na educação, na
de Proteção de Dados, ambos estão sob ciência, na tecnologia, com políticas
ameaça. O primeiro, por um Projeto de Lei, sérias de Inteligência Artificial e de TI. O
agora, do afrouxamento do Marco Civil; e plano de Inteligência Artificial que temos
o segundo, também, por esse governo, por é realmente uma brincadeira. Precisamos,
meio da LGPD, para justamente esconder efetivamente, ter políticas sérias para
dados públicos. Essa é a desculpa, com enfrentar os problemas. E, por último,
base na LGPD. É necessário, efetivamente, vou abordar a sustentabilidade ambiental,
reforçar e defender dois projetos, duas também muito pouco pensada.
leis, que são fundamentais. O Marco Civil,
fruto de um debate público muito forte; e Normalmente, pensa-se nesses
a LGPD, que chegou bem atrasada. O Brasil sistemas como na esfera
foi um dos últimos a implementar uma Lei virtual, como a cloud, a nuvem,
Geral de Proteção de Dados Pessoais na a desmaterialização. Todo esse
América Latina. É preciso garantir, também, sistema, nos datacenters, gera não
a portabilidade dos nossos dados entre só pegada de carbono para nosso
sistemas e plataformas: se eu saio de um uso mas consumo de petróleo e
operador de dados e vou para outro, eu carvão ao redor do planeta, para
quero pegar os meus dados e levar junto. que a internet funcione.
Isso seria algo que garantiria um quadro
jurídico de proteção dos dados pessoais. Além disso, esse sistema gera autoconsumo
Eu estou terminando, mas tenho mais três de minerais para a confecção desses
pontos. O oitavo ponto, que acho que o dispositivos (smartphones, tablets etc.).
Rafael também vai entrar, é a discussão Isso não acaba nunca. O Jussi Parikka, um
sobre direitos trabalhistas. Precisamos pesquisador que escreveu um livro muito
encarar seriamente isso. Alguns países interessante sobre Geologia da Mídia,
já implementam, dão garantia aos usuários tem uma expressão que eu acho muito
de Uber, 99 etc., dão direitos trabalhistas, feliz; ele diz que as mídias viram zumbis,
como se a pessoa fosse empregada da porque isso nunca acaba. A mídia não é
empresa. Então, isso precisa ser enfrentado, uma extensão do corpo, uma extensão
efetivamente. O nono ponto é a formação. da Terra, porque vai voltar sob forma de
Temos de investir em formação. As lixo, que vai precisar ser reciclado; e vai
38
retirando, de novo, material, e consumindo por determinados produtos, até mesmo
energia. Portanto, o consumo de energia não por meio da criação de cadastros digitais
é apenas da indústria petrolífera. Os dados sendo utilizados como base para a afirmação
são um novo petróleo, mas, materialmente, de direitos de propriedade da terra, sem
isso é verdade, porque para gerar dados qualquer verificação pelo Estado, como
consumimos ainda petróleo e carvão. vem ocorrendo com o Cadastro Ambiental
Então, a sustentabilidade ambiental é Rural, atualmente. Esta nova aplicação
fundamental para limitar a pegada de tecnológica vem sendo denominada por
carbono e a extração de minerais desses alguns de uma quarta revolução industrial,
datacenters. e no contexto agroalimentar, de Agricultura
4.0, mas os impactos de toda essa
Cláudio Penteado infraestrutura digital ainda estão para ser
Excelente. O professor André Lemos mensurados, como por exemplo, a escala
colocou questões interessantes, que, às extrativa de demandas por novas matérias-
vezes, não aparecem. A questão, por exemplo, primas, justamente o último ponto que o
da sustentabilidade praticamente inexiste. professor André coloca. A pandemia causou
É interessante falar da nuvem como se uma aceleração dos processos de
fosse algo virtual, e é realmente importante digitalização da sociedade em um momento
entendermos que, em algum lugar, os dados em que estava se intensificando a
estão armazenados. Continuando o debate, sobreposição de crises (financeira, ecológica,
temos agora a Larissa. climática) que já demandava uma
reorganização das cadeias de valor para
Larissa Packer gerar um menor impacto sobre o meio
O professor André abordou diversas ambiente, o que veio, então, estimulando
questões em uma exposição incrível, então uma transição para o modo 4.0 da Indústria,
irei mediar minha apresentação a partir como se fosse uma solução. Contudo, o
do que ele nos trouxe, aprofundando o que houve foi a busca por uma maior
debate em alguns pontos no que diz respeito produtividade, com maior uso de recursos
ao meu campo de atuação. Sou advogada naturais, mas que se mantivesse a
socioambiental e monitoro cotidianamente possibilidade de extrair esses recursos
a cadeia global de valor do agronegócio, de forma barata, com baixo custo de
ou os sistemas globais de produção de produção. Com a pandemia, vimos limites
commodities agroalimentares. A partir sendo impostos ao livre comércio, à livre
desse acompanhamento, fica claro o quanto circulação de pessoas e mercadorias, assim
é necessário tratar da entrada das big como temos visto uma disruptura nas
techs nessa cadeia de valor por meio de cadeias longas de valor (de mineração,
diversos mecanismos como a blockchain agrícolas e de suprimento de alimentos).
e os novos contratos virtuais na rede; de Temos acompanhado o incremento da
algoritmos sendo utilizados cada vez mais inflação e dos preços dos alimentos,
para capturar dados do solo, clima, justamente por estas rupturas que se
meteorológicos, de recursos naturais, deram em várias etapas: desde a extração
quantidade de oferta e demanda global das matérias-primas até a chegada do
39
produto ao consumidor do outro lado do em torno de Huawei, Ericsson, Samsung
mundo. E é preciso levar em conta que e Nokia. Desse modo, é possível identificar
essas cadeias complexificadas abastecem uma tendência para daqui a 10 anos, que
diversas populações no mundo todo. Por seria a de superconcentração de cadeias
outro lado, vimos a aceleração dos processos (que já são demasiadamente concentradas),
de digitalização dessas cadeias, que vem com a entrada dessas grandes empresas
promovendo uma reorganização delas de tecnologia e dados que provém a
em torno de novos atores. Então, pensando infraestrutura essencial para esta
nos Big Five da tecnologia, notamos que, digitalização das cadeias e da sociedade.
em 2020, quatro empresas atingiram um Muitas empresas procuram o blockchain
valor de mercado de trilhões, que são e a digitalização de suas atividades
justamente Apple, Microsoft, Amazon (em exatamente para se prevenir de futuras
quarto lugar, vem a Tesla,que também crises, tanto financeiras quanto decorrentes
trabalha com tecnologia no setor de de eventos extremos (climáticos, sanitários,
transportes). Assim, a pandemia acabou guerras), que limitem a circulação de
por se somar às demais crises, e vem trabalhadores e mercadorias, impactando
havendo uma reorganização importante oferta e demanda global. Mas não é de
de cadeias de valor e dos atores que hoje que soluções tecnológicas e
organizam essas cadeias, a entrada das proprietárias são adotadas como fórmula
grandes empresas de tecnologia, em várias econômica do modo de produção capitalista
etapas das cadeias, para dar maior eficiência para a superação dos diversos ciclos de
e manter o suprimento. Por exemplo, é crise do capitalismo. Então, geralmente,
notória a batalha geopolítica em torno quando há uma crise, vem um pacote
dos semicondutores; antes, os tecnológico associado a uma solução
microprocessadores eram de domínio de proprietária: a tecnologia vem associada
IBM, Intel etc; agora, há uma especialização a direitos de propriedade intelectual, o
na cadeia para a construção de chips, direito de monopólio. Isso aconteceu em
porque eles cada vez mais são a base dessas diversos momentos da histórica recente
cadeias digitalizadas. Dessa forma, do capitalismo, por exemplo, a Revolução
assistimos a uma crise de desabastecimento, Verde, que introduziu um pacote tecnológico,
tanto no setor automobilístico quanto no a partir das inovações militares do contexto
setor de alta tecnologia, de celulares e de da chamada Guerra Fria, gerando o
computadores, o que agrava a competição denominado desenvolvimento conservador
corporativa e entre Estados pela hegemonia da agricultura. Agricultores passam a ficar
tecnológica da próxima etapa do modo dependentes de sementes, agrotóxicos e
de produção, o que também significa uma maquinários com propriedade intelectual;
disputa geopolítica. Algo que vem sendo pequenos aviões de guerra se tornaram
chamado por alguns analistas de uma pulverizadores aéreos de agrotóxicos de
“nova guerra fria” em torno da infraestrutura monocultivos monopolizados por poucas
da conectividade e da era digital. Os países empresas desenvolvedoras do pacote
ocidentais e a China também travam tecnológico. No início dos anos 80, empresas
verdadeira batalha pela hegemonia do 5G de sementes eram majoritariamente
40
familiares e não chegavam a dominar 1% robotização com a aplicação de Inteligência
do mercado global; com os direitos de Artificial. Qualquer solução real, em
monopólio sobre uso de sementes e períodos de crise, não virá de uma
agrotóxicos Bayer/Monsanto (Alemanha), tecnocracia, governada por inovação
ChemChina/Syngenta (China); Corteva, tecnológica monopolizada por poucas
fusão da Dupont e Dow (EUA) e Basf corporações e investidores, que [proponhaa
(Alemanha) dominam metade do mercado mesma divisão internacional do trabalho
mundial de sementes e 75% do mercado entre países do Sul global fornecedores
de agrotóxicos em 2022, apontou relatório de recursos naturais e matérias primas
do GRAIN. Agora, com a sobreposição de de baixo valor agregado e os países do
crises, vemos, mais uma vez, a mesma Norte desenvolvedores de tecnologia. Um
solução em novas roupagens, um pacote novo ajuste colonial 4.0 que pretende
tecnológico ligado à alta tecnologia digital salvar as corporações e investimentos das
e de inteligência artificial da era digital, economias centrais às custas da expropriação
trazendo uma série de medidas de coleta de trabalho e recursos dos países
e processamento massivo de dados - o reproduzidos como periféricos, em uma
setor mais lucrativo da era digital, com a história que se repete como tragédia e
negociação da nova mercadoria da como farsa, parafraseando Marx. O que
informação, cujos direitos de monopólio temos testemunhado na pequena história
estão em franca disputa. Toda essa do capitalismo é uma transição dos âmbitos
infraestrutura leva ao desenvolvimento comuns da humanidade, essenciais ao
da eletricidade em informação e gera várias mínimo existencial das pessoas, do regime
cadeias de valor sobre as Terras Raras jurídico dos bens comuns - que não
(elementos químicos que geram o pertencem a ninguém justamente porque
eletromagnetismo), que hoje estão sob o são destinados a todos das presentes e
domínio da China. Ainda no que diz respeito futuras gerações, para o regime proprietário,
à geopolítica dos recursos naturais, essa inserindo bens, conhecimentos, informações
sociedade da era digital e o desenvolvimento no comércio para circular como qualquer
da Indústria 4.0 gera, para daqui a 10 anos, outra mercadoria. Hoje, funções
uma reorganização dos Estados fornecedores ecossistêmicas são apresentadas como
das novas matéria-prima. O Brasil tem uma forma de prestação de “serviço”, os
reservas significativas de Terras Raras; serviços ambientais, como o serviço de
mas é a China, hoje, que detém as maiores fornecimento de água potável, ou a
reservas em operação, e é o país em maior capacidade de sequestrar carbono por
intensidade de extração de areia para a bases naturais - solos e florestas -
construção de silício, que é a base dos introduzindo-os no regime jurídico
chips e dos semicondutores. Essa proprietário, ou seja, excluindo todos os
reconfiguração geopolítica também vale que não podem pagar do acesso a tais
para uma maior extração de nióbio e lítio, bens. E as soluções tecnológicas estão aí
além do ferro e aço que continuam para garantir a criação e funcionamento
importantes para a construção dessa nova destes novos mercados, com a contabilidade
infraestrutura de conectividade e e monitoramento das novas mercadorias,
41
através dos pacotes de dataficação, medição Ao passo que se analisa outros problemas
do tempo, da meteorologia, umidade do específicos, temos, de um lado, a reescrita
solo, toneladas de carbono evitada, metros da história dos fatos, com base na criação
cúbicos de água, etc., por meio de sensores, de realidades paralelas, que são as fake
drones e satélites conectados aos novos news; e, de outro, a tentativa de regulação
hardwares (maquinários) e softwares em do Estado sobre a produção de informação.
aplicativos de celulares, desenvolvidos Mas de quem são os dados? Quem está
para agricultura. Infraestrutura que parece lucrando com a compra e venda da nova
estar se democratizando nas mãos de todos moeda digital? O Projeto de Lei do PL
através de um celular e conexão, mas que sobre fake news, no 2.630, de 2020,
na realidade está nas mãos de poucas afirma: “Olha, vamos controlar esse
corporações e seus investidores. Quando combate à desinformação das fake news
se mapeia o setor público, os Estados, cada e regular as plataformas digitais”. Porém,
vez mais, fazem contratos com a Microsoft a regulação acaba legitimando a captura
e outras Big Techs, inclusive, toda a base e mercado de dados e a censura prévia e
dos info.org dos governos depende de autorregulada dessas plataformas sobre a
soluções tecnológicas destas corporações, sociedade. Por exemplo, eu tenho amigos
cujo acesso depende do pagamento de que tiveram conteúdos excluídos: fizeram
direitos de propriedade intelectual. Então, o upload de um vídeo com o título “Fora,
a cada ano, os governos têm de pagar para Monsanto, das Malvinas Argentinas”; o
a Microsoft, por exemplo, para manter os YouTube, simplesmente, excluiu esse
documentos, processos e funcionamento vídeo, afirmando que o conteúdo ia contra
da burocracia do Estado digitalizada. Assim, as diretrizes da comunidade e contra
existe um gasto muito grande, sendo que a classificação etária da audiência da
as compras públicas poderiam privilegiar plataforma. O Projeto de Lei do Partido
soluções tecnológicas que não fossem Liberal traz justamente essa possibilidade,
proprietárias e detidas por poucas com a necessidade de identificar todos os
corporações. conteúdos impulsionados. Por um lado,
isso parece interessante para fazer uma
Pensarmos em formas de livre mediação das informações falsas contra
uso, de investimentos públicos em a captura da democracia, mas, por outro,
soluções tecnológicas com base ratifica a governança privada e vigilância
em software livre, infraestruturas das Big Techs sobre todas as esferas sociais.
de conexão e armazenamento de Com ela, movimentos sociais que fazem
informação públicas e seguras a fim compartilhamentos com mais de cinco
de preservar a soberania nacional e grupos, por exemplo, teriam de se identificar
o regime jurídico dos bens comuns, e passam a ser vigiados como potenciais
seria algo fundamental para geradores de fake news. Não obstante, existe
evitar esse ajuste neocolonial e de ainda a questão da captura dos dados das
integração subordinada dos países pessoas, uma nova mercadoria que tem o
do Sul na ordem internacional. potencial de conformar gostos, preferências
e comportamentos dos indivíduos, como
42
se referiu o professor André. Há ainda a aumentar a escala do sistema financeiro”.
captura de dados biológicos, que é feita a Para aumentar essa escala, precisamos
partir do próprio corpo das pessoas, por incluir os “sem banco”, que são, mais ou
meio da leitura facial, da íris, da biometria, menos 1,7 bilhão de pessoas - para incluir a
identificação utilizada para garantir a economia informal parar dentro do sistema
propriedade é muito utilizada pelas polícias, financeiro por meio das plataformas digitais
sem consentimento, podendo servir de e de moedas digitais, e que não precisam
base para inquéritos civis e criminais de uma conta bancária. As fintechs, as
Isso tudo é propiciado por ferramentas plataformas financeiras e tecnológicas
majoritariamente fornecidas pelas Big pretendem democratizar as finanças por
Techs, principalmente pela Microsoft, meio do acesso a um celular e à internet,
o que causa um problema de soberania fazendo com que seja possível a compra
tecnológica, de captura dos investimentos e a venda - por consumidores e entre
públicos em soluções tecnológicas que não fornecedores das cadeias de produção
estão voltadas à satisfação das necessidades - por plataforma e moedas digitais. Se
sociais, mas do lucro corporativo Saímos há 1,7 bilhão de pessoas sem banco,
do corpo, da identificação facial, da leitura mas 1,1 bilhão de pessoas com acesso à
óptica e chegamos, ao monitoramento internet, falta a lacuna da conectividade
dos territórios. Formas de controle para a inclusão de uma fatia importante
do desmatamento, de identificação da da economia pelos serviços financeiros.
localização de recursos naturais, minerais, Sendo assim, vamos ver, cada vez mais,
água, biodiversidade nos territórios. Estes bilhões de pessoas no mundo sendo
dados massivos capturados e armazenados incorporadas às transações financeiras
em infraestruturas de poucas corporações para que se tente ganhar escala e superar a
de tecnologia, vem significando uma crise financeira; e isso vai passar, de novo,
transferência das informações - das novas pela mediação de poucos atores, e as Big
mercadorias da era digital - Techs saem na frente. Vemos, novamente,
uma reorganização das cadeias de valor e
de plataformas públicas para uma grande relevância de cinco empresas,
plataformas privadas, com um que podem gerar novas fusões e aquisições,
deslocamento ainda mais intenso criando oligopólios verticais destas cadeias
do lugar do poder nas mãos destas de valor. Dessa forma, teremos que lidar – os
corporações. países do sul global, principalmente – com
o enfrentamento a estas ditas “soluções
Cada vez mais, para termos acesso a esse corporativas” em torno de inovação
tipo de informação, precisamos negociar tecnológica e sua decorrente propriedade
esse tipo de dado com as empresas que intelectual, que leva uma renovada pressão
detêm esse controle. E, por último, o sobre suas terras e recursos. Travar o
próprio Banco Mundial coloca esse vínculo controle monopolístico de corporações
entre a digitalização e a financeirização e investidores das cadeias sobre terras
da economia,afirmando: “Olha, em uma e tecnológica continua sendo o desafio
crise do sistema financeiro, precisamos para os próximos anos.
43
Cláudio Penteado um universo muito grande, que vai desde
Agradecemos muito sua participação, entregadores até o trabalho que alimenta
Larissa, você levantou pontos centrais os dados para a Inteligência Artificial,
para discutir esse poder das plataformas, seja em plataformas como a Amazon
muitas vezes, superior ao poder dos Mechanical Turk, seja em plataformas para
Estados. Isso supera, inclusive, o Estado e trabalho freelancer e demais trabalhos.
transfere o papel de fiscalização para essas Abordarei duas áreas. Primeiro, vou
companhias, que regulam os processos falar sobre a noção de trabalho decente
de financeirização. Enfim, vários desafios em plataformas digitais; e, depois, vou
surgem. Agora, teremos as considerações falar do cooperativismo de plataforma. É
do professor Rafael Grohmann. necessário ter uma regulação do trabalho
por plataformas digitais, e existem várias
Rafael Grohmann discussões no mundo, como o André
Temos tentado contribuir com esse pontuou. Recentemente, houve uma última
debate e fico muito feliz em estar neste decisão, na Holanda, que foi um debate
debate, com a Larissa, que não conhecia, com muito difícil, legislativo, juridicamente
a Helena e com o André, que são lideranças falando. Considerando, inclusive, a própria
na nossa área. Como diretor científico Câmara dos Deputados, que temos hoje, e
da Associação Nacional de Programas o tanto de projetos que existem lá, sendo
de Pós-Graduação em Comunicação, a maioria deles, hoje, regressivo. Apesar
fico feliz que tenha muita gente da área disso, é importante avançar nessa questão.
da Comunicação levando e liderando os Eu tenho coordenado, no Brasil, um projeto
esforços em relação às políticas públicas chamado Fairwork, que institui princípios
de tecnologia. O André fez um esforço para o trabalho decente por plataformas
inigualável de elencar esses desafios que digitais, em consonância com a OIT. Primeiro,
temos, de forma superorganizada. Vou pegar uma limitação. Esses princípios de trabalho
alguns dos pontos que ele trouxe em relação decente são, a meu ver, o início do que
à plataformização do trabalho; ele apontou eu imaginaria como economia digital,
a dificuldade de enfrentar, mesmo daqui que eu queria ver daqui a 10 anos. Ele
a 10 anos, essas infraestruturas. é o mínimo do mínimo. E temos visto,
avaliando grandes plataformas pelo mundo
Em um momento em que as – estamos presentes, hoje, em 20 países,
próprias infraestruturas estão de Estados Unidos a Tanzânia –, que, na
plataformizadas, pensando desde América Latina, nenhuma das plataformas
cabos submarinos e centros de avaliadas, até o momento, conseguiu atingir
dados, é realmente um grande nota acima de 3, de zero a 10. E quais são
desafio enfrentar isso, e não existe esses princípios? É importante pensar tanto
solução fácil para esses problemas. a regulação dessas plataformas digitais de
trabalho quanto fazer pressão por esses
Focarei as plataformas digitais de trabalho, princípios, e também ajudar na construção
nas quais temos a plataformização do de plataformas locais, plataformas
trabalho, sabendo que também esse é comunitárias ou plataformas cooperativas.
44
São cinco princípios. O primeiro é de uma período, se a sua posição, na plataforma,
remuneração que seja decente. O Fairwork não é afetada negativamente. Tem outro
trabalha com dois indicadores, sempre, um ponto que é interessante, no qual alguns
básico e um avançado. O básico é que as agentes públicos pensam em algo assim:
plataformas, no mínimo, demonstrem que
todos os trabalhadores recebem o salário- Quando um trabalhador, por
mínimo local, considerando o número de exemplo, um entregador de
horas trabalhadas. Sabemos que isso é bicicleta, sofre um acidente fazendo
um grande desafio. O ponto avançado uma entrega, isso se configura ou
da questão da remuneração seria que as não como acidente de trabalho?
plataformas garantissem o salário-mínimo
ideal de cada país; que, no Brasil, o mais E se chamar o SAMU, as empresas devem
conhecido é o do DIEESE, que está em uma indenização para o Poder Público? Quer
torno de R$ 5.000,00. E tem, no mundo, dizer, há discussões em torno desse sentido
o Global Living Wage, que, no Brasil, não e de as plataformas precisarem cumprir
tem tanta penetração, inclusive porque esses princípios. O terceiro princípio é o
não existem muitos estudos. É algo que de contratos que sejam justos, em que se
precisamos enfrentar, no sentido do que defina claramente a legislação brasileira,
seria esse salário-mínimo ideal, de uma em que o contrato seja comunicado em
garantia das plataformas em relação a uma linguagem clara e compreensível para os
remuneração que seja decente. O segundo trabalhadores e que esteja sempre acessível
ponto são as condições de trabalho, que a eles; e que eles sejam notificados quando
precisam ser justas e que tenham a ver com alguma mudança acontecer, a fim de não
segurança, com saúde. O ponto básico que serem prejudicados por uma mudança
trabalhamos é que as plataformas possam na plataforma. Além dessas questões,
mitigar riscos específicos da tarefa, com é preciso que o contrato não exclua a
políticas que protejam a segurança de responsabilidade da plataforma. É muito
trabalhadores contra riscos específicos comum isso, pois temos plataformas, no
da tarefa; que as plataformas adotem Brasil, que dizem claramente no contrato:
medidas adequadas e éticas de proteção “A plataforma não se responsabiliza se
e gerenciamento de dados, principalmente tiver transporte de drogas”. Coisas nesse
dos trabalhadores; que tenham uma política sentido, as plataformas sempre excluem
de gerenciamento de dados; e que os suas responsabilidades. Nesse ponto, as
trabalhadores não sejam prejudicados plataformas também não podem incluir
com essas medidas. No ponto avançado, cláusulas que impeçam os trabalhadores de
as plataformas precisam oferecer uma rede buscar reparação por queixas decorrentes
de segurança, com medidas significativas da relação de trabalho. O quarto princípio
para compensar os trabalhadores que é o princípio de uma gestão decente. Ou
perdem renda devido à incapacidade de seja, se a plataforma é capaz de fornecer
trabalhar por algum motivo, seja uma lesão, o devido processo para as decisões que
seja alguma outra coisa; e quando eles são afetam os trabalhadores; se eles conseguem
impossibilitados de trabalhar por um longo apelar para decisões injustas, em relação a
45
bloqueios, desativações, falta de pagamento; representação são o mínimo. Todavia, ainda
se eles conseguem ter acesso a todo esse não conseguimos chegar a esses pontos
processo, se esse processo é transparente, no Brasil, na América Latina. Sabemos
se o processo de apelação está disponível que existe um movimento por parte das
para os trabalhadores, e se eles não são empresas, muitas delas têm conversado
prejudicados por entrarem com alguma conosco pensando nesses princípios, como
ação disciplinar. Mais do que isso, se as também nos mecanismos de pressão; mas
plataformas são capazes de promover não dá para baixar o sarrafo ou pensar
igualdade e diversidade no processo de em algo menor, porque isso é o mínimo
gestão, uma real diversidade, com políticas que se espera de um trabalho decente,
que garantam uma não discriminação entre que envolva, seja em plataformas digitais
trabalhadores; e também garantindo, diretamente de trabalho, ou de outro tipo.
ou prevenindo, que usuários possam Porém, sabemos que essa regulação chega
discriminar trabalhadores por quaisquer ao limite, e que não é possível imaginar o
razões. E se existe um grupo desfavorecido Fairwork. Em outros países, tem algumas
na plataforma, se existem políticas para plataformas, principalmente as locais, que
identificar e remover barreiras do acesso têm, a partir dessas pressões, melhorado
desse grupo a determinadas plataformas. suas pontuações, suas condições de
Também entra nesse quesito a questão trabalho, ao longo dos tempos. Mas existe
que envolve se a plataforma usa algoritmo um limite para isso, e é por isso que temos
para determinar o acesso ao trabalho, à falado muito sobre o “cooperativismo de
remuneração, que eles não resultem em plataforma” ou “plataformas de propriedade
resultados injustos para as minorias. Isso de trabalhadores” e estudado bastante isso.
é também algo que consideramos um
ponto muito importante. Por fim, uma Não é possível pensar no fomento
representação que seja justa, decente, a esse tipo de plataforma sem
com a plataforma, com um mecanismo indução de políticas públicas, ou
documentado, que possa expressar a voz fomentos ligados a governos locais,
coletiva dos trabalhadores, que a liberdade estaduais, nacionais; e é preciso
de associação não seja inibida, inclusive em um olhar público, também, para
sindicatos e associações; e se a plataforma a construção dessas plataformas
apoia, ou não, a governança democrática. de propriedade de trabalhadores,
Quanto a plataforma reconhece esses direitos que podem ter diferentes tipos
e os publica, formalizando um corpo coletivo de soluções tecnológicas.
de trabalhadores e buscando implementar
mecanismos significativos de representação Por exemplo, temos no Brasil o caso do
e de negociação coletiva. Sabemos que os Contrate Quem Luta, do MTST, que é um
usuários têm avaliado as plataformas no assistente virtual, não necessariamente
Brasil – no fim do ano, vamos lançar um uma plataforma, com as infraestruturas;
relatório – e as dificuldades que temos em e também não vão resolver todos os
relação a esses princípios. Remuneração, problemas, mas podem ajudar no
condições de trabalho, contrato, gestão e desenvolvimento local e, de alguma
46
maneira, construir circuitos alternativos relatório sobre Economia de Dados no
de produção e consumo, com base nas Brasil e no México. Sabemos da dificuldade
nossas cidades. Quais seriam algumas de se pensar em infraestrutura de dados
características, a nosso ver, para que também comunitários, mas é possível pensar nessas
não se construa: Ah, vamos construir uma brechas. Tecnologias que sejam livres e
plataforma cooperativa para X. Entraríamos abertas, com licença de dados abertos; no
em um tecnosolucionismo, que é o que Brasil, tem um histórico muito importante
queremos evitar, de uma ideologia do Vale do de política de software livre, de movimentos
Silício, que justamente estamos criticando. de software livre, não precisaria inventar
Então, esse é um grande desafio: como nada, pois tem algo em andamento que
fomentar organizações de trabalhadores, daria para conectar as diferentes partes.
de comunidades, de maneira geral, desde Recentemente, o Leonardo Foletto lançou
baixo, sem recairmos em um elefante branco, um livro muito legal, chamado A cultura é
ou em um tecnosolucionismo? Algumas livre, com prefácio do Gilberto Gil, falando
características que temos colocado, além dessas políticas de cultura digital nos
dessa questão toda do trabalho decente, que anos 2000, e como isso foi importante
é central para a construção de plataformas para o Brasil em termos de soberania
cooperativas, é a governança democrática, digital. Então, pensar essa articulação
como um elemento central, governança das de trabalho decente, dados para o bem
próprias comunidades, dos trabalhadores, comum, tecnologias abertas e organização
dados para o bem comum. Temos uma desde baixo, é um grande desafio, mas
série, inclusive, um subtítulo que se chama é necessário. Recentemente, o exemplo,
“Do cooperativismo de plataforma”, que para terminar, sobre o qual temos falado
são cooperativas de dados. Tem exemplos muito, é o caso na França, em que uma
pelo mundo, como a Driver’s Seat, em que cooperativa de entregadores se juntou a uma
os motoristas trabalham para a Uber, mas Federação de Cooperativas de Entregadores,
coletam os dados deles mesmos e revendem a CoopCycle, e criou um software livre
para as agências públicas, para que elas, os para várias cooperativas de entregadores
órgãos públicos, dependam menos das Big na Europa, e agora isso está chegando na
Techs, em relação a dados de geolocalização, Argentina; pode-se estar em qualquer
de tráfego urbano; e que as prefeituras e cidade, e é o mesmo aplicativo, só muda
outros órgãos públicos possam planejar a cooperativa local. Juntou-se isso a um
melhor suas políticas urbanas com base Selo de Alimentação Saudável, da França,
nesses dados. financiado pela Câmara Municipal de Paris.
Ou seja, é uma política pública, ao mesmo
Então, é preciso pensar em tempo de trabalho decente e de alimentação
dados para o bem comum e saudável, porque a cooperativa vai fazer
em infraestruturas que sejam entregas de restaurantes locais, e não de
comunitárias. redes de fast-food. Então, isso é entendido
como uma política pública urbana e também
Eu e uma professora do México, a Paola de saúde da população. Isso vai um pouco
Ricalde, estamos terminando, agora, um ao encontro do que o André Lemos falou,
47
de se pensar a sustentabilidade, tanto das integração da tecnologia, da informação
plataformas e das próprias infraestruturas e do conhecimento ao capitalismo é o
como também do tipo de sociedade que que tem marcado o tempo presente. Isso
fomentamos, de ter fomento para essas significa uma série de questões, como o
plataformas. Obviamente, são muitos os aprofundamento da Divisão Internacional
desafios que temos enfrentado, tanto do Trabalho. A lógica imperialista, já
acompanhando essas iniciativas quanto mencionada aqui. E, de forma geral, a
pensando no futuro delas. Mas tanto o transformação de tudo em mercadoria,
trabalho decente como o cooperativismo com profundos impactos ambientais,
de plataforma, seja em qual nomenclatura a culturais, políticos, que também foram
usamos, são apostas que fazemos, pensando mencionados. Coloco isso porque é claro
tecnologia e soberania digital, no Brasil, que há resistências, é claro que há usos
em 2030. diferentes das plataformas, mas, para mim,
é fundamental ter em vista tendências
Cláudio Penteado hegemônicas associadas: a intensificação e
O Rafael desenvolve um trabalho precarização do trabalho, a constituição de
muito importante com essa discussão sobre uma esfera pública fragmentada. Ao passo
o trabalho decente e o cooperativismo de que, ao mesmo tempo, unida em torno
plataforma como a solução alternativa. de uma vida baseada no consumo, com a
Sua exposição de ideias passou pela ampliação de mecanismos de vigilância
Larissa e pelo André, é uma coisa a se e controle social, com o reforço das mais
pensar; não é uma forma de demonizar as diversas opressões, e, também, a lógica
plataformas, mas sim de entender como as da própria tecnociência, que coloca o
políticas públicas podem contribuir. Então, desenvolvimento do conhecimento a serviço
agora, teremos a oportunidade de ouvir/ do capital e para uma instrumentalização
ler a Helena Martins, que representa um que, muitas vezes, significa uma lógica que
importante grupo que atua há muitos anos vai de encontro à proteção ambiental, às
em defesa de uma comunicação realmente populações e culturas tradicionais etc. Então,
democrática. esse é um pouco do movimento que levou
ao problema que estamos encontrando
Helena Martins agora, que é o dessa plataformização da
Pretendo trazer contribuições que sociedade, como já mencionaram.
resultam dos espaços em que estou inserida:
dos grupos Telas e OBSCOM/CEPOS, da Essa plataformização facilita a
Revista EPTIC e da militância pelo direito aderência das tecnologias, da
à comunicação. Quero começar a partir informação, do conhecimento,
de um diagnóstico, que talvez seja uma ao próprio sistema. Valendo-se,
contribuição, que se conecta também com para tanto, de maior concentração
outras exposições de ideias. Primeiro, tenho e centralização de capital.
lido muito a parte da Economia Política
da Comunicação, que é o ponto teórico ao Os números já foram também apresentados
qual me vinculo mais; essa ampliação da aqui, em torno das Big Techs etc. Com base
48
nessa leitura, uma primeira questão em que isso é fundamental para termos em vista um
podemos tentar avançar é o reconhecimento novo programa para as comunicações, que
de que a luta contra o monopólio/oligopólio, se faz absolutamente necessário. Tentando
nesse setor, marcará o século XXI. O século contribuir, um pouquinho, com o que
já iniciou com a bolha.com, e essa é uma seriam áreas – porque o próprio tempo
agenda, que, sem dúvida alguma, vai ser e minha capacidade não me permitiriam
tão importante quanto as agendas que desenvolver todos esses pontos –, quero
anteriormente levaram ao desenvolvimento elencar aqui algumas questões do que
de mecanismos antitruste. Então, vamos poderiam ser abordagens nesse programa
ter que atualizar esses mecanismos, das comunicações. Dividi em curto, e dei o
considerando a luta fundamental, que é nome “de imediato”; médio prazo, e dei o
contra o monopólio/oligopólio em torno nome de “paralelamente”, pois são processos
de poucas corporações tecnológicas, que se síncronos; e longo prazo, e dei o nome de
espraiam para as mais diversas áreas da vida “tendo em vista”, porque todos os nossos
em sociedade. Bom, como uma tendência enfrentamentos, sejam mais imediatos
geral, isso se revela nos mais diversos ou um pouco mais espaçados no tempo,
campos sociais, de forma extremamente têm de estar muito orientados para uma
acelerada; e, por essa diversidade, demanda visão sobre comunicação, tecnologia e
abordadas e enfrentamentos diversos. direitos. Invertendo um pouco a ordem,
Ao mesmo tempo que essas abordagens a longo prazo, o que temos que retomar
encontram alguma resistência para serem é a afirmação da dimensão dos direitos, a
desenvolvidas, até mesmo no próprio dimensão da comunicação e das tecnologias
campo da esquerda, seja por conta do como algo público, no sentido mesmo mais
tecnosolucionismo reinante, de uma ideia profundo da palavra, e que rompa com
ainda muito presente de neutralidade, de todo esse processo de mercantilização
uma expectativa otimista, que acompanhou da vida. Temos de desenvolver nosso
muito o desenvolvimento das próprias olhar para isso; ainda que, obviamente,
tecnologias, de uma perspectiva também reconhecendo os enfrentamentos que
muito comum, inclusive na Academia, da componham distintas temporalidades. No
ênfase nos usos sociais, na exploração das curto prazo, mencionarei uma questão, que,
fissuras. Partindo do reconhecimento de muitas vezes, acabamos não contemplando,
que se trata de um processo mais amplo, que é da universalização do acesso. Não
geral, e que encontra esses desafios todos é possível que mantenhamos índices
já mencionados aqui, parece fundamental de desconexão, ou de conexão precária,
desenharmos outro futuro, enfrentarmos que registramos, especialmente, em um
esse tema tendo em vista uma perspectiva país como o Brasil. Isso é fundamental
de totalidade. Quero resgatar Raymond para enfrentarmos a desigualdade. Se
Williams: Não como uma junção apenas, reconhecemos que a plataformização e
mas como uma totalidade que reconhece a mediação tecnológica marcam o tempo
os atravessamentos da hegemonia. Quais presente, é fundamental que as pessoas
são as formas sociais hegemônicas? Quais possam participar desse universo. Agora,
instituições operam essa hegemonia? Tudo
49
 além de ter o acesso, ele deve elas têm implicações para o debate sobre
ser acompanhado também por desinformação, discurso de ódio e, de forma
políticas públicas de formação geral, para a própria conversação social.
para uma leitura crítica da mídia, Também, no curto prazo, é fundamental
para programação, de modo que que avancemos na reivindicação em torno
não sejamos apenas consumidores, da transparência algorítmica e dessa
mas, sim, produtores e produtoras corregulação. Cito um documento que foi
de tecnologia. elaborado por diversas organizações latino-
americanas, chamado Smart Regulation:
Acho que essa dimensão é muito importante, Designing Environmental Policy, bem como
e há, inclusive, alguns exemplos de pesquisas do Observacom, do Intervozes e
desenvolvimento disso, como o Plan Ceibal, outros, nos quais há várias propostas em
no Uruguai. Em outros países, também, torno de transparência algorítmica. Outra
além do Brasil, com software livre. Enfim, questão é pensar que a incidência em relação
há uma preocupação para que não sejamos à regulamentação dos usos da Inteligência
apenas consumidores. Isso é muito urgente, Artificial é muito importante. O André
até porque a própria pandemia levou a também mencionou que o governo fez um
uma superintrodução das plataformas, em plano medíocre sobre Inteligência Artificial,
diversas esferas. Então, na universidade mas é preciso também que debatamos o
mesmo, em vez de discutirmos a elaboração que queremos com isso, sem ter muitas
de tecnologias, fazemos contrato para usar ilusões em torno de aceleracionismo,
o Google. Essas são questões que carecem pois essa não é a perspectiva que abraço.
de um enfrentamento imediato e devem Creio que temos de discutir, inclusive, se
ganhar mais centralidade na agenda queremos Inteligência para tudo, para
política nacional. Bom, casado a isso, que é que a queremos; e, obviamente,
ainda nesse curto prazo, devemos evitar discutindo os vieses, o controle social e
as medidas de Bolsonaro, em torno da a proteção de dados, que são questões que
moderação de conteúdo, e os ataques, em devem atravessar e pautar todos os usos
geral, massivos, da internet, que o André que venhamos a fazer sobre Inteligência
também já comentou. Ao mesmo tempo, é Artificial, que, sem dúvida alguma,
preciso fortalecer os espaços de governança também pode ser muito importante para
multisetorial, até porque, no Brasil, não outras questões. Também, no imediato, é
temos uma tradição de ter uma Agência, fundamental fortalecer a mobilização em
ou um Conselho de Comunicação que seria, curso para banir o uso de reconhecimento
inclusive, mais adequado; e, hoje, temos facial no Brasil. A Coalizão Direitos na
um problema, de fato, de passar, de termos Rede está iniciando uma campanha em
sempre discussões sobre quais são os órgãos torno do banimento; essa pauta já foi
que vão acompanhar, por exemplo, questões vitoriosa em várias cidades; e aqui, ela
sobre desinformação etc. Há o CGI, muito ainda ganha mais importância devido à
importante, mas também sabemos que o conhecida política racista de segurança
CGI é frequentemente atacado pelo próprio pública. Então, é fundamental barrar o
Governo Bolsonaro. Então, essas questões, uso do reconhecimento facial, de forma
50
geral, e especialmente, também, no campo termos a promoção da soberania de dados,
da segurança pública. E um outro debate, individual e coletivamente.
imediato, que já tem sido feito, inclusive
pela OCDE e por outros órgãos e grupos, Por outro lado, muitos dos serviços
é sobre a taxação das plataformas; temos que são, hoje, comercializados,
de desenvolver mecanismos que evitem direta ou indiretamente, pelas
que elas sigam acumulando riqueza em Big Techs, são importantes, mas
paraísos fiscais, isso é fundamental. No precisam ser reorientados, desde
médio prazo, é fundamental avançarmos seu modelo de negócio até seus
em uma proposição latino-americana, em sentidos mais profundos, que
crítica, de enfrentamento à concentração orientam desde a sua elaboração
de propriedade das plataformas digitais.
Medidas antitruste já têm sido discutidas passando pelo design tecnológico. Podemos
na Europa e nos Estados Unidos, inclusive pensar no impacto do Uber em relação às
por parte de setores liberais; e, aqui, cidades, o Airbnb também, em todas as
ainda carecemos de uma abordagem que plataformas; e questões sobre trabalho.
considere, inclusive, as desigualdades Então, dentro desse reconhecimento de
Norte e Sul etc. Mas quero deixar que alguns serviços são importantes, é
algumas propostas para discutirmos no fundamental que pensemos em uma solução,
debate, em outros momentos, em torno em vez do solucionismo tecnológico, no
do enfrentamento a essa concentração. planejamento democrático. Essa dimensão
É preciso desmembrar a propriedade já do planejamento já foi muito debatida;
existente e evitar novas fusões e aquisições. inclusive, há o planejamento socialista, o
Por exemplo, é preciso desmembrar o planejamento, enfim, da experiência chilena,
Marketplace da Amazon, impedir que o sobre isso. Usar tecnologias é algo que temos
Google tenha busca, o YouTube, e tudo mais. que, novamente, trazer à tona, contando
Temos que limitar a apropriação de dados com os algoritmos, de forma democrática,
e o compartilhamento entre empresas, dentro de um processo de planejamento
algo fundamental para a obtenção das que estimule a criação de serviços por
vantagens competitivas, e para que elas parte de agentes públicos, os mais diversos,
sejam vistas como necessárias, porque não apenas do Estado; e que também dê
garantem serviços bons. Esses serviços centralidade à construção e ampliação, em
bons são prestados porque a coleta de alguns casos, de uma infraestrutura pública.
dados é importante para romper com essa Isso já foi mencionado também; e foi muito
naturalização. Ampliar a interoperabilidade interessante a abordagem da companheira
dos sistemas já foi comentado. É preciso em relação à infraestrutura; essa é uma
impedir mecanismos de aprisionamento, dinâmica material, fundamental, não há
como os desenvolvidos pela Apple. Temos nuvem sem infraestrutura, e temos que
que impedir a concentração de publicidade, fazer esse enfrentamento. Para finalizar,
pois, hoje, Google e Facebook controlam nas questões de longo prazo, temos que
cerca de 80% do mercado de publicidade reorientar nosso olhar, desnaturalizando
digital. E tudo isso não será suficiente sem essa ampla comercialização da internet e da
51
vida, retomando a dimensão pública. Houve, então, foi bem interessante. Quero agradecer,
inclusive, recentemente, o lançamento de um tivemos visões bem complementares,
manifesto pela mídia pública e pela internet também plurais, da crise, de uma visão
pública, assinado por vários intelectuais, geral sobre economia política, sobre o
movimentos. Acho que é importante trabalho.
para trazer essa dimensão do público à
tona, para a desmercantilização de tudo. Cláudio Penteado
Enfim, isso significa dar centralidade ao Larissa, você que trouxe considerações
enfrentamento da propriedade intelectual, que não aparecem nesses debates, um
defender o conhecimento livre. Sérgio olhar até um pouco de fora da Academia,
Amadeu está aqui, e é fundamental nessa que é sempre bom. Às vezes, ficamos
história aqui no Brasil. É preciso renovar muito fechados na Academia, achamos
aquela aposta, na produção compartilhada que sabemos de tudo e, na verdade, não
de tecnologias. Para finalizar, um último sabemos de nada.
comentário, isso se trata da necessidade de
movimentar a imaginação política a serviço Larissa Packer
do desenvolvimento de novas técnicas, como Não faço acompanhamento do tema
parte de processos que objetivem superação da digitalização em si, mas vemos impactos
de elementos fundantes da sociedade significativos desta transição tecnológica em
capitalista, como a divisão do trabalho curso, inclusive no campo energético, como
e a alienação em relação à coordenação os Parques Eólicos, Agrocombustíveis, tidas
da sociedade. É com mais participação, como energias limpas, menos emissoras
e com esse sentido público radical, que de gases efeito estufa, mas que necessitam
podemos reinventar a tecnologia. de extensas áreas. Imaginem os conflitos
por terras (e a quantidade de terras em
Cláudio Penteado disputa) que essa transição energética
Helena, excelente, você citou pontos pode causar, principalmente nos países
centrais, para pensarmos em políticas do Sul Global. Então, temos que falar um
públicas e o papel do Estado, o Estado pouco dessa migração das sociedades
Democrático; e fornecermos, pensarmos para esse modo de produção 4.0, e os seus
alternativas para essa tecnologia que impactos, antes de, simplesmente, sair dos
nasce trazendo muitas possibilidades; combustíveis fósseis e imigrar para outras
e, em pouco tempo, será capturada por alternativas que podem até mesmo significar
uma lógica capitalista de concentração. Eu uma nova oportunidade de acumulação
vou passar agora para uma última rodada primitiva do capital - principalmente
de observações finais. ao passo que se observa esse arranjo
corporativo e a governança corporativa
André Lemos por trás. Então, realmente, para os próximos
Eu queria, primeiro, agradecer a 10 anos, veremos muito dos temas da
oportunidade, o debate foi muito rico, regulação corporativa, da autorregulação,
muito interessante. O formato, também, de instrumentos como a certificação
bem propício para irmos direto ao ponto; sustentável de cadeias produtivas através
52
do monitoramento digital. Pensando nisso, captura vem sendo facilitada por essas
uma alternativa é caminhar para sistemas estruturas digitais. Temos de explicitar em
de compartilhamento de governança, mas nossos debates a primordial interconexão
não a partir da propriedade e do mercado. É entre essas áreas. Muitos agricultores já
imprescindível falarmos do papel da OMC, do estão construindo plataformas baseadas
TRIPS, Acordo sobre Aspectos dos Direitos no comum no compartilhamento entre
de Propriedade Intelectual, que permite os trabalhadores, encontrando formas de
a apropriação sobre formas de vida, das união entre consumidores e produtores -
informações genéticas que são a base do inclusive, através de plataformas digitais.
desenvolvimento de vacinas, sementes etc. Essas soluções também estão reverberando
O que significou isso para as sociedades, nos territórios, e é bom compartilhar isso
e principalmente para os mais pobres? para fomentar cada vez mais discussões e
Mais ou menos acesso? O que significa a apoio de políticas públicas a essas soluções
apropriação do conhecimento imaterial e não proprietárias.
material? Para onde vão esses dados? As
compras públicas estão fomentando essa Cláudio Penteado
nova engenharia corporativa. Bancos de Então, novamente, foi excelente,
desenvolvimento, financiamento público, as eu acho que trouxe até um gancho para
chamadas finanças verdes, têm buscado, cada o Rafael, que trabalha estudando essas
vez mais, sustentar aparatos sustentáveis, plataformas que surgem em um modelo
o que significa infraestrutura digital, e um contra-hegemônico, contra esse modelo
novo pacote tecnológico corporativo. Assim, de acumulação e contra o poder das Big
as políticas públicas, necessariamente, têm Techs.
essa discussão de imediato, médio e de
longo prazo - mas eu acredito que é para Rafael Grohmann
agora, não adianta uma regulamentação Ótimo. Tenho três ou quatro
hoje, baseada em uma autorregulação do observações a fazer. A primeira é esse papel
setor, ou uma corregulação; precisamos de universidades, trabalhadores, políticas
realmente começar a falar sobre dados e o públicas, formuladores de políticas. Ainda
que deve permanecer na esfera individual, mais em um momento muito estranho,
no âmbito comum pertencente a todos, no mínimo, da Capes, e com tudo o que
no âmbito da segurança pública, contra envolve o próprio Sistema de Pós-Graduação
a propriedade intelectual corporativa. e de como as pesquisas são fundamentais
Existem bens imateriais e materiais nesse momento. O segundo sobre o uso de
que são base para as possibilidades de blockchain. Eu tenho visto pipocar muito a
vida humana e do planeta: precisamos questão de tokens comunitários, e a dispensa
começar a colocar esses bens sob formas do uso de blockchain em plataformas
não proprietárias; começar a falar o que cooperativas. Tem um movimento muito
é a gestão desses bens e âmbitos comuns. interessante, que nasceu de uma cooperativa
A apropriação privada de bens essenciais de tradutores, na Espanha, chamado DisCO.
à vida é algo fundamental a ser discutido, coop; estamos para traduzir o relatório
minérios, recursos naturais, terras cuja deles. Mas confesso que preciso de mais
53
estudo nisso. Tem coisa que é um eterno do Oprimido”. Nele, ele vai recuperar a
aprendizado. Estamos fazendo uma experiência de uma bibliotecária cubana,
série de vídeos sobre cooperativismo que vai revolucionar também o modo como
de plataforma e emperramos no roteiro Cuba pensa a tecnologia. E ele termina
sobre blockchain, que não conseguimos o texto de maneira muito interessante:
ainda capturar o que seria isso, mas temos Vamos experimentar táticas, tecnologias,
procurado acompanhar. Temos falado muito, algoritmos e novas possibilidades. E como
conectado agora com as ideias da Helena. a Helena expôs, pensar fissuras, pensar
A frase que eu vou falar virou quase um brechas, pois não existe fórmula pronta.
chavão das minhas lives: O que colocamos aqui, como guias, como
princípios, é que é nesse aprendizado
Se, por um lado, o capital tem cotidiano que avançamos.
experimentado novas formas
de exploração e controle do Cláudio Penteado
trabalhador, precisamos construir Helena, você trouxe a necessidade
novos laboratórios para pensar o de usarmos a imaginação política para
trabalho por plataformas. pensarmos novas formas, não somente
de resistências mas de transformações
E até isso que a Helena coloca, dos perigos das relações existentes e dominação das
do aceleracionismo, se quisermos mesmo Big Techs. A proposta desta mesa é isso.
isso. Mas o ponto que eu ia conectar Além de pensarmos o diagnóstico, olharmos
com a exposição de ideias da Helena é para frente e pensar: Bom, o que podemos
a questão da imaginação política. Esses fazer? E estão surgindo algumas ideias,
laboratórios possíveis para se construir algumas questões. Eu gostaria de ouvir
plataformas não proprietárias, plataformas suas observações finais.
de propriedade da comunidade, dados de
propriedade de trabalhadores, e por aí vai; Helena Martins
não é algo que seja um elefante branco, ou
algo importado, ou que vire um risco de Nossa necessidade de imaginação
uma hipsterização de tudo isso, ou mesmo política é para superar um certo
de um embranquecimento e de criação de horizonte do possibilismo, que nos
falsas cooperativas, que temos visto por aí. aprisiona
Tenho visto assim: Ah, somos um aplicativo
que parece cooperativa. Você vai ver, é algo em um sistema, que é essa lógica do
quase como uma Startup 2.0. Temos de progressismo, que vai ser ambientalmente
aprender com o que já existe e aprender incorreta, que vai ser degradante do ponto
com o passado. A Helena discorreu sobre o de vista das condições dos trabalhadores
trabalho fantástico, e histórico, do Serginho, etc. Eu, no Ceará, ontem, acompanhei o
na Academia e fora da Academia. Precisamos anúncio do governador Camilo Santana,
traduzir para o português um texto, de um do PT, da parceria com a Amazon para
brasileiro, que foi escrito em inglês, que é o digitalizar todo o serviço público, criar
do Rodrigo Ochigame, chamado “Informática um datacenter da Amazon etc. O Ceará
54
também tem utilizado tecnologias de qual é o instrumento que vai coordenar
reconhecimento facial. É isso. Se não isso, que vai reunir, que vai estimular esses
conseguirmos colocar essa discussão em encontros? Essa experiência que vocês
outro patamar, um patamar de projeto de estão propondo é parte desse processo.
sociedade, será muito difícil sair disso, Superobrigada, e fico aqui para escutar/
porque a lógica dessas empresas, e desse ler a outra mesa, que vai ser muito bacana
sistema, é uma lógica de aprisionamento também.
de tudo. Inclusive, conecto isso com a
pergunta que chegou aqui no chat, do Zé Cláudio Penteado
Correa, sobre a financeirização. É claro Bom, pessoal, temos que abrir
que por que tem que ter um (Pay-per espaço para a outra mesa, que tem outras
Uol, PayPal) se o Google pode fazer? O contribuições muito bacanas. Quero
Google já faz, inclusive, quando pagamos comentar, na verdade, deixar no ar, uma
um monte de coisas para ele, com algum questão que chegou: Google, Facebook e
tipo de intermediário. Mas se ele puder Amazon já fizeram muito mais pesquisa do
fazer diretamente, acho que ele fará. E que a ciência e a capacidade de produção.
se eles puderem criar rede social para E o pior, nós, pesquisadores, universidades,
coletar mais dados, farão. A lógica é essa, de dando os dados das nossas pesquisas para
plataformas. Então, realmente temos que eles, de graça. O André gostaria de fazer
romper com esse modelo e pensar outras um comentário.
coisas. E conectando, também, com essa
discussão que o Kenzo colocou aqui no chat, André Lemos
sobre os limites da regulação. Sem dúvida É em relação a essa pergunta. Quer
alguma, são limites. Há muitos limites. dizer, ela é injusta em relação ao Brasil.
Mas a existência desse mecanismo, por Quem mais faz pesquisa nesse país são as
exemplo, da LGPD, constitui um entrave, universidades, e o que está se interpretando
a facilitação da lógica de funcionamento como pesquisa? É importante que tenhamos
das plataformas. As disputas todas, a Digital Humanities como um aliado
como processos cumulativos de criação das Ciências Humanas. Tem um texto
de mecanismo de resistência, são mais do Richard Grusin em que ele faz uma
potentes se orientadas por uma visão, crítica da Digital Humanities. Ele vai dizer:
por uma estratégia política, que ajude, Há uma separação dizendo assim: Olha,
inclusive, a conectar as lutas. Como vocês ficam estudando Foucault, Deleuze,
conectamos a luta de quem está fazendo Heidegger, isso não serve para nada. Agora,
cooperativismo de plataformas com quem se minerarmos dados, isso sim é útil. Ele
está lá no Congresso Nacional, brigando vai dizer: Olha, isso vai fazer a felicidade
pela LGPD? E vice-versa: Como conectamos das empresas, de todo neoliberalismo que
quem está discutindo dados pessoais e quer aniquilar com a universidade. Essa
quem está, na prática, servindo, usando, seria uma pergunta que poderia ter sido
sendo explorado por plataformas, como feita pelo nosso Ministro de Estado: Para
Uber e outras tantas? É essa perspectiva que vocês servem, se o Google e o Facebook
que a imaginação política deve fomentar: fazem mais coisas do que vocês? Primeiro,
55
não é verdade. Segundo, de que pesquisa a Ação Educativa, pela iniciativa, por
nós estamos falando? E terceiro, que tipo viabilizar este seminário. O tema, agora,
de pesquisa temos que ter para entender? vai ser: Inteligência local, soberania digital
Toda nossa discussão foi uma discussão e soberania de dados, que vai ser abordado
política, filosófica, social, que dificilmente por Rafael Evangelista, docente e membro
é feita dentro dessas empresas. Então, é do Laboratório de Estudos Avançados em
preciso valorizar um pouco o que fazemos. Jornalismo da UNICAMP, coordenador
do Grupo de Pesquisa Informação,
Cláudio Penteado Comunicação, Tecnologia e Sociedade,
Só para complementar, André, e membro da Rede Latino-Americana
temos de pensar que, muitas vezes, elas de Estudos em Vigilância, Tecnologia e
se apropriam do trabalho produzido Sociedade. Nina da Hora, pesquisadora em
pelas pessoas, eles não ajudam, pelo Ética da Inteligência Artificial, Privacidade
contrário, somente complicam nossa e Educação, hacker antirracista e líder de
vida e se apropriam do conhecimento iniciativas em Inclusão Digital. Sobre a
que é produzido pelos pesquisadores, Nina, ela está desenvolvendo um curso
que são financiados, muitas vezes, pelo de Cibersegurança para o Centro de
próprio dinheiro, ou o que você tinha Formação da Ação Educativa. Eles têm,
ainda de incentivo à pesquisa no Brasil. também, vários outros cursos gratuitos
Bom, agradeço a toda a audiência/leitores, disponíveis relativos aos temas de
mas, principalmente, aos expositores e às Tecnologia. Fernanda Rosa, professora
expositoras desta mesa, que colocaram do Departamento de Ciência, Tecnologia
vários temas interessantes, várias soluções e Sociedade da Virginia Tech; pesquisa
e caminhos, para pensarmos e avançarmos Governança da Internet, Infraestrutura de
na discussão sobre a tecnologia no Brasil e Comunicação, Tecnologia da Informação e
o desafio de enfrentar a plataformização. Comunicação, Educação e Direitos Humanos.
Passo, agora, para nossos próximos E Sérgio Amadeu da Silveira, docente e
companheiros e companheiras. Professor membro do Laboratório de Tecnologias
Jerônimo. Livres da UFABC, sendo que ele tem
vasta experiência em políticas públicas
Parte 2 relacionadas à Tecnologia. Integrou o CGI.
Br. Presidiu o ITI. E pesquisa diversos temas
relacionados à Tecnologia e Sociedade.
“Inteligência local, soberania Então, começamos com a apresentação
digital e soberania de dados”, das ideias feitas pelo Rafael.
Jerônimo Pellegrini, Rafael Evangelista,
Sérgio Amadeu da Silveira, Nina da Hora,
Fernanda Rosa
Para mais informações, sobre
os projetos e cursos sobre
Jerônimo Pellegrini tecnologia na Ação Educativa
Agradeço a todos que nos assistem/ é só clicar aqui
leem. Agradeço, e elogio, o Coletivo 660,
56
Rafael Evangelista um processo em que somos todos nós, os
Agradeço o convite, espero contribuir humanos, que passamos a ser objeto de
satisfatoriamente. Estava acompanhando um processo de colonização via dados.
as exposições de ideias iniciais e penso que O que temos então seriam processos de
temos um desafio importante pela frente. extração e de leitura dos dados, dados
Quero começar utilizando dois termos que produzidos por nós, mas lidos pelas
estão postos no título desta mesa: Soberania grandes corporações de tecnologia, que
de Dados e Soberania Digital. Quero citar colocam nossa experiência vital como fonte
dois autores em especial que tenho lido, de insumos. Do mesmo modo como o Sul
entre outros, mas esses autores usam foi fonte, os territórios colonizados foram
algumas palavras citadas no título desta fonte de insumos no processo colonial
mesa e acredito que o título referencie esse histórico. Essa ideia do colonialismo, para
debate. É uma discussão ampla, que traz falar desse nosso momento em que as
elementos que podem ser úteis para além grandes plataformas ganham protagonismo
de controvérsias conceituais acadêmicas. na estruturação de uma economia baseada
Estou me referindo aos termos “colonialismo em dados, uma economia que procura fazer,
de dados” e “colonialismo digital”. O termo do esquadrinhamento da nossa vida, da
“colonialismo de dados” é empregado por coleta de dados, de tudo que escrevemos nas
Ulises Mejias e Nick Couldry no livro The redes sociais, do que dispositivos vestíveis
Costs of Connection, que tem se mostrado capturam do nosso corpo e tudo mais, tudo
bastante influente em debates aqui na isso é objeto de práticas de apropriação.
periferia do sistema. O termo “colonialismo O processo está analogamente ligado
digital” é tratado por Michael Kwet, um a algo muito parecido com o que teria
pesquisador sul-africano. acontecido no começo do capitalismo
Colonialismo de dados, como tratado industrial, ou como base para o capitalismo
por Couldry e Mejias, refere-se a um industrial, como condição emergente. Essa
processo histórico de continuidade lógica condição é referida como acumulação por
do colonialismo. Aquele colonialismo que despossessão, cuja marca histórica é o
se casa com o período de nascimento do processo de acumulação primitiva. Ou
capitalismo, que coloca condições históricas seja, quando, antes da estruturação do
para a ascensão do capitalismo industrial, capitalismo industrial, da concentração de
condições que derivam do movimento propriedade, passamos de um período de
expansionista europeu. Couldry e Mejias uso comunal da terra para a terra se tornando
veem um processo não de continuidade um capital; e uma subtração das pessoas,
histórica de colonialismo territorial, mas da capacidade delas de sobreviverem, de
em que se refaz um tipo de movimento garantirem sua subsistência. Um processo
de exploração. Não se trataria mais de um histórico da passagem do feudalismo, do
mero processo de colonização, a partir dos fim do feudalismo, fazendo o que o Marx
países europeus, que fazem esse movimento vai chamar de acumulação primitiva.
expansionista para o Sul e produzem Couldry e Mejias enxergam esse momento
relações de submissão territorial. Eles de maneira análoga à acumulação primitiva
entendem o colonialismo de dados como e ao que David Harvey vai entender como
57
processo contínuo do capitalismo de o Sul Global. Couldry e Mejias, quando falam
acumulação por despossessão. Agora, em em colonialismo de dados, falam de um
vez de ser a terra, ou os recursos naturais processo que está incidindo não só sobre
do colonialismo histórico, são os dados que as populações do Sul mas atinge também
estão sendo extraídos e explorados e sobre populações do Norte, que seriam alvo de
os quais vamos perdendo a soberania. Uma uma despossessão análoga à colonização.
coisa interessante a ser explorada é que Kwet fala: Olha, o que está acontecendo
esse é um processo tanto de acumulação vitima, especialmente, as populações do Sul;
quanto de despossessão. Quer dizer, porque nessa nova estrutura geopolítica
que está se desenhando no mundo, há um
tanto você tem concentração de polo de poder, que são os Estados Unidos;
riqueza quanto você tem uma e, mais especificamente, o Vale do Silício.
massa de pessoas, que é obrigada Nessa análise, é importante destacar, Kwet
a vender sua força de trabalho no contempla uma dimensão da materialidade
mercado, oferecer seus dados, da exploração, que é a infraestrutura digital
como condição de sobrevivência. – os cabos, as máquinas, o hardware e o
software – sobre a qual não temos mais
Pensar nessa imagem e nessa continuidade controle, o Sul não tem soberania. É a partir
trabalho-dados é algo muito interessante. do controle dessa infraestrutura que há
O termo “colonialismo de dados”, por a coleta dos dados.
fazer referência ao colonialismo, acabou Assim, Kwet vai tocar em temas como quanto
sendo muito entendido, muito ligado à as iniciativas em software livre têm sido
denúncia de uma assimetria política entre atacadas pelas corporações Big Techs. Como
os países do Norte e do Sul. Mas não é as infraestruturas públicas de informática
esse o cerne da ideia, embora a diferença estão sendo atacadas também por esses
geopolítica esteja, em certa medida, até atores. E quanto estão concentradas nas
contemplada no livro. É nesse sentido que mãos de empresas do Vale do Silício. Um
penso que o termo “colonialismo digital” ponto interessante é que Kwet recusa a ideia
ajuda a entender melhor, ou de maneira de nova polarização, que seria agora entre
complementar, as assimetrias. Porque Estados Unidos e China. Ele vai falar: Você
Michael Kwet está falando de fenômenos pode ter uma ou outra empresa chinesas
muito semelhantes aos apontados por praticando o mesmo modelo, mas a lógica
Couldry e Mejias, inclusive incorporando interna, o desenvolvimento das tecnologias,
o termo “capitalismo de vigilância”, o o centro do poder continuam nos Estados
qual também contempla o fenômeno da Unidos. E é interessante para se pensar no
despossessão por meio dos dados, ainda nosso contexto, em que há um movimento
que a referência de Kwet seja o uso original do Estado chinês para fazer uma maior
do termo “capitalismo de vigilância”, regulação das suas próprias empresas
ainda antes do uso do termo usado por baseadas em dados.
Shoshana Zuboff. Kwet dá relevo, contudo, De qualquer forma, tanto colonialismo de
ao fenômeno social de prolongamento da dados como colonialismo digital dialogam
relação de dominação do Norte Global sobre muito bem com a ideia de capitalismo de
58
vigilância. Como afirma Shoshana Zuboff, processos de exploração. Nesse sentido,
estamos em uma nova fase do capitalismo Sul Global é uma categoria histórica de
informacional, baseada no Big Data, em que submissão, pode englobar o imigrante do
algumas grandes empresas estabelecem Sul, que hoje vive no Norte, mas que é
uma liderança global no controle dos dados marginalizado, ou as próprias populações
para praticar a predição e modificação de marginalizadas do Norte, e definitivamente
comportamentos. inclui as populações marginalizadas que
vivem no Sul. Vou tratar, brevemente, da
O domínio dessas empresas sobre migração de infraestruturas educacionais,
as infraestruturas e sobre as bases das universidades e das escolas públicas,
de dados é um domínio voltado em direção às grandes empresas, às grandes
a capturar inteligência. Ou seja, plataformas, Microsoft, Google etc., migração
nosso interior, nossa vida mais das plataformas educacionais. Sou membro
íntima, é objeto de práticas de também do Comitê Gestor da Internet, e
acumulação via dados para, a partir estamos com um grupo de trabalho para
deles, produzir uma Inteligência debater esse problema, acumular dados
que permita a prática de previsão sobre o uso das plataformas educacionais das
de comportamentos e de técnicas Big Techs, por escolas e por universidades,
que incidam sobre nós – no que ela e propor algumas soluções. Há um processo
chama de “poder instrumentário” que se intensificou muito com a pandemia,
–, técnicas que alteram nosso mas que já vinha acontecendo há algum
comportamento. tempo. Penso ser importante trazer
elementos para a mesa, para não discutir
Trata-se não de uma mudança de isso de forma solta, pensando somente
comportamento baseada em convencimento na tecnologia. Tem algumas condições
racional dos indivíduos, os quais são políticas e ideológicas que fundamentam
convencidos de que se comportar de esses movimentos; estou falando, muito
maneira X ou Y seria vantajoso, mas da precisamente, no neoliberalismo, em um
alteração no nosso comportamento pela processo de enxugamento do Estado, que
submissão a uma arquitetura de softwares, já dá para chamarmos de histórico, porque
de plataformas, de estruturas, que nos vem desde os anos 1980. É também uma
conduzem a partir de algoritmos etc. mentalidade, um movimento de redução de
Penso que esses itens citados são gastos, que quando atinge infraestruturas
importantes antes de falar sobre problemas educacionais, o Estado sempre se declara
concretos que vivemos hoje e que precisam sem dinheiro, sem verba, e se coloca
ser analisados de um ponto de vista local. como obrigado a ter de recorrer aos
Acima de tudo, um ponto de vista do Sul serviços dessas plataformas. Estas, muito
Global, das populações que não estão só estranhamente, nos oferecem tudo isso
localizadas no Sul do mundo, mas são de graça, como se fossem beneméritas.
aquelas que têm condições de vida mais Omitem o fato de que elas, na verdade,
precárias, que estão fazendo os trabalhos estão coletando nossos dados; esse é o
em plataforma, que estão centrais nos modelo de negócios.
59
Pois bem, existem demandas da própria que são as pesquisas científicas.
evolução tecnológica para que as Por tudo isso, o caso da Educação é
universidades e as escolas utilizem, cada muito bom para discutirmos a relação
vez mais, recursos informacionais para suas entre Norte e Sul, de soberania – e
práticas de aula etc. Em paralelo a isso, há esses processos de captura de dados,
a redução de verba. Toda infraestrutura informações, comportamento, essa leitura
que antes existia vai se desfazendo. As que as empresas têm feito sobre o social,
escolas nem tanto, mas as universidades o corpo social, de maneira geral. Tenho
vinham construindo uma infraestrutura trabalhado com um recorte de pesquisa
autônoma e própria, para, por exemplo, ter que chamo de Capitalismo de Vigilância
seus serviços de e-mail, seus ambientes de no Sul Global. Coloco esse problema, que
relação com os alunos. Com a intensificação é o problema do capitalismo de vigilância
de uso derivada da pandemia, e com a e, consequentemente, as plataformas
oferta de serviços “gratuitos” por parte das educacionais e como elas praticam o
Big Techs, as universidades abandonaram capitalismo de vigilância no Sul Global.
suas infraestruturas e estabeleceram Postulo o problema em três dimensões.
contratos com empresas, como Google e Pensando o capitalismo de vigilância no
Microsoft, que passaram a administrar toda Sul Global, a partir do Sul Global e pelo Sul
a infraestrutura e todas as comunicações. Global. No Sul Global, por quê? Porque é
É muito incrível não ter havido oposição, um dado que aparece muito pouco, mas
muito mais sólida, com relação a esse o Sul Global é essencial para as Big Techs.
processo. Imaginem só, toda a comunicação Estamos entre os maiores canais de YouTube.
entre professores e pesquisadores, das Somos grandes usuários dos serviços de
universidades brasileiras, hoje está delivery; uma grande parte da população
correndo pelas redes das Big Techs. Não brasileira, hoje, é altamente dependente
é que ninguém saiba, que, por exemplo, o como trabalhadora de serviços de delivery,
Google faz mineração de dados em cima de ou motorista de aplicativos, um grande
comunicação de e-mail. Todo mundo sabe contingente está nisso. O Sul Global tem
disso. Isso não é segredo. A empresa pode uma participação enorme nesse mercado
não sair batendo no peito, nos lembrando das Big Techs. E uma das hipóteses para
a todo momento que faz isso, mas sabemos essa grande participação é justamente o
que o modelo de negócios dela é baseado grande efeito que o neoliberalismo teve
nisso, que ela lê nossas comunicações. É sobre o Sul, desmontando instituições.
um carteiro que lê nossas cartas, para nos
entregar, com o conteúdo daquela carta, um Consequentemente, como várias
panfletinho de anúncio. Isso no retrato mais das nossas instituições foram
ingênuo e superficial, pois, na verdade, eles desmontadas pelo neoliberalismo,
estão ali capturando inteligência. Vigiando ou são muito frágeis porque nossa
a inteligência, relacionada, por exemplo, se democracia é sempre atacada, é
falamos de universidades, inteligência de por isso que as populações são
uma parte da população que trabalha com obrigadas a recorrer ao trabalho
algo muito sensível e de muito interesse, de plataforma.
60
Ou, por exemplo, algo que é forte na com processos coloniais históricos, que
diferença entre a vida no Norte e no Sul, se perpetuam ou se constroem sobre
que é a questão da segurança. Muitas vezes, essas bases. Na colônia, os colonizadores
as populações são levadas a usar vários produzem uma elite local que intermedeia
aplicativos de rastreamento para informar essa relação. Isso, na questão das plataformas
se estão em segurança, para saber onde educacionais, é bastante presente. Não é
tem tiroteio, para os pais saberem onde somente o Google fazendo contato com
os filhos estão, porque se tem condições universidades e escolas, você tem um
de segurança mais precárias no Sul. conjunto de instituições; capitaneadas
E o que acontece? Essas plataformas por atores que vivem no Sul, que estão
acabam ocupando um espaço que seria fazendo a intermediação, facilitando
de algumas instituições, que deveriam, o processo de colonialismo digital. É
por exemplo, garantir a segurança, ou que importante identificarmos esses atores,
deveriam regular mercado de trabalho percebermos quanto os interesses desses
etc. Outra chave importante é pensar o atores não necessariamente espelham o
capitalismo de vigilância a partir do Sul que seriam os interesses da maior parte da
Global. Quer dizer, a crítica que temos de população dos países do Sul. Na verdade,
fazer ao capitalismo de vigilância não é esses atores locais representam interesses
necessariamente a mesma do Norte. Temos, do Norte Global e ajudam a transmitir
vivemos condições específicas e temos relações que o Alberto Quijano descreveria
problemas que são diferentes, e por isso como de colonialidade. O capitalismo de
temos uma perspectiva diferente. Então, vigilância e o colonialismo digital precisam
isso significa que alguns problemas, para de parceiros locais. Quanto a propostas,
eles, são muito importantes; e, para nós, para encerrar, dei o exemplo da Educação,
nem tanto. Alguns são muito importantes mas acredito que tanto nesse campo como
para nós, e, para eles, são menos. Como em outros temos de pensar na construção
periferia do capitalismo, a questão de infraestruturas públicas ou de controle
geopolítica para nós se destaca. Como país público – não necessariamente uma empresa
que carrega a chaga histórica da escravidão, estatal pública –, mas infraestruturas que
a discriminação é um problema relevante sirvam aos interesses da coletividade. O
para nós. O último ponto é o capitalismo Estado é importante porque apenas como
de vigilância pelo Sul Global. É importante sociedade civil não vamos conseguir fazer
formularmos quanto essa dominação por isso, precisamos do financiamento do
parte das Big Techs, e o colonialismo Estado.
digital do Vale do Silício, que afeta o Sul,
não acontecem somente em uma relação Se para as grandes empresas
entre regiões geográficas estanques, Norte o financiamento do Estado é
e Sul. O fato é que, no Sul, há fragmentos importante para o desenvolvimento
da sociedade que são altamente parceiros de tecnologias, por que não seria
dos atores do Norte e realizam localmente para nós?
processos de dominação. Em uma chave
que é muito parecida com o que você tinha
61
É balela que as empresas tirem da aqui no debate, no geral: “Tecnologia no
cartola, do seu próprio financiamento o Brasil 2020-2030”, nos próximos 10 anos.
desenvolvimento de tecnologias. Está aí “Plataformização, I.A.”. No nosso caso, aqui,
a Tesla para mostrar quanto ela acumula “as elites locais”. Penso que sabemos nomear
de financiamento do Estado americano. muito bem algumas palestras, algumas
Precisamos construir infraestruturas, que publicações, até para chamar a atenção
podem ser estatais, ou praticar modelos do público que vai ler, ou ver; é necessário
multissetoriais de gerenciamento, nomeá-las também para as pessoas que
ou públicos, transparentes. Assim, se não estão nesses espaços. Pensei: Elites
falarmos em cooperativas de plataformas, Locais. Tecnologia. Inteligência Artificial.
por exemplo, que estas não tenham de Todos esses nomes que estão na mídia,
hospedar sua base de dados na Amazon, hoje; mesmo que estejam na mídia, nem
como frequentemente é feito. Às vezes, sempre estão bem explicados. Precisamos
hospedam-se serviços web imaginando entender que somos parte desse problema,
ter praticidade e economia, mas é uma estamos dentro desse problema. Na
relação de dependência e submissão, apresentação, apareceu o nome “hacker
possivelmente de vulnerabilidade à antirracista”, apareceu a “decolonialidade
vigilância. São problemas complexos. do Estado”, ou melhor, a “decolonialidade
da Inteligência Artificial”, “os algoritmos”.
Jerônimo Pellegrini Mas para eu chegar, estar caminhando,
Rafael, é importantíssima a sua fazendo esse processo, estou sendo
colocação, especialmente essa visão parte do problema, também; porque se
de colonialismo de dados, que é uma olharmos historicamente, como o professor
continuidade do colonialismo que já existia Rafael trouxe, temos ali o capitalismo,
no capitalismo. Isso é muito importante, lado a lado, ou, até um pouco antes de
as pessoas não percebem isso. E sobre sua começar, a colonização, porque ele foi
argumentação toda na Educação, também, fundamentando os ideais que seriam
é extremamente importante, eu tenho visto aplicados na colonização.
bastante isso. E o fato, como você expôs,
daquilo ser trazido como se fosse uma Nascemos em uma sociedade assim;
doação, como se estivesse sendo entregue podemos estar buscando outras
de graça, mostra que, na verdade, esses alternativas e outros olhares, mas
dados têm valor; tem muito mais valor do ainda assim contribuímos para o
que as pessoas, normalmente, acreditam o que está acontecendo hoje.
suficiente para que eles sejam entregues,
para que o serviço seja entregue de graça. Então, quando penso e falo do Brasil
E agora, teremos as considerações de Nina especificamente, abro um pouquinho
da Hora. para a América Latina. Todas as guerras,
todas as tentativas e as vitórias que os
Nina da Hora colonizadores tiveram aqui, neste território,
Este tema chama muito a atenção, querendo ou não, fundamentaram alguns
pelo título, do que estamos tratando pensamentos, alguns ideais e algumas ações,
62
que continuam na nossa sociedade, que origem e a riqueza partiu de lá. Primeiro,
ainda praticamos. E quando se pensa a tudo isso aconteceu, todo esse processo,
palavra “decolonialidade”, antes de pensar para depois chegar, hoje, no século que
a tecnologia, ela também é uma dor para estamos, as Big Techs oferecendo soluções,
pessoas brancas e para pessoas não brancas, que estão partindo somente de um olhar
sobretudo, para as pessoas brancas, porque tecnológico. Outro ponto para abordar é
ainda há uma dificuldade de se reconhecer o solucionismo tecnológico. Vou voltar ao
como parte desse problema e como parte racismo algorítmico, mas estou começando
do que estamos chamando hoje de “racismo a entender que seja melhor usar uma
algorítmico”. Essa barreira, que ainda existe, outra nomenclatura, que é a reparação
acaba fazendo com que na hora que sejam algorítmica, mas que as pessoas querem
pensados os projetos, as tecnologias, as resolver olhando somente para os dados
ferramentas, por mais que se tenha boa e dizendo o seguinte: Ah, não. Mas a base
intenção, e por mais críticas que sejam de dados é diversa. Tem brancos e não
as pessoas, sempre se vai esbarrar nessa brancos. Tem pessoas com cabelos crespos
barreira, contribuindo para outro tipo de e pessoas com cabelos lisos. Tem outra
continuidade de colonização algorítmica. corrente dizendo: Não, mas investigamos
Um exemplo, agora saindo um pouco do o algoritmo e mudamos tudo, treinamos
Ocidente, é o que acontece no continente ele de uma forma, que é impossível ter
africano. Vemos as Big Techs fazendo o viés agora. Gente, o viés, ele é humano.
seguinte: Ah, olha só, nesse território aqui
tem dificuldade de acesso. Tem dificuldade Parece que o algoritmo é uma
de acesso tecnológico, de conectividade. entidade, o algoritmo virou um
Bom, eu tenho a grana, eu tenho os dados ser humano, agora. O algoritmo
desse território, eu rastreei as pessoas tem características nossas.
que estão aqui e eu sei qual é a dor delas.
Aquela linguagem bem de marketing. Foi o Olha que doideira, como as pessoas
que aconteceu, em 2019, eu acho, quando o acabam distorcendo o discurso! E aí
Facebook fez um projeto de conectividade começam a validar, também pensando
em um território do continente africano. muito no mercado hoje, que o viés vai
Um dos textos, que traz esse título muito acabar, se trouxerem essas ferramentas
forte da colonização algorítmica, é o artigo tecnológicas, ou essas novas ferramentas
da Abeba Birhane, que foi traduzido pelo tecnológicas. Então, hoje investigo muito
Tarcízio Silva, e está no livro Comunidades, mais, depois de um processo muito intenso
Ativismos Digitais: olhares afrodiaspóricos. com o reconhecimento facial, questões
Leiam esse livro e o artigo, em que Abeba raciais, nessa tecnologia. Entendendo
traz esse processo. Eles fomentaram, ou os que, na Segurança Pública, ela tem de
ancestrais dessas pessoas fomentaram, o ser, sim, revista, repensada e não usada,
que, hoje, olhamos; e o olhar que nós, aqui, porque não estão sabendo, não estão
no Ocidente, temos do continente africano, sabendo manusear, e é uma tecnologia
que é sempre, na maioria das vezes, um que já traz a vigilância na sua essência.
olhar de coitados; quando, na verdade, a Nas outras instâncias, eu, pelo menos, na
63
minha concepção de pesquisa, penso que E quando chegamos às elites locais, a
precisamos ir hackeando, entendendo e dificuldade que eu visualizo, de fazer a
apontando alguns equívocos, como a falta transição, ficar transitando entre elite,
de transparência; e, depois, apontar os uma elite soberana, uma elite tecnológica
equívocos, em como o algoritmo está maior, para as elites tecnológicas locais,
funcionando; apontar os equívocos entre olhando território por território, é que cada
crianças e adolescentes. É óbvio que não território tem seu contexto, e isso não é
vou conseguir – não estou aqui na Terra levado em consideração quando se pensa
para isso; nesta vida, ou nesta missão, a tecnologia; porque existe o tempo, na
para isso –, brigar com uma empresa de sociedade capitalista que vivemos; existe o
3 trilhões, brigar com uma Apple da vida: tempo e existe o custo. Ah, eu tenho tempo
Tire o reconhecimento facial do iPhone. Não, de elaboração; tecnologia, não pode levar…
porque precisamos escolher as batalhas, se ela for uma tecnologia urgente, se for
e como vamos usar as estratégias. Agora, aquela tecnologia do momento, eu não
posso comprar iPhone, enquanto usuária posso demorar muito, eu tenho de colocar
da ferramenta, e quero saber o que está ela da forma que ela está, porque ela vai
acontecendo. A partir do momento que me gerar o lucro, ela vai ser procurada,
mexemos nessa ferida, mexemos em outra ela vai ser engajada. Então, a dificuldade
elite, antes de chegar ao local, que é a elite que eu visualizo nessa transição, aqui,
tecnológica do Vale do Silício. Querendo nesse pensamento, é que as elites… essa
ou não, além de ter uma concentração palavra até é uma palavra muito forte;
de homens brancos muito grande, eles mas, esses territórios, eles acabam criando
ainda estão pautando algumas novidades suas próprias tecnologias, sem uma certa
tecnológicas; eles ainda estão pautando: visibilidade e engajamento; mas as elites
Como vamos decidir, no meio digital, as tecnológicas, as elites maiores, elas estão
questões raciais, as questões de identidade sempre transitando entre os territórios
de gênero? Sabe por que eles ainda estão que elas conquistaram; eles estão sempre
nessa liderança? Porque vemos isso refletido olhando, eles estão sempre observando.
na moderação de conteúdo, por exemplo, Se um conhecimento dali for benéfico, e
hoje, nas plataformas; e as plataformas que já vimos isso acontecer com Portugal e
usamos, que são redes sociais; sobretudo, com os indígenas:
as que foram pensadas por homens brancos
heteronormativos, em sua maioria, e que Se aquilo for benéfico, vou pegar
vieram dos Estados Unidos. Por mais que para mim e vou reformular, trocar
eles leiam, por mais que eles coloquem, o nome, vou engajar, colocar um
que eles estão apoiando causas, e isso, e olhar meu; mas sabendo que aquele
aquilo; se você, enquanto pessoa branca, conhecimento não se originou com
não se vê parte do problema do que está aquelas pessoas.
acontecendo, fica muito difícil entender
qual é realmente a reparação que precisa Então, vejam, na tecnologia isso acontece
acontecer, porque ela acaba mexendo na muito, aconteceu e acontece; e vou adicionar
estrutura que você se sente confortável. uma preocupação dos conteúdos, as pessoas
64
estão um pouco perdidas de como estão Jerônimo Pellegrini
entendendo o conteúdo, e como estão Nina, sua reflexão foi importantíssima;
entendendo referências de quem está e, me parece, única, original, é uma coisa
criando o conteúdo, e de como estão importante; realmente, se fala muito do
entendendo o plágio, até mesmo chegando solucionismo; se fala muito do Vale do Silício
ao plágio. No sentido de que está aberto, e da ideologia da Califórnia que permeia
as plataformas dizem o seguinte: Tudo o tudo aquilo; mas sua exposição é diferente,
que você colocar aqui é de todo mundo. O pois tudo isso tem de ser propagado. Agora,
que estamos visualizando? Criadores de passamos para o nosso próximo convidado,
conteúdo, que agora estão se tornando, Sérgio Amadeu da Silveira.
cada vez mais, profissionais, não apenas
um hobby; estão entrando em um lugar Sérgio Amadeu da Silveira
sem ter amparo, quando eles visualizam Agradeço a possibilidade de participar
conteúdos sendo copiados entre pessoas deste debate. Vou partir de uma questão
e plataformas, nas quais aquilo mexe que acho muito importante que é a definição
diretamente com o que eles vão ganhar, do conceito ou dos termos que utilizamos
monetariamente falando, com o trabalho para descrever os fenômenos. Um conceito
que eles pesquisaram e colocaram na rede. é fundamental porque ele dirige nossos
Então, para mim, é outra problemática olhares. O conceito permite que possamos
de fazer essa transição das elites maiores ver algo que não víamos. Por isso, a definição
para os territórios locais. E elites locais, de conceitos e termos que nomeiam os
para mim, para finalizar, e pontuando, fatos e as relações é efetivamente importante.
estão muito no que chamamos das Assim, quero trazer a nomeação que Dan
pessoas mais críticas, em determinadas Schiller dá ao cenário informacional. Schiller
comunidades e territórios, que acabam afirmou que vivemos um capitalismo não
ganhando uma visibilidade maior, de só informacional, mas digital. A partir
elas não repassarem essa visibilidade, dessa constatação penso que o capitalismo
repartir, entre os territórios de que elas não é somente digital, ou seja, os seus
estão fazendo parte; e aí elas entram e componentes fundamentais não estão
são sempre o ponto de contato de todo somente se digitalizando, mas estão se
mundo, é sempre ela, você não consegue ver baseando em dados. Então o termo
uma descolonização em alguns territórios datificação ou dataficação nomeia bem o
locais; principalmente, quando colocamos sistema socioeconômico que domina o
internet e tecnologia no meio. Mas esse foi planeta. Observei várias nomeações do
o caminho, a primeira provocação que eu cenário atual. Por exemplo, cheguei a
pensei para este momento. Espero que, avaliar a ideia de feudalismo informacional,
de alguma forma, contribua. Eu não sabia do Peter Drahos. Ele focalizava a propriedade
de que o professor ia tratar, mas acho intelectual e mostrava que a apropriação
que algumas coisas foram talvez dando e concentração do conhecimento pelas
continuidade ao que ele levantou, também. corporações daria um poder comparável
aos de Estados e levaria a fragmentação
política. Já há algum tempo o conhecimento
65
passou a ser aplicado como força produtiva Essa coleta permanente de dados é a base
vital para a geração de valor. O emprego da predição e da modulação da nossa
do termo feudalismo foi apresentado de atenção. Entretanto, seus efeitos não são
outro modo pelo economista Cedric Durand os mesmos no Norte e no Sul, não são os
como tecnofeudalismo. Estaríamos vendo mesmos. Quero colocar o problema da
a construção de um poder descomunal soberania digital, que está na base da
das Big Techs que controlam as soberania de dados, e que pode ser
infraestruturas decisivas do capitalismo compreendida como uma definição mais
e, com isso, conseguem extrair dados de atual da soberania tecnológica. A ideia de
todo o planeta. Apesar das descrições soberania digital está vinculada ao controle
serem empiricamente constatáveis não das infraestruturas fundamentais para o
vejo ainda um processo de feudalização, desenvolvimento tecnológico informacional.
nem a substituição do modo de produção Ela passa pelo avanço inventivo da
capitalista por outro. As plataformas são Inteligência Local. Já a soberania do dados
gigantescas, e elas são um problema que representa a possibilidade de governar e
precisamos pensar; elas constituem, hoje, manter os dados fundamentais para o
a principal aposta do capital financeiro. desenvolvimento das IA no Brasil. Eu estava
O fundos trilionários do capital financeiro em um evento do software livre, e uma
apostaram e controlam as gigantescas pessoa disse: “Professor, o senhor está
plataformas. Com tantos investimentos, dizendo, então, que eu, como gestor da
as Big Techs compõem o setor mais dinâmico minha empresa devo hospedar meus dados
do capital. Mas o capitalismo é ainda no Brasil, pagando cinco, sei vezes, mais
baseado na exploração do trabalho e na caro; do que hospedá-los na infraestrutura
propriedade privada. Nesse sentido, talvez lá fora, como a da Amazon?” Respondi:
possa ser interessante se quisermos falar “Não estou propondo que você tome essa
do elemento mais dinâmico do capitalismo atitude. Em economia, isso é uma decisão
que se dá pela dataficação. Zuboff nos microeconômica. A solução do problema
mostrou a hegemonia da dataficação. A depende de política tecnológica. Propus
pesquisadora descreveu a captura do a você pensar que em um mundo em que
excedente informacional, a criação e coleta os dados têm alto valor, não somos mais
de dados como um processo de vigilância. capazes nem de hospedá-los no nosso
Qual é o problema disso? Ainda penso que próprio país.” Essa é que é a questão.
o capitalismo que estamos vivenciando Quando vejo o governo do Estado de São
é um capitalismo de controle, pois utiliza Paulo, em vez de montar uma infraestrutura
técnicas de vigilância, mas o controle é tecnológica própria ou em conjunto com
uma definição mais ampla do que a prefeituras e universidades, para
vigilância, pois descreve a observação e desenvolver a Inteligência local, a
intervenção simultânea. Além disso, não Inteligência coletiva regional, contratar
se baseia no medo, mas na adesão, no afeto. o Google para definir os endereços
Mas, essa discussão não é a mais importante, georreferenciados e rurais de São Paulo,
porque os dispositivos de extração de penso na ausência de uma visão estratégica.
dados são o centro da descrição de Zuboff. Essa combinação reforça a subordinação
66
tecnológica, que reforça a submissão digital, de tecnologias de IA da IBM e da Microsoft
e combina com uma alienação técnica. é suficiente? O que aprendemos aqui? O
Este é um termo que vem do Simondon, caminho é de aprender usando. Mas quando
e reforça a alienação do trabalho. A alienação vamos começar a aprender fazendo,
tecnológica se baseia em retirar a tecnologia desenvolvendo? Precisamos trazer o
da cultura, no sentido antropológico. Ela conceito de soberania digital e soberania
se expressa na falsa premissa de que de dados, e ampliá-lo, colocá-lo no conjunto
podemos ter uma sociedade sem cultura do movimento social, dos governos, das
tecnológica. É retirá-la das disputas forças democráticas; porque o fluxo de
econômicas e políticas, é achar que a dados e de riqueza que o acompanha nunca
tecnologia é como uma “caneta bic”, você é do Norte para o Sul, é sempre do Sul
compra a mais barata e a que funciona. A para o Norte. As Big Techs utilizam nossos
alienação técnica reforça e se articula com dados para criar produtos e serviços com
a colonialidade. Como dizia Anibal Quijano, seus sistemas de aprendizado de máquina
o colonialismo histórico acabou, mas a que posteriormente serão vendidos aqui
colonialidade continua e se reproduz pela no Sul. A soberania digital e a soberania
mentalidade das classes dominantes dos de dados se refere a ideia das sociedades
países tecnoeconomicamente pobres. locais poderem também criar e inventar,
Considero que um certo colonialismo além de controlarem sua criatividade e
digital é reforçado pela alienação técnica inventividade. É essa a ideia. Quando os
e que garante o dataísmo, noção lançada dados dos brasileiros são retirados da
pela pesquisadora Jose van Dijck. Dataísmo nossa jurisdição e são armazenados em
é uma crença absurda, que os dados são data centers que nunca iremos acessar,
naturais, e, portanto, podem ser extraídos que operam com sistemas algorítmicos
a bel-prazer. Além disso, o dataísmo também invisíveis ou opacos para quem não está
é empregado para disseminar a crença no seu controle, isso gera uma completa
de que as empresas, as Big Techs, sempre dependência social e geopolítica. E quando
querem o nosso bem, elas só querem se o Tribunal de Justiça de São Paulo faz um
beneficiar daquilo que seria a melhoria acordo para desenvolver a Inteligência
das nossas experiências. Temos um sem Artificial, em nuvem, com a Microsoft, é
número de casos que destrói essa crença, exatamente nisso que penso: falta a ideia
mas não cabe aqui descrevê-los. Quero de soberania. O Conselho Nacional de
reforçar a relação entre alienação técnica, Justiça proibiu isso, dizendo que dados
colonialidade das classes dominantes e sensíveis, dados de processos judiciais e
dataísmo. Esses três elementos reforçam da relação entre juízes e técnicos, clientes
o neoliberalismo, a doutrina principal do e advogados do TJ São Paulo seriam
capitalismo. Se tivesse que definir o entregues para aperfeiçoar os algoritmos
capitalismo hoje, definiria como um de Inteligência, de deep learning, de machine
capitalismo neoliberal, digital, dataficado. learning, de aprendizagem de máquina,
Precisamos perguntar o seguinte: O que da Microsoft. Todavia, essa decisão pode
pode gerar a criatividade e a inventividade ser invertida e voltarmos a entregar dados
local na nossa sociedade? Apostar no uso da Justiça para as Big Techs. Para finalizar,
67
proponho também inserir princípios de desenvolver tecnologias, abandonamos as
precaução no nosso debate. Tomo cosmovisões que temos; abrimos mão se
emprestado do ambientalismo, o princípio inserir nossa visão, nossas perspectivas nas
de proteção das futuras gerações. Por tecnologias que utilizaremos. Reduzimos a
exemplo, se entrego os dados do DNA da tecnodiversidade.Então, termino com essa
nossa população para essas grandes ideia: A soberania digital e a soberania de
corporações, comprometo todas as gerações dados devem virar arranjos específicos de
futuras. Esses dados cruzados com os de infraestrutura e de desenvolvimento, devem
comportamento podem servir a modelos envolver o Estado; e não acredito só em uma
probabilísticos que André Lemos ONG para enfrentar essa situação. Nos próximos
corretamente nomeou de performativos, 10 anos, ou 8 anos, vamos precisar refazer
que passam a ser aplicadas como se fossem as políticas públicas incorporando esses
verdades. Essa é a questão. Isso é muito conceitos. Essa é a minha contribuição. Muito
perigoso. É preciso avaliar o fluxo de dados; obrigado.
é preciso observar e analisar o treinamento
que gerou no algoritmo das Big Techs. O Jerônimo Pellegrini
Governo Federal, na gestão Bolsonaro Sérgio, suas colocações foram
entregou os dados do chat do aplicativo importantíssimas. A primeira coisa que me
SouGov, de milhares de servidores públicos veio à cabeça depois da sua elaboração, foi
federais para treinar o algoritmo do Watson o episódio da espionagem da Presidência
da IBM. Nos termos de uso do aplicativo da República. Então, a mesma empresa que
está escrito que os dados seriam apagados esteve espionando a Presidência da República
após 30 dias. Essa informação é ambígua, continua prestando serviço; e um Tribunal
pois não explica que o dado é apagado estava disposto a entregar dados sensíveis a ela.
após treinar o modelo da Big Tech. Dessa Isso é impressionante. E, agora, recentemente,
forma, na hora que se usar o chat do também, o GitHub, que é controlado pela
aplicativo, a pessoa treinará, em língua Microsoft, começou a usar dados e todos os
portuguesa, os algoritmos da IBM. Podemos códigos livres que estavam ali para treinar
até destruir o dado, trazer o dado de volta, um copiloto, e eles dizem: Esses dados são
mas o padrão sobre a pessoa, sobre sua minerados. Então, a saída da rede neural não
coletividade, sobre a localidade já estará tem copyright; isso é um argumento terrível.
incorporado nos algoritmos, e esse padrão Eles estão chamando: Olha, venham brigar se
ninguém retira. Precisamos de soberania quiserem. E isso vai ser muito difícil. Vamos
digital. Por que esta segunda mesa? Porque prosseguir, agora, com as colocações da
não basta regulação, é preciso criar Fernanda Rosa.
tecnologias, criar soluções, criar arranjos
sociotécnicos. É preciso criar agregadores, Fernanda Rosa
incentivos locais, que envolvam Acho difícil não concordar com várias
universidades, prefeituras, governos, ONGs. coisas que foram expostas aqui; é difícil não
Precisamos criar até modelos jurídicos pensar, por exemplo, que as críticas que temos
para viabilizar infraestruturas digitais em feito aos trabalhos que Rafael colocou, as críticas
nosso território. Quando deixamos de que temos feito a Mejias e a Couldry, falando:
68
É, mas você não está olhando, você está um artigo. O outro é sobre a Infraestrutura
falando que Sul Global é como o Norte como um bem público, os limites da
Global. Não é? Essa é uma crítica, não é? governança local e uma Internet Global.
A outra crítica é aquela que a Nina trouxe: E o terceiro artigo, que está sob avaliação
Como vamos usar a palavra “colonialismo” de pares, trata da etnografia do código. Tem
sem pensarmos em corpos, sem pensar em como reformar isso? Se temos um olhar
violência de corpos? Porque colonialismo sobre a internet, a partir do código; esse
é sobre violência, violência sobre corpos código está produzindo esses resultados.
de mulheres, sobre indígenas, sobre negras Não são apenas as instituições detrás dos
e negros. códigos, trata-se desse código atrelado às
instituições, atrelado às intenções. E aí é
Então, como é que vamos falar de outra crítica às Ciências Sociais, que olha
colonialismo de dados sem pensar para as instituições, mas não olha para
em questões de identidade? os não humanos. Os não humanos são a
forma como eles foram codificados, eles
É uma questão problemática para as Ciências também estão tendo uma ação; porque é
Sociais; sou formada em Ciências Sociais como a Nina falou, os algoritmos. Podemos
brasileiras e é uma questão que temos que falar em algoritmo e em antirracismo no
enfrentar, e somente vamos enfrentá-la algoritmo, porque esse algoritmo está
com professores e professoras diferentes; tendo uma ação. E aí a questão é: Como,
porque, nós, nas Ciências Sociais, não temos então, fazemos para mudar tudo isso se
aulas de feminismo, por exemplo, nos 4 vamos continuar usando o mesmo código?
anos. Como é isso? Como você não conhece Estou perguntando com base em dados
um social, uma social negra? Como você não quantitativos que estão nesse artigo, que
lê autoras que estavam discutindo o que o ainda não está público, que se chama
Brasil era, como Carolina de Jesus, em um “Etnografia do Código”. Porque olhamos
curso de Ciências Sociais? Então, acho que como os dados estão circulando, e aí,
essas são questões que temos que pensar, usando as categorias que Rafael e Sérgio
mas o nosso debate aqui é bastante prático. colocaram aqui, de Sul e Norte Global. Os
Então, vou partir de tudo o que vocês estão dados, vamos pensar assim, podemos ter
falando para dizer que: Bom, com base dados circulando do Norte para o Sul, e do
em tudo, em toda essa desigualdade que Sul para o Norte; mas quando olhamos para
vocês estão colocando, que já foi colocado um protocolo específico, que é chamado
aqui, dá para reformar isso? Vou falar com BGP, que é o protocolo que permite os
base em três artigos que estão colocados. nossos pacotes de dados circularem na
Dois já estão disponíveis, e um está em internet, é isso que esse artigo faz. Vamos
avaliação de pares. Um artigo é sobre as Big olhar esse BGP e ver como esses dados estão
Techs e a forma como elas distribuem sua circulando na internet. Quando olhamos
infraestrutura no mundo. Big Techs, aqui, isso, comparando dois pontos, dois deles
estou falando, principalmente, de quatro: da internet, comparo o nó do Brasil, que
Google, Amazon, Facebook e Apple; mas, fica em São Paulo; chamamos tecnicamente
às vezes, também a Microsoft; então, esse é de Ponto de Troca de Tráfego, ou PTT; em
69
inglês, IX, Internet Exchange Point. Então, recursos no Sul, pela falta de datacenters
quando se compara o PTT do Brasil com no Sul, pela falta de cabos e fibra óptica no
o PTT de Frankfurt e da Alemanha, que Sul. Então, não é apenas uma dependência,
são os maiores nós da internet, o maior é uma interdependência. O Norte só existe
do Sul Global é o de São Paulo – e hoje, como tal pela exploração que faz do Sul; e
depois da pandemia, se tornou o maior do quando olhamos o código da internet, isso
mundo, por questões outras –, e o maior está acontecendo também. Estou olhando só
do Norte Global, que é o de Frankfurt; fica um, o do BGP, um protocolo de internet; mas
muito claro que tem uma disparidade muito estou dizendo: Se o reformarmos, vamos
grande. Os dados do Norte circulam entre ter que não só falar de instituição mas
o Norte, e não é para o Sul; e os dados do dos códigos. E fazemos como? Essa é uma
Sul, os pequenos provedores do Brasil, eles pergunta que podemos fazer para a Nina,
precisam, inclusive, se interconectar na diretamente; e trabalhar também com o
Alemanha. Com o mesmo argumento que que o Sérgio discorreu sobre. Tudo o que
o Sérgio ouviu de uma empresa, dizendo: expus, apesar de ter esse artigo ainda em
Como não vou hospedar o meu dado lá revisão de par, está na tese de doutorado
fora, se é mais barato? Ouvi a mesma coisa que está publicada. Se vocês buscarem,
de um pequeno provedor; na verdade, também, é uma tese defendida em 2019.
de um professor de BGP, no Brasil. Falei: Mas está em inglês. Pensando que nossos
Como fica a soberania de dados quando… , pequenos provedores de internet também
como fica a questão da soberania nacional? fazem parte disso, porque o código está
Porque quando esses nossos pequenos fazendo com que eles façam parte disso.
provedores estão passando os nossos Ao mesmo tempo, não é só falar, podemos
pacotes de dados para a Alemanha, e a falar das grandes Big Techs. Por quê?
Alemanha tem questões de vigilância, nesse Porque parte dessas empresas, hoje, são
nó de internet, como fica essa questão responsáveis por mais de 60% do tráfego,
da soberania nacional? E a resposta que nos pontos de troca de tráfego, no Brasil,
eu tive foi: “Uhn. Antes da soberania de acordo com entrevista também.
nacional, tem a soberania dos provedores
de internet. Somos sistemas autônomos”. Quando um provedor de internet
Onde fica nossa autonomia? E tinha um que nos atende em nossa casa
outro técnico de um pequeno provedor, no precisa se conectar com essas
Brasil, que disse: “Bom, tem vigilância, mas empresas; se a infraestrutura
está afetando a qualidade? Está afetando delas está em um país do Norte,
a latência?”. Isso não é uma alienação, é o necessariamente, você tem que
código tendo um papel fundamental na ir para o Norte, mesmo se no
continuidade de interdependência, não Brasil tivermos o maior sistema
apenas a dependência do Sul com o Norte, de interconexão de internet,
mas uma interdependência entre Sul e Norte;
porque o nó global maior do Norte Global, do mundo público; nós temos, hoje,
na Alemanha, só existe, também, daquele por causa do CGI, que Rafael é um dos
tamanho, daquela magnitude, pela falta de membros. Então, apesar de uma ótima
70
política pública – e isso está em um dos por pessoas que não sabemos quem
artigos que eu coloquei aqui –, se os dados são, e sem pensar as consequências das
que você está buscando estão fora, você ações que estão sendo propostas lá? Por
vai levar os dados dos brasileiros para exemplo, o Decreto no 10.332 indica “a
fora. Falar de soberania nacional, quando intenção de adotar tecnologia de processos
estamos falando de digital, é muito mais e serviços governamentais, em nuvem”.
complexo; de novo, por causa do código. Então, pergunto: O que temos de refletir
Mas, para além das Big Techs, gostaria nesses próximos 10 anos? Qualquer política
de colocar a questão dos governos, que que seja feita precisa ter um diálogo com a
também não estão ajudando. Então, sociedade. Nós, no Brasil, chamamos isso
no Brasil, especificamente no Governo de governança da internet. Temos uma
Bolsonaro, temos uma política feita por tradição nisso, é multissetorial, precisa
decreto, literalmente falando. ter discussão. Não importa se é Governo
Estadual, se é Governo Municipal, se vai ser
Quando se tem políticas digitais Governo Federal, temos que olhar para o
implementadas por decreto, perde- que já foi feito e deu certo; e a governança
se a possibilidade de discussão multissetorial é uma dessas coisas. Temos
pública. como contrabalançar poder, da democracia,
no contexto da internet, porque a internet
Eu estava estudando alguns decretos é regulada pelo mercado, precisamos de
porque tinha uma fala no Ministério da outras fontes. A governança multissetorial é,
Infraestrutura, esse ano, e aí eu descobri até o momento, a melhor que conseguimos.
que o Brasil tem uma das maiores redes Então, necessariamente, diante de uma
de organizações sociais, organizadas para política dessa, temos que pensar: Quem
tratar de internet, a Coalizão Direitos na está tomando essa decisão? Como vai se
Rede; então, fui conversar com pessoas dar essa governança? Não é só falar de
da Coalizão. Falei: O que vocês fizeram em nuvem, temos de entrar nos meandros
relação a esse decreto aqui? Também, entrei dessas coisas; e não é só burocrata que
em contato com pessoas do Comitê Gestor vai conseguir decidir isso. Do Decreto no
da Internet no Brasil, porque, pela forma 10.332, também, a intenção de promover
multisetorial com que ele é construído, “serviços preditivos e personalizados com
é possível falar com representantes; a utilização de tecnologias emergentes”.
vou tratar de governança daqui a pouco. Tem um determinismo tecnológico aí.
Fui atrás de pessoas da Academia, que Queremos tudo inteligente. Uma das pessoas
fazem parte do CGI: Ei, vocês discutiram da mesa, na qual eu estava, inclusive, falou
esses decretos? – Não, não dá tempo de que a grande expectativa era quando não
discutir decreto. Vou citar dois decretos, o precisássemos mais fazer check-in dos
Decreto no 10.332, de 2020; o Decreto no nossos voos, que a ANAC, ou outro órgão,
9.319, também. Onde está se tratando de conseguisse fazer esse controle para todos.
questões de nuvem, onde está se tratando Como assim? Você vai controlar minha
de questões de Inteligência Artificial, de mobilidade? Tivemos essa discussão em
Big Data, tudo junto e misturado; feito São Paulo com o Bilhete Único, para quem
71
conhece essa discussão. Quando temos os Políticas de segurança. São Paulo, de novo,
dados do Bilhete Único, na prefeitura, se Estado e Município, com programas de City
a prefeitura decidir vender esses dados Câmeras. Colocam câmeras em todos os
para uma organização privada. Você está lugares. Quem está fazendo a governança
vendendo os dados de mobilidade da sua desses dados? E aí você está na internet,
população para um ente privado? Então, sem nem mesmo saber, porque você está
é disso que estamos falando aqui. Nesses andando na rua, e o prédio do seu vizinho
decretos, também, tem uma intenção fez um acordo com a Polícia Militar de
de integrar bases de dados de esferas São Paulo para compartilhar os dados que
municipais, federais e estaduais. O perigo da estão coletando dessas câmeras. Todas
centralização na mão de um governo, não essas coisas estão acontecendo; então, se
importa qual governo. Não é só o Governo estamos pensando em 2030, precisamos
Bolsonaro, é qualquer Governo. Temos de também pensar em 2020, realidade que
ter muito cuidado com isso, pois, depois de já é um problema, pois temos coisas para
fazer isso, não tem como desfazer. “Cuidado”, consertar a partir de agora. E por que temos
estou usando uma palavra bem fraca para que pensar em código? Necessariamente,
o que eu gostaria de estar falando. Então, temos que pensar em currículo, temos que
finalmente, gostaria de expressar que se pensar em currículo educacional. Se temos
estamos falando de internet, vamos precisar que produzir tecnologia, temos que utilizar
falar de código. nossas universidades públicas, porque
elas são atacadas justamente porque têm
E se estamos falando de governança poder. Não é? Porque se não fossem, se não
de dados, qualquer política de tivessem poder, não seriam tão atacadas.
governança de dados, vamos Pensei aqui em apenas alguns cursos, mas
precisar parar para pensar em eu acho que tem tantos outros: Ciência de
termos de pilares; e esses pilares Dados, Ciência da Computação, Design,
vão ter que envolver gênero, vão Sistema de Informação; necessariamente,
ter que envolver raça, vão ter é preciso ter componentes de inclusão em
que envolver etnia, vão ter que diversidade, é preciso se pensar em gênero,
envolver questões de pessoas com raça, etnia; é preciso colocar essas questões
deficiência. nesses currículos. É preciso criar cursos
novos com esse olhar, porque precisamos
Não dá para pensar um modelo, de novo, de mais pessoas, de grupos, que não preciso
das Ciências Sociais, que usa aquele modelo nem falar que não são minoritários, não
do indivíduo liberal, que é aquele indivíduo é? São pessoas de grupos vulneráveis que
transparente, que não tem cor, não tem deveriam estar fazendo o design desses
sexo, não tem nada, e uma política vai para códigos, que deveriam estar dando aula
todo mundo. Não, não é mais isso. Em 2021, sobre isso. E aí, finalizando, além da questão
temos que pensar em termos de categorias do currículo, pensando em inovação, design
identitárias também. Por causa disso, até e inclusão, tem a questão da governança
fiquei pensando: Que políticas atingem dos recursos críticos. E no caso, por
mais pessoas pobres, negras, por exemplo? exemplo, da internet, ela existe sobre a
72
camada de Telecom. Existem recursos de de uma empresa de finanças no Brasil.
telecomunicações que são necessários Se pegarmos as empresas de tecnologia,
para a internet funcionar, por exemplo, o quem está produzindo as tecnologias
espectro. E aí faço pesquisa em comunidades que usamos não deve ser muito diferente
indígenas, faço pesquisa sobre design de daquela foto; então, precisamos de leis
infraestrutura para comunicação. Ouvi de de incentivo para ter mais diversidade
um entrevistado, o Mariano Gomes, ele é nessas empresas, também. Precisamos
um entrevistado do México. Estávamos abrir o canal de novas tecnologias, de
falando sobre como eles constroem a novas coisas, e novas, sabe-se lá o quê!
própria internet usando o espectro; eles Precisamos simplesmente ficar com essa
usam espectro não licenciado de Wi-Fi; internet que foi criada; e, ao mesmo tempo,
ele me falou assim: “É, mas você sabe que precisamos amenizar, ou, seja, minimizar
as pessoas chamam isso de espectro? Mas, os danos que estão acontecendo com o
assim, isso é ar, não é? E se é ar, está no meu que criamos até agora; e aí, pelas rabeiras,
território”. “No meu território”, não com o fazendo ações pelas rabeiras, e uma delas
olhar nosso, de propriedade, é outro olhar, é pensar em diversidade nessas estruturas,
ele não estava falando de propriedade, não, em inclusão, nessas estruturas que temos.
ele estava falando de outra coisa. “Mas está Então, é isso. Obrigada.
aqui no nosso território; então, podemos
usar”. Só que o espectro tem a regulação Jerônimo Pellegrini
federal, no Brasil, inclusive. Fernanda, é importantíssimo
isso tudo que você colocou, o papel da
Precisamos, para ter inovação local, infraestrutura, o papel da tecnologia, não
de soberania local; permitindo só como um objeto passivo. E, finalmente,
que, inclusive, comunidades achei importante o que você expôs sobre
indígenas tenham, criem coisas; a reversibilidade de algumas ações, pois
nós, necessariamente, precisamos tem coisas que não podem acontecer. Mas
de espectro não licenciado. E, nesse elas acontecem e não tem volta. Já vimos
contexto, não é só o espectro, muitas vezes acontecendo. E, realmente,
precisamos dos hardwares é importante, essa centralização de dados
livres, não é? Precisamos de leis teria de ser feita com todo o cuidado; e
de incentivo para a produção de não existe uma maneira de fazer sem que
hardware livre, de laboratórios se tenha todo o cuidado, não dá. Agradeço
de criação de hardware nas a você por ter mencionado o hardware
universidades. livre, as tecnologias livres, porque isso
realmente é importante. Muitos têm se
Onde está o dinheiro da FAPESP, que não dado conta de que isso é um impeditivo
é aplicado nisso? Onde está o dinheiro também, do ponto de vista de segurança; a
da CAPES, que não está aplicado nessas tecnologia não tem como ser segura se ela
questões? Todo mundo, ou a maioria, não for livre. Esperamos que isso melhore.
deve ter visto aquela foto de várias Agradeço a participação. E agora vamos para
pessoas brancas no alto de um prédio a segunda etapa, na qual vocês todos farão
73
suas considerações finais. Começaremos dados que passam por esses mecanismos de
com o Rafael. leitura sobre nós e as comunidades; e que
é algo muito parecido com a biopirataria,
Rafael Evangelista que foi muito questionada; luta-se muito
Acho muito interessante, Fernanda, contra esses processos, que são processos
esse seu relato sobre o modo como… e até de roubo de propriedade intelectual, no
falando como alguém que está dialogando limite, de populações tradicionais.
ali, no CGI, o modo como o Governo tem
governado por decreto. Isso é uma coisa E acho interessante a metáfora
que estamos vivendo, vivemos com relação ambiental também, para pensarmos
à MP, que altera o Marco Civil; e, tentando nos efeitos, quanto isso afeta não só
fazer esse diálogo ali dentro, e esse diálogo indivíduos em pontos específicos,
sendo bloqueado antes disso ter virado isso afeta um ecossistema, se é que
MP; e, depois, vimos o projeto de lei sendo podemos falar em ecossistema,
enviado em um domingo, logo depois que que é social, e que precisamos de
foi derrubado. Quer dizer, estamos lidando regulações que sejam sociais.
com um método de Governo que é totalitário,
no sentido de ignorar as hierarquias e as Acho importante esse dataísmo, que o Sérgio
instituições que foram construídas ao longo comentou; penso que isso faz parte de um
dos anos, que tenta sempre forçar isso em conjunto, de uma leitura neoliberal. Quer dizer,
várias instâncias. Estamos falando aqui não dá para pensar nisso separadamente,
de tecnologia, mas em outras instâncias porque é um desejo de administrar o corpo
também; mas fazer muito essa coisa, de social de determinada forma; e acho que
uma cúpula tentando impor sua vontade, é importante olhar, saber usar os dados.
ignorando essas estruturas e os processos Acho que os dados são superimportantes
democráticos. Vimos todo processo que para orientar políticas públicas etc., mas
levou para a construção do Marco Civil, e não podemos ser reféns ideológicos nem
isso está sendo alterado da noite para o dia. do neoliberalismo nem desse dataísmo.
Por isso, falei um pouco de “instituições”;
estou pensando no fortalecimento desses Jerônimo Pellegrini
mecanismos multilaterais e multissetoriais, Rafael, você resumiu bastante bem; e
porque eles mesmos estão fragilizados, ou a apropriação de biopirataria é mais antiga
sendo ignorados, ou sendo atropelados. Isso que isso. Por exemplo, você vai a algum
é parte importante do próprio problema, lugar, toma o que quer, e, depois, põe no
para podermos regular tudo isso, interferir seu museuzinho de gente superior, e é
nesse ambiente, e acho que isso é um desafio assim que se faz; infelizmente, isso é uma
para nós. E acho que é legal alguém ter coisa terrível, mas acontece. Agora, Nina,
mencionado a questão das semelhanças novamente, elabore seus comentários.
com a discussão ambiental. Acho que tem
algumas coisas interessantes, que passam Nina da Hora
pelos processos de desapropriação; é, não sei Primeiro, fiquei pensando que não
se essa é a melhor palavra, mas justamente estamos separando mais tecnologia de
74
política, e acho que nunca essas coisas que nós trouxemos aqui. E aí isso é uma
nunca deveriam ter sido separadas; mas por provocação para a outra mesa, para outro
um bom tempo tivemos que lidar com essa evento, sei lá, para 2022, visualizando isso
visão da neutralidade entre tecnologia e na moderação de conteúdo.
política. Eu ficava vendo alguns professores
falando e ficava pensando: Nossa, está sendo Vejo que a moderação está
criado por nós, temos nossos ideais, nossas chegando em um nível que não
políticas, mas a tecnologia está imune. Que está suportando tudo o que está
beleza, alguma coisa imune no território acontecendo; é tudo muito rápido,
político. Isso é bom, é bom ver cada vez mais as ferramentas tecnológicas não
conteúdos saindo da Academia e entrando estão conseguindo lidar com a
em outras esferas, com uma linguagem mais quantidade de dados gerados;
acessível, para tornar cada vez mais possível e as mãos humanas não estão
o que estamos falando aqui; porque o que conseguindo lidar com a quantidade
estamos falando está em várias instâncias: de conteúdos e mecanismos, de
de Governo, do setor privado, da Academia esconder violência, enquanto se está
e tudo mais. Todavia, e a sociedade civil, compartilhando nas plataformas,
que é impactada de diversas formas? nas redes sociais. Vejo a colaboração
Formas que nunca se consegue testar contribuindo, uma moderação, cada
o suficiente; estou falando de um lugar, vez mais, colaborativa.
também, de cientista da computação. Ah,
vamos testar o software para sempre. As redes sociais, hoje, mesmo com a equipe
Sim. E não vai ser suficiente. Não vai ser que elas estão treinando, e a equipe que
suficiente porque o contexto social evolui, tem de segurança, de moderação etc.
às vezes, muito mais rapidamente do que Só essa equipe é capaz de julgar casos
a construção tecnológica, não do que é a LGBTfóbicos e casos racistas? Temos
inovação tecnológica, mas a construção e o organizações, estudiosos, temos todo
desenvolvimento. Então, fiquei pensando um movimento dessas causas. É isso que
muito nisso. Falar de um software livre; estou pensando de colaborativo, porque
quando penso software livre, ou quando precisamos chamar a responsabilidade para
vejo a galera levantar a ideia da cultura essas redes. Tenho responsabilidade, temos
hacker, novamente; levantar essa questão, responsabilidade sobre o que postamos,
novamente; penso muito na palavra sobre o que compartilhamos e sobre o que
“colaboração”; e pensando nos problemas engajamos; então, visualizo a colaboração
que estamos enfrentando hoje, sobretudo em um lugar, para também tentar nos tirar
no Brasil, a tensão política, é… e aí não vou desse olhar de que sempre vai ter esse
entrar em mais detalhes, mas não vamos olhar de que as hierarquias que existem
sair daqui, sobre o que está acontecendo hoje vão resolver esse problema, de cima
aqui; é, vamos precisar, cada vez mais, para baixo. Isso não será resolvido, vamos
entender a colaboração, como também ter de mudar essa forma de pensar como
uma forma de repensar as estruturas que resolver problemas complexos da sociedade.
estamos pautando hoje, todos os temas Muito obrigada.
75
Jerônimo Pellegrini pela doutrina, pela cultura californiana.
Nina, é importantíssima sua Não adianta tentar se eximir disso. Mas
colaboração. Temos um laboratório onde está nossa cultura? Toda vez que
dedicado a isso. E sobre a neutralidade colocamos novas possibilidades criativas,
da tecnologia também, que nunca foi alteramos a tecnologia. Quando os sistemas
neutra, não tem como ser neutra. Não é algorítmicos chegam no Estado, o Estado
neutra nem perfeita, infelizmente. Muito fica mais opaco, menos democrático. Porque
bem colocado. Agradeço. E, agora, teremos são desenvolvidos como caixas pretas, por
as considerações de Sérgio Amadeu. empresas privadas que guardam seus
códigos fechado e escondem as operações
Sérgio Amadeu da Silveira dos sistemas. É o que está acontecendo.
É um aprendizado tratar de temas tão O neoliberalismo reúne o pensamento
complexos. Li sobre a estratégia de autoritário com a tecnologia autoritária.
Inteligência Artificial do Brasil. O que Esse é o suprassumo do neoliberalismo,
mais me chamou muito a atenção é que que sonha em substituir todas as pessoas
na sua Introdução eram apresentadas as por sistemas construídos pelas Big Techs.
vantagens competitivas do Brasil. Nelas, Temos que criar arranjos inventivos digitais
estava a existência de um grande mercado locais. E temos que conseguir trazer as
consumidor, o ruralismo, a diversidade tecnologias e o digital para a discussão.
cultural, mas não havia menção das Não somos só compradores, somos uma
universidades brasileiras, nem dos nossos cultura, queremos apresentar nossa visão,
institutos de pesquisa. Eles não acham que nossa criatividade a partir das tecnologias,
as universidades são estratégicas para o por isso, a questão da soberania digital, da
desenvolvimento de pesquisas e soluções soberania de dados não é somente uma
sobre a Inteligência Artificial. Por quê? questão política e econômica. Trata-se
Porque tudo indica que temos que ser também da tecnodiversidade.
consumidores. A estratégia é a de usuário.
Os produtos e tecnologias de Inteligência Jerônimo Pellegrini
Artificial devem ser desenvolvidas no Norte. Sérgio, é importantíssima a sua
O que nos cabe? Consumir e utilizar soluções reflexão. Ela se encaixa bem no que a Nina
de última geração. Nosso papel é o de apresentou, também, sobre a neutralidade
entregar dados da nossa população para tecnológica; e vejo isso, claramente,
alimentar os sistemas de IA das Big Techs acontecendo. Então, vamos prosseguir,
e, no máximo, entrarmos no ecossistema agora, com a Fernanda.
de aprendizado de máquina como
desenvolvedores de aplicativos. Concordo Fernanda Rosa
com os pontos colocados aqui pela Fernanda, Ótimo. É difícil olhar com olhos
pela Nina e pelo Rafael. Reforço a seguinte otimistas quando vemos para onde está
ideia: quando deixamos de desenvolver indo a Inteligência Artificial. O fato de que,
tecnologias, deixamos de fora nossas uma vez que produzimos o código, o código
características, nossa cultura. A tecnologia se reproduz assim mesmo. Tem o novo livro
que usamos é impregnada pela ideologia, da Laura DeNardis, de 2020, explicando a
76
autonomia do que está acontecendo; então, Jerônimo Pellegrini
quando falamos com uma engenheira, Realmente, as universidades têm um
um engenheiro, que produziu o código, papel importante; foi o que o Sérgio expôs
ouvimos: Ah, como está sendo esse… por também, que elas estão ausentes em um
que está saindo esse resultado? Já não dá documento que é importantíssimo. Não,
para ver como foi feito. Então, delegamos não precisa de universidades. É uma coisa
certas coisas para a máquina, e a máquina terrível isso, elas foram feitas para isso.
está tomando decisões por si mesma, a Tudo bem, o que podemos fazer? Vamos
partir dos valores que foram colocados brigar e tentar mudar isso.
ali. Então, isso é algo complicado. Mas,
por outro lado, se não temos esperança,
é imperialismo, se não temos esperança,
também. Como assim, não conseguimos
acreditar nas pessoas? Como assim, não
conseguimos acreditar na capacidade de
renovação, de inovação? Não a inovação
capturada pelo mercado, a inovação que
vem da necessidade. No Brasil mesmo,
diante da pandemia, quantas inovações
não ocorreram para a sobrevivência em
comunidades? Não tem como não ter
esperança, porque a capacidade está nas
pessoas. A questão é: Estamos ouvindo as
pessoas, dando espaço para essas pessoas
criarem. Não é?

E devemos chamar a atenção para

o poder fundamental da educação,
porque acho que puxando a
sardinha para o lado, para o
nosso lado, não desacreditando
de nenhuma força social, se
tem um lugar que conseguimos
produzir com autonomia e com o
dinheiro obrigatório do Governo,
são as escolas públicas, são as
universidades; então, esses espaços
são espaços de transformação.

Então, vamos acreditar nisso; e acreditar

em quem está lá fazendo gerar a partir
dali. Muito obrigada pela oportunidade.
77
78
 Textos baseados nas falas
Segundo Encontro apresentadas durante o encontro
virtual que pode ser assistido na
Parte 1 íntegra aqui

“Inteligência Artificial,
democracia e regulação”, Glenda
Dantas, Fernanda Bruno, Tarcizio Silva, Tarcízio Silva
Sivaldo Pereira da Silva, Débora Salles “Imaginem uma fábrica. No chão
dessa fábrica temos um único trabalhador;
na verdade, uma jovem garota. Em torno
Glenda Dantas
dela, estão as pesadas estruturas de tear.
A reunião desses especialistas
Quatro delas em ação mecânica turbulenta.
possui um objetivo muito bem definido,
A garota não opera as máquinas; em vez
que é nortear ações e políticas públicas
disso, elas se operam sozinhas. O tecido mais
para a preparação para essa década;
perfeito e uniforme do que mãos humanas
principalmente tendo como base os objetivos
poderiam conseguir, se tece sozinho. O
para o desenvolvimento sustentável. Mas,
trabalho da garota, o único trabalho, é
para além disso, colabora para a troca
observar as máquinas, garantindo que
de conhecimentos e potencialização
nada ameace seu funcionamento; ela
destes, tanto para pressionar o Poder
limpa a seda, remenda um fio quebrado
Público como sociedade civil quanto para
ou recarrega uma lançadeira vazia. Para
analisar com mais criticidade os usos
fazer, ela para a máquina apertando
que fazemos das tecnologias, que estão
apenas um único botão. Quando finaliza,
além das redes sociais. A experiência e
aperta o botão novamente e o mecanismo
prospectiva dos expositores vai permitir
estremece, de volta à vida, exatamente
que a gente encontre pontos de consenso,
de onde parou”. Esse texto poderia ser
para formular ações e proposições para
uma descrição que poderíamos ler em
o desenvolvimento e uso da inteligência
alguma matéria da Forbes, talvez, falando
tecnológica local. Para começar nosso debate
de alguma inovação do Jeff Bezos, ou do
sobre “Inteligência Artificial, Democracia
Elon Musk, e suas empresas; mas, talvez,
e Regulação”, teremos o Tarcízio Silva,
os mais atentos consigam perceber, pelas
pesquisador, produtor musical, mestre em
referências à indústria têxtil, que não é um
Comunicação e Cultura Contemporânea pela
texto novo. Na verdade, esse texto é uma
UFBA, faz doutorado em Ciências Humanas
visão de futuro proposta por Jacques de
e Sociais na Universidade Federal do ABC,
Vaucanson, na revista Mercure de France,
onde estuda o Imaginário sociotécnico de
em 1745, no século XVIII. Vaucanson foi
resistência. Atualmente, é Tech + Society
um dos inventores de autômatos, seja
Fellow na Fundação Mozilla, atuando na
autômatos para entretenimento, ou algumas
promoção de segurança digital e defesa
máquinas para a indústria mais famosas
contra danos algorítmicos.
dessa época; e herdou do pai, a profissão.
Esse caso foi levantado por Edward Jones-
Imhotep, em um artigo muito interessante,
79
que argumenta que um dos grandes desafios convencer investidores; e para convencer,
para se pensar a história da tecnologia continuamente, o capital a colocar mais
e automação e a Inteligência Artificial, e mais dinheiro relativo a promessas de
hoje, é o modo pelo qual falamos sobre futuros mais automatizados e lucrativos
tecnologia; o que falamos sobre automação para investidores. Um caso de hoje, na
foi construído há bastante tempo, por volta contemporaneidade, é a ideia de carros
do século XVIII, ligado a esses imaginários autômatos, que ainda está muito longe, por
sociotécnicos de futuro sobre automação e diversos motivos, de ser uma realidade,
sobre tecnologia. Edward Jones-Imhotep, pensando toda a complexidade dos sistemas
historiador da tecnologia, argumenta que de mobilidade. Mas esse discurso, ao mesmo
os modos de falar sobre o futuro acabam tempo, também tem seu papel em termos de
direcionando muito as decisões que temos consensos públicos sobre o que é aceitável,
ligadas a políticas públicas e regulação em troca de inovação, em troca de futuros
sobre tecnologia; e, sobretudo, a partir desejáveis. Então, quando pensamos sobre
de duas táticas. Adaptando um pouco a sociedade, eleitores e parlamentares que
pesquisa do historiador, um pouco, ao nosso decidem, direta ou indiretamente, acreditar
contexto, essa tática permite pensar em duas sobre quais são essas tecnologias do futuro,
coisas: que esse tipo de discurso que tenta temos a manutenção de imaginários que
posicionar os mecanismos autômatos, como transformam, literalmente, CEOs de Big
totalmente desvinculados de trabalho, ou Tech, atualmente, em líderes públicos;
desvinculados de outras redes de insumos, que, desde a expropriação mais violenta
que se materializam naquele sistema, ou de trabalho, até a destruição de recursos
naquela máquina, no caso de uma máquina naturais, em prol de ideários neocoloniais,
industrial, permite duas coisas. A primeira, espaciais até, como se vê hoje. Minha
seria retirar a ênfase e a valorização social pesquisa, citando especificamente o racismo
de outras atividades e insumos, que fazem algorítmico, tem dialogado um pouco com
parte dessas redes de produção, mas que essas táticas de invisibilização de fatores
não são facilmente automatizáveis. Então, e de opacidade; com base, sobretudo, em
quando se pensa em plataformização, por Ruha Benjamin, que propôs inicialmente
exemplo, a ênfase em ideias questionáveis esse conceito de racismo algorítmico. Eu
de gig economy, em aplicativos, como Uber, tenho tentado entender – isso tem reflexos
iFood etc.; seria um exemplo desse tipo nos debates sobre regulação – quais tipos
de lógica. de variáveis, em camadas, na tecnologia, na
relação tecnologia e sociedade, são apagadas
O holofote vai para a suposta ou ocultas nos processos de firmação de
inovação no aplicativo, na interface, contratos sociais, de referências regulatórias
e tenta apagar o trabalho efetivo e afins. Especificamente, tenho trabalhado
que está sendo precarizado. o conceito de dupla opacidade, quando se
pensa em racismo algorítmico.
E o segundo ponto é que esse tipo de
discurso oferece, continuamente, promessas Por um lado, para tratar da
de invenções e inovações futuras para denegação do racismo, que, no
80
 caso do Brasil e dos Estados dados completamente enviesada, porque
Unidos, é um fenômeno fundante ela reflete milhares de decisões discretas,
da manutenção do racismo e da individuais, de pessoas nas filtragens dos
supremacia branca. E por outro, sistemas, sejam – do Sistema de Saúde,
da noção de neutralidade da não é de saúde privada, sobretudo – sejam
tecnologia, que, se na Academia, médicos que priorizam determinados
em grande medida, pelo menos tipos de paciente, no momento de fazer
em nossas áreas, essa noção de a triagem; sejam profissionais de planos
neutralidade foi bastante superada; de saúde, que vão ser mais insensíveis
a dores de pessoas não brancas, nos
não acontece o mesmo em outras disciplinas, Estados Unidos. Então, isso leva a uma
em outras áreas, ou no discurso público, ideia que eu tenho trabalhado, de redes
ou no discurso empresarial, ou da mídia difusas de agência. Na medida em que a
empresarial, sobre a tecnologia. Isso permite, lógica de aprendizado de máquina, que é
de certa forma, explicar a permanência de relativamente consolidada na construção
alguns casos de impactos da Inteligência de sistemas automatizados, parte da ideia
Artificial, quando se pensa em processos de aprender com histórico de dados, com
de racialização e racismo. histórico de pontos de informação sobre
Vou citar, rapidamente, dois casos que são determinado domínio, que aquele sistema
um pouco mais famosos. Um deles é o caso algorítmico está trabalhando.
dos buscadores. Tem um livro famoso,
e outras pesquisas que se debruçaram Isso significa, na maior parte
sobre esse objeto, o livro é Algoritmos da das vezes, uma exacerbação das
Opressão, da professora Safiya Noble, que relações de poder que já existiam.
estudou como os buscadores representam
minorias raciais, minorias em termos de E para fechar, o que isso tem a ver com
origem, de forma muito mais negativa. regulação? Do meu ponto de vista, não é?
E, frequentemente, a lógica contida na Estamos testemunhando diversas iniciativas
permanência é a de que apenas representa de regulação da Inteligência Artificial, de
e reflete a sociedade; então, seria justo forma direta ou indireta; então, tem a PL,
algum tipo de intervenção. O segundo caso, que está em tramitação no Senado, ou a
um pouco mais recente, foi um estudo própria Lei Geral de Proteção de Dados,
publicado na revista Nation, final de 2019, que tem um artigo que fala de revisão
salvo engano, onde pesquisadores de Saúde de decisões automatizadas; o artigo 20,
Coletiva, Ziad Obermeyer e colaboradores, da LGPD, diz, atualmente: “O titular dos
descobriram como planos de saúde, que dados tem direito a solicitar a revisão de
previam níveis de cuidados a diferentes decisões tomadas unicamente com base
pacientes, discriminaram, de forma em tratamento automatizado de dados
sistemática, pacientes negros e outras pessoais que afetem seus interesses,
minorias, nos Estados Unidos. Ao realizar incluídas as decisões destinadas a definir
auditoria desses sistemas, o Obermeyer o seu perfil pessoal, profissional, de
identificou, que, na verdade, há inserção de consumo e de crédito, ou os aspectos de
81
sua personalidade”. Essa atual redação, responsabilidades das partes interessadas; e
modificada através de MP, originalmente, aprimorar, de forma abrangente, esse senso
tinha como início: “O titular dos dados de responsabilidade, a análise cuidadosa
tem direito a solicitar a revisão por pessoa e autodisciplina em todos os aspectos do
natural”. O que já era um tipo de barreira, ciclo de vida da inteligência artificial”. E o
onde a revisão da decisão tomada, com artigo reforça, novamente, até de forma
o sistema automatizado, seria realizada redundante, estabelecendo mecanismos de
por uma pessoa, você teria esse aspecto responsabilização da Inteligência Artificial,
humano. Quando esse trecho é retirado, que não fuja da definição e atribuição de
abrimos outros referenciais “a revisão de responsabilidades de seus criadores. Por
decisões automatizadas por outros sistemas fim, o artigo 8 inclui como padrão de gestão:
automatizados”. O que acaba sendo um loop, “Realizar monitoramento e avaliação
um jogo de gato e rato, em cima de como de risco sistemático, em tempo hábil, e
essas decisões são realizadas por sistemas, estabelecer um mecanismo de alerta precoce
aparentemente, automatizados, mas que, de risco eficaz, e aumentar a capacidade
na verdade, apenas mediam decisões de inteligência artificial, de gerenciar e
construídas pelos seus desenvolvedores. controlar seus próprios riscos éticos”.
Então, há uma tendência, obviamente,
Então, temos alguns desafios na controversa, sobretudo devido à sua origem
regulação e na implementação, de forçar atores, sejam privados, sejam
seja por meio dessa lógica legalista, atores públicos, a implementar mecanismos
seja por meio das relações ativos de controle, antes do processo de
entre os atores vinculados, do remediação ou de revisão. Até que ponto
que, efetivamente, podem ser conseguimos tentar promover isso; e que
mecanismos de controle da atores podemos trazer como aliados
Inteligência Artificial, por futuros para promover essa responsabilidade
mais justos e mais distribuídos. ética, distribuída pelo controle social da
tecnologia?
Trouxe aqui um texto, do recente
documento chamado Novo Código de Glenda Dantas
Ética de Inteligência Artificial, proposto Tarcízio apresenta um panorama
pela China – incluí alguns itens que foram bem fundamentado sobre os impactos da
considerados por especialistas, mais plataformização, dos mecanismos autômatos
rigorosos, que outros referenciais em para a manutenção de estruturas de poder,
torno do mundo. Um deles é o terceiro essas estruturas que estão fundamentadas
artigo, que enfatiza a responsabilidade em opressões; especialmente, por meio da
humana, de forma muito mais densa e exploração da mão de obra, de recursos
forte, do que as atuais redações do PL naturais, que intensificam essas estruturas
brasileiro; ele diz o seguinte: “É preciso interseccionais de desigualdade. Um dos
fortalecer a responsabilidade, e insistir que objetivos deste projeto, pensar alternativas
os seres humanos são sujeitos final dessa possíveis de desenvolvimento, que,
responsabilidade, que sejam esclarecidas as principalmente, nos libertem dessas
82
amarras do colonialismo; Vou falar do principal argumento da
Kate Crawford, uma provocação muito
é fundamental se pensar na interessante, que é a Inteligência Artificial,
discussão sobre o desenvolvimento que não é nem inteligente nem artificial.
tecnológico, chamando mesmo esse Com base nisso, abordarei a questão da
senso de responsabilidade em materialidade da Inteligência Artificial e o
todos os âmbitos; principalmente, que tem sido feito para regular isso, e sobre
tendo como base as desigualdades das limitações dessas regulações. Quando
interseccionais que compõem as pensamos: O que é a Inteligência Artificial?
estruturas de poder, aqui, no Brasil. Sabemos que ela está em todos os lugares,
mas poucas pessoas sabem os detalhes
A seguir, vamos conhecer os comentários de técnicos do que é a Inteligência Artificial;
Débora Salles, pós-doutoranda no Grupo de porque, normalmente, ela é apresentada
Pesquisa NetLab, da Escola de Comunicação, como algo etéreo, é a nuvem, é algo que
da Universidade Federal do Rio de Janeiro; está flutuando fora de nós, totalmente
doutora em Ciência da Informação no Instituto suspenso e sem grandes consequências e
Brasileiro de Informação, Ciência e Tecnologia, custos. Normalmente, quando pensamos em
o IBCT, da UFRJ. Inteligência Artificial, ou é um robô branco,
ou é uma imagem com um fundo azul e linhas
Débora Salles brancas, com números suspensos, e coisas
Foi ótimo ouvir o Tarcízio, e pensar, muito hightech. E o que Crawford tenta
como que o que eu preparei está relacionado argumentar é que esses imaginários dessa
com algumas questões que ele colocou. Inteligência Artificial etérea, de alguma
Irei apresentar, resumidamente, o que é forma, são fora da nossa realidade; ela é
Inteligência Artificial, do ponto de vista de um imaginário, que, de alguma forma, nos
uma pesquisadora que tenho acompanhado, impede de entender o mundo material da
e que acho que pode acrescentar muito para Inteligência Artificial. Precisamos levar em
o debate. O nome dela é Kate Crawford, e consideração que todos esses sistemas, em
ela lançou, recentemente, um livro chamado escala, de Inteligência Artificial, dependem
O Atlas da IA: Poder, Política e os Custos da exploração de recursos minerais e de
Planetários da Inteligência Artificial. Com energia, necessitam de mão de obra e de
base nessa leitura e de algumas discussões dados; e esse tripé é justamente o que ela
sobre a pesquisa dela, a minha ideia é tratar tenta mapear de forma bem interessante.
um pouco sobre como Quando ela fala que a Inteligência Artificial
não é nem artificial nem inteligente, ela
essas redes globais, que sustentam as diz, que ela não é inteligente, porque não
tecnologias de Inteligência Artificial, se parece com nenhum tipo de inteligência
estão prejudicando o meio ambiente, humana. Um dos grandes erros, de acordo
consolidando as desigualdades e com ela, do desenvolvimento da Inteligência
impulsionando uma tendência de Artificial, é que acreditar que as mentes,
governança antidemocrática. a cognição, seriam com computadores, e
vice-versa. O que ela diz, é que, na verdade,
83
as máquinas são treinadas humanamente saber o sentimento de alguém a partir da
para assumir tarefas que para nós seriam expressão facial, isso é algo que a Psicologia
muito custosas, seja em termos de tempo já abandonou, mas a Inteligência Artificial
ou de trabalho. Mas, além disso, ela não acha que isso é um problema solucionável.
é artificial, porque está dentro dessa Quando pensamos sobre essas questões de
materialidade do planeta, em que estamos discriminação e preconceito, e os dados,
lidando com recursos naturais escassos, temos de pensar que é com base nesse
com combustível e trabalho humano. Então, treinamento, desses inputs que damos,
com base nessa ideia, precisamos pensar dos nossos próprios dados, que eles são
por que achamos que é inteligente. E, assim, ressignificados e reutilizados para outros
como a Inteligência Artificial funciona? fins. Então, nossas imagens servem para
Ela é diferente de um simples processo treinar algoritmos que detectam imagens
de automação, não é? Na automação, um de todos os tipos. Só que precisamos pensar
programador faz um código, e sempre dá a que quando estamos desenvolvendo um
mesma coisa, digamos assim. O algoritmo algoritmo para detectar alguma coisa,
de Inteligência Artificial, teoricamente, temos de dar muito input para ele, muita
sabe qual é o resultado pretendido, e ele imagem, muito dado. E como categorizar
cria uma forma de atingir esse resultado. isso ainda é um problema. Como eu estava
Assim, esse resultado pretendido, esse falando, a questão da Inteligência Artificial
conhecimento que a Inteligência Artificial é mais do que uma automatização de um
tem, nós o ensinamos a ela; e o fazemos a processo, essa ideia de que a Inteligência
partir de conjuntos de dados; e esse é um Artificial vai ajudar a resolver um problema
dos principais problemas, quando se pensa complicado; mas, mais que isso, temos
em Inteligência Artificial. Que dados são usado termos complicados para lidar com
esses? E como se categoriza esses dados? as limitações desses algoritmos e desses
Porque nós, humanos, estamos dando input conjuntos de dados. Muitas vezes, falamos
para esses sistemas. em viés, e não em erro. Muitas vezes, se
fala em falta de dados, e não em dados de
Então, quando pensamos em baixa qualidade. Mas a grande questão é
conjunto de dados que não que estamos considerando categorizar
representam a sociedade, ou que são fenômenos sociais e pessoas, e achando
baseados em exemplos anteriores, que na tecnologia vamos resolver extraindo
que reforçam preconceitos e dados em massa. Mas, além do problema
lógicas de discriminação, temos dos dados, a Crawford indica que temos
um problema; que, na verdade, de lidar com o problema ambiental, o uso
não é exatamente novo, mas que de recursos energéticos, então, grandes
assume uma faceta, sistemas de Inteligência Artificial consomem
enormes quantidades de energia; mas, esses
de alguma forma, ele se torna possível dados, o quanto isso está sendo usado em
de ser solucionado, apesar de já ter sido termos de recurso material, ainda é muito
abandonado pelas Humanidades. Então, opaco. Enquanto nossas interações são
quando pensamos sobre a possibilidade de extremamente visíveis, estamos sendo
84
rastreados e mercantilizados, e essa do material questionável, das imagens
noção do quanto gastamos de energia problemáticas e dos posts censuráveis, são
para ativar um sistema de Inteligência detectados e excluídos por algoritmos de
Artificial, não é clara e não é simples de Inteligência Artificial. Mas tem 10% desse
ser quantificada. Mas, além de pensar conteúdo, que, teoricamente, fica na mão
nessa perspectiva individual, temos de de pessoas, de funcionários que têm um
olhar para os grandes centros de dados, trabalho extremamente desafiador; são
para os grandes servidores. A Amazon, a turnos de 8 horas, vendo e categorizando
maior empresa de computação em nuvem, imagens e definindo quão inaceitáveis elas
é completamente opaca em relação à são socialmente, e para os termos de uso
pegada de carbono, enquanto continua do Facebook. Mas além desse problema,
com operações massivas, de forma não desse trabalhador precarizado, que está
transparente. Além do consumo de energia, ali limpando esse lixo das plataformas;
o que Crawford coloca, é que temos de também temos que pensar, por exemplo,
levar em conta a mineração de recursos na tentativa da Amazon de automatizar
naturais, que são usados para produzir a agenda dos funcionários para que os
esses dispositivos; ela traz a questão do distúrbios físicos causados lá dentro dos
lítio, dos depósitos de lixo eletrônico, dos seus grandes armazéns sejam minimizados.
volumes de água que são usados para
resfriar os servidores. Assim, são vários A ideia é a seguinte: não vamos
custos ambientais, que são invisíveis para os melhorar as condições de trabalho,
usuários; muitas vezes, quando pensamos, vamos usar mais tecnologia de
por exemplo, “vou acionar a Alexia para vigilância, mais inteligência, para
ligar um eletrodoméstico”; isso requer, extrair ainda mais valor desses
muitas vezes, mais energia do que se eu corpos, dessas pessoas.
simplesmente ligar o eletrodoméstico.
Isso é uma conta que não conseguimos E quando olharmos para esse cenário, em
fazer, não é clara, as empresas não que estamos lidando com questões materiais
liberam esse tipo de informação; mas é e questões que envolvem o trabalho das
importante que entendemos que existe pessoas, que envolvem os dados, vamos
toda uma escala, uma grande rede, quando deparar com propostas de regulação que
tentamos entender como governar essas ainda não dão conta dessa complexidade.
infraestruturas técnicas de forma mais Nos últimos anos, aproximadamente, acho
sustentável. Em relação a essa questão da que diria que, pelo menos, 50 países, têm
materialidade, Crawford coloca também o debatido a criação de políticas públicas
problema do trabalho; e aí eu acho que tem para fomentar o desenvolvimento da
duas perspectivas que são interessantes Inteligência Artificial e, também, de alguma
para olhar. Uma delas tem a ver com a forma, regular. A União Europeia tem sido
terceirização e com a precarização de alguns a principal referência, nos últimos meses,
trabalhos cognitivos, digamos assim. Então, isso já está bem avançado; desde o início
quando pensamos nos moderadores de do ano, tem trabalhado, com a sociedade
conteúdo, do Facebook, teoricamente, 90% civil, mas ainda apresenta muitos desafios.
85
A regulação proposta pela União Europeia vida das pessoas é colocada diante desses
tenta olhar a possibilidade de risco desses sistemas. Pensando em um exemplo, eu
sistemas; então, a possibilidade de um estava lendo, outro dia, sobre uma revisão
sistema criar um problema e, dependendo de literatura de algoritmos de Inteligência
do tipo de risco e do tipo de problema, as Artificial usados para diagnosticar e prever
ações vão ser tomadas de forma específica. resultados para pacientes com covid.
Só que ainda é uma proposta pouco clara, Eles revisaram mais de 200 artigos e
pouco definida, ainda está em tramitação; descobriram que nenhum desses sistemas
mas ela é, atualmente, a mais avançada era adequado para uso clínico; mas, diante
e, teoricamente, que tem dado conta de, da pandemia, eles foram aplicados, foram
pelo menos, estabelecer um diálogo com utilizados. Então, um dos autores do estudo
a sociedade civil. O que não é o caso do comenta, que ele teve medo de que isso
que aconteceu aqui, no Brasil, como já possa ter prejudicado alguns pacientes. Isto
comentado anteriormente. Aprovamos, é, essa ideia de que precisamos trabalhar
em regime de urgência, sem nenhum debate a toque de caixa é um problema. Mas a
com a sociedade civil, o marco legal do grande questão, que Crawford coloca, e
desenvolvimento e uso da Inteligência espero ter contribuído, é que
Artificial. Nos Estados Unidos, vemos um
movimento de tentar um diálogo, a Casa com essas práticas que nos
Branca, o Escritório de Política Científica distanciam de todo esse sistema,
e Tecnológica da Casa Branca, tem feito desumanizando a Inteligência
anúncios convocando a sociedade civil Artificial e colocando essa parte
e os especialistas para dialogar com o material à distância, acabamos
Governo; mas ainda é muito incipiente. ignorando alguns dos principais
E o que vemos aqui, no Brasil, é ainda impactos e os principais envolvidos.
um projeto aprovado a toque de caixa e,
aparentemente, com pouca usabilidade; Glenda Dantas
assim, fazendo pouca diferença, definindo Débora provoca, com base na
pouca coisa. Mas não quero entrar muito perspectiva da pesquisadora Crawford
nesse tema, queria só finalizar reforçando a sobre como a Inteligência Artificial não
necessidade de regularmos esses efeitos da é nem inteligente nem artificial. Tendo
Inteligência Artificial; mas não podemos cair em vista que as máquinas são treinadas
no que Crawford chama de “determinismo humanamente para executar as ações, que,
fantástico”, que é a crença de que esses tecnicamente, nos seriam muito difíceis de
sistemas são sobre-humanos; sabe, eles são executar. Nesse processo, ela também nos
incríveis, eles são mais que nós; e nós, por provocou a refletir sobre quais são os limites
isso, não podemos entender, nem regular; éticos e de regulação dessas tecnologias;
mas eles são sobre-humanos, também, do como se dá a exploração dos recursos
ponto de vista em que podemos confiar naturais, que, muitas vezes, parece invisível
neles, as previsões que eles fazem dão para nós, usuários, e, principalmente, a
sentido para nossa vida. Ficamos muito exploração também da mão de obra, além
otimistas, de que ignoramos o perigo que a da opacidade em relação aos destinos
86
finais, ao que tem sido feito da giganteza sonhou sempre com isso: otimizar recursos,
de informações que deixamos por meio reduzir custos e aumentar o controle.
das tecnologias. Agradeço muito a sua fala, Aumentar controle significa você ter uma
foi fundamental a sua contribuição. Agora previsibilidade, ou seja, prever coisas, ter
teremos o Sivaldo Pereira, professor da um pouco de domínio sobre o futuro. Então,
Faculdade de Comunicação e do Programa esse é o elemento mais importante em
de Pós-Graduação em Comunicação da termos de I.A., que é justamente a ideia
UnB; PhD em Comunicação e Cultura do controle sobre o que vem, o controle
Contemporâneas pela Universidade Federal sobre o futuro. A ideia de racionalizar a
da Bahia; possui pós-doutorado no Centro de produção, isto é, racionalizar não quer
Estudos Avançados em Democracia Digital dizer você fazer de forma mais inteligente,
e Governo Eletrônico, na UFBA; é fundador quer dizer você saber o que vai acontecer
e coordenador do grupo de pesquisa Centro depois; saber racionalmente qual o próximo
de Estudos em Comunicação, Tecnologia passo, em termos de racionalidade humana.
e Política e pesquisador do INCT-DD. Racionalidade necessariamente, bom ou
ruim – isso pode ser bem ruim, inclusive,
Sivaldo Pereira quando usamos isso para outros fins;
A Inteligência Artificial tem várias esses elementos são muito importantes,
dimensões, diversas faces para se abordar; porque eles têm vários impactos. Então,
vou me concentrar em questões éticas, para que esse sonho do capitalismo
questões sociais e questões políticas; funcione bem, é necessário que algumas
enfim, vou me concentrar em três pilares: coisas se concretizem: a primeira delas é
questões materiais, que envolvem I.A.; a matéria-prima; porque a matéria-prima,
dimensão cultural e depois a política, em sistemas de I.A., é uma coisa muito
que está relacionada a essas duas. A simples, chamada dados. Não existem
primeira coisa que precisamos entender sistemas de I.A. sem dados, muitos dados.
é a seguinte: quando falamos de sistemas Os dados é que fazem os algoritmos serem
de I.A., estamos falando, na verdade, de treinados, e esse treinamento é que os
uma série de mudanças importantes em faz perceberem padrões e agirem a partir
termos de economias materiais. Estamos daí, de forma autônoma. Sem dados, não
no começo histórico deste processo. Então, existem sistemas de I.A. E quem produz
dimensões que envolvem, por exemplo, a esses dados somos nós. Nós, e também
Revolução 4.0 de que tanto falamos, mas, outros sistemas; mas também somos parte
na verdade, os sistemas de I.A., tendem a dessa engrenagem. Então, para que essa
alterar diversas dimensões econômicas matéria-prima funcione, é preciso que
e, principalmente, três dimensões muito haja muita coleta de dados; e a pandemia
importantes. Primeiro, otimizando recursos, ajudou bastante nesse processo de coleta
fazendo recursos valerem mais. Segundo, de dados. Com base nisso, podemos fazer
reduzindo os custos, fazendo com que você os sistemas funcionarem. E os impactos
consiga fazer mais com menos. E, terceiro, disso não vão ser vistos agora, eles vão ser
e isso é muito importante, aumentando vistos daqui a 20, 30, 40 anos – quando
controle. Então, imaginem, o capitalismo você tiver, por exemplo, 30 anos de dados
87
coletados. A tendência é que esta coleta de questões. Primeiro, isso vai redimensionar a
dados gere uma evolução desses sistemas. forma como a força de trabalho existe dentro
Por exemplo, daqui a alguns anos não do sistema capitalista. O que vai fazer com
saberemos mais se estamos conversando que, também, haja mais concentração; e
com um agente humano ou um chatbot. Os assim, vamos ter mais camadas muito mais
bots de convesação tendem a reprroduzir, complicadas em termos de controle. Logo,
inclusive, as imperfeições da fala o que a precisamos pensar que os sistemas de I.A.
torna muito mais próxima do real. Por isso, têm impacto material, econômico, nos médio
vários Projetos de Lei sobre I.A. tem se e longo prazos, e isso é importantíssimo,
preocupado em obrigar os bots a dizerem, e esses impactos vão ser gradativamente
no começo da coversa, se é um bot ou um construídos de forma muito sutil. Não vai
atendente natural, no futuro, tem que dizer ser um impacto em que vamos perceber que
que ela é máquina, porque não vamos tudo, como tudo mudou. E esse movimento
saber com quem estamos conversando. vai acontecer de forma muito gradativa,
Vamos ter o direito de saber se estamos e vai acontecer de forma muito, digamos,
conversando com a máquina ou com um sedutora. Essa sedução é irresistível. Tanto
agente natural.. Então, há uma alteração na é que já somos apaixonados por sistemas
forma, o dado, está sendo algo importante, de I.A. e geralmente não percebemos isso,
porque, na verdade, o dado, tem de ser que, não sabemos viver sem eles. Então,
visto como uma commodity, assim como o a tendência é, cada vez mais, ficarmos
petróleo foi. Imaginem, como o petróleo, de afetivamente vinculados a esses sistemas
forma tão crua, é uma commodity, porque de I.A. Isso é importante, do ponto de vista
precisamos dessa coisa crua, dos dados, material e cultural. Vou falar agora da
para fazermos coisas mais sofisticadas. dimensão cultural. Essa dimensão é muito
Logo, as leis de proteção de dados pessoais, importante. A primeira coisa que precisamos
por exemplo, não são leis que proíbem entender, isso está muito claro no debate
essa coleta de dados; elas, na verdade, sobre tecnologia, é que não existe nada
regulam como se pode processar esses mais humano do que a máquina. Então, a
dados. Por quê? Porque há uma grande máquina não é algo extraterrestre, nem foi
pressão econômica que pressupõe esses feita pelo João de Barro. A máquina é algo
dados para os sistemas de I.A. funcionarem. extremamente humano, só nós podemos
Como comentei, sem dados, não há I.A. E construir máquinas; e as máquinas são, na
quanto mais dados tivermos, mais o sistema verdade, dispositivos culturais, engrenam
vai ter capacidade de previsibilidade, de na cultura, entram na cultura. Vivemos
controle. Isso perpassa diversas dimensões: em uma cultura automotiva nas cidades,
materiais, porque as máquinas vão passar porque, por exemplo, os carros invadiram
a funcionar com base nessa estrutura; isso as cidades a partir do século XX. Vivemos
impacta em empregos. Diversos estudos uma cultura, por exemplo, de celulares.
apontam que muitos tipos de trabalho Os sistemas de I.A. são treinados a partir
irão desaparecer ou ser profundamente de dados; e esses dados nada mais são do
impactado pela centralidade crescente dos que registros da cultura; então, a cultura
sistemas de I.A. O que isso vai gerar? Muitas é registrada, de forma sistemática, em
88
estruturas de DataFrame, ou estruturas Então o Waze não dá um trajeto, ele dá
de base de dados suscetíveis para leitura tempo de vida. Ele deixa viver mais, porque
de algoritmos; e essa cultura organizada perdemos menos tempo, digamos, em um
em estruturas DataFrames passa a ser congestionamento. O que um aplicativo,
muito mais manipulada e muito mais como o iFood, dá, não é a comida, ele dá
compreensiva, do ponto de vista estatístico, tempo de vida, e previsibilidade, não é?
do ponto de vista também de efeitos práticos Temos uma comida muito mais rápida,
em relação a isso. Então, há um caráter chegando, conseguimos acompanhar o
muito utilitarista, inerente a essa tecnologia. trajeto do entregador, ele chega de forma
É útil, e esses sistemas de I.A. tendem a muito rápida, não precisamos ligar para a
gerar muito bem-estar, comodidade. empresa até a comida chegar. Todas essas
aplicações lidam com esse tipo de coisa. Só
Quanto menos privacidade que isso tem um preço, que é justamente
você tem, mais conforto terá; se o aumento do controle. Eu adoraria ter
optarmos por não sermos vigiados controle sobre minha filha de 2 anos. O
de forma alguma, vamos ter uma controle não é um problema. O problema
vida extremamente dura, no é que tipo de controle e quem controla
mundo de hoje, quase isso. o quê. É outro elemento importante, em
termos culturais, que é esse controle, ele
Por exemplo, se um dia hipoteticamente gera uma coisa muito importante, que é
decidirmos desativar todos os sitemas de estabilidade. Então, os sistemas de I.A.
I.A que usamos no dia a dia não vamos tendem a nos deixar muito estáveis, eles
conseguir nem pedir uma pizza.. Esses minam o problema de instabilidade e nos
sistemas são altamente sedutores, pois são dão elementos de estabilidade. Então,
treinados para nos dar conforto. Vamos teremos nossa vida muito mais estável
nos apaixonando pelos sistemas, porque, se nos conectarmos, se nos cercarmos de
na verdade, vamos viver melhor com os sistemas de I.A. eficientes, aplicativos, muito
sistemas. Por exemplo, quando usamos mais… nossa vida será muito mais estável
Waze não estamos usando apenas um do que instável. Se resolvermos desligar
aplicativo de locomoção. Estamos sendo todos os aparelhos, seremos altamente
servidos para ganharmos tempo e vivermos instáveis. Essa estabilidade significa, na
melhor. Se optarmos por não usar este tipo verdade, uma estabilidade que nos afeta,
de aplicativo estamos arriscando pegar um nos seduz, de algum modo, do ponto de
trânsito, ficar parado no trânsito, durante vista ontológico; mas, ao mesmo tempo,
1 hora, para chegar ao ponto X, ou vamos gera uma estabilidade do ponto de vista
preferir usar o Waze para chegar mais da conservação. Ou seja, o mundo tende a
rapidamente no lugar e evitar, por exemplo, ser algo um tanto quanto conservador, no
problemas no percurso? Certamente, sentido de conservar mesmo, algo mais
vamos preferir a segunda opção, mais conservador. Tendemos a manter o mundo
conforto. Na verdade, estamos lidando dentro de uma estrutura que se repete, a
com uma dimensão muito ontológica que ideia do loop, A ideia de futuro, por exemplo,
é o conforto e uma maneira de viver bem. de que os sistemas de I.A. provocam é, na
89
verdade, uma ideia conservadora, porque capacidade enorme de imitação, de algo
é uma ideia de que eles colhem dados do que está dado, e que gera uma estrutura
passado; e esses dados são projetados no de reforço e repetição. Há uma tendência
futuro. O passado passa para o futuro, dos sistemas de I.A. criarem estruturas
em termos práticos. O passado passa a prontas que se repetem. Nada mais poderoso
se repetir indefinidamente, quando não do mundo do que fazermos as coisas se
olhamos para os sistemas de I.A., como repetirem, em larga escala. Assim, os
um todo. sistemas de I.A. criam estruturas, grandes
estruturas de repetição. Passamos a nos
No médio e longo prazos é que os comportar de acordo com os sistemas,
sistemas de I.A. geram estruturas porque alimentamos esses sistemas de
culturais. Em relação às estruturas forma repetitiva; o sistema não precisa
culturais, é difícil sair delas, a não mais mandar alguém policiar nossa casa
ser que façamos alguma coisa. para nos mandar fazer alguma coisa; ele
simplesmente nos coloca no sistema, e faz.
Pegando a metáfora do filme Matrix, então, Se quisermos ter algum tipo de conforto,
um pouco de Heidegger, a metáfora do ou vida melhor, teremos de entrar nesse
filme não é um corpo conectado, com loop do sistema. Então, politicamente,
energia sendo retirada para manter as temos também um elemento, que é um
máquinas funcionando. Na verdade, é um elemento de repetição do que estava dado,
corpo conectado gerando dados para que de concentração de poder; assim, o poder
os sistemas de I.A. funcionem; os corpos passa a ser mais concentrado, porque são
precisam ser estáveis, domesticados, poucas empresas que terão essa capacidade
domados, para que esses dados façam o enorme de gerar essas estruturas, de coletar
sistema ficar sempre estável, ad infinitum. esses dados, de forma ampla; então, na
E o Heidegger fala algo muito interessante, prática, temos uma capacidade significativa
ele fala da tese sobre Trilogia, ele fala que, de Estados, também de organizações, de
no passado, por exemplo, construíamos empresas, de repetir estruturas, repetir
dispositivos técnicos, instalando-os nas procedimentos e repetir visões de mundo.
pontes, que eram instalados nos rios. Fala Isso dentro de uma estrutura de maior
que as hidrelétricas passaram a transformar estabilidade e maior controle, baseada
o rio em um dispositivo. Se as pontes eram na ideia de desejo. Ou seja, o controle
dispositivos do rio, as hidrelétricas fizeram que as máquinas tendem a gerar é uma
o inverso, transformaram o rio em um ideia baseada no que desejamos que elas
dispositivo que alimenta a hidrelétrica; façam por nós. Então, para finalizar, acho
então, o sistema de I.A. tende a nos que, na prática, temos que entender essas
transformar também em dispositivo, nesse dimensões, que são para além de algo muito
sentido. Ou seja, tendemos a ser dispositivos superficial, e pensarmos que os sistemas de
dos sistemas de I.A. Agora, falando um pouco I.A. não podem apenas repetir as coisas, eles
sobre esse sistema, da finalidade política… precisam não apenas refletir, não apenas ser
Isso em vários impactos políticos. Certo? representativos do que as coisas são mas
Primeiro, toda essa estrutura gera uma também, na verdade, ser pensados como
90
sistemas críticos, que não olhem para o estruturalmente. E essa estrutura, com
majoritário, mas para o diferente. Ou seja, base na perspectiva política, vai gerar
os sistemas de I.A. precisam ser sistemas um esforço de capacidade de reforço e
que corrijam a realidade, não que repitam a repetição; então, há a necessidade de
realidade; que não olhem para a realidade pensarmos criticamente para melhorar essa
do passado e repitam-na, mas olhem para a realidade, percebendo as desigualdades,
realidade do passado, percebam distorções e e isso é fundamental; e é o que estamos
tenham caráter normativo, que é melhorar a fazendo aqui, hoje. Então, obrigada, mais
realidade; inclusive, percebendo distorções, uma vez, pela sua contribuição. E eu convido,
percebendo desigualdades, e olhem para agora, a pesquisadora Fernanda Bruno,
essas desigualdades. Mais importante doutora em Comunicação pela Universidade
do que os sistemas de I.A., hoje, é o que Federal do Rio de Janeiro; pós-doutora
acontece, é olhar para a coisa majoritária, é pela Sciences Po de Paris e professora da
olhar para o minoritário, é tentar justamente Universidade Federal do Rio de Janeiro.
reverter, alterar a realidade, e não apenas
repetir a realidade. Fernanda Bruno
As intervenções foram excelentes,
Glenda Dantas e creio que minha contribuição será
Professor, as três dimensões que bastante complementar a tudo que foi
você apresentou são fundamentais para exposto. A melhor contribuição posso
pensarmos essas estratégias, para esses fazer na discussão de hoje, tentando
próximos 9 anos, no quesito material. pensar as agendas que podemos construir
Você falou sobre como esses recursos, para a Inteligência Artificial em termos
dentro do capitalismo, sobre a intenção, regulatórios e de governança, é apresentar
na verdade, do capitalismo, de que esses uma pesquisa recente. Essa pesquisa foi
recursos valham mais, para pensar em como realizada no MediaLab da UFRJ, laboratório
produzir mais com menos; e aumentando que coordeno em parceria com a Rede
o controle por meio da previsibilidade. E Lavits e com a Derechos Digitales, que
é fundamental pensarmos nesse quesito capitaneou a pesquisa no âmbito de um
material; porque, de fato, se pensarmos nas projeto intitulado “Inteligência Artificial e
estratégias para dirimir esses problemas inclusão na América Latina”, envolvendo
relacionados a tecnologias, para os próximos estudos de caso em quatro países: Brasil,
9 anos, temos de nos atentar, a como, no Chile, Uruguai e Colômbia. Ficamos
longo prazo, essa coleta massiva de dados responsáveis pelo estudo de caso no
vai gerar impactos muito grandes, muito Brasil e tanto nosso relatório quanto os
graves. Da perspectiva cultural, você falou três outros casos estão disponíveis no site
sobre como esses dispositivos culturais da Derechos Digitales – https://www.
geram a afetividade, a estabilidade; e, por derechosdigitales.org/.
conseguinte, reproduzem também uma Inicio, portanto, com uma primeira sugestão
ideia conservadora, tendo em vista que de agenda baseada nessa experiência que
o passado vai acabar gerando o futuro; e foi muito rica:
aí vem a necessidade de pensarmos nisso
91
 fomentar estudos locais e estudos registros de trabalhadores, sendo um dos
comparativos sobre casos maiores sistemas de intermediação de mão
concretos de implementação de obra do mundo. Em 2019, iniciou-se um
ou de utilização de Inteligência processo de reestruturação do SINE, que faz
Artificial, em diferentes campos, parte da grande estratégia de transformação
pois isso é fundamental, permite digital do governo brasileiro, que já tinha
que consigamos acompanhar as se iniciado antes, mas que, no caso do SINE,
trajetórias dessas tecnologias em ocorreu a partir de 2019. Nesse processo
ação. de transformação digital, dois aspectos
foram relevantes para a nossa pesquisa:
Essa é uma perspectiva muito comum no i) a criação do chamado SINE Aberto,
campo de estudos em Ciência, Tecnologia que consistiu na abertura dessa imensa
e Sociedade (STS studies, em inglês): base de dados para empresas privadas
pesquisar a ciência em ação, e não a ciência que atuam no segmento da intermediação
feita, a ciência se fazendo, e também a de mão de obra; e ii) a implementação de
tecnologia se fazendo, pois nessa trajetória ferramenta de Inteligência Artificial (IA)
é possível perceber uma série de efeitos e no Portal de Vagas do SINE, que foi o foco
de problemas, que na escala do projeto e da nossa pesquisa. Essa implementação
na escala de algo que já está implementado de I.A. foi estabelecida por meio de um
não percebemos mais. acordo de cooperação técnica entre o
Voltando à pesquisa, nosso estudo de Governo Federal brasileiro e a Microsoft,
caso tratou do Sistema Nacional de firmado em 2020, em plena pandemia.
Emprego, conhecido como SINE, e, mais O acordo faz parte de um projeto mais
especificamente, da implementação de amplo, intitulado Microsoft Mais Brasil, que
Inteligência Artificial nesse sistema. consiste no uso de Inteligência Artificial
Para quem não sabe, o SINE é um órgão tanto no Setor de Emprego no Brasil quanto
público fundado em 1975, administrado no Setor de Sustentabilidade, prevenção de
pelo Ministério da Economia e responsável desmatamento e queimada na Amazônia.
por três serviços no Sistema Público de O foco do nosso estudo, então, foi Inteligência
Emprego: i) intermediação de mão de obra, Artificial no Setor Público, que é uma das
no sentido de encaminhar trabalhadores que questões ou inquietações que vivemos
estejam desempregados para vagas que lhes tanto globalmente quanto localmente,
sejam adequadas e que estejam disponíveis de modos distintos. Identificamos que o
no mercado laboral; ii) o segundo serviço Sistema de Inteligência Artificial fornecido
é orientar essa massa de trabalhadores pela Microsoft para o SINE envolve duas
para a qualificação profissional; iii) o ferramentas centrais. A primeira é uma
terceiro é a concessão de benefício de ferramenta de “match” (sim, como no
seguro-desemprego. O SINE atende cerca Tinder!), isto é, de cruzamento automatizado
de 15 milhões de trabalhadores por ano e das vagas que estão registradas no Portal
cerca de 1,5 milhão de empregadores. Para com os trabalhadores considerados mais
tanto, mantém uma base de dados bastante aptos e mais adequados para preencher
grande, de aproximadamente 65 milhões de essas vagas. A segunda ferramenta é de
92
perfilização, voltada para a segmentação relatórios prévios de impacto ou testagem
dos trabalhadores em perfis, segundo a desse tipo de ferramenta, para se avaliar
capacidade de reincorporação no mercado quanto esse risco é ou não palpável, ou
de trabalho. Essa perfilização, por sua efetivo. Infelizmente, não existe nenhum
vez, vai apoiar tanto a recomendação de relatório ou testagem no projeto. Existe
vagas no Portal quanto orientar a política uma prova de conceito, que é extremamente
pública para qualificação profissional. vaga e não permite dimensionar, nem esse
Aqui abro um parêntese importante para nem qualquer outro tipo de viés potencial
contextualizar essa última informação: a nas ferramentas de I.A. implementadas.
Microsoft também está oferecendo cursos Desse modo, é fundamental haver relatórios
de capacitação profissional para o setor prévios de impacto e testagem antes da
público.Quando realizamos a pesquisa, o implementação, sobretudo, quando se trata
uso dessas duas ferramentas de Inteligência de uma política de acesso a direitos, como
Artificial no Portal de Vagas do SINE ainda é o caso aqui. Um segundo problema que
estava sendo implementado. Assim, nosso identificamos
estudo de caso, que terminou no fim de
2020, não se voltou para a avaliação dos é estrutural nesses mecanismos
impactos (ainda impossíveis de mensurar), de Inteligência Artificial: eles
mas para a identificação de alguns riscos, promovem uma enorme assimetria
os quais, inclusive, reverberam algumas de poder e são caracterizados
preocupações que já foram levantadas nesta por grande falta de clareza e
mesa. Um primeiro risco está relacionado ao transparência.
modo como essa ferramenta automatizada
de pareamento (a ferramenta que produz O trabalhador que utiliza o Portal tem uma
o match do trabalhador com a vaga enorme dificuldade de entender quais são
disponível) afeta o campo de oportunidades as regras de funcionamento tanto dessa
do trabalhador desempregado ou incide perfilização quanto do match a que ele
nele. Chamou nossa atenção o fato também está sujeito. Além de ter ínfima
de o processamento algorítmico para clareza sobre o modo como o sistema
recomendação do trabalhador para a vaga funciona, há pouquíssima margem para que
dar ênfase ao passado, ao histórico das o trabalhador possa interferir em qualquer
contratações anteriores do trabalhador. Ao resultado de intermediação ali presente,
nosso ver, isso implica risco de privilegiar ou de perfilização, questionando-o. Isso é
aqueles que têm um bom desempenho grave, pois estamos falando de algo que
no passado, impactando negativamente impacta diretamente a oportunidade
aqueles que têm mais dificuldade de se de conseguir uma vaga no mercado de
recolocar no mercado de trabalho; e que trabalho. Tal assimetria, mais uma vez,
seriam justamente o público-alvo, ou seja, poderia ter sido minimizada se tivesse
aqueles que deveriam ser mais favorecidos havido uma maior participação da classe
por essa política pública de emprego. Assim, trabalhadora na elaboração do sistema,
pensando em uma sugestão, a partir desse coisa que não ocorreu. Daqui encaminho
risco identificado, é essencial produzir outra sugestão: sobretudo, quando se
93
trata de política pública, a população de contratação e implementação, sobre
beneficiária dessa política pública tem soberania tecnológica e soberania de
que ter participação no processo de dados, no contexto de acesso a uma base
implementação da I.A. Considerando os de dados extremamente estratégica.Vou
marcos legais que temos hoje no Brasil, tanto levantar alguns pontos para reflexão, de
essa dificuldade de o trabalhador entender caráter mais especulativo, pensando no
as normas às quais está sujeito quanto de debate sobre possíveis ações coletivas
contestar qualquer resultado ou qualquer sobre o uso de I.A. no Setor Público. Um
prejuízo que ele venha a ter, com base primeiro ponto a se levar adiante como
nessa I.A., acabam sendo agravadas pelo pauta importante é estarmos atentos
absurdo veto à revisão humana de decisões a possíveis reinscrições de uma lógica
automatizadas. Assim, é fundamental que colonial no desenho de políticas públicas.
a supervisão humana e o direito à revisão Especialmente quando estas se baseiam em
humana sejam garantidos, assim como soluções tecnológicas e em epistemologias,
a compreensão dos impactos que tais que são guiadas por dados e formuladas
ferramentas podem ter sobre os direitos. Um dentro de uma lógica de mercado.
terceiro risco potencial que identificamos
é um pouco mais abstrato, mais amplo. Ao Hoje, a atenção ao debate
final da pesquisa, perguntamos quanto a decolonial no campo da tecnologia
automação da gestão de desemprego no é uma oportunidade fundamental
país pode acabar automatizando certas para que não se repita algo que
políticas neoliberais que podem ampliar foi muito presente na discussão
a desigualdade, em vez de reduzi-la. Esse sobre cultura digital e sobre os
risco, claro, está associado à transferência direitos digitais no passado, que
de dados estratégicos sobre a economia foi a completa incorporação, com
e o mercado de trabalho, no Brasil, para pouca nuance e questionamento, da
estruturas de processamento de dados de agenda do Norte Global, inclusive
uma grande corporação como a Microsoft. quando se tratava de uma agenda
O acesso a essa base de dados, processada de garantia de direitos. Construir
nas máquinas da própria Microsoft (que, uma agenda própria, a meu ver, é,
aliás, é dona da LinkedIn, que também portanto, algo fundamental.
desenvolve ferramentas de match de
emprego no setor privado) permite Pois o caso que apresentei não é um caso
identificar tendências no setor ocupacional isolado. Na geopolítica do colonialismo
do Brasil, o que possibilita influenciar uma digital, do que se chama controversamente
política pública e desenhar oportunidades de colonialismo digital, o Sul Global é região
de negócios em várias frentes. Ou seja, todos de fonte fácil e barata de dados para extração
esses riscos se agravam diante da enorme de saberes estratégicos ao treinamento
fragilidade dos mecanismos de controle algorítmico que, por sua vez, vai acabar
público previstos na implementação dessas atuando sobre populações vulneráveis.
ferramentas. Além disso, não identificamos Precisamos discutir isso fora das caixinhas,
nenhuma discussão, ao longo do processo que são úteis, que são importantes, mas
94
que já estão pensadas no âmbito do Norte na compreensão das regras de jogo, dos
Global. ganhos e das perdas envolvidos, dos meios
Uma segunda reflexão ou recomendação de contestação, elementos que podem
importante é oferecer ou criar algum impactar o acesso pleno a esse direito e
tipo de fórum, de cursos ou campos de a esse serviço não são computáveis por
formação sobre tecnopolítica e perspectivas aquele sistema de Inteligência Artificial,
sociotécnicas no âmbito da gestão pública. e, portanto, não entram na discussão
Ao longo da pesquisa, fizemos algumas tampouco no desenho da ferramenta. De que
entrevistas com gestores públicos e notamos maneira, então, podemos criar mecanismos
que a adesão ao tecnosolucionismo é de participação e de controle público que
muito forte. Vigora na gestão pública permitam que essas dimensões que não
uma perspectiva de que a tecnologia é são contempladas pela racionalidade
uma ferramenta neutra, que traz consigo maquínica possam entrar na conversa?
uma eficácia quase mágica, apta a resolver Tudo isso que mencionei é decisivo para
o problema de um serviço que, agora, é evitar um risco maior, que vem sendo
pouco eficiente. Investir em uma formação identificado em várias iniciativas de uso
sociotécnica que problematize essa de Inteligência Artificial na gestão pública.
perspectiva no âmbito da gestão pública A saber, o risco de que essa tecnologia
é, a meu ver, fundamental. automatize um tecnosolucionismo
Por fim, o último ponto de reflexão toca neoliberal, que acabe por precarizar
na questão da abstração. serviços que deveriam ser otimizados,
reservando aos poucos favorecidos o
A adoção de soluções de Inteligência acesso a negociações presenciais e deixando
Artificial no âmbito de serviços uma parte enorme da população sujeita
públicos que visam ao acesso a a uma negociação muito assimétrica e
direitos acaba por produzir certo muito opaca com sistemas de I.A., que
tipo de abstração e exclusão, que elas não conseguem compreender e que
são próprios da racionalidade não conseguem contestar. O sujeito de
algorítmica orientada por dados. direito é aí reduzido a um usuário de
serviço digitalizado que não consegue nem
É parte dessa racionalidade a ideia de redução decifrar nem contestar. Um risco que está
de uma série de aspectos complexos (no colocado, mas que não é incontornável.
nosso caso, aspectos relativos ao contexto
do emprego e do desemprego no Brasil) Glenda Dantas
a critérios e mecanismos que possam ser Professora, sua contribuição foi
legíveis pelos mecanismos automatizados fundamental, inclusive, para fechar essa
de tomada de decisão. Achille Mbembe primeira rodada. A perspectiva que você traz
comenta algo que se aplica nesse contexto: a partir da sua própria experiência, pensando
para a racionalidade computacional, diz o uso de Inteligência Artificial pelo Poder
ele, o que não é computável não existe. Público, foi muito fundamental; inclusive,
Assim, no caso que analisamos, há uma porque você já traz essa perspectiva das
série de elementos, como a dificuldade problemáticas que aparecem ao longo
95
desse processo. E, como você trouxe, para impedir, ou limitar, publicidade
essas ferramentas automatizadas, no hipercustomizada; e isso por causa de
match, em relação ao empregador, ao várias experiências negativas e desastrosas,
desocupado e às vagas, geram alguns que vimos em campanhas do Trump, em
riscos, passam a privilegiar pessoas que outros tipos de uso nocivo de publicidade
já têm uma experiência maior em relação hipercustomizada. E eu menciono isso,
ao trabalho. E, depois, você traz como é porque, 10 anos atrás, cogitar, proibir ou
fundamental perceber as assimetrias e a se controlar, socialmente, esse tipo de
dificuldade de transparência nesse uso, publicidade era quase impensável, devido
porque o usuário final acaba não tendo à empolgação e ao tecnosolucionismo, na
conhecimento de como essas ferramentas década passada. Então, acho importante
são utilizadas, de como esses dados estão mencionar que
sendo utilizados, por esse match, entre
a vaga e o desocupado. E, no fim, você temos possibilidades de regulação,
trouxe que a gestão desse desemprego, seja do ponto de vista legislativo,
a partir do uso de automatização, pode seja do ponto de vista de articulação
gerar, reificar políticas neoliberais, que pelo controle social da tecnologia,
geram uma série de impactos. Em suas que pode questionar os pilares
ponderações finais, mas isso já responde, que temos hoje.
inclusive, algumas perguntas que estão
muito relacionadas a: Como podemos Então, reforço as preocupações sobre
pensar e construir sociedades democráticas Fenologia, sobre Inteligência Artificial,
com as pessoas que acabam desejando a tentando identificar características das
vigilância e o controle, porque eles fornecem pessoas; e convoco todos os ouvintes/
comodidade e estabilidade? Acho que a leitores e colegas, a repensar: O que
partir dessa provocação podemos partir pensamos, puxando o gancho do debate,
para esse momento final. Vamos começar para 2030? Pode ser muito diferente do
pelo Tarcízio. que temos hoje, e algumas possibilidades,
que talvez vejamos como sonho, podem
Tarcízio Silva ser reais. Então, vamos nos atentar, a isso
Vou resgatar alguns pontos, que na Academia, na sociedade civil, e assim
talvez valham reenfatizar, sublinhar o por diante.
que os colegas mencionaram, como essa
ideia do sujeito de direito reduzido ao Débora Salles
usuário, que a professora Fernanda acabou Vou ser superbreve. Quero agradecer,
de mencionar. Acho que, talvez, seja um mais uma vez, a oportunidade, foi ótimo
dos pontos mais interessantes, quando ouvir todos vocês. Acho que gostaria de
pensamos a capacidade de imaginarmos um terminar, assim, reforçando a necessidade de
futuro diferente, e como isso se desdobra desmistificar, um pouco, o que é Inteligência
em regulação; por exemplo, há um número Artificial e como ela é usada; e entender que,
crescente de campanhas e tentativas, hoje em dia, falar de Inteligência Artificial
inclusive legislativas, em torno do mundo, é falar de uma diversidade muito grande
96
de aplicações. Mas, basicamente, eu quero formas. Podemos tornar o Estado mais
terminar debatendo a questão ética. Ela eficientemente autoritário, ou podemos
é necessária, mas ainda não é suficiente; tornar o Estado mais eficientemente
talvez precisemos falar mais de poder e democrático; depende de como aplicamos
menos de princípios éticos: essa eficiência, e para isso é necessário
criar regras. Acho que são duas dimensões
Quem está ganhando? Quem está importantes para pensarmos, no futuro,
se tornando mais poderoso? Quem da I.A. e de como isso vai funcionar para o
está capacitando esse poder de mundo. São três questões, digamos assim.
circular desse jeito? Acho que Primeiro, I.A. não é uma questão técnica,
a questão dos princípios éticos isso não é um problema tecnológico, isso é
tem sido uma resposta muito um problema político e de fundo ontológico,
recorrente dessas plataformas e inclusive, que muda nossa relação com as
desses sistemas; mas eles ficam, coisas. Temos que entender, por exemplo,
normalmente, bem distantes da inclusive na Área de Comunicação, estou
implementação. até escrevendo um artigo sobre isso: a
I.A. gera novos intermediários; então,
O que vemos implementadas são lógicas de novos atores de comunicação estão sendo
poder, que temos certa dificuldade ainda criados. Começamos com algoritmos, e isso
de questionar e de olhar; do ponto de vista é um elemento importante do ponto de
mais amplo e dos desdobramentos que vista geral da Comunicação e da Cultura.
isso tem no mundo. Então, não é uma questão apenas técnica,
tecnológica, é uma questão política e
Sivaldo Pereira ontológica. Precisamos ter essas dimensões.
Temos diversos debates, várias E, para isso, precisamos pensar duas coisas:
questões para discutir. Precisaríamos de Regulação e Normatividade. A regulação
várias outras páginas para discorrer sobre é necessária, e tem de ser, precisa ser
tudo isso, caro leitor. Bom, tentando corrigir ampla, não pode ser debatida apenas por
o mundo em dois minutos… Impossível, quem trabalha a computação; é isso que
certo? Na prática, é o seguinte. Primeiro, impacta vários ambientes. A regulação
I.A. é inevitável, é irreversível. I.A. não é é algo importante para se pensar, e isso
algo que vamos conseguir evitar. Certo? tem que se pensar agora, antes que os
Isso é dado. Isso é fato. Então, a questão sistemas sejam, digamos, sedimentados;
é como fazê-la funcionar. Essa é a grande depois que a coisa se sedimenta, é difícil
questão: De que forma vai funcionar? ser mudada. Então, por exemplo, depois
Segundo, I.A. é desejável, não acho que que a indústria do petróleo sedimentou
é um problema. Alguém perguntou no de que a lógica do transporte ia ser de
chat: Como fazer com que as pessoas – combustão, por meio de combustível fóssil,
pensando democracia –, como as pessoas acabou. Isso fez com que se levasse um
desejam ser controladas? A questão é que século para pensarmos em carro elétrico.
a I.A. afeta a ideia de eficiência; então, a Leva muito tempo mudar essas estruturas
questão é que a eficiência pode ser de várias mudar essas estruturas.
97
 que vai acabar agora e terminar agora,
Então, é preciso fazer regulação é algo que vamos seguir por um longo
prévia, pensar o problema agora, tempo. E se não discutirmos isso, as pessoas
porque depois que as estruturas ainda continuarão discutindo I.A. como
são criadas, é muito difícil sair se fosse tecnologia. As pessoas, em linhas
delas. gerais, dizem “Ah, isso é tecnologia. Não é
tecnologia apenas, é um sistema de forma
Depois que o Google foi criado, será de viver. Certo? Então, precisamos pensar
difícil sair do Google, será difícil sair do bastante nisso, no médio e longo prazos.
Facebook, será difícil largar um deles.
Então, temos que pensar as coisas, não Fernanda Bruno
podemos deixar as coisas serem criadas e Quero retomar uma coisa que acho
depois regular. Temos de pensar em regular que está nas tessituras de todo mundo, que
agora; e o debate é profundo, porque ele é quanto precisamos resistir, no sentido de
envolve questões filosóficas, ontológicas, ir mais devagar, com essa lógica disruptiva
políticas, sociais, culturais, econômicas. E das tecnologias, esse bordão do Vale do
na questão da normatividade, na minha Silício, que pegou. Que convenceu todo
opinião, os sistemas de I.A. precisam ser mundo em determinado momento; e que é
sistemas normativos. O foco é pensar em isso, bota no mundo e depois vê o que dá.
consertar a humanidade. Está tudo errado, Estamos construindo esses laboratórios,
não é? Estamos vendo, está tudo errado e estão testando. O nosso mundo, a nossa
em termos gerais, se analisarmos. O Brasil sociedade virou um laboratório, onde essas
é um excelente exemplo disso. De como corporações estão testando uma série de
as tecnologias, de algum modo, ajudaram, tecnologias extremamente disruptivas,
não só elas, mas como elas ajudaram a inclusive, para a democracia, para uma
tornar as coisas piores do que já eram. série de processos absolutamente centrais,
Em vários países do mundo isso acontece; e sem responder por elas.
e em outros países tem algumas coisas
que são intensificadas. Então, precisamos É preciso encontrar um novo
ver questões normativas. O que pode? equilíbrio entre essa lógica, um
O que deve ser? Questões ontológicas? novo equilíbrio entre essa lógica
Como deveria ser? E o que não deveria da transformação, da mudança
ser? E, para isso, o Estado é importante. O tecnológica e a responsabilidade,
Estado precisa se impor; porque, daqui a temos que repensar um pacto de
pouco, o Estado vai ser, inclusive, peça da responsabilidade, que faça frente
engrenagem de sistemas de corporações. a essa dinâmica que aposta na
Então, algo importante está relacionado a disrupção, sem responsabilidade
essa questão dessas duas dimensões. Uma alguma.
regulação ampla, plural e prévia. E um
debate sobre normatividade, que não vai Esse é um ponto que precisamos aprender
acabar agora, vamos passar os próximos com a história, com os últimos 20, 30 anos,
séculos discutindo I.A. Então, não é algo de cultura digital, e que precisamos colocar
98
em uma pauta sem esperar o estrago, ou para 2030. Sem dúvida, as contribuições
a dependência, para que passemos a falar aqui trazidas serão fundamentais para a
de regulação, de governança, de fóruns, concretização desse objetivo. E o que me
de formação de debate, do que quer que chamou muito a atenção, e que ilustra esses
seja, que possamos fazer avançar nesse objetivos, é
sentido. Em relação à pesquisa que fiz, que
me sinto mais à vontade para falar, quero a necessidade de pensarmos
retomar o que Sérgio Amadeu já resumiu; ele isso de forma multissetorial e
falou sobre minha apresentação, que é um multidisciplinar, para que, assim,
pouco isso mesmo: De que maneira saímos todos os setores da sociedade
dessa situação, no caso da I.A. aplicada ao estejam implicados nisso.
serviço público, ao setor público? De que
maneira o tecnosolucionismo e a redução Este encontro “Tecnologia no Brasil:
do cidadão à condição de sujeito de direitos, 2020-2030 – Plataformização e I.A. e
à condição de usuário de uma ferramenta, Soberania de Dados” continuará por meio
de uma plataforma que ele não consegue de uma mesa de tema intitulada “Devemos
contestar ou compreender, e da qual ele apostar em tecnologias livres diante das
pode ficar dependente nesse sentido infraestruturas de Inteligência Artificial”;
ruim, como que saímos disso? Acho que com os pesquisadores Nelson Pretto,
fóruns continuados, de corregulação, são Jader Gama, Wagner Meira e Fernanda
fundamentais; porque também precisamos Campagnucci. Agradeço, mais uma vez, a
ampliar a diversidade desses processos contribuição de vocês. Obrigada por terem
regulatórios. Como falei, acho que temos de aceitado o convite e por nos presentear
aproveitar essa tensão, que esse momento brilhantemente com suas contribuições. E
do mundo tem; e esse lugar do mundo, que também, a todo mundo que acompanhou a
é o Brasil, tem lógicas coloniais para criar mesa, do início ao fim, as contribuições, no
fóruns de governança e de corregulação, chat, foram fundamentais para enriquecer
que é um termo que eu aprendi com o o debate; e convidamos você, leitor, a
pessoal do Uruguai, que está pensando continuar acompanhando a próxima mesa.
isso no âmbito da regulação de vigilância
automatizada, para fazer avançar a agenda
que queremos em termos de sociedade
e tecnologia.

Glenda Dantas
Acho importante reiterar que o
objetivo deste seminário é analisar o cenário
tecnopolítico e propor um conjunto de
ações e políticas que são imprescindíveis
em relação às tecnologias digitais, com foco
nas Plataformas, na Inteligência Artificial e
na Soberania de Dados, que prepare o país
99
 Parte 2 esse debate das tecnologias, com esse ideal
emancipatório, com essa perspectiva.
Acho que o professor Sivaldo trouxe
“Devemos apostar em tecnologias
muito isso – isso me marcou bastante, do
livres diante das infraestruturas primeiro encontro. Essa perspectiva de
de IA”, Juliane Cintra, Nelson Pretto, Jader que estamos falando de relações sociais
Gama, Fernanda Campagnucci e Wagner
e de que a tecnologia, como mediadora
Meira
dessas relações sociais, também contribui
para a construção dessa organização
social, do modo como nos relacionamos,
Juliane Cintra do modo como compreendemos estar
Quero agradecer a oportunidade, a na sociedade. Assim, é fundamental que
mesa inicial foi uma mesa muito rica. Acho esse debate esteja, cada vez mais, dentro
que pensar essa estrutura de continuidade do nosso campo, não como algo à parte,
é muito enriquecedor, na verdade, porque mas como algo que influencia, se impõe e
vemos as complementações, e, também, os transforma nossas construções. Agradeço
aprendizados que vamos depreendendo a oportunidade de estar aqui construindo
de cada apresentação, de cada insight, isso com vocês, dizendo que temos uma
enfim. Estamos fazendo uma discussão dinâmica de trocas. Nesta segunda parte,
dentro da Ação Educativa sobre o campo vamos debater ideias mais diretamente:
de direitos digitais, tentando fortalecer o “Devemos apostar em tecnologias livres
debate e contribuir com todos os atores diante das infraestruturas de Inteligência
que lidam com essas questões há muito Artificial”. Então, na primeira parte,
tempo, como a Fernanda Campagnucci, pudemos ter um olhar mais direcionado
que está aqui. Para além da Fernanda, para o que são essas infraestruturas de
como referência e inspiração, também, Inteligência Artificial. Vamos pensar, um
temos atores que, desde muito tempo, pouco, como isso se correlaciona com
vêm pautando a necessidade de olhar para as tecnologias livres. Isso tem muito a
esse campo da tecnologia, olhar para esse ver com o que eu disse, inicialmente;
cenário de plataformização, sobre o qual do lugar que abordamos enquanto Ação
debatemos agora, nessa primeira rodada; Educativa, nesse debate; que é justamente
também, como parte desse campo de defesa a possibilidade de olhar para o campo dos
e promoção de direitos, estamos tratando direitos digitais, como parte dos direitos
de uma dimensão de direitos digitais; e humanos e, também, como parte do debate
é esse o lugar no qual a Ação Educativa que é necessário para construirmos novas
tem procurado se localizar, nesse debate. utopias, para pensarmos novas formas
Para além de se aproximar, ter, adotar uma de compreensão das subjetividades e
abordagem, uma perspectiva interseccional como elas se colocam na sociedade. Vou
dessa reflexão, que considere, também, apresentar agora, o currículo da Fernanda
todos aqueles acúmulos que temos no que tem uma larga trajetória no campo da
campo, nesse quadro, nesse cenário de tecnologia. É diretora-executiva da Open
defesa de direitos humanos, também para Knowledge Brasil, graduada em Jornalismo
100
e mestra em Educação; coordenou o Pátio pode ser resumido nesta pergunta: Como
Digital, iniciativa do Governo Aberto, da as tecnologias abertas se relacionam com
Secretaria Municipal de Educação da Cidade a democracia e com essa ideia de governo
de São Paulo; é fellow do Governo Aberto, aberto? Pensando governo a partir de uma
da OEA, e integrante da Rede de Líderes noção mais ampla de Estado, abarcando
em Dados Abertos, da Open Data Institute, o Legislativo, o Judiciário, enfim, as
de Londres. Teve larga trajetória, também, instituições públicas. Uma característica
aqui conosco, na Ação Educativa. das infraestruturas é que quanto mais
funcionais elas forem, mais invisíveis elas
Fernanda Campagnucci ficam para as pessoas. Alguém levantou
Essas mesas são muito uma questão sobre isso na outra mesa:
complementares, e a abordagem que vocês
propuseram está totalmente conectada Como convencer as pessoas a usar
com a linha dos direitos digitais. Não infraestruturas livres se elas têm
podia ser diferente, com a Ação Educativa alguma vantagem, algum conforto
e os parceiros que pensam justiça social. para elas, em infraestruturas
É preciso falar de justiça de dados e de proprietárias? E fica mais difícil
todas suas implicações. Também fico quando essas infraestruturas
muito feliz de ter a oportunidade de são, de certa forma, “funcionais”
discutir infraestrutura de tecnologia de e invisíveis.
informação, porque é um tema mais raro
no debate, por não ser tão convidativo. Pensem em uma rodovia. Se essa rodovia
Mas tudo de importante que foi discutido não apresenta nenhum problema visível,
anteriormente — discriminação, viés, a maior parte das pessoas que estão lá
opacidade, soberania de dados — decorre trafegando não vai notá-la. Mas basta cair
do modo como essas infraestruturas estão em um buraco que se vai lembrar que ela
constituídas. Então, é muito importante existe e que essa infraestrutura precisa
discutir e compreender isso. Sabemos de manutenção, que tem responsáveis
que existe um problema de opacidade das por isso, que há autoridades cuidando ou
infraestruturas, no setor público e privado, não daquela infraestrutura. E aí a questão
e que isso tem efeitos muito nefastos. A com as infraestruturas de tecnologia da
proposta da mesa é justamente discutir as informação, e esse debate que estamos
tecnologias livres como alternativa a esse fazendo aqui, é que os problemas existem,
sistema de opacidade. E, na minha visão, mas podem não ficar tão visíveis quanto
em uma democracia, podemos fazer isso um buraco. Quando há um problema
de duas formas. Usando o Estado, por um com o Facebook e suas aplicações, como
lado, para regular, o que também já foi tema o Instagram, o WhatsApp, que caíram e
neste seminário. E, por outro, construir permaneceram fora do ar por um tempo,
um Estado aberto, que use tecnologias recentemente. Ficou muito evidente o grau
livres, em que as pessoas participem dessa de dependência, o problema de termos
construção. Portanto, vou focar minha infraestruturas concentradas como essas,
contribuição nesse segundo ponto, que essa questão fica mais óbvia. Quando um
101
sistema de Governo, por exemplo, do SUS, usam esses termos, e muitos deles têm
é invadido, ou os dados de 200 milhões problemas, porque refletem uma matriz
de pessoas ficam expostos, não porque os neoliberal de pensamento. Principalmente,
hackers, pessoas que invadem sistemas, são o termo “cidades inteligentes”, que, por
geniais, mas porque os sistemas estavam ter raiz neoliberal, tem a tendência de
muito inseguros, sem técnicas básicas pensar dados como commodities, e não
de proteção de dados, o que também é como bens públicos. A gênese do termo
um ponto bem tangível da questão da “cidades inteligentes” vem de corporações
infraestrutura. Mas, e grandes empresas de consultoria, que
querem vender serviços e criar dependência
na maioria dos casos, a questão tecnológica. Geralmente, enfatizam a
das infraestruturas fechadas é algo eficiência, como também foi dito em
que vai minando silenciosamente intervenções na mesa anterior, e não
as capacidades do Estado, vai participação, por exemplo. De todos esses
corroendo a democracia, e não termos, o que acho que tem mais potencial
é uma questão imediata, vamos de diálogo com o campo das tecnologias
lidar com as consequências mais abertas é o conceito de governo aberto.
adiante. Uma hora essa fatura vai Alguns podem dizer: “Mas, Fernanda,
chegar. você está sendo tecnosolucionista, você
está achando que o governo aberto vai
E o que queremos dizer quando falamos resolver a democracia”. Não é essa a ideia.
em infraestrutura? Na minha visão, O que estou propondo é que busquemos
estamos falando de múltiplos aspectos: dialogar com esse campo, pois o padrão,
de um conjunto de hardware, de cabos, hoje, é o Estado ficar capturado por atores
de computadores, de redes, e também com poder econômico que já fornecem
de software, de códigos, algoritmos. Há grandes sistemas e tecnologias.
ainda os dados que se relacionam com
esses algoritmos. É uma infraestrutura A melhor forma para promover a
sociotécnica, então também tem uma transformação dessas estruturas,
dimensão social e política. Há normas, na minha opinião, é com políticas
padrões, escolhas. E as práticas das pessoas públicas de governo aberto,
que estão em torno daquela tecnologia, que
tomam decisões sobre compartilhamento, com esse ou outros nomes, mas que
ou o que fazer diante de vazamentos. Em considerem alguns dos princípios que
torno dessas infraestruturas, no Estado, vou mencionar aqui. Escrevi um artigo
existe um discurso de inovação e de uso recentemente para desenvolver essa
de dados mais intensivo; o debate tem questão, porque, apesar de estar muitos
muitos nomes e faces: transformação anos nesse campo do governo aberto, penso
digital, inovação, cidades inteligentes, ou, que ele não dialoga como seria necessário
um que já usei aqui, “governo aberto”. Já com o tema das tecnologias abertas. Nesse
estive do lado de dentro do Governo, já artigo, levantei todos os documentos
estive em diálogo com muitos atores que oficiais e manifestos da Parceria para o
102
Governo Aberto. Minha conclusão é que com tecnologias fechadas, infraestruturas
o último cadeado do governo aberto é a fechadas. Outra metáfora que pode ajudar
questão das tecnologias livres. O conceito a aumentar a compreensão sobre o tema
de governo aberto, normalmente, tem três é pensar em um encanamento pelo qual
pilares: transparência, accountability e está passando água, e os responsáveis por
prestação de contas e participação social. esse encanamento são corporações que
Por isso, considero que esse movimento podem se servir da água. Os dados seriam
tem muito potencial, porque coloca no o equivalente a essa água. Não é à toa que
centro a participação social como questão organizações como a Amazon não estão se
de abertura. Mas a tecnologia é pautada de limitando a fazer as infraestruturas mas
forma pretensamente neutra, transversal também os meios de coleta de dados e
a esses outros eixos. Tratar a tecnologia aplicativos, por exemplo, na Área de Saúde,
apenas como ferramenta, sem sua dimensão softwares de coleta e diversas aplicações;
política, tem uma implicação: deixamos de estamos falando de uma infraestrutura
qualificar como essa tecnologia deve ser. que está carregando dados, que podem
No caso da transparência, por exemplo, não também ser apropriados por aqueles que
achamos aceitável PDF escaneado, queremos estão cuidando dessas infraestruturas. Em
dados abertos, e então desenvolvemos esses 2018, o Reino Unido, que tem um sistema
padrões de dados abertos. Na questão de nacional de Saúde, o NHS, fez uma parceria
participação, também podemos qualificar, com o Google, com o sistema DeepMind,
dizer que uma consulta pública, que não de Inteligência Artificial, para prevenir e
tem devolutiva, é muito diferente de um predizer a ocorrência de doenças, com base
processo de orçamento participativo, que nos dados de 4 milhões de pessoas. Esse
pode ser deliberativo, em que as pessoas é um problema que o pessoal dos estudos
podem decidir sobre a destinação de críticos de dados tem apontado sobre esses
recursos. fluxos de dados em infraestruturas fechadas.
A Francesca Bria, que foi Secretária de
Da mesma forma, não podemos Tecnologia, em Barcelona, e o Morozov; eles
ignorar a dimensão política da têm um ensaio crítico muito interessante
tecnologia. A tecnologia fechada sobre cidades inteligentes, em que abordam
mina o potencial dos outros eixos. casos como esse. Então, para fechar o tema
“como tecnologias livres e democracia se
Pensem em um sistema de distribuição relacionam?”, quero discorrer rapidamente
de vagas para universidades baseado em sobre três problemas que decorrem dessas
Inteligência Artificial. Se ele não for aberto, é infraestruturas fechadas, desse cenário que
confiável? Terá capacidade de ser justo? Ou, eu construí. Além da questão da privacidade,
ainda, no tema de participação, um sistema que já está bem colocada nas mesas deste
de votação, como a urna eletrônica. Se o seminário. Um problema é a acumulação.
código não for completamente aberto, ele Não é só uma questão de direcionamento
é plenamente confiável? São questões que de publicidade, que muitos pensam que
surgem quando tratamos da questão da é o único interesse de atores privados.
democracia. E, no entanto, as cidades seguem
103
 Quem controla os meios de nem é colocado dessa forma, não está “no
produção de dados também gibi”. Com a covid isso ficou muito explícito
consegue a melhor Inteligência – e a Educação a Distância –, tem muitos
Artificial. casos para serem estudados ainda. Esses
são os principais pontos para iniciarmos
As empresas que têm acesso a grandes a conversa, vamos para a discussão.
volumes de dados para treinar suas
inteligências artificiais, como o Google, Juliane Cintra
conseguem automatizar processos que Fernanda, acho que você nos traz a
dependem de interação humana; desde possibilidade, primeiro, de compreender
classificar imagens, veículos autoguiados. do que se trata quando estamos falando
Isso é muito valioso para eles, mais do de infraestrutura. Gostei muito dessa
que direcionamento de publicidade. O sistematização de hardware, de software,
segundo problema é que essa situação de dados para olharmos para essa
gera dependência; porque se apenas dimensão como uma infraestrutura, de
alguns atores têm acesso a dados, eles fato, sociotécnica. E, também, de todo o
desenvolvem essa capacidade de fazer seu chamado para a atenção de que
tecnologias precisas e oferecer isso como
um serviço a custos mais acessíveis. precisamos refutar essas novas
Contratá-los passa a parecer barato, não formas de naturalização, de
parece que é um grande investimento normalização, das construções
que o Estado tem que fazer, e construir a tecnológicas, que também são
própria infraestrutura passa a ser visto construções humanas.
como uma loucura, um investimento muito
grande. Só que as condições para os outros Então, partimos de um debate que tem um
fazerem isso, muitas vezes, vêm do próprio fundo filosófico, como olhamos para isso
Estado, dos acessos a dados custodiados na primeira mesa. E, nesta mesa, olhamos
pelo próprio Estado. para a dimensão das alternativas, de como
começamos a intervir nessa realidade,
São dados que devem ser vistos como é possível alterar e transformar
de forma mais ampla, como um essa realidade, a partir dessas reflexões.
bem público, um bem comum. E a possibilidade de começar com o
governo aberto, como um primeiro passo,
E, por fim, tem o terceiro e último problema, garantindo a pluralidade na participação,
que é a opacidade sobre esses fluxos. Esse é o sobretudo, social, é bem interessante, e
meu tema de pesquisa. O compartilhamento aponta horizontes e possibilidades de
de dados entre setor público e privado, esses construção. Então, muito obrigada pelas
fluxos, acontecem de forma muito caótica, suas contribuições e pelo excelente
que sequer podemos ver, porque não existe início, como disse aqui, no chat, o Sérgio
transparência dessas infraestruturas. Então, Amadeu. Concordo, também. E para
o que tem de aplicativos e serviços sendo continuarmos nossas reflexões, agora
doados em troca de acesso a dados, e isso teremos as considerações do professor
104
Nelson Pretto, da UFBA. Seja bem-vindo, auxiliar da Educação, ela era muito mais
professor. Ele é licenciado em Física pela do que isso; e, infelizmente, ao longo
Universidade Federal da Bahia, é doutor em desse tempo inteiro, as políticas públicas
Ciências da Comunicação pela Universidade terminaram não focando essa perspectiva
de São Paulo, professor da Faculdade de mais ampla; e foram acreditando que íamos
Educação da Universidade Federal da Bahia, botando tecnologias, como no passado se
pós-doutor pela Universidade Trent, de colocaram o lápis e a caneta, e elas iam
Nottingham, Inglaterra, e pela Universidade entrando na escola e iam se amoldando, e
de Londres/Goldsmiths College; também a escola se amoldando a elas; e vimos que
é coordenador do grupo de pesquisa esse diálogo não aconteceu, justamente
Educação, Comunicação e Tecnologias. porque havia um hiato entre a formação
e a própria tecnologia. Isso que é o triste
Nelson Pretto desse momento. Havia uma concepção de
Acho que a primeira mesa nos deu Ciência e de Tecnologia que não estava
uma leitura mais ampla, e agora vamos clara. Podemos pegar os conceitos que
tentar dar uma aprofundada e uma afunilada foram trazidos na primeira mesa, Débora
na questão; vou tentar me concentrar um e Tarcízio falando da nuvem. Na Educação,
pouquinho naquilo que é o meu pedaço a nuvem continua sendo imaginada como
de atuação mais forte, que é a questão da aquela coisa ali, de namorados que olham
Educação. E pensar, então, um pouquinho, a nuvem, uma coisa leve que vai para lá.
esse momento, de todas essas questões que Quer dizer, não tem clareza do impacto
foram trazidas e que certamente ainda vão ambiental, do poder computacional que está
ser trazidas por Wagner e Jader. Tarcízio por ali. Falando em Inteligência Artificial,
nos colocou a questão do passado gerando dentro da Educação, terminamos olhando
um futuro; e eu fico pensando nesse futuro, mecanismos mais primários de automação,
olhando muito para o passado; porque, afinal ou aquela automação que vai pela chamada
de contas, as grandes questões que estão customização, que vai preparando a próxima
postas agora, pelo menos nesse grupo que música, o próximo texto, o próximo livro
está aqui, dos mais velhos, e não só dos mais que você vai ler, sem entender que aquilo
velhos, já há um bom tempo temos pensado ali – como falado muito bem por Débora,
sobre essas questões, e, particularmente, por Tarcízio, por Sivaldo –, são algoritmos
hoje, falamos na Inteligência Artificial que são absolutamente opacos, que não
como estruturante, não é? Falamos nas correspondem a qualquer perspectiva
tecnologias como estruturantes, e não como de educação que saia fora da caixinha.
apenas ferramentas que iam ser utilizadas; Falamos de plataforma, e entendem a
e estamos falando isso, da década de 1990. plataforma como algo auxiliar aos processos
Isso, para não ir lá atrás, nos teóricos mais educacionais; e vamos chegar um pouquinho
antigos. E, desde aquele primeiro momento no que Fernanda estava colocando.
– os dois Sérgios, aqui, acompanham isso
e Wagner também –, da implantação da E o que é mais grave de tudo
internet. Entendíamos que isso não podia isso, a educação pública, em uma
ser compreendido como ferramenta perspectiva que vai sendo atacada,
105
 vai sendo privatizada por dentro, tecnosolucionismo. Ou seja, a situação é
e isso vai naturalizando, como se dramática. São 680 mil mortes, trata-
foi naturalizando, como tendo sido se da necessidade de ficar em casa. E a
naturalizado todos os processos pandemia, então, chegou para fortalecer
de incorporação das tecnologias essa perspectiva da plataformização. Ou
na nossa vida. seja, há o argumento, e esse argumento
é dito em entrevistas e diálogos; temos
Quer dizer, usamos o Waze, como conforto um prefeito e secretário de Educação
e tempo, sem entender nada do que que que afirmam que não podemos perder
ele está representando ali. Usamos o iFood, as crianças e os jovens; e deixam de lado o
e tudo isso aí colocado por Tarcízio, por problema da proteção de dados pessoais,
Sivaldo. Vamos usando, vamos usando, deixam de lado o problema do vigilantismo;
vamos usando. Quer dizer, entramos de precisamos usar o que temos disponível.
gaiato no navio. E o que é mais grave de Essa doação de softwares está sendo
tudo isso é que não percebemos que todas algo absolutamente adotado, inclusive
essas questões estão tratando, em última nos sistemas universitários públicos do
instância, de formas de viver, de modelo de Ensino Superior. Ou seja, muitas vezes, isso
sociedade. E aí eu entro, especificamente, no é intermediado pela própria RNP. Estamos,
campo da Educação. Mais de 50 milhões de simplesmente, fazendo acordos, porque
crianças e jovens na Educação Básica; quer nem a formalização desses acordos está
dizer, é muita gente para ser descuidado sendo explicitada entre Google Suite, Google
do jeito que está sendo descuidado. E for Education, Microsoft e Universidades e
aí, claro, você, a Débora falaram sobre a Institutos Federais. Além disso, não tivemos,
tecnologia de vigilância, dos funcionários ao longo desses últimos anos, investimentos
da Amazon; e começamos a observar essas nos Setores de TI, nas Universidades,
tecnologias de vigilância nas escolas. Nas nos Institutos Federais; portanto, agora
escolas e na sociedade. Deixe lhes dar duas a solução é adotar essas plataformas. E
informações sobre a situação aqui na Bahia. é perfeita, Tarcízio, é exatamente o que
Foi anunciada pelo Governo do Estado e estamos vivendo na Educação. “Não,
pela Prefeitura de Salvador a ampliação estamos fazendo isso aqui agora, depois
do número de câmeras de reconhecimento vamos resolver”. Digo com todas as letras:
facial nos pontos turísticos. Não houve
nenhum debate sobre todos esses problemas Essa lógica de plataformização
que nós já conhecemos sobre as câmeras privada da educação pública está
de reconhecimento facial. Nas escolas, há adentrando de tal forma, em todos
a adoção de câmeras de reconhecimento os níveis, que de lá nunca mais
facial para acesso aos alunos, na perspectiva sairá.
de poder mandar informações para os pais,
sobre a chegada, a saída dos estudantes etc. Então, imaginem o que são meninos e
Essa adoção vem sempre na perspectiva meninas de 4, 5, 6, 7, 8, 9 anos de idade,
de conforto e praticidade; e essa ideia começando, já inseridos dentro dessas
entrou na Educação, na pandemia, como plataformas, mais particularmente Google
106
for Education, recebendo, portanto, humanos. Parece que esses desafios que
imediatamente, compras milionárias temos são enormes, porque estamos
de Chromebooks, para viver navegando vendo uma ausência, com esse ataque,
plenamente nessas plataformas. Nossos com redução de 92% do orçamento para
colegas professores, muitas vezes, nem dizem a Ciência Brasileira; estamos vendo um
mais “procura na internet”, dizem: “Põe no ataque ao desenvolvimento científico e
Google”, como se fosse o verbo “procurar” tecnológico.
substituído. Portanto, quero mostrar
que esse processo de plataformização E, com isso, a adesão a essas
está adentrando a educação pública e tecnologias inviabiliza uma
promovendo uma verdadeira colonização perspectiva soberana de dados;
dela. E, como a Fernanda Bruno comentou, porém, mais do que tudo,
que “o sujeito de direito é reduzido a um inviabiliza a soberania de país.
usuário”; lembro que em nossos debates – e Ou seja, estamos trabalhando em
Sérgio Haddad deve se lembrar também, uma perspectiva absolutamente
porque a Ação Educativa, os nossos fóruns reducionista do que é a formação
mundiais sempre debateram esse tema, com cidadã.
os movimentos privatistas adentrando a
educação pública – dizíamos que o sujeito, E isso, no meu ponto de vista, é grave;
o cidadão, era reduzido a cliente, o aluno e, obviamente, adentrando o campo da
passou a ser cliente; e, hoje, ele é um cliente Inteligência Artificial, se agrava de forma
reduzido a seus dados, a ser um usuário; muito mais intensa.
e isso vai fazer com que não só possibilite
que a publicidade seja montada em torno Juliane Cintra
desses interesses. O mais grave disso é que Acho que continuando essa trajetória
isso está associado aos grandes grupos que estamos construindo, a Fernanda nos
empresariais que ocupam, hoje, através apresenta a possibilidade do governo aberto
dessas fundações e movimentos, como como primeiro passo para confrontarmos
Lemann, Instituto Ayrton Senna, Todos essa estrutura fatalista, quando olhamos
pela Educação, que começam a formatar para a tecnologia. Quando o professor
esses conteúdos a serem distribuídos. Nelson traz essa perspectiva para a
Então, essa perspectiva do aberto, que a Educação, quando olhamos para essa
Fernanda destacou, para o governo aberto; dimensão que ele apresentou, a dimensão
eu destaco, ampliando-a, achando que é pública da formação cidadã, isso é muito
fundamental pensarmos no aberto em todas importante,
as perspectivas: na educação, nos recursos
educacionais, no acesso, no parlamento é um chamado para recuperarmos
aberto, nos dados abertos, no hardware os sentidos, os significados da
aberto, no software livre e aberto. Ou tecnologia; e estamos falando que
seja, essa ampliação é fundamental para nem todo discurso sobre tecnologia
que recuperemos a dimensão pública, da é necessariamente inovador;
formação cidadã centrada nos direitos muitas vezes, ele guarda em si o
107
 conservadorismo e a manutenção contraponto aqui. Não um contraponto,
das desigualdades, das assimetrias. porque eu concordo com o que foi dialogado,
mas outra perspectiva, que eu sempre
Então, é sobre isso, também, que brinco que é a perspectiva desumana.
debatemos quando citamos a necessidade Ou seja, venho das Ciências Exatas, e elas
de ressignificar alguns pressupostos, são sempre meio desumanas. Em minha
que é o que a Fernanda trouxe e tem a apresentação, tem algumas coisas que
ver com a pesquisa; estou trabalhando quero mostrar.
com essa dimensão da teoria crítica de Na verdade, quero discutir um pouco
direitos humanos, que reside na origem essa questão da Inteligência Artificial; e,
do pensamento moderno. Então, tudo talvez, dar algumas boas-novas; outras,
faz muito sentido, esse caminho que nem tanto; e colocar alguns aspectos mais
estamos construindo, de que para ser uma amplos em discussão. Acho que algumas
perspectiva, de fato, vinculada a um ideal coisas que vocês articularam sobre governo
emancipador, tem de refutar essa abordagem aberto, sobre plataformas, do ponto de vista
colonialista, que é um pouco do que está técnico, obviamente, estou à disposição para
acontecendo, são essas novas formas de se discutir; mas, do ponto de vista estratégico,
organizar e de se manter essas assimetrias. político, tenho uma certa limitação. Bom, já
Creio que o debate está bem interessante, foi bastante falado sobre a questão de que
abordando tecnologias livres e alternativas, temos uma conjunção diferente. Lá atrás,
apontando horizontes e também chamando nas épocas de software livre, falávamos de
a atenção para questões importantes, que software livre e olhávamos para o horizonte,
precisamos manter em nosso horizonte. víamos a questão dos dados, que estavam
Então, para continuarmos nossa troca de se concentrando em alguns provedores,
ideias, que coloca o pé no chão, quando como um problema. Essa coisa cresceu,
pensamos em infraestrutura e Inteligência
Artificial, contamos com a presença do esses provedores, simplesmente
professor Wagner Meira, da UFMG. Ele eles não só acumulam dados como
é professor titular do Departamento de os processam massivamente; eles
Ciência da Computação da Universidade são os maiores detentores de
Federal de Minas Gerais, Ph.D. em Ciência poder computacional do mundo;
da Computação pela University of Rochester, e isso, hoje, recebeu esse nome de
pesquisador em Produtividade CNPq, nível Inteligência Artificial, Aprendizado
1B e subcoordenador do INCT-Cyber – de Máquina, ou coisa parecida.
Instituto Nacional de Ciência e Tecnologia
para uma Sociedade Massivamente Apesar do horizonte sombrio, tem algumas
Conectada. coisas acontecendo, não só em termos de
Academia como fora da Academia, que são
Wagner Meira bem interessantes. Vou mostrar duas para
vocês. Recentemente, vi o artigo do The
Acho que até pela minha origem, vocês Verge que fala sobre os entregadores de
já devem esperar que eu vou trazer um Nova York, que estão se revoltando. Eles
108
começam a questionar “se vale a pena grandes provedores de informação
trabalhar sujeito a decisões algorítmicas”. dizem não ser racistas, que são
Os algoritmos são firewalls; eles põem os dados que são racistas, por
medidas de produtividade brutais, exemplo. Eles não assumem essa
exigem compromissos de dedicação responsabilidade.
impressionantes, e assim sucessivamente. A
mesma coisa acontece com a Amazon, que, Uma segunda coisa é a responsabilidade
hoje em dia, é a maior empresa de logística algorítmica, ou seja, quem, ou o que, é
dos Estados Unidos; ela tem uma proposta responsável por uma violação étnica.
de microgerenciamento dos funcionários, Então, temos o caso clássico de utilização
inclusive, indicando por onde eles devem de Inteligência Artificial para recolocação
passar para fazer suas atividades. E, nesse profissional; e, normalmente, aparecem
caso, eles estão dizendo o seguinte, “que distorções, por exemplo, entre homens e
não é possível que não possamos escolher mulheres, entre distorções de raça, étnicas
por onde passar”. E tem vários outros etc. E quem é responsável quando isso
exemplos, peguei dois exemplos que achei. acontece? É a pessoa que usa o algoritmo?
Vamos tentar entender o que pode estar É a pessoa que desenvolveu o algoritmo?
acontecendo aqui, e como é que isso nos São os dados que foram utilizados pelo
afeta em grau amplo? O modelo baseado algoritmo? É uma diretriz do contratante?
em Inteligência Artificial e otimização É uma junção disso tudo? E, na hora que
de critérios normalmente associados ao fazemos um acionamento legal, quem que
negócio começa a mostrar fraturas, que vai ser acionado? Então, existe uma fricção
vêm exatamente na hora que a percepção grande nesse processo, associada a essa
humana começa a superar a percepção de responsabilidade algorítmica. Ela é ampla?
máquina. Não acredito em singularidade, Ainda não. Por fim, temos a transparência
não no curto prazo; não acredito que a algorítmica. Esse é um movimento muito
tecnologia vai superar alguém; acredito forte, por quê? Porque pressupõe que o
que, provavelmente, essa tecnologia, por humano deve entender a saída do modelo,
questões pragmáticas, vai ter de se curvar deve concordar com a saída do modelo.
às praxes dos homens, antes de realmente E, nesse caso, tem o exemplo de quando
se distorcerem, transformar-se em figuras temos o modelo “caixa-preta”, ou seja, ele
futuristas. Tem três aspectos que quero simplesmente fala “esse é um husky”; e
trazer para essa discussão e que estão aí temos o outro modelo dizendo “que
sendo amplamente divulgados, com seus ele é um husky por causa dos olhos e das
impactos sendo discutidos. O primeiro é a orelhas”. Isso é fundamental. Na verdade,
justiça algorítmica. Por exemplo, modelos de transformou-se em um impedimento a
reincidência criminal, nos Estados Unidos, ampla adoção da Inteligência Artificial.
já foram completamente execrados, por Certos nichos profissionais se recusam a
eles serem racistas etc.; e usar os chamados “modelos caixa-preta”.
Recusam-se a não entender, minimamente,
há toda uma preocupação, hoje qual é a linha de raciocínio desses modelos
em dia, no sentido de que esses e de onde eles vêm, com aquelas sugestões,
109
recomendações e previsões. E aí vejo uma negarmos os benefícios da tecnologia, as
oportunidade. Porque nos dois casos possibilidades que ela propõe, na verdade,
anteriores, em um caso de responsabilização, temos de mostrar suas deficiências, e
em um caso de injustiça, vamos enxugar mostrar como elas podem ser melhores,
gelo resolvendo distorções e problemas ou, pelo menos, tentar fazer isso, senão fica
que tínhamos anteriormente na sociedade. aquele discurso, um discurso simplesmente
Aqui, temos uma oportunidade, vou tentar de reação, e não de proposição no processo.
explicar por quê. Onde está o problema O resultado mais interessante disso é
nos três casos e/ou as dificuldade? Os que, na prática, os sistemas atuais, em
algoritmos foram todos implementados sua grande maioria, têm de ser refeitos,
baseados em métricas de negócio, como têm de ser reconstruídos; eles não são
acurácia, revocação, retorno de investimento capazes de, por exemplo, trabalhar as três
etc., e não consideraram as questões de dimensões que coloquei. E aí tem uma
aspectos éticos e valores humanos, como oportunidade nesse sentido. O que isso
justiça, responsabilidade, transparência. À tem a ver com o software livre? Primeiro,
medida que esses aspectos éticos e valores há uma mudança de patamar no seguinte
humanos passam a ser valorizados como sentido: a base dos sistemas de Inteligência
um mecanismo de negócio e de utilização, a Artificial já está ancorada em softwares
coisa começa a mudar de patamar. Para as livres e abertos. Se pegarmos as grandes
pessoas de tecnologia, qual é a diferença? plataformas que são utilizadas, hoje em
É um critério a mais, é um quesito a mais a dia, como Python Scikit-Learn, Apache
ser trabalhado. Entretanto, para as pessoas Spark MLlib, PyTorch, Keras, vemos que
de negócios, pode não ser; mas acontece todas usam códigos abertos. Essa questão
que eles já entraram no redemoinho da do código proprietário é importante para
imagem e do impacto desses aspectos em que evitemos ter ações maliciosas dentro
vários outros cenários. Então, o problema do código, mas ela é necessária, ela não é
é: Como nossas funções objetivas dessas suficiente. Ela continua sendo necessária,
várias técnicas passam a considerar aspectos mas isso é uma batalha que aconteceu. Tanto
éticos e valores humanos? Na verdade, que vemos, hoje em dia, o que a Microsoft
considerar isso é um aspecto muito mais está entregando. Ela entrega serviço, ela
amplo. Porque temos de entender a natureza quer vender serviço; ela não quer vender
das violações, temos de olhar os dados, software, ela não vende mais licença de
se eles não estão comprometendo aquele software, isso é passado. E como é serviço,
processo, se eles não são enviesados, se eles não estão preocupados se o software
eles não são sexistas, se eles não são é livre. Eles estão publicando coisas no
racistas. Temos de incorporar aspectos GitHub. Na verdade, eles querem o serviço.
éticos e valores humanos nos critérios E, nesse âmbito de Inteligência Artificial,
das funções objetivas dessas técnicas, e tem uma mudança técnica que é a seguinte:
temos que fazer isso continuamente. Porque o código não é suficiente, porque quem
novas fontes de ruído e de distorção podem rege o comportamento desses algoritmos
aparecer e atrapalhar esse processo. Aí vem são os dados. E daí temos um nó, porque
a questão da oportunidade, que, em vez de a abertura indiscriminada de dados viola
110
a privacidade, entre outros requisitos; e, construir um paralelo ao que foram as
inclusive, aspectos legais, nesse momento questões de software livre e aberto, dados
do país, com a LGPD. Por outro lado, vemos abertos, em termos do uso dessas técnicas
que a transparência algorítmica é cada vez no âmbito da sociedade. Acredito nisso
mais exigida e expõe o caráter dinâmico do pessoalmente, embora possa ser uma visão
software. Então, a Nova Zelândia baixou otimista, mas acho que é um pouco do meu
uma ordem de que todos os softwares contraponto aqui, que há oportunidades
devem ser transparentes. Ela não está em todos os níveis e em todas as áreas.
nem preocupada se o software é livre, mas Esse tipo de tecnologia de propósito geral,
todas as decisões, ao cidadão, devem ser como é o caso da Inteligência Artificial,
explicadas de forma transparente. como foi o automóvel, como foi a energia
elétrica etc., tem um efeito potencial
É um novo patamar de transformador tão grande na sociedade
transparência, é a transparência que ficamos discutindo “se não deveria
de que não estamos sendo ser”, na verdade, acredito que estamos
manipulados pelo algoritmo; de perdendo tempo em exatamente partir
que, de alguma forma, temos de para cima e tentar buscar o melhor uso
explicar por que estamos dizendo dessa tecnologia, apesar de que, como
que aquele é o emprego que qualquer tecnologia, ela sempre vai ter
devemos conseguir, por exemplo. alguém pensando alguma coisa maliciosa
para fazer com ela. Muito obrigado.
Acredito que dados e algoritmos vieram
para ficar, mas eles realmente só vão ser Juliane Cintra
um promotor efetivo, do ponto de vista de Acredito que a apresentação do
melhoria social, se as questões de ética e professor Wagner, assim como a do
valores humanos forem consideradas, pois professor Nelson e da Fernanda, foram muito
elas são fundamentais. Contudo, sabemos provocativas. Apresentar a transparência
que os sistemas atuais são insatisfatórios. algorítmica como algo em um novo patamar,
Notem que sempre questionamos muito a com essa necessidade da revisão constante,
Inteligência Artificial substitutiva, que vai essa revisão ética constante dos sistemas,
substituir o homem. Porém, não acredito é bem interessante para analisar essa
nisso. Acredito na possibilidade de que perspectiva como oportunidade; acho que
o homem vai ser reinserido no loop em tem um debate por trás dessa reflexão, a
outro patamar, não naquele patamar da depender da abordagem escolhida,
realização de tarefas braçais, mas naquele
patamar no qual, em última instância, estará
o encargo de verificar o cumprimento de definimos quem incluímos e quem
aspectos éticos e valores humanos etc. excluímos dessas reflexões, quando
Assim, o entendimento, o conhecimento apresentamos a possibilidade de
dos funcionamentos desses sistemas e da transparência como possibilidade
utilização desses sistemas é exatamente da compreensão das escolhas
o que se mostra como oportunidade de
111
e da partilha coletiva dessas escolhas; e de doutorado. “O processo de consolidação
da possibilidade, também, de dar escolha do acervo digital do Herbário do Museu
para aquele que era cliente e agora é Emílio Goeldi evidencia que fazemos
usuário, tudo isso que está sendo reduzido parte de uma engrenagem do processo
a dados é bem interessante e traz questões global de dominação cultural, científica e
bastante provocativas. Tem muita coisa aqui econômica, que marca a chamada Era do
fervilhando para pensarmos. Convido a Conhecimento. Então, se mantivermos os
participar conosco o professor Jader Gama, protocolos que nos são impostos nesse
do Núcleo de Altos Estudos Amazônicos, contexto de capitalismo de vigilância e
da Universidade Federal do Pará. Jader é economia do conhecimento, continuaremos
doutor em Desenvolvimento Socioambiental em uma posição de grande importância
pelo Programa de Pós-Graduação em subalterna”.
Desenvolvimento Sustentável do Trópico
Úmido, e mestre em Planejamento do Se mantivermos o jogo como está,
Desenvolvimento pelo Núcleo de Altos vamos manter nossa importância
Estudos Amazônicos, na Universidade subalterna, no que tange a ser
Federal do Pará, bem como professor da um grande celeiro de dados, que
Faculdade Pan Amazônica e pesquisador são utilizados no capitalismo de
da Incubadora de Políticas Públicas da vigilância.
Amazônia.
Então, se eu fosse dar uma contribuição
Jader Gama para o Governo do Estado de São Paulo,
Estou em uma ilha chamada no debate sobre essas tecnologias digitais,
Caratateua, na região insular de Belém, diria que teríamos de retomar, e refundar,
na foz do rio Amazonas, e estou me uma política pública de inclusão digital.
arriscando a trabalhar com professoras. Acho que teríamos de pegar e fundar,
Estou trabalhando com professoras e refundar, um movimento de inclusão
o Nelson também já esteve dando uma digital; e esse movimento de inclusão
contribuição ao debate com as professoras digital deveria ser fundado no cultivo de
da Escola Bosque. Trabalho na Ilha, em uma uma cidadania digital; e essa cidadania
escola cercada por um bosque enorme, e digital deveria promover uma consciência
estou contribuindo no que nós estamos tecnopolítica, que combatesse o processo
chamando de Incubadora Educativa, colonial de alienação técnica promovido
Tecnológica, Socioambiental. Estamos pelas Big Techs. Acho que o grande desafio
buscando, com base em temas geradores, e nosso, enquanto cientistas, pesquisadores
começando a organizar, com a comunidade políticos e cidadãos comuns, é compreender
escolar, proposições de intervenção no que os dados estão na centralidade do
território. Esse é o meu trabalho. A pergunta processo econômico e político mundial;
que me foi feita é: Devemos apostar em e que vivemos um processo de alienação
tecnologias livres diante das infraestruturas técnica. Creio que devemos fazer uma
de Inteligência Artificial? Vou ler o último política pública de inclusão digital, que
parágrafo da apresentação da minha defesa traga para o debate uma cidadania digital,
112
e que, inclusive, essa cidadania digital leve por exemplo: Agora, estamos fazendo um
em consideração os humanos e os não debate sobre a questão climática nas escolas,
humanos; porque o meu ponto aqui é a e estamos usando como tema gerador a
Amazônia, estou falando de humanos e não água. Com base nesse tema gerador “Água”,
humanos porque o processo de rapinagem estamos discutindo, por meio de todas as
dos dados não é um processo de rapinagem disciplinas, um processo de catalogação e
somente das pessoas, mas é um processo georreferenciamento dos corpos de água
de rapinagem de dados e informações do das ilhas, que são nascentes, igarapés,
território, materializados em plantas, em poços, furos e praias. E nossos alunos estão
bactérias, em vírus, em genes e princípios coletando esses dados em uma plataforma
ativos, ou seja, em toda uma miríade de livre; estamos fazendo o mapeamento, no
informações que estão sendo capturadas e território, de onde estão os dados, de onde
que nós nem estamos percebendo, porque estão localizados os poços utilizados pela
estamos na engrenagem que colabora para população, onde estão localizadas as fossas,
esse processo. porque fossa com poço não dá certo; e
estamos levando os alunos a buscar os
Acho que o nosso desafio é esse, dados da Secretaria Municipal de Saúde;
pensarmos e termos a ousadia dessa forma, descobrimos que 80% das
de cortar esse processo de doenças, que são tratadas nos Postos de
dependência tecnológica. Saúde, das ilhas, são relacionadas à questão
da água; é diarreia, infecção intestinal,
Estamos colocados nesse processo de coisas assim, que acometem a população.
dependência tecnológica, e eles nos
colocam – as grandes corporações – no Com base nessa junção de
que os teóricos chamam de monopólio informações, afirmo a vocês que
natural. Dizem assim: “Olha, já está feito. uma cidadania digital centrada
Vocês não precisam fazer, é só usar”. Mas nos dados leva o cidadão a
quando nos colocamos em uma posição compreender que os dados
de meros utilizadores, não conseguimos relacionados independem das
transformar a realidade. Então, o debate tecnologias usadas, que podem
que trago é simples, de um cara que está ser, inclusive, Inteligência Artificial.
trabalhando em uma instituição, em
uma escola pública municipal, que é da Participo de um Laboratório de Suporte à
Prefeitura Municipal de Belém; trabalho decisão, o foco é em Santarém, e trabalhamos
nessa Fundação, que é uma escola que tem com essa perspectiva de fazer essa cidadania
como princípio a educação ambiental, e digital, no sentido de juntar dados e traçar
levamos para dentro da escola, nesse debate cenários. A partir desses cenários, as
freiriano, uma proposta de cultivar um pessoas podem tomar uma atitude ou não.
território digital educativo; estamos com Isso é uma consciência tecnopolítica. Um
uma proposta de construir nossa própria projeto de inclusão digital, que traga os
infraestrutura. E só para temos uma visão dados para a centralidade da cidadania
mais pragmática do que estamos fazendo, digital; levando em consideração que
113
precisamos quebrar essa dicotomia, essa pegar e começar a criar uma inteligência
cosmovisão eurocêntrica, que coloca as coletiva, com uso de ferramentas livres,
pessoas na centralidade de tudo; e levar nas quais podemos, inclusive, modificar
em consideração que somos mais, uma essas ferramentas; e eu não digo que me
comunidade de seres em uma comunidade refiro a desafios gigantescos,
muito maior; e que os dados podem ser
um instrumento de comunicação entre o mas desafios do cotidiano das
mundo humano e não humano, que pode pessoas. Temos a possibilidade de
nos levar a um processo de economia que abrir uma cidadania digital, que
abra possibilidades de se fazer uma gestão saia desse processo de alienação
inteligente do território. Acho que temos a técnica, a fim de que possamos
consciência tecnopolítica de que estamos realmente transformar a realidade.
imersos em um processo de alienação
técnica, principalmente nós, enquanto Em Belém, estamos fazendo um debate
cientistas; e os tomadores de decisões, muito profundo, com as professoras,
os políticos. Podemos compreender que é sobre esse processo do avanço das Big
necessário começar a montar infraestrutura, Techs na educação; e a participação do
que não sirva só para grandes empresas, Nelson, a participação do Sérgio Amadeu,
ou corporações, ou governos; mas que foi fundamental. Elas entenderam que
esses dados coletados, organizados e os dados delas e os dados das crianças
transformados em conhecimento façam que elas ensinam, e dos jovens, são
parte da vida das pessoas, das comunidades. dados públicos; tanto é que, em vez de
Com base nesse processo que estamos utilizarmos, na Funbosque, o Google
realizando, que é um processo freiriano, Classroom, criamos uma instância, com
no Centenário de Paulo Freire, chegamos colegas da UFSCar, do Moodle; porque o
à conclusão de que podemos, utilizando Moodle abre a possibilidade, inclusive, de
os conhecimentos científicos, atacar esse fazermos formação off-line, porque temos
problema da água; primeiro, cuidando da uma condição de internet muito grande.
questão das fossas, criando condições para Outra ferramenta que estamos utilizando
que os dejetos sejam bem acondicionados; é uma plataforma livre, a Plataforma Tá
mas, imediatamente, estamos trabalhando Selado, de participação social da Prefeitura
uma questão relacionada à construção de de Belém, feita no Decidim, que tem uma
filtros de carvão ativado, que vai resolver comunidade pujante, em Barcelona, na
o problema. É uma coisa muito louca; Europa. Com base no software livre, estamos
vivemos no Brasil, na Amazônia, em cima fazendo um remix do que podemos utilizar
de água, e as pessoas bebem uma água como ferramenta de participação social.
que não presta, uma água ruim. Quero, Estamos, agora, utilizando uma ferramenta
assim, provocar vocês, no sentido de que, de mapeamento do território para gestão,
para além da Inteligência Artificial, acho para governança do território, de forma
que a questão da facilidade do uso das comunitária. Quero dizer para os governantes
ferramentas proprietárias nos encantam que vão nos escutar, para as pessoas, que
pela sua comodidade; portanto, podemos existe uma miríade de possibilidades de
114
uso de ferramentas livres; e que tem um mesma lógica. Ou seja, decompomos o sinal
princípio filosófico muito importante, que que vai percorrer a rede em uma estrutura
nos leva a compreender que toda ferramenta descentralizada que ela é, e recompomos
técnica tem uma condicionante política; e esse sinal, dependendo dos pesos, fazendo
que o fato de utilizarmos software livre já analogia cerebral; a excitação que aquele
mostra determinado tipo de pensamento. dado gera em uma’ parte ou em outra da
Creio que esse processo de inclusão digital rede. Então, já temos soluções técnicas
4.0, esse processo de inclusão digital traga para isso. Acho que o caso neozelandês é o
os dados para a centralidade das pessoas, primeiro no mundo, acho que ele deveria
e as pessoas comecem a utilizar essas ser olhado com mais cuidado, porque ele
informações para melhorar sua condição foca a questão da cidadania e a utilização de
de vida, e isso é um elemento no qual os algoritmos, pelo Estado, que é o que deve
governos têm de investir, até para que ser seguido em termos de pressupostos e
o Brasil tenha uma posição global, que requisitos de transparência.
quebre esse paradigma da dependência
tecnológica. Juliane Cintra
Agora, vamos retomar a ordem da
Juliane Cintra mesa, começando pela Fernanda.
As experiências trazidas por todos
são incríveis. De fato, é uma esperança Fernanda Campagnucci
realista, vemos uma apropriação criativa, Foi ótimo acompanhar todas as
que permite ampliar a capacidade dessas contribuições. O problema de se apresentar
alternativas, da potência dessas alternativas, primeiro é que atiramos em um ponto,
por meio dessa apropriação criativa. Agora, depois acompanhamos todo o universo,
a pergunta: “Como podemos utilizar uma e ficamos com vontade de contribuir
rede neural de modo transparente?”. mais. Porém, eu estava em outro evento,
da Comunidade Dados Abertos Latino-
Wagner Meira Americana, e o exercício era de falar de
Temos dois tipos de modelos futuro, mais ou menos como estamos
interpretáveis. Temos os “modelos fazendo aqui. Quando falamos de futuro,
interpretáveis” e os “modelos agnósticos”, temos a visão distópica que é fundamental
que são modelos construídos em volta imaginar; mas é muito importante projetar
desses modelos caixa-preta. É meio que uma cenários com aquilo que queremos. E uma
lógica de teste de hipóteses. Percorremos o das coisas que debati,
espaço de busca de dados daquele modelo,
verificamos quais perturbações afetam
a resposta do modelo e, com base nisso, se fosse para imaginar uma
criamos um modelo agnóstico, como se manchete de 2050: Governos
fizéssemos uma tomografia do modelo. do mundo decidem um tratado
E, mais recentemente, temos algumas internacional, depois de anos
redes neuronais, que possuem alguns de negociação, para que só
mecanismos de transparência dentro da infraestruturas abertas sejam
115
 implementadas em governos, e desenvolvimento dessas plataformas em
que os protocolos de troca de dados rede nos possibilitaria um fortalecimento,
sejam todos transparentes, e os exatamente, da formação tecnopolítica
modelos de Inteligência Artificial ampla, e que isso viria desde a mais tenra
tenham transparência. idade. Ou seja, não imaginar que possamos
esperar um futuro para isso acontecer,
Enfim, sabemos que, pela tendência, está mas desde os primeiros anos de vida,
muito difícil vencer essa batalha, mas se nas aproximações que estão fazendo com
não imaginarmos esses futuros, não vamos essas tecnologias, ela já pode trabalhar,
buscar isso. Então, de tudo o que extraio e já deveria trabalhar nessa perspectiva.
aqui das colaborações dos outros autores, o
principal é essa necessidade de seguirmos Wagner Meira
com os debates, que já fazemos isso desde Não é só reafirmar que eu acredito
os anos 1990, ou antes, mas ressignificando que essa questão da transparência
e tentando aplicar isso nas nossas mais complementa a discussão do software
variadas frentes de ação. livre; ela, ao mesmo tempo, promove a
cidadania e o conhecimento, o entendimento
Nelson Pretto dessas tecnologias e das possibilidades.
Acho que, de certa forma, como eu Acho que simplesmente desqualificarmos
disse, elas terminam se complementando e a tecnologia, porque ela é fechada, vai nos
não acredito que tenhamos um contraponto dar um caminho muito mais íngreme do
tão grande assim; acho que não existe dúvida que, na verdade, colocar condições mais
de que precisamos pensar em uma regulação razoáveis para seu funcionamento. Ficamos
dessas empresas donas das plataformas. muito tempo discutindo o que o Google
Quero dizer, da melhor forma que fizemos podia armazenar e não armazenar de dados,
isso com a grande mídia, não é possível a e quando chegamos em um ponto no qual
concentração econômica da forma que está não havia uma legislação para isso, eles já
se configurando. Estou de pleno acordo estavam em outra dimensão. Então, esse
com a necessidade de uma transparência é o ponto que eu gostaria de colocar.
algorítmica, de tal forma que se tenha
responsabilidade, transparência e justiça em Jader Gama
tudo isso. Não tenho dúvida, também, de que Os governos têm uma responsabilidade
precisamos fortalecer o desenvolvimento de fortalecer as empresas públicas de
de soluções em infraestrutura pública. processamento de dados; então, acho que
Isso temos trabalhado intensamente, e fazer esse investimento para criar carreiras,
acho que isso equivale a pensarmos em bons salários, condições de trabalho, é muito
políticas públicas de indústria e comércio, importante para que possamos, inclusive,
de ciência e tecnologia e de formação. Quer pensar em federações tecnológicas que
dizer, é diferente de imaginar que esse possam compartilhar infraestrutura e
desenvolvimento significa um afastamento compartilhar orçamento. Acho que essa
de relações com outros países, Sul- é uma questão também muito importante
Norte, Sul-Sul; acho que, ao contrário, o para se pensar. Creio que quando fomos
116
implementar a Plataforma de Participação precisamos recuperar justamente esse
Social, em Belém, que é uma plataforma potencial de emancipação que reside na
livre, estávamos com alguns problemas tecnologia, que reside quando pensamos
burocráticos. Dessa forma, uma pessoa da na construção de uma cidadania digital;
prefeitura disse para o nosso time: “Instalem porque estamos pensando no limite, no fim,
isso em qualquer lugar, mas ponham para na concepção de um novo mundo, de novas
funcionar”. E fomos contundentes em dizer formas, de respeito a novas subjetividades
que precisávamos enfrentar a questão emanadas com a natureza.
burocrática em parceria com os técnicos
da CINBESA, para instalar a Plataforma de
Participação Social dentro dos servidores
públicos da Prefeitura Municipal de Belém.
E assim foi feito, porque estávamos lidando
com dados públicos da cidadania de uma
cidade. Creio que esse pensamento tem
de ser levado em consideração. Sei que
parece mais barato comprar nuvem; que
é mais caro investir em infraestrutura
pública; mas, na conta final, investiremos
em gente, e mantendo pessoas capazes
trabalhando pela transformação social e
por uma cidadania digital, que leve em
consideração a centralidade dos dados e
o cultivo de um território digital baseado
em uma consciência tecnopolítica.

Juliane Cintra
Saímos deste encontro com um
programa pronto, de investigação,
intervenção pública; assim, temos várias
opções de implementação de alternativas.
Acho que é muito interessante pensar que
o nosso ponto de partida é daqueles que
acreditam justamente que

o discurso sobre tecnologia é

um elemento muito importante,
fundamental, quando pensamos
a consolidação das democracias.

Então, é por isso que se faz necessário

dialogarmos com as críticas, porque
117
118
 Capitalismo preditivo e os
sistemas algorítmicos
DR. SERGIO AMADEU DA SILVEIRA
PROFESSOR DA UNIVERSIDADE FEDERAL DO ABC - (UFABC)
119
120
 Capitalismo preditivo e os sistemas algorítmicos1
Dr. Sergio Amadeu da Silveira
Professor da Universidade Federal do ABC - (UFABC)

Resumo

Quais discursos estão sendo produzidos sobre o mundo mediado e efetuado

por algoritmos? Seus efeitos expostos ou almejados possuem objetivos e finalidades
performativas, formatadoras e moduladoras de ações sociais, processos políticos e
instituições? A partir dessas perguntas, serão apresentadas as pretensões algorítmicas
do mundo corporativo e dos gestores públicos em um cenário de ordenamento neoliberal
do capitalismo informacional. Será exposto um levantamento das expectativas de
reprogramação das práticas sociais e governamentais nos discursos sobre os algoritmos
em cenário de expansão do Big Data, do Machine Learning e da Inteligência Artificial. Os
algoritmos de aprendizado de máquina e outros dispositivos de Inteligência Artificial
integram o conjunto de tecnologias de gestão, de controle e de predição que aprofundam
e superdimensionam os efeitos biopolíticos e noopolíticos em uma sociedade que é
constantemente levada a viver em função dos futuros prováveis.

Palavras-chave: governamentalidade algorítmica; prática discursiva; neoliberalismo;

Machine Learning; Inteligência Artificial; tecnologias preditivas.

Introdução

O desenvolvimento e a criação das tecnologias da informação, a partir do último

quarto do século XX, ocorreu em um cenário neoliberal. Como um regime de verdade
avassalador, o neoliberalismo pode ser definido como um modo de governar ou uma
governamentalidade que atua pelo Estado máximo na organização de uma sociedade
das empresas. Seu epicentro é a concorrência, mesmo onde ela não exista (FOUCAULT,
2008a). Para alguns, o neoliberalismo conforma uma nova ordem (LAVAL; DARDOT,
2017). Para outros, é a expressão de um novo e intenso processo reprodução do capital
na tentativa de recuperar as taxas de crescimento perdidas após a crise do welfare

1
Este texto é um dos resultados parciais do Projeto de Pesquisa regular, 2017/14412-0, financiado pela FAPESP,
com o título Regulação Algorítmica no setor público: mapeamento teórico e programático. As opiniões,
hipóteses e conclusões ou recomendações expressas neste material são de responsabilidade do(s) autor(es) e
não necessariamente refletem a visão da FAPESP. Foi apresentado no Simpósio da LAVITS (Rede Latino-A-
mericana de Estudos sobre Vigilância, Tecnologia e Sociedade), em 2019. Grande parte dos dados presentes
neste texto foram coletadosfoi coletada pelos pesquisadores de graduação Lucas do Vale Moura (Políticas
Públicas – UFABC) e Lucas Theodoro Guimarães de Almeida (Ciência e Tecnologia – UFABC).

121
state, intensificando os processos de concentração e confisco de renda das camadas
médias e baixas da sociedade (HARVEY, 2007).
Nesse período, os Estados desenvolveram diferentes políticas de uso e houve
a expansão das tecnologias da informação na sociedade e no mercado. Entretanto,
conforme os parâmetros da governamentalidade neoliberal e suas práticas discursivas,
não caberia aos Estados desenvolver tecnologias2. Assim, as políticas tecnológicas são
principalmente originadas nas corporações e nas empresas de consultoria.
Governos Eletrônicos, Data Warehouse, Business Intelligence, Big Data, Transformação
Digital, entre outros, são denominações para arranjos negociais-tecnológicos, originados
fora dos governos, que foram se sucedendo e se disseminam pelos Estados em todo o
planeta como um vírus inoculado pelas consultorias e empresas. Por isso, é possível
encontrar planos similares de Transformação Digital em países tão díspares como a
Inglaterra, Austrália, Canadá e Brasil, dentre outros. Sua estrutura e ideias-força são
similares ou idênticas, mesmo com as grandes diferenças entre a cultura, a economia
e as necessidades de cada país.
Nos últimos anos, principalmente a partir de 2016, “a bola da vez” tem sido
a “digital transformation”, expressão que ganha força e serve de parâmetro para
comparações feitas pelas consultorias e corporações globais para incentivar a adesão
de governos e empresas aos seus produtos. Por exemplo, o Canadá consolidou o Digital
Transformation Office (DTO) como o setor de Comunicações Estratégicas e Assuntos
Ministeriais da Secretaria do Conselho do Tesouro3. A Inglaterra afirma que quer
transformar o governo em uma única plataforma digital, em seu documento de 2017, The
new New Government Transformation Strategy4. A Austrália e seu Minister for Human
Services and Digital Transformation, Michael Keenan, declarou que para acelerar a
transformação digital o governo deve estar aberto aos negócios5. Em 2018, o Brasil
lança o documento Estratégia Brasileira para a Transformação Digital6.
É difícil de não observar a força homogeneizadora das corporações. McKinsey,
Gartner Group, IBM, Microsoft, Amazon, Google, Tecent, Oracle, entre outras, formam
o discurso dos gestores públicos e delimitam as compras do Estado. As consultorias
criam métricas e premiações que fortalecem os produtos e serviços dos chamados
ecossistemas das corporações aliadas. Um produto chama um serviço

2
Obviamente, mesmo os EUA, um dos principais propagadores da doutrina neoliberal, não deixam de aplicar
bilhões de dólares nas suas agências de pesquisa de tecnologia estatais. Um exemplo é a NASA. Todavia, esse
fato não pode ser confundido com as práticas discursivas. Os neoliberais discursam pela entrega das empresas
estatais e dos institutos tecnológicos para o setor privado ou defendem sua extinção.
3
GOVERNMENT of Canada. The Digital Transformation Office (DTO). Disponível em: https://www.canada.
ca/en/government/about/about-digital-transformation-office.html. Acesso em: 30 nov. 2022.
4
CABINET Office, UK. Government Transformation Strategy 2017 to 2020. February 2017. Dispo-
nível em: https://www.gov.uk/government/publications/government-transformation-strategy-2017-to-2020/
government-transformation-strategy. Acesso em: 30 nov. 2022.
5
AUSTRALIAN Government. Digital Transformation Agency. Vison 2025. We will deliver world-leading
digital services for the benefit of all Australians. 2018.
6
MCTIC. Estratégia Brasileira Para a Transformação Digital, 2018. Link:Disponível em: http://www.mctic.
gov.br/mctic/export/sites/institucional/estrategiadigital.pdf. Acesso em: 30 nov. 2022.

122
que puxa outro produto e, assim, sucessivamente, a “fidelização” dos clientes estatais
e corporativos vai se consolidando. Em junho de 2016, o McKinsey Global Institute
lançou o relatório Digital Europe: Pushing The Frontier, Capturing The Benefits, no qual
criou um índice para analisar o avanço da transformação digital na Europa, com a
finalidade de influenciar as autoridades e os técnicos do setor público, o empresariado
e os veículos de comunicação. Ressaltemos duas passagens do relatório:

O que queremos dizer com intensidade digital? É o grau em que a

digitalização impulsiona setores e empresas. O Índice de Digitalização
Industrial do McKinsey Global Institute usa dezenas de indicadores
para fornecer um instantâneo dos ativos, usos e trabalhadores digitais,
e nossas descobertas sobre a Europa são preocupantes. Hoje, a Europa
opera apenas com cerca de 12% do seu potencial digital, em comparação
com os 18% dos Estados Unidos. Além disso, há uma enorme variação
entre os países da Europa: enquanto a França opera com 12% de seu
potencial digital, a Alemanha está com 10% e o Reino Unido com 17%.
(...)[...]
Os líderes empresariais, os decisores políticos nacionais e europeus
e todos os indivíduos têm um papel a desempenhar na aceleração
da transição digital da Europa. As empresas devem avaliar até que
ponto o digital importa para elas e como elas podem transformar seus
modelos de negócios. Eles também devem adaptar suas organizações,
digitalizar suas operações e promover a inovação aberta ao longo do
caminho. Os governos devem estar ativos em três frentes: destravando
investimentos e acesso a capital, abrindo fluxos de dados e abordando
questões que envolvem habilidades e o mercado de trabalho. Em última
análise, eles terão que gerenciar a transição social e econômica trazida
pela digitalização, inclusive mitigando seu impacto no deslocamento
de empregos. Finalmente, os indivíduos precisam desenvolver suas
habilidades e abraçar a flexibilidade e as novas oportunidades que
a digitalização lhes oferece7. (MGI, 2016).

Quando analisamos a expansão dos discursos e regimes discursivos sobre as

tecnologias, também é preciso considerar instituições internacionais como o Banco
Mundial (WB), a Organização para a Cooperação e Desenvolvimento Econômico (OCDE)
e o Fórum Econômico Mundial (WEF). Recentemente, em fevereiro de 2019, um o
relatório denominado Platforms and Ecosystems: Enabling the Digital Economy, nos
indica como os formuladores das tendências tecnológicas estão pensando os rumos
da digitalização. Corroborando com as análises de Nick Srnicek, o WEF considera que
vivemos um momento de predomínio da economia de plataforma:

A Quarta Revolução Industrial é possibilitada por novas tecnologias físicas e

digitais com aplicabilidade quase ilimitada ilimitada –- e enormes implicações

7
O Relatório do MGI pode ser encontrado, em inglês, no seguinte endereço eletrônico: https://www.mckinsey.
com/business-functions/digital-mckinsey/our-insights/digital-europe-realizing-the-continents-potential . O
acesso ocorreuAcesso em: 10 maio 2019. 10/05/2019.
123
 para a economia e a sociedade. Novos modelos de negócios estão sendo
alavancados não apenas por organizações emergentes, mas também por
entidades tradicionais, que as veem como complementares a modelos bem
estabelecidos ou como potenciais substitutos de seus principais negócios.
A subsequente ruptura econômica foi de fato revolucionária. Em poucos
anos, o ranking das empresas mais valiosas por
capitalização de mercado mudou totalmente e está dominado por um modelo
de negócio – - plataformas digitais e seus ecossistemas.
O Fórum Econômico Mundial lançou a iniciativa Plataformas Digitais e
Ecossistemas não apenas porque é um tópico em quase todas as agendas
do conselho corporativo, mas também porque os modelos de plataforma
digital já dominam nosso dia a dia e nossas experiências como consumidores,
funcionários, membros da comunidade e cidadãos . Considerando as implicações
dos modelos de plataforma e ecossistema para a sociedade, bem como as
oportunidades e riscos que poderiam apresentar no futuro, parece óbvio visar
uma ampla colaboração entre os setores público e privado, entre empresas
gigantes e start-ups, e com grupos de defesa dos direitos dos consumidores
e da sociedade civil. (WEF, 2019, p. 5).

No livro Platform Capitalism (2016), Nick Srnicek havia constatado que uma
economia de dados em um cenário neoliberal tornaria o modelo de negócios baseado
nas plataformas altamente viável. As plataformas são intermediárias entre aqueles
que tem têm um produto ou serviço a oferecer e aqueles que precisam do que será
oferecido. São estruturas de intermediação que passam a obter dados fundamentais
sobre o mercado em que atuam. Assim, podem estruturar melhor as ofertas e atingir de
modo bem mais preciso a demanda. Como o documento do WEF deixou claro, “A Uber
não possui carros. O Airbnb não possui quartos. O Facebook não produz seu próprio
conteúdo” (WEF, 2019, p. 8). A força da plataforma vem do efeito de rede que gera.
Quanto mais é utilizada, mais valor gera. Quanto mais concentra as atenções, mais
visitas gera, mais dados são coletados de quem dela participou e de quem desistiu
de participar.
As plataformas são vorazes coletoras de dados. Elas organizam velhos e novos
mercados e, como intermediárias das transações e dos relacionamentos, obtêm dados
das interações. As plataformas são gerenciadas por algoritmos. Devido às dimensões
que adquiriram, por causa da velocidade e do volume de transações que realizam, seria
impossível um gerenciamento humano. Não há como gerenciar tantas interações, realizar
tantos negócios e coletar tantos dados sem a presença dos sistemas automatizados
cujo coração são os algoritmos. O modelo das plataformas se tornou paradigmático
e os dados ganharam ainda mais valor, tornaram-se os insumos fundamentais para
o capitalismo atual.
Quais discursos estão sendo produzidos sobre o mundo operado por algoritmos?
Os dados da população e o conhecimento estatístico já eram importantes na constituição
da biopolítica durante o capitalismo liberal (FOUCAULT, 2008b, 365). No atual cenário
neoliberal, a estatística adquiriu outras possibilidades, ao encontrar as tecnologias
da informação, as redes digitais, a crescente capacidade de captura, o processamento
e o armazenamento dos dados. O biopoder é a base do que Zuboff denominou de
capitalismo de vigilância (ZUBOFF, 2015). Esse poder sobre a vida depende de uma
grande capacidade de análise ou de um poder de análise. Para tal, os sistemas algorítmicos

124
são imprescindíveis. Os indícios levam-nos à hipótese de que seus efeitos expostos ou
almejados possuem objetivos e finalidades performativas, formatadoras e moduladoras
de ações sociais, processos políticos e instituições.

Algoritmos nunca agem sozinhos

Nos últimos anos, seja pelos agentes do mercado ou por funcionários da administração
pública, os algoritmos surgem nos discursos relacionados a uma das três expressões:
Big Data, Machine Learning e Inteligência Artificial (I.A.). E com essas tecnologias, os
algoritmos são exibidos como motores ou como componentes de softwares, quase
nunca estando isolados.
Para compreender melhor o discurso corporativo, foram coletados, e analisados
textos de empresas, instituições estatais, interestatais e não- governamentais, que
tratam das três expressões. Para fugir do modelo de relatório científico, propositalmente
foram deixados de fora os detalhes de cada documento analisado, utilizando citações
ou referências indispensáveis para a explanação das práticas discursivas sobre a
reprogramação algorítmica da sociedade. Para uma melhor compreensão deste texto,
é necessário definir as três expressões.
Big Data pode ser compreendido como uma expressão para as novas infraestruturas
capazes de lidar com grande volume de dados heterogêneos, estruturados ou não,
capturados, processados e analisados em grande velocidade. Não há uma única definição,
mas existem elementos integrantes dos enunciados aceitos sobre que trabalham com
a abundância de dados e que são caracterizadas por três palavras iniciadas com a letra
“v”: volume, variedade, velocidade. Mais recentemente se agregou a elas mais duas
palavras: valor e veracidade.
No relatório da Organização para a Cooperação e Desenvolvimento Econômico
(OCDE), intitulado ‘A brief history of everyone should read’, o autor Bernard Marr
afirma que a expressão ‘Big Data’ apareceu pela primeira vez na forma como é utilizada
atualmente em um artigo da Harper’s Magazine, no qual o escritor Erik Larson escreveu
sobre a origem do lixo eletrônico que recebia. Em 1999, o paper “Visually Exploring
Gigabyte Datasets in Real Time”, publicado pela Association for Computing Machinery,
trazia a expressão para lamentar a propensão para de armazenar grandes quantidades de
dados sem nenhuma maneira de analisá-los adequadamente. Em 2001, com a publicação
do artigo “3D Data Management: Controlling Data Volume, Velocity and Variety”, Doug
Laney, analista do Gartner Group, vai definirdefine as três das características definidoras
do , os três “Vs”. Segundo Pedro Domingos, a expressão se popularizou definitivamente
com a publicação do Relatório de 2011 do McKinsey Global Institute, institulado: The
Next Frontier for Innovation, Competition, and Productivity (Domingos, 2015, p. 298).
A expressão Inteligência Artificial é mais difícil de definir. Em suas diversas
acepções, encontramos a ambiciosa tentativa de compreender e reproduzir a cognição
humana. Para Nills Nilson, a Inteligência Artificial é a atividade dedicada a tornar as
máquinas inteligentes, sendo a inteligência, a qualidade que permite uma entidade
funcionar apropriadamente e com capacidade de previsão em seu ambiente (NILSSON,
2009, p. 1). Nessa perspectiva, a Inteligência Artificial pode ser igual ou superior a
à inteligência humana. Warren McCulloch e Walter Pitts, em 1943, apresentaram o
125
primeiro trabalho reconhecido como de Inteligência Artificial. Sugeriram um modelo
de neurônios artificiais que estariam ligados ou desligados. Um neurônio alteraria seu
estado conforme os estímulos dos outros neurônios. McCulloch e Pitts defenderam que
qualquer função computacional poderia ser realizada “por alguma rede de neurônios
conectados e que todos os conectivos lógicos (e , ou, não, etc.) poderiam ser implementados
por estruturas simples de redes” (RUSSELL; NORVIG, 2010, p. 16). A Figura 1 mostra
as expectativas e algumas definições importantes da Inteligência Artificial.

Figura 1: Algumas definições de Inteligência Artificial, organizadas em quatro categorias

Sistemas que
pensam como Sistemas
humanos que pensam
"O empolgante novo esforço para fazer os
racionalmente
computadores pensarem ... máquinas com mentes,
no sentido pleno e literal.” (HAUGELAND, 1985). “O estudo das faculdades mentais através do uso
de modelos computacionais” (Charniak; e
"[[A automação de] atividades que associamos ao McDermott, 1985).
pensamento humano, atividades como tomada de
decisões, resolução de problemas, aprendizado ..." "O estudo das computações que possibilitam
...” (BELLMAN, 1978). perceber, raciocinar e agir” (WINSTON, 1992).

"A arte de criar máquinas que executam funções “Inteligência Computacional é o estudo do design
Sistemas que que exigem inteligência quando executadas por de agentes inteligentes”. (POOLE et al., 1998).
pessoas” (KURZWEIL, 1990).
agem como “AI. . .... está preocupado com o comportamento
"O estudo de como fazer computadores realizar inteligente em artefatos”. (NILSSON, 1998).
humanos coisas que, no momento, as pessoas fazem melhor”
(RICH and; KNIGHT, 1991).
Sistemas
que agem
racionalmente

Fonte: RUSSELL, Stuart J.; NORVIG, Peter. Artificial intelligence: a modern approach.
Upper Saddle River: Prentice Hall, 2010, pg p. 2. (Recombinação com edição de 1999.)

Machine Learning, ou aprendizado de máquina, é uma área da Inteligência Artificial

que se desenvolveu consideravelmente nos últimos anos. Em 1959, o engenheiro
do MIT Arthur Samuel descreveu o aprendizado de máquina como um “campo de
estudo que dá aos computadores a capacidade de aprender sem serem programados
explicitamente” (BERNARD, 2017, on-line). No mesmo artigo, What does Machine
Learning actually Actually meanMean?, publicado pelo World Economic Forum,
Bernard alerta que a Inteligência Artificial e o aprendizado de máquina geralmente
são confundidos. Entretanto, “a Inteligência Artificial refere-se à capacidade de uma
máquina de realizar tarefas inteligentes, enquanto a aprendizagem de máquina se
refere ao processo automatizado pelo qual as máquinas extraem padrões significativos
nos dados” (BERNARD, 2017, on-line).

126
 Sempre ligados a uma estrutura de dados, os algoritmos são os operadores do Big
Data, do Machine Learning e da Inteligência Artificial. Algoritmos são utilizados para
fazer cálculos, para traduzir um idioma por outro, para controlar os semáforos de uma
cidade fazendo o trânsito fluir melhor, para comprimir uma música em bits para que
possa ser enviada mais rapidamente pela internet. Também podem analisar milhões
de imagens em busca da identificação de um rosto, entre diversas outras aplicações.
O conceito de um algoritmo é uma das principais ideias da cibernética e da ciência
da computação. Tarleton Gillespie escreveu que os algoritmos são frequentemente
definidos como “procedimentos codificados” ou “com base em cálculos específicos,
transformam dados em resultados desejados” (2018, p. 97). São regras, finitas e não-
ambíguas, que partem de dados para produzir um produto, uma resposta, uma solução.

Os algoritmos estão crescendo em diversidade e aplicação à medida que os governos

mudam para a tomada de decisões baseadas em evidências. Com montanhas de
dados esperando para serem exploradas e a poderosa capacidade dos algoritmos
de fazer previsões e recomendações estatísticas, não é surpresa que os atores do
setor público estejam recorrendo a algoritmos para resolver problemas complexos
nos limites da tomada de decisões em humanos. (WORLD Wide Web Foundation,
2017, p. 6).

Os discursos sobre os algoritmos de Machine Learning, alimentados pelo Big Data,

estão prometendo encontrar uma maneira de prever o comportamento futuro de pessoas,
populações, e das classes de eventos, sejam culturais, econômicos, sociais ou políticos.
Vivemos uma nova fase do biopoder na sociedade de controle, que encontrou tecnologias
preditivas jamais vistas, que colocam as ciências da probabilidade e da predição em outro
patamar.

Economia de dados e poder de análise

Os documentos da OCDE geralmente refletem uma ampla concordância entre os

líderes dos países desenvolvidos e as maiores corporações globais, visando influenciar
as políticas governamentais. O relatório ‘Data-Driven Innovation: Big Data for Growth
and Well-Being’, lançado em 2015, propõe uma série de recomendações baseadas
em uma análise da realidade econômica e tecnológica mundial. A inovação deve ser
orientada pelos dados coletados, armazenados e analisados. Mais do que isso, a verdade
discursiva indica que não será mais possível inovar sem a análise de Big Data.

A análise de Big Data, cada vez mais em tempo real, está impulsionando
o conhecimeno e a criação de valor em toda a sociedade; fomentar novos
produtos, processos e mercados; estimulando inteiramente novos modelos
de negócios; transformar a maioria, se não todos os setores, nos países da
OCDE e nas economias parceiras; e, assim, aumentar a competitividade
econômica e o crescimento da produtividade. (OCDE, 2015, p. 20).

O objetivo final da ampla e persistente coleta de dados é aumentar a competitividade

econômica e o crescimento da produtividade. Tais finalidades corroboram enormemente
com a doutrina neoliberal. Dados variados e massivos são indispensáveis fontes para

127
o funcionamento dos algoritmos de Machine Learning, de redes neurais e dos demais
tipos de Inteligência Artificial, que devem servir a “inovação orientada por dados”.
Sem dúvida, objetivos gerais, como a melhoria das condições de vida da população
e do bem- estar social, são apontados com destaque no conjunto dos documentos e
relatórios de organizações internacionais, principalmente da OCDE, mas as recomendações
que implicam em práticas efetivas de baixo custo de implementação são, quase que
integralmente, benéficas às corporações.
Fatores negativos ou riscos são relatados na quase totalidade dos textos dos
organismos internacionais e governos, tais como o problema da privacidade e as possíveis
injustiças originadas no viés algorítmico, além de destacar a necessidade de enfrentar
as profundas mudanças no mercado de trabalho e na Educação. Todavia, é comum
que dois enunciados apareçam como as primeiras preocupações: “as barreiras ao livre
fluxo de dados”, “erosão da base e da transferência de lucros” (OCDE, 2015, p. 21).
Caso não seja possível extrair dados das populações de países menos desenvolvidos,
como os situados na Ásia, África, Leste Europeu e América Latina, para as corporações
dos países líderes no capitalismo de dados, o sistema enfrentaria, sem dúvida, uma
perda de rentabilidade. Isso se deve à redução potencial de processamento de dados
de quase 3 bilhões de pessoas e de seus dispositivos.
Evitar um controle tributário maior aos detentores das plataformas se torna
uma preocupação das consultorias e dos Estados-sede dos gigantes informacionais.
O ecossistema de dados teria uma natureza globalmente distribuída, uma extrema
interconexão e interdependências de seus atores, tecnologias e recursos. Assim, os
consultores advogam que uma tributação agressiva das multinacionais de dados
poderia minar a inovação. Por outro lado, os discursos da OCDE incorporam a crítica
da conhecida prática de muitas corporações de transferência artificial de lucros para
países com baixa tributação, nas quais pouca ou nenhuma atividade econômica é
realizada.
O capitalismo neoliberal se estruturou nos últimos anos em modelos de negócios
que dependem do livre fluxo de dados. A maior expressão do empreendimento
capitalista, atualmente, são as plataformas e os dados são seu sistema circulatório,
seu coração. O livre fluxo de dados é apresentado como um importante elemento da
competição global e da queda de barreiras de entrada às pequenas e médias empresas
de tecnologia. O bloqueio ou a forte regulamentação da extração de dados de um país
não integram o discurso dos consultores e dos agentes dos organismos internacionais,
sendo apresentados como medidas contrárias ao comércio, à concorrência e à inovação
dirigida pelos dados. O poder ou a capacidade de análise de uma corporação depende
da capacidade de obter uma vasta e diversificada base de dados do mercado em que
atua. Os algoritmos de I.A. não podem aprender sem a abundância de dados.
Em uma resposta oficial do Governo Britânico à Câmara dos Lordes, ficou claro
a preocupação com o poder de coleta e análise de dados bem maior das grandes
empresas e plataformas norte-americanas, ao afirmar que seria extremamente difícil
para as pequenas e médias empresas do país competirem com essas corporações
(GOVERNMENT response, 2018, p. 8). Sinais da grande assimetria no mundo dos
dados e das tecnologias de inteligência também podem ser sentidos na França. Um
importante documento sobre a IA na França, o Relatório Villani, traz a clara menção

128
de que “a França e a Europa já podem ser consideradas ‘cibercolônias’ em muitos
aspectos” da economia de dados e das tecnologias de I.A.” (VILLANI, 2018, p. 6) .
A colônia digital, a cibercolônia, pode ser entendida como a metáfora de um
país ou região que não é capaz de proteger seus dados, de armazená-los, de processá-
los e analisá-los com tecnologias de I.A., de Machine Learning. Nessas regiões, sem
poder de análise, sem infraestruturas adequadas de armazenamento de dados, sem
tecnologias inteligentes, as elites e empresas locais, ao buscarem os menores custos
de hospedagem e de tratamento de seus dados, acabam os entregando-os às matrizes
tecnoeconômicas da atualidade, aos Estados Unidos e à China.

Viés Algorítmico, responsabilização e regulação

Os folders e os papers das consultorias, os relatórios de grandes empresas, como

Microsoft e IBM, os planos de I.A. dos governos reconhecem, de modo variado, o
chamado viés algorítmico. Esse é um dos principais temas tanto da literatura acadêmica
(DIAKOPOULOS, 2014; BAROCAS; SELBST, 2016; ROUVROY; STIEGLER, 2016); quanto
das ONGs envolvidas no debate tecnológico, tais como, a Electronic Frontier Foundation
(EFF), a Electronic Privacy Information Center (EPIC) ou The Algorithmic Justice League,
entre outras. Existem diversos casos relatados de preconceito racial relacionados ao
modo como os algoritmos de aprendizado de máquina foram “treinados” ou sobre como
captou o padrão de uma base de dados racista, que foi utilizada e reproduzida. Também
podem existir falhas e equívocos nos modelos dos algoritmos ou nas codificações de
alguma linguagem de programação.
Gillespie escreveu que a suposta objetividade algorítmica é apresentada como
uma arma contra as controvérsias, além de poder mascarar seus possíveis equívocos
(GILLESPIE, 2018, p. 98). Casos como o do software Compas, utilizados pela Justiça norte-
americana para definir as penas de condenados conforme as projeções de reincidência
criminal, demonstram que há riscos do preconceito ser ampliado e reproduzido pelo
algoritmo (ANGWIN; LARSON; MATTU; KIRCHNE, 2016).

(…) o poder algorítmico não é necessariamente prejudicial para as pessoas;

Ele ele também pode atuar como uma força positiva. A intenção aqui não é
demonizar algoritmos, mas reconhecer que eles operam com vieses como
o resto de nós. E eles podem cometer erros. O que geralmente falta para o
público é a clareza sobre como os algoritmos exercitam seu poder sobre nós.
Com essa clareza, surge uma capacidade crescente de debater e dialogar
publicamente sobre os méritos de qualquer poder algorítmico específico.
Enquanto códigos legais estão disponíveis para nós, códigos algorítmicos
são mais opacos, escondidos atrás de camadas de complexidade técnica.
Como podemos caracterizar o poder que vários algoritmos podem exercer
sobre nós? E como podemos entender melhor quando os algoritmos podem
estar nos prejudicando? (DIAKOPOULOS, 2014, p. 2).

Em 2011, um algoritmo da Amazon elevou o preço do livro de Biologia, The Making

of a Fly, a estratosférica quantia de US$ 23,698,655.93 (COUTS, 2011). O algoritmo
estava programado para ajustar automaticamente o preço dos livros de um vendedor
da plataforma (Profnath) em função dos preços de um outro vendedor (Bordeebooks).

129
Sem limites corretamente fixados, o algoritmo iniciou uma competição entre os dois
vendedores e foi escalando os preços. O algoritmo não tinha uma correta delimitação,
nem verificava a razoabilidade e a viabilidade econômica dos preços definidos. O erro
foi corrigido. O caso não era grave, pois ninguém adquiriu um exemplar por mais de
23 milhões de dólares. Todavia, o caso alertou os pesquisadores e desenvolvedores.
Os discursos das corporações, consultorias e governos incorporaram a dimensão do
viés e do erro muito ligadas a à necessidade de confiabilidade dos sistemas algorítmicos.
O argumento baseado no fato de que as pessoas cometem erros e, portanto, algoritmos
também cometerão, não tem avançado, talvez devido à responsabilização, à reputação
e à confiança que se estrutura em torno de agentes humanos. Assim, a existência do
viés e do erro exigem procedimentos e a necessidade de reparos, de prazos, de aferição
da extensão dos equívocos, de indenizar possíveis prejuízos e sanar injustiças.

Às vezes, o viés pode ser introduzido por meio dos dados nos quais os algoritmos
baseados em redes neurais são treinados. Em julho deste ano [2016], por
exemplo, Rachael Tatman, bolsista de pesquisa de pós-graduação da National
Science Foundation no Departamento de Linguística da Universidade de
Washington, descobriu que o sistema de reconhecimento de voz do Google
funcionava melhor para vozes masculinas do que para as femininas. Ela atribuiu
esse resultado aos ‘conjuntos “conjuntos de treinamento desequilibrado’
desequilibrado” com uma preponderância de vozes masculinos. Como
Tatman observou, algumas legendas incorretas do YouTube não causarão
nenhum dano, mas vieses semelhantes de reconhecimento de fala em carros
autônomos, por exemplo, seria uma questão completamente diferente. (HOW
to implement AI and Machine Learning, 2016, p. 5).

Em 10 de maio de 2018, a Casa Branca sediou a cúpula da Inteligência Artificial

para a indústria norte-americana, reunindo mais de 100 altos funcionários do governo,
especialistas técnicos das principais instituições acadêmicas, chefes de laboratórios de
pesquisa industrial e líderes empresariais. O principal objetivo do encontro foi propor
ações para manter a liderança mundial dos EUA na era da I.A. O relatório final trouxe
uma breve menção aos problemas de privacidade e segurança das informações. Seu
foco era a eficiência e a remoção das barreiras à inovação, o que incluí a minimização
e até a recusa da necessidade de regulamentação do Machine Learning e da IA.

Regulamentações excessivamente onerosas não impedem a inovação, apenas

a transferem para o exterior. Os participantes desta sessão abordaram a
importância de manter a liderança americana em IA, em tecnologias emergentes
e de promover a colaboração em P&D da I.A. entre os aliados dos Estados
Unidos. Os participantes também levantaram a necessidade de promover
a conscientização sobre a I.A., para que o público possa entender melhor
como essas tecnologias funcionam e como elas podem beneficiar nossas
vidas diárias. (THE WHITE House Office, 2018).

O discurso considerado correto e ponderado sobre a I.A., o Machine Learning

e as redes neurais, reconhece a possibilidade de viés e falhas, mas ameniza suas
consequências. O importante é abrir os caminhos para a inovação. Esta seria impedida
por amarras legais ou sociais que viriam com a regulamentação precoce. Algumas
iniciativas empresariais, que reprovam veementemente a regulação e a regulamentação
130
dessas tecnologias, propõem que empresas e governos assumam uma postura ética.
Por exemplo, em dezembro de 2015 foi criada a Open AI8 pelo empresário Elon Musk e
outros dirigentes de corporações tecnológicas. Sua missão é “garantir que a Inteligência
Artificial beneficie toda a humanidade”9. Em setembro de 2016, as megacorporações
Google, Amazon, Facebook, IBM e Microsoft criaram a Partnership on AI, que pretende
apoiar pesquisas e melhores práticas para a conscientização pública sobre a A.I.
Seus pilares temáticos são a A.I. justa, transparente e responsável, com benefícios
sociais com e geração de trabalho. A Partnership on AI propõe “onde a AI substituir
a tomada de decisões humanas, devemos ter certeza de que as decisões de máquina
serão seguras, confiáveis e alinhadas com a ética e com as preferências das pessoas
que são influenciadas por suas ações”10.
O discurso da ética é assumido por praticamente todas as plataformas, consultorias,
empresas, governos e ONGs. Não há ninguém contrário que ao desenvolvimento
das tecnologias de modo ético. Os princípios éticos ainda não são consensuais, mas
começam a ser desenhados. A necessidade de transparência, explicabilidade, segurança,
responsabilidade pelos efeitos e justiça contra discriminações socialmente inaceitáveis,
estão presentes em boa parte dos discursos. Esse cenário nos remete a importante
reflexão de Langdon Winner, que nos permite compreender o contexto em que se
dissemina a preferência pelo debate ético:

A falta de qualquer identidade coerente com o ‘público’ ou de canais

legítimos e bem organizados para a participação pública contribui para
duas características distintas dos debates políticos sobre tecnologia, (1)
rituais fúteis de consultoria especializada e (2) intermináveis desacordos
sobre quais escolhas são moralmente justificadas. (WINNER, 1995, p. 185).

Diante da inevitabilidade das tecnologias, de sua “força sobre-humana”, da ideia

de que elas sempre resultarão no progresso e em melhorias, restaria debater o seu
uso de modo ético. A verdade discursiva coloca fora de questão outro tipo de demanda
que implique na restrição ou em limitações às tecnologias.

Opacidade e explicabilidade

As redes neurais, também conhecidas como redes neurais artificiais, são inspiradas
no modo como se acredita-se que o cérebro humano está estruturado. É composta de
“nós” ou ““neurônios artificiais”, ”, conectados em camadas, uma de entrada e outra
de saída, e uma ou mais camadas intermediárias, que são conhecidas como camadas
ocultas. Os nós atribuem valor aos dados, ou seja, eles recebem pesos e limites quando
o seu algoritmo é treinado. Os nós realizam operações matemáticas relativamente
simples, mas, após o treinamento que recebem, podem criam soluções não previstas

8
Open AI. Disponível em:: https://openai.com/. Acesso em: 30 nov. 2022.
9
Disponível em: https://openai.com/about/. Acesso em: 30 nov. 2022.
10
PARTNERSHIP on AI – -Thematic Pillars. Disponível em: : https://www.partnershiponai.org/about/.
Acesso em: 30 nov. 2022.
131
para se obter os resultados esperados.
Reconhecimento de imagem, de voz, tradução automática, soluções para a
compreensão de linguagem natural, em geral, são realizadas pelos algoritmos de rede
neurais. São um dos principais exemplos das chamadas caixas pretas. Uma vez treinados
e colocados em operação, dificilmente será possível tornar compreensível como seus
resultados foram gerados. Desse modo, suas as operações não são explicáveis, não
podem ser desvendadas. Tal fato, tem sido apontado como um dos maiores obstáculos
para a confiança nesses sistemas algorítmicos.
Em meio a uma grande controvérsia, duas reações radicalmente opostas estão
em curso, entre tantas outras intermediárias. A primeira aceita a opacidade desses
algoritmos, mas não aceita suas consequências sociais, judiciais e econômicas. A
segunda busca criar soluções para dissipar a obscuridade, tais como sugerir modelos
de desenvolvimento explicáveis. Um dos grandes exemplos da primeira solução é a
proposta de criação de uma nova figura jurídica, a chamada pessoa eletrônica. Um
exemplo da segunda é o projeto XAI (Explainable Artificial Intelligence) da Defense
Advanced Research Projects Agency (DARPA), agência ligada ao Departamento de Defesa
norte-americano.
A pessoa eletrônica aparece como uma solução diante da opacidade e inexplicabilidade
da Inteligência Artificial. Ela estreia com relativa repercussão, no parágrafo 59, da
recomendação à Comissão Europeia sobre as Regras do Direito Civil sobre Robótica:

Criar um status legal específico para robôs no longo prazo, de modo que pelo
menos os robôs autônomos mais sofisticados possam ser estabelecidos como
tendo o status de pessoa eletrônica responsável por remediar qualquer dano
que possam causar e, possivelmente, aplicando personalidade eletrônica
aos casos em que os robôs tomam decisões autônomas ou interagem com
terceiros de modo independente. (PROPOSTA de Resolução do Parlamento
Europeu, 2017).

A ideia principal da criação de um status jurídico para algoritmos, sistemas e

robôs baseados na imprevisibilidade e impossibilidade de prever todas suas operações
é a desresponsabilização das corporações que o desenvolvem. Dezenas de cientistas,
filósofos e intelectuais assinaram a Open Letter To The European Commission Artificial
Intelligence And Robotics, em que se opõem frontalmente à criação dessa figura por
distorcer e superdimensionar as reais capacidades da I.A., pelo grave equívoco ético
de transformar máquinas em humanos e por despreparar a sociedade para os desafios
tecnológicos.
Em sentido oposto, o projeto XAI busca criar um conjunto de técnicas de aprendizado
de máquina para gerar modelos explicáveis que não reduzam o nível de desempenho
do aprendizado profundo das redes neurais. O propósito é desenvolver metodologias
de desenvolvimento que terão a capacidade de esclarecer o seu raciocínio, mostrar seus
pontos fortes e fracos. O programa tem como produto final uma série de bibliotecas e
módulos que poderão ser usados para desenvolver futuros sistemas de I.A. explicáveis.

132
Neoliberalismo: Concorrência e eficiência exigem a predição

O cenário aqui descrito aponta para o emprego dos algoritmos de Machine Learning
e outros variantes da I.A. em todos os segmentos da economia e da administração
privada e pública, obviamente de modo assimétrico e com ritmos distintos. As exigências
da competição intercapitalista e do novo cenário geopolítico global em que os EUA
enfrentam a grande capacidade tecnológica chinesa, trazem consequências profundas
para o conjunto das sociedades submetidas ao neoliberalismo.
A análise inicial dos folders empresariais e documentos governamentais sobre Big
Data, Machine Learning e Inteligência Artificial sugere a supremacia das plataformas
digitais, gerenciadas por algoritmos que travam uma guerra pela matéria-prima essencial
para alimentar seus sistemas, ou seja, os dados pessoais ou de máquinas.

Nas competições por dados cada vez mais intensas haverá outra competição
para o estabelecimento de uma plataforma para obter dados coletados de
sensores das várias atividades na vida real. Nesse caso, os robôs formarão o
núcleo em uma plataforma de coleta de dados no futuro devido ao seu enorme
potencial de utilização em todos os campos da sociedade. Eles funcionarão
como um dispositivo fundamental para vencer a concorrência na coleta de
dados em uma sociedade orientada por dados. (THE HEADQUARTERS for,
2015, p. 15).

A segunda constatação é a de que as grandes plataformas se empenham em

criar frameworks ou estruturas de maneira mais amigável possível, para que qualquer
pequena ou média empresa possa utilizar os serviços de I.A., sem ter que desenvolver
nenhum código ou algoritmo. O indispensável será apenas entregar os dados de seu
negócio e dos seus clientes às plataformas. ““Há uma corrida armamentista entre
provedores de nuvem pública para criar os melhores recursos de aprendizado de
máquina para empresas”” (SPECIAL Report, 2016, p. 23).
Um dos mais destacados exemplos vem da Amazon Machine Learning (AML), que
propicia às empresas um acesso fácil e altamente escalável para interpretar dados.
Integrada à Amazon Web Services (AWS), a AML oferece interfaces visuais e análises
de fácil acesso para tornar o aprendizado de máquina acessível aos desenvolvedores
sem experiência em Ciência de Dados. Segundo a Amazon, a plataforma pode ““gerar
bilhões de previsões diariamente, em tempo real e com alto rendimento”” (SPECIAL
Report, 2016, p. 12).
A Microsoft também aposta fortemente em popularizar a Inteligência Artificial
com base nos serviços de aprendizado de máquina oferecidos pela sua plataforma
de nuvem Azure. Para a corporação, a Azure é o pilar central da reinvenção contínua
da Microsoft como uma empresa em nuvem. “A Microsoft entende que, no futuro, os
aplicativos terão inteligência e, assim, eles precisam ser capazes de agir estrategicamente.
Este não é um investimento casual, é um investimento pesado” (SPECIAL Report,
2016, p. 22).”
A adesão da sociedade ao Machine Learning é facilitada a tal ponto que os
consultores discursam que as organizações que não querem ou não sabem treinar
seus próprios modelos de aprendizado de máquina podem usar o Azure Cognitive
Services. Assim, a Microsoft oferece um conjunto de serviços, via web, sob demanda
133
para o processamento de fala, visão, linguagem natural e conhecimento que podem
ser incorporados em aplicativos e bots. A ideia da Microsoft e demais plataformas é a
de que as pessoas não devem perder tempo e dinheiro desenvolvendo sua inteligência.
A inteligência passa a ser o serviço da plataforma, só será necessário contratá-los e
entregar os dados de seu negócio. Essa operação promete ser mais econômica.
O Grupo Alphabet, holding do Google, possui um portfólio de aprendizado de
máquina que inclui uma variedade de serviços e ferramentas em nuvem. Em 2015,
o Google decidiu acelerar a expansão de seus serviços de I.A. e abriu sua própria
biblioteca de aprendizado de máquina chamada TensorFlow. Com isso, o TensorFlow
se tornou o aprendizado de máquina mais popular no repositório de software GitHub,
com contribuições e melhorias vindas principalmente de fora do Google. O serviço de
nuvem do Google lançou um conjunto dedicado de interfaces de programação (APIs)
abertas aberto ao público, com base nos em modelos de aprendizado de máquina pré-
treinados destinados a fornecer aos desenvolvedores o acesso a serviços cognitivos
de alta qualidade. O conjunto de interfaces inclui as APIs Translation, Cloud Vision,
Natural Language, Speech e Jobs. De um lado, elas facilitam o trabalho das empresas,
reduzindo custos de pesquisa e criação; de outro, concentram o conhecimento e o
desenvolvimento na plataforma Google (SPECIAL Report, 2016, p. 24).
A IBM também aposta na API aberta para atrair o trabalho de fora da empresa
para a melhoria de sua plataforma, bem como, para aprimorar seus processos de
Inteligência Artificial que dependem de uma grande variedade e volume de dados. A IBM
percebeu que não seria possível construir endogenamente a quantidade de aplicativos
necessários. Então, utilizam as APIs abertas “para atrair e nutrir um ecossistema maior
de desenvolvedores que podem construir muitos aplicativos que a IBM não poderia
desenvolver ela própria” (SPECIAL Report, 2016, p. 26).
A terceira constatação é que a competição entre as plataformas e a luta pela
fidelização de grandes contingentes da população no uso de Machine Learning está
reconfigurando as práticas cotidianas para um cenário de primazia das tecnologias de
predição11. Vivemos cada vez mais para saber o que ocorrerá no momento seguinte.
O poder de análise foi se transformando em sinônimo de capacidade de predição. As
verdades discursivas indicam que as empresas devem se digitalizar e se preparar
para utilizar o Machine Learning diante da intensa concorrência. Ser apto a vencer a
concorrência é o ethos do sistema econômico.

Prevemos um futuro em que o aprendizado de máquina oferece benefícios em

muitos setores diferentes. O próximo passo é criar modelos de aprendizado
de máquina mais detalhados e personalizados para casos específicos de uso
do setor. Esperamos continuar a construir nosso portfólio e serviços para
todos… ... afirmou Rob Craft, líder de produto do Google Cloud para o Cloud
Machine Learning (SPECIAL Report, 2016, p. 26).
(…)
Andrew Ng, vice-presidente e cientista-chefe da Baidu está otimista sobre
o futuro da IA. ‘… “… Acho que a Inteligência Artificial nos alivia de muito

Essas habilidades preditivas dependem de complexos arranjos tecnocientíficos e são completamente assi-
11

métricas.
134
 trabalho mental, assim como a revolução industrial nos livrou de muito
esforço físico’. (SPECIAL Report, 2016, p. 29).

As práticas discursivas do aliviar e do aprimorar o trabalho mental cada vez

mais apontam para a transferência de determinadas atividades da inteligência para
as corporações. Há uma noopolítica em curso, uma tecnopolítica de controle de
determinadas atividades do cérebro. Maurizio Lazzarato escreveu que a noopolítica
se exerce “em primeiro lugar sobre a atenção, para controlar a memória e sua potência
virtual. A modulação da memória será então a função mais importante da noopolítica”
(LAZZARATO, 2006, p. 86). As poderosas plataformas operadas e gerenciadas pelos
algoritmos de Machine Learning, das redes neurais e de I.A., nos modelos de negócios
neoliberais, servem também para justificar a entrega para as corporações de importantes
funções do raciocínio, por serem mais velozes e bem menos onerosas do que nossos
próprios esforços pessoais, locais ou nacionais. Os discursos propõem como verdade
a necessidade de cada vivente prever e dominar o futuro. Isso só será acessível, no
tempo e nos custos exigidos, pelo uso da infraestrutura algorítmica das plataformas.
De certo modo, e também nesse sentido, Byung-Chul Han acredita que a mineração
de dados, uma das técnicas mais empregadas no universo do Big Data, torna visíveis
os modelos de comportamento coletivo e também as dinâmicas psicológicas a partir
de suas expressões digitais. Por isso, Han defende que o biopoder foi superado em
eficiência por um psicopoder “que vigia, controla e influencia o ser humano não de
fora, mas sim a partir de dentro”. […] “A sociedade digital da vigilância, que tem acesso
ao inconsciente- coletivo, ao comportamento social futuro das massas, desenvolve
traços totalitários. Ela nos entrega à programação e ao controle psicopolíticos” (HAN,
2018, p. 134).
As tecnologias de predição estão salvando vidas quando conseguem evitar doenças.
Estão permitindo atuar de modo mais incisivo na segurança pública e na prevenção
de fraudes, entre outros exemplos. Mas transformam probabilidades em verdades
absolutas. Praticamente buscam converter as incertezas em certezas, submeter o
imponderável ao calculável, o aleatório ao previsível. O futuro está sendo antecipado
e o presente vai perdendo sentido, exceto se for o tempo gasto para antever, pressentir,
presumir o que virá. Mas, o uso da I.A. nessa direção não é originado em sua natureza
técnica, mas pelas exigências do neoliberalismo, que quer transformar a sociedade
em um aglomerado de empresas em intensa competição.

135
Referências
AI FORUM NEW ZEALAND (2018). Artificial Intelligence: Shaping a Future New Zealand.
Disponível em:
https://aiforum.org.nz/wp-content/uploads/2018/07/AI-Report-2018_web-version.
pdf. Acesso em: 30 nov. 2022.

ANDERSON, Christopher W. (2011). Understanding the role played by algorithms and

computational practices in the collection, evaluation, presentation, and dissemination
of journalistic evidence. In: st St. Berlin Symposium on the Internet and Society, Berlin.

ANDREWS, Leighton (2018). Public administration, public leadership and the construction
of public value in the age of the algorithm and ‘“big data’data”. Public Administration.

ANGWIN, Julia; LARSON, Jeff; MATTU, Surya; KIRCHNE, Lauren (2016). Machine Bias.
Pro Publica, May may 23. Disponível em: https://www.propublica.org/article/machine-
bias-risk-assessments-in-criminal-sentencing. Acesso em: 30 nov. 2022.

AUSTRALIAN GOVERNMENT (2018). Digital Transformation Agency. Vison 2025. We

will deliver world-leading digital services for the benefit of all Australians.

BAROCAS, Solon; HOOD, Sophie; ZIEWITZ, Malte (2013). Governing algorithms: A

provocation piece. Available at SSRN 2245322.

BAROCAS, Solon; SELBST, Andrew D. (2016). Big data’s data’s disparate impact. Calif.
L. Rev., v. 104, p. 671.

BAYAMLIOĞLU, Emre; LEENES, Ronald (2018). The ‘“rule of law’implications law”

implications of data-driven decision-making: atechno-regulatory perspective. Law,
Innovation and Technology, v. 10, n. 2, p. 295-313.

BEER, David (2017). The social power of algorithms. Information, . Communication

& Society, 20:1, 1-13.

BERNARD, Zoë (2017). What does Machine Learning actually mean? World Economic
Forum, 28 nov. OnlineDisponível em: https://www.weforum.org/agenda/2017/11/
heres-what-machine-learning-actually-is. Acesso em: 30 nov. 2022.

BRITISH EMBASSY in Mexico (2017); OXFORD Insights; MINDS C Minds. Mexico Towards
an AI Strategy in Mexico: Harnessing the AI Revolution. Disponível em:
http://go.wizeline.com/rs/571-SRN-279/images/Towards-an-AI-strategy-in-Mexico.
pdf. Acesso em: 30 nov. 2022.
136
BRYSON, Steve et al. (1999). Visually exploring gigabyte data sets in real time.
Communications of the ACM, v. 42, n. 8, p. 82-90.

BURRELL, Jenna (2016). How the machine ‘“thinks’thinks”: Understanding opacity

in machine learning algorithms. Big Data & Society, v. 3, n. 1, p. 2053951715622512.

CABINET OFFICE, UK (2017). Government Transformation Strategy 2017 to 2020. .

February fev. 2017. LinkDisponível em: https://www.gov.uk/government/publications/
government-transformation-strategy-2017-to-2020/government-transformation-
strategy. Acesso em: 30 nov. 2022.

CATH, Corinne et al. (2018). Artificial Intelligence and the ‘“Good Society’Society”:
the US, EU, and UK approach. Science and engineering Engineering ethicsEthics, v.
24, n. 2, p. 505-528.

CHENEY-LIPPOLD, John (2011). A new algorithmic identity: Soft biopolitics and the
modulation of control. Theory, Culture & Society, v. 28, n. 6, p. 164-181.

CHINA INSTITUTE FOR Science and Technology Policy at Tsinghua University (2018).
China AI Development Report , 2018. Disponível em:
http://www.sppm.tsinghua.edu.cn/eWebEditor/UploadFile/China_AI_development_
report_2018.pdf. Acesso em: 30 nov. 2022.

CITRON, D.; PASQUALE, F. (2014). The scored society: Due process for automated
predictions. Washington Law Review 86.

COMMUNICATION FROM the Commission to the European Parliament, the European

Council, the Council, the European Economic And Social Committee and the Committee
of the Regions (2018). Artificial Intelligence for Europe. , Brussels. Disponível em:
https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=51625. Acesso em: 30
nov. 2022.

COUTS, Andrew (2011). Why did Amazon charge $23,698,655.93 for a textbook? Digital
Trends, April abr. 23, 2011. OnlineDisponível em:: https://www.digitaltrends.com/
computing/why-did-amazon-charge-23698655-93-for-a-textbook/. Acesso em: 30
nov. 2022.

CRAWFORD, Kate (2016). Can an algorithm be agonistic? Ten scenes from life in
calculated publics. Science, Technology, & Human Values, v. 41, n. 1, p. 77-92.

DARDOT, Pierre; LAVAL, Christian (2017). . A nova razão do mundo. São Paulo: Boitempo
Editorial., 2017.
137
DAWSON D. et all. (2019). Artificial Intelligence: Australia’s Ethics Framework. Data61
CSIRO, AustraliaAustrália.

DEPARTMENT OF BUSINESS, Energy & Industrial Strategy; Department for Digital,

Culture, Media & Sport. (2019). AI Sector Deal. May, maio 2019. Disponível em:
https://www.gov.uk/government/publications/artificial-intelligence-sector-deal/
ai-sector-deal. Acesso em: 30 nov. 2022.

DEPARTMENT OF FINANCE and Deregulation (2013). The Australian Public Service

Big Data Strategy.

DIAKOPOULOS, Nicholas (2014). Algorithmic accountability reporting: On the investigation

of black boxes.

DOMINGOS, Pedro (2015). The master algorithm: How the quest for the ultimate
learning machine will remake our world. Basic Books.

EXECUTIVE OFFICE OF THE PRESIDENT – US. (2016). Artificial Intelligence, Automation,

and the Economy. December 2016. Disponível em:
https://obamawhitehouse.archives.gov/sites/whitehouse.gov/files/documents/
Artificial-Intelligence-Automation-Economy.PDF. Acesso em: 30 nov. 2022.

EXECUTIVE OFFICE OF THE PRESIDENT PRESIDENT – U-USS. (2016). Preparing for

the Future of Artificial Intelligence National Science and Technology Council Committee
on Technology. October 2016. Disponível em: https://obamawhitehouse.archives.gov/
sites/default/files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_
of_ai.pdf. Acesso em: 30 nov. 2022.

FEDERAL MINISTRY OF ECONOMIC Affairs and Energy (2016). A Digital Strategy

2025. LinkDisponível em:: www.de.digital. Acesso em: 30 nov. 2022.

FOUCAULT, Michel (2008 a). Nascimento da Biopolítica: curso dado no Collège de

France (1977-1978). São Paulo: Martins Fontes.

FOUCAULT, Michel (2008 b). Segurança, território, população. São Paulo: Martins Fontes.

GILLESPIE, Tarleton (2018). A relevância dos algoritmos. Parágrafo, v. 6, n. 1, p. 95-121.

GOVERNMENT OF CANADA (2019). The Digital Transformation Office (DTO). LinkDisponível

em: https://www.canada.ca/en/government/about/about-digital-transformation-
office.html. Acesso em: 30 nov. 2022.

138
GOVERNMENT OF THE REPUBLIC of Korea (2017). Mid-to Long-Term Master Plan in
Preparation for the Intelligent Information Society.

GOVERNMENT OFFICES OF SWEDEN (2018). National Approach for Artificial Intelligence.

Disponível em:
h t t p s : / / w w w. g ove r n m e n t . s e / 4 9 1 fa 7 / c o n t e n t a s s e t s /
fe2ba005fb49433587574c513a837fac/national-approach-to-artificial-intelligence.
pdf. Acesso em: 30 nov. 2022.

GOVERNMENT RESPONSE to House of Lords Artificial Intelligence Select Committee’s

Report on AI in the UK: Ready, Willing and Able? Presented to Parliament by the
Secretary of State for Business, Energy and Industrial Strategy by Command of Her
Majesty, June 2018.

HAN, Byung-Chul (2018). No enxame: Perspectivas do digital. São Paulo: Editora Vozes
Limitada..

HARVEY, David (2007). A brief history of neoliberalism. USA: Oxford University Press,
USA..

IBRAHIM, Ghida. How the future of computing can make or break the AI revolution.
World Economic Forum. 2019. LinkDisponível em: https://www.weforum.org/
agenda/2019/06/how-the-future-of-computing-can-make-or-break-the-ai-revolution.
Acesso em: 30 nov. 2022.

LANEY, Doug (2001). 3D data management: Controlling data volume, velocity and
variety. META group research note, v. 6, n. 70, p. 1.

LAZZARATO, Maurizio (2006). As revoluções do capitalismo. Rio de janeiroJaneiro:

Civilização Brasileira. (A Política no Império).

MANYIKA, James et al. (2011). Big data: The next frontier for innovation, competition,
and productivity.

McKinsey Global Institute (2016). Digital Europe: Pushing The Frontier, Capturing
The Benefits. June 2016. OnlineDisponível em: https://www.mckinsey.com/business-
functions/digital-mckinsey/our-insights/digital-europe-realizing-the-continents-
potential . Acesso em: 10 maio 2019.
O acesso ocorreu em 10/05/2019.

MCTIC (2018). Estratégia Brasileira Para a Transformação Digital. LinkDisponível

em: http://www.mctic.gov.br/mctic/export/sites/institucional/estrategiadigital.pdf.
139
Acesso em: 30 nov. 2022.

MINISTERIO DE HACIENDA y Administraciones Públicas Públicas – G- Gobierno de

España (2015). Plan de Transformación Digital de la Administración General del Estado
y sus organismos públicos (Estrategia TIC 2015 -2020).

MINISTRY OF ECONOMIC Affairs and Employment (2017). Finland’s Age of Artificial

Intelligence. Turning Finland into a leading country in the application of artificial
intelligence. Helsinki. Disponível em: http://julkaisut.valtioneuvosto.fi/bitstream/
handle/10024/160391/TEMrap_47_2017_verkkojulkaisu.pdf?sequence=1&isAllowed=y.
Acesso em: 30 nov. 2022.

MINISTRY OF INDUSTRY, Business and Financial Affairs (2018). - The Danish Government.
Denmark’s Strategy for Denmark’s Digital Growth. Disponível em: https://eng.em.dk/
media/10566/digital-growth-strategy-report_uk_web-2.pdf. Acesso em: 30 nov. 2022.

NATIONAL SCIENCE AND TECHNOLOGY COUNCIL, US. (2016). National Artificial

Intelligence Research and Development Strategic Plan. October 2016. Disponível em:
https://www.nitrd.gov/PUBS/national_ai_rd_strategic_plan.pdf. Acesso em: 30 nov.
2022.

NILSSON, Nils J. (2009). The quest for artificial intelligence. Cambridge University Press.

NITI Aayog (2018). National Strategy for Artificial Intelligence. Discussion Paper. June
2018. Disponível em:
https://niti.gov.in/writereaddata/files/document_publication/NationalStrategy-for-
AI-Discussion-Paper.pdf. Acesso em: 30 nov. 2022.

NORDIC COUNCIL OF MINISTERS (2018). Declaration on AI in the Nordic-Baltic Region.

14 May 2018. Disponível em:
https://www.regeringen.se/49a602/globalassets/regeringen/dokument/
naringsdepartementet/20180514_nmr_deklaration-slutlig-webb.pdf. Acesso em:
30 nov. 2022.

OCDE (2015). Data-driven Innovation Big Data for Growth and Well-being (electronic
Resource). OECD Publishing.

OPEN LETTER To to The the European Commission Artificial Intelligence And and
Robotics. (2017). LinkDisponível em:: http://www.robotics-openletter.eu/. Acesso
em: 30 nov. 2022.

PASQUALE, Frank. (2015). Black Box Society: The Secret Algorithms That that Control
140
Money and Information. Cambridge, MA: Harvard University Press.

PROPOSTA DE RESOLUÇÃO DO PARLAMENTO EUROPEU sobre as Regras de Robótica

do Direito Civil (2017). Disponível em: http://www.europarl.europa.eu/doceo/
document/A-8-2017-0005_PT.html. Acesso em: 30 nov. 2022.

REPORT ON ARTIFICIAL INTELLIGENCE and Human Society (2017). Advisory Board

on Artificial Intelligence and Human Society. Japan: March 24th, 2017. Disponível em
Link:: https://www8.cao.go.jp/cstp/tyousakai/ai/summary/aisociety_en.pdf. Acesso
em: 30 nov. 2022.

RIEDER, B. (2017). Scrutinizing an algorithmic technique: the Bayes classifier as

interested reading of reality. Information, Communication & Society, 2 jan. 2017. v.
20, n. 1, p. 100–117.

ROUVROY, Antoinette; STIEGLER, Bernard (2016). The digital regime of truth: From
the algorithmic governmentality to a new rule of law. La Deleuziana: On-line Journal
of Philosophy, v. 3, p. 6-29.

RUSSELL, Stuart J.; NORVIG, Peter. (2010). Artificial intelligence: a modern approach.
Upper Saddle River: Prentice Hall, 2010.

SPECIAL REPORT (2016). How to implement AI and Machine Learning. TechRepublic;

ZDNet.

SRNICEK, Nick. (2016). Platform Capitalism. John Wiley & Sons.

TASK FORCE ON Artificial Intelligence of the Agency for Digital Italy. (2018). White
Paper on Artificial Intelligence at the service of citizens. Version 1.0 March 2018.
Disponível em: https://ia.italia.it/assets/whitepaper.pdf. Acesso em: 30 nov. 2022.

TECHAMERICA FOUNDATION. (2012). Demystifying Big Data. A Practical Guide To

Transforming The Business of Government. USA.

THE HEADQUARTERS FOR Japan’s Economic Revitalization. (2015). New Robot Strategy
Strategy – J- Japan’s Robot Strategy: Vision, Strategy, Action Plan.

THE WHITE HOUSE OFFICE OF SCIENCE AND TECHNOLOGY POLICY. (2018). White
House summit on artificial intelligence for american industry. MAY May 10, 2018.

TOTARO, Paolo; NINNO, Domenico. (2014). The concept of algorithm as an interpretative

key of modern rationality. Theory, Culture & Society, v. 31, n. 4, p. 29-49.
141
VILLANI, Cédric et al. (2018). For a meaningful artificial intelligence. A French
Parliamentary Mission.

WAGNER, Ben. (2016). Algorithmic regulation and the global default: Shifting norms in
Internet technology. Etikk i praksis-Nordic Journal of Applied Ethics, v. 10, n. 1, p. 5-13.

WINNER, Langdon. (1995). Citizen Virtues in a Technological Order. In: Andrew

Feenberg and Alastair Hannay (org.) /. Technology and the Politics of Knowledge.
Indiana University Press.

WORLD ECONOMIC FORUM (2019). Platforms and Ecosystems: Enabling the Digital
Economy. LinkDisponível em: http://www3.weforum.org/docs/WEF_Digital_
Platforms_and_Ecosystems_2019.pdf. Acesso em: 30 nov. 2022.

WORLD WIDE WEB FOUNDATION. (2017). Algorithmic Accountability: Applying the

concept to different country contexts.

ZUBOFF, Shoshana. (2015). Big other: surveillance capitalism and the prospects of
an information civilization. Journal of Information Technology, v. 30, n. 1, p. 75-89.

142
 O velho com cara de
novo: subordinação intelectual
do trabalho ao capital e o
capitalismo monopolista de
plataformas
JOSÉ PAULO GUEDES PINTO
143
144
 O velho com cara de novo: subordinação intelectual
do trabalho ao capital e o capitalismo monopolista de
plataformas
José Paulo Guedes Pinto

Introdução

Hoje é cada vez mais comum namorar, trabalhar, locomover-se, entreter-se, marcar um
encontro com os amigos, informar-se, alimentar-se, alugar um imóvel e, até mesmo, chamar
o encanador utilizando aplicativos instalados em um smartphone conectado à internet. O
Brasil, mesmo sendo uma economia subdesenvolvida (segundo a ONU), de renda média
(segundo o Banco Mundial) e extremamente desigual, não é exceção à regra: 70% da sua
população esteve conectada à rede mundial, em 2018; destas, 97% utilizaram para tanto
um smartphone1.
A forma como nos socializamos cotidianamente – seja consumindo, seja trabalhando,
seja entretendo-nos – ainda que as nossas necessidades tenham continuado basicamente
as mesmas – mudou rapidamente. E isso vem se refletindo na economia mundial. Grandes
empresas da economia digital, que, no passado, eram tidas como apostas incertas (o que
foram mesmo depois do estouro da bolha financeira das chamadas empresas “ponto com”,
em 2000), aparecem agora em sete das dez primeiras colocações no ranking da Forbes.
Essas empresas estão ocupando agora os lugares que pertenciam à montadoras de
automóveis, fábricas de bens de consumo de massa, empresas de energia e bancos, grandes
multinacionais que emergiram em sua maioria após a Segunda Guerra Mundial.
Comparando as tabelas 1 e 2 a seguir, podemos notar que apenas a Microsoft era parte
desse grupo exclusivo no início do milênio. Como o valor total de ações de uma empresa
mede, em geral, a antecipação dos fluxos de lucros futuros, pode-se dizer que estas empresas
da economia digital estão indicando os caminhos futuros dos investimentos, ou seja, da
acumulação capitalista (DURAND, 2018).

Tabela 1: As maiores empresas do mundo segundo o valor de mercado (2000)

Valor de Mercado/
Rank Empresa Setor País Bilhões de dólares
1 Exxon Mobile Hidrocarburetos Estados Unidos 362,53
2 General Electric Conglomera Estados Unidos 348,45
3 Microsoft Tech/software Estados Unidos 279,02
4 Citigroup Fianças Estados Unidos 230,93
5 BP Hidrocarbonos Reino Unido 225,93
6 Royal Dutch Shell Hidrocarnos Holands 203,52

1
Desses cidadãos conectados, 48% adquiriram ou usaram algum tipo de serviço on-line, como aplicativos de
carros, serviços de streaming de filmes e música, ou pedido de comida (CETIC, 2019).
145
 7 Procter & Gamble Saúde Estados Unidos 197,12
8 HSBC Group Finanças Estados Unidos 193,32
9 Pfizer Farmacêutica Estados Unidos 192,05
10 Wal Mart Comércio Estados Unidos 188,86

Fonte: Forbes apud Durand, 2018.

Tabela 2: As maiores empresas do mundo segundo o valor de mercado (2019)

Valor de Mercado/
Rank Empresa Setor País Bilhões de dólares
1 Apple Tech/Hardware Estados Unidos 961,3
2 Microsoft Tech/Software Estados Unidos 946,5
3 Amazon Tech/Comércio Estados Unidos 916,1
4 Alphabet Berkshire Tech/Mídia Estados Unidos 863,2
5 Hathaway Finanças Estados Unidos 516,4
6 Facebook Tech/Mídia Estados Unidos 512
7 Alibaba Tech/Comércio China 480,8
8 Tencent Holdings Tech/Comércio China 472,1
9 JPMorgan Chase Finanças Estados Unidos 368,5
10 Johnson & Johnson Saúde Estados Unidos 366,2

Fonte: Forbes (2019). Elaboração própria com base em Durand (2018).

Apesar de indicarem o futuro da acumulação de capital, este é um caminho nada tranquilo.

Isso porque essas empresas, ao produzirem basicamente informação e conhecimento (como
designs, marcas, softwares, jogos, fórmulas químicas, propagandas, redes sociais, plataformas
de comércio etc.), estão sujeitas a todo momento, e mais do que nunca, à concorrência, à
obsolescência ou até ao “roubo” de suas mercadorias.
Do comércio generalizado de produtos piratas (ou mesmo dos chamados legal fakes) às
plataformas concorrentes de delivery, transporte ou comércio; da migração em massa para
redes sociais concorrentes (ou alternativas) à potencial utilização generalizada de softwares
livres, passando pela quebra de patentes de fármacos etc., essas empresas podem, em um
piscar de olhos, perder suas fontes de lucro e poder.
Além disso, a comparação entre as duas tabelas anteriores, revela outra nuance importante
do capitalismo avançado: o fato do capital físico (como as fábricas) estar perdendo importância
em relação ao (vulgarmente) chamado “capital humano”. Embora ainda sejam extremamente
necessários, os sistemas de máquinas e equipamentos estão se tornando cada vez menos
centrais em relação à própria atividade intelectual presente na cabeça dos trabalhadores, que
– ainda na condição de cidadãos “livres” – criam, desenvolvem e capturam as informações.
A Apple, líder da tabela 2, é um dos exemplos mais radicais dessa nova economia. A
vitrine da empresa, longe de ser as várias fábricas chinesas (terceirizadas) cheias de operários
montando iPhones, iPads, iMacs, MacBooks ou Apple Watchs, é, de fato, seus headquarters

146
(escritórios e lojas). Assim, os principais ativos dessa companhia são, além dos seus produtos,
o “capital humano” – ou seja, o conjunto dos cérebros dos mais de cem mil empregados
que trabalham diretamente na empresa (Apple, 2019) –, um ativo muito valioso, uma vez
que parte importante do preço (valor) dos produtos da Apple é contrapartida do trabalho
intelectual dos funcionários que criam o design, desenvolvem novos produtos, softwares e
sistemas operacionais, criam o marketing ou definem as informações técnicas das partes
que compõem seus produtos2 (GEREFFI, 2013, p. 21).
No entanto, apesar de representar a emergência do novo, a Apple ainda é uma grande
vendedora de mercadorias tangíveis (físicas), que agora terceiriza grande parte (ou a totalidade)
da sua atividade fabril. Independente da sua aura “cool”, veremos que a Apple precisa ser
uma empresa tão ou até mais despótica que, por exemplo, as antigas montadoras de veículos
verticalizadas do século passado, já que ela precisa evitar a todo o custo a pirataria dos seus
produtos mundo afora, além de gerenciar à mão de ferro um ecossistema fechado e quase
todas as partes da cadeia de suprimentos dos seus produtos, do design à loja de varejo
(SATARIANO; BURROWS, 2011).
Neste capítulo, procuraremos argumentar3 que a emergência da nova e poderosa
economia digital traz consigo uma necessidade cada vez maior de controle, dominação e
coerção social por parte de empresas e Estados. Isso porque as empresas, que produzem
informação e conhecimento científico e tecnológico, são criadas e crescem sob um capital
de alto risco, que depende da venda de mercadorias sui generis, difícil e muitas vezes cara
para serem produzidas e que podem, ao mesmo tempo e facilmente, serem “roubadas” ou
utilizadas de graça.

Quanto vale a informação?

Segundo a economia política clássica (Smith, Ricardo e, de forma crítica, Marx),

as diferenças entre os preços das mercadorias produzidas em larga escala (milhares
ou milhões de quantidades) podem ser explicadas pelo tempo de trabalho médio
socialmente necessário para produzir a primeira delas e reproduzi-las.
Assim, se uma cadeira anunciada na loja on-line tem, em média, um preço (R$
300, por exemplo) cem vezes maior que uma lata de cerveja no supermercado (R$
3) é porque a sociedade gasta cem vezes mais tempo de trabalho social, em média
e em determinado momento do tempo, para produzir cadeiras que latas de cerveja.
Da mesma forma, se o preço de um automóvel popular (R$ 30.000, por exemplo) na
concessionária tem um preço cem vezes maior que a cadeira do nosso exemplo, é
porque a sociedade gasta em média cem vezes mais tempo de trabalho para produzir
automóveis que cadeiras e, seguindo a mesma lógica, dez mil vezes mais tempo para
produzir automóveis que latas de cerveja4. E, assim por diante, se nada mais mudar5,
essas diferenças tendem a se perpetuar.

2
Sem falar do trabalho financeiro, da organização e gestão da sua cadeia produtiva mundial e, inclusive, da
melhoria dos meios de produção desses produtos.
3
A partir da tese sobre a desmedida do valor e a emergência da chamada pós-grande indústria desenvolvida
por Eleutério Prado de forma brilhante no longínquo ano de 2005.
147
 Resumindo, o tempo socialmente necessário (Marx, 1983) para produzir e
reproduzir uma mercadoria é a medida do seu valor, ou seja, é o que baliza os preços
nas lojas, nos sites de compras on-line, na feira, nos supermercados etc.
Essa regra, no entanto, não vale para todo tipo de mercadorias. Bens como
informação, conhecimento científico, conhecimento tecnológico etc. podem demandar
até muito (ou pouco) tempo da sociedade para serem produzidos, porém, eles possuem
características que os tornam diferentes, únicos, sui generis, no mundo das mercadorias.
São elas: o custo de reprodução nulo, ou seja, o fato de que o conhecimento
pode até custar muito para ser produzido, porém, pode ser infinitamente copiado
de graça; o caráter não rival ou não excludente, que significa que o conhecimento
pode ser utilizado por todas e todos ao mesmo tempo, sem que isso ameace o uso
do seu portador original; e a incerteza ou risco inerente a esse tipo de bem, já que é
impossível avaliar o valor de um conhecimento/informação antes de conhecê-lo, ou
seja, qualquer comprador pode destruir seu monopólio, por exemplo, ouvindo sua
ideia (para uma propaganda, por exemplo) antes de comprá-la.
Por conta dessas características, economistas como Arrow (1959) e Nelson
(1952) argumentaram em seus artigos pioneiros sobre inovação e pesquisa básica
que a melhor solução em termos do bem-estar econômico era manter esses tipos de
bens como públicos7, com acesso gratuito. Além disso, afirmaram, já na década de
1950, que eventuais barreiras ao acesso desse tipo de bem, impostas, por exemplo,
por direitos de propriedade intelectual, poderiam provocar uma subutilização destes,
fazendo com que a sociedade “se reproduzisse em um nível econômico ‘não ótimo’”
(ARROW, 1959, p. 617).

4
Rigorosamente falando, você deve considerar o custo da produção do primeiro protótipo de cadeira e das
demais cadeiras que serão vendidas em massa. O seja, para estipular o preço, você deve considerar o trabalho
da designer, a construção da primeira cadeira, dos moldes e do processo industrial inicial. Caso você produza
milhões de cadeiras iguais, esse custo inicial tende a diminuir a algo próximo de zero por unidade, ao longo
do tempo.
5
Por exemplo, se não houver aumento da produtividade do setor automobilístico. Já se houver alteração na
produtividade, ou seja, se com a mesma quantidade de tempo de trabalho se produzir mais ou menos auto-
móveis, a relação entre os preços muda.
6
É como um atrator gravitacional, os preços podem variar de acordo com a propaganda, a escassez momen-
tânea do produto, entre outros diferenciais de mercado, mas, na média, eles giram em torno desse valor,
assim como a Terra gira em torno do Sol ou a Lua gira em torno da Terra. A relação entre preços e valores,
no entanto, é instável. Marx resolveu essa questão dialeticamente, ou seja, pondo a contradição entre preço e
valor, ao afirmar que “a divergência entre preço e a grandeza do valor é (...) inerente à forma preço. Isso não é
um defeito dessa forma, mas a torna, ao contrário, a forma adequada a um modo de produção em que a regra
somente pode impor-se como lei cega da média à falta de qualquer regra” (MARX, 1983, p. 92).
7
Na economia, um bem público, não exclusivo e não rival, é um tipo de bem que pode ser efetivamente
consumido simultaneamente por mais de uma pessoa. É diferente do bem comum, como os peixes selvagens
no oceano, que não são exclusivos, mas são rivais até certo ponto, já que se muitos peixes forem pescados, os
estoques podem acabar. São exemplos de bens públicos: conhecimento, estatísticas oficiais, segurança nacional,
idiomas comuns, sistemas de controle de inundações, faróis e iluminação pública. Bens públicos que estão
disponíveis em todos os lugares, às vezes, são chamados de bens públicos globais, como: a conscientização da
saúde de homens, mulheres e jovens, as questões ambientais, a história e a cultura locais (patrimônio cultural
da humanidade), as atrações turísticas e os entretenimentos populares, as bibliotecas e universidades.
148
 No entanto, não é possível definir um bem como “público” apenas a partir de seus
atributos intrínsecos; essa denominação depende, essencialmente, das instituições
que regulam sua produção e seu emprego, o que confere à definição de “bem público”
um caráter não só econômico mas também político. Mesmo a defesa nacional, por
exemplo (caso clássico de um bem de uso não exclusivo e, portanto, público), sob certas
circunstâncias, pode favorecer apenas um grupo determinado dentro do território de
uma nação. Assim, quase todos os bens podem ser privatizados por meio de leis, ou
seja, por meio de decisões políticas, se a sociedade assim o desejar.
Sendo assim, se sabemos que a informação e o conhecimento não são de graça,
o que baliza os preços desses tipos de bem? Como estabelecer seus valores?
Pense, por exemplo, no caso de programas de computador, como os programas
“vendidos” pela Microsoft (Office, Windows, Jogos eletrônicos etc.). Esses programas de
uso muito geral podem ser copiados e espalhados na sociedade a um custo praticamente
nulo. Por isso, a empresa não os trata como mercadorias comuns, pois não pretende
vendê-los no mercado, ou seja, repassar para outrem a propriedade privada da mercadoria.
Se o faz, a Microsoft tem imediatamente uma perda de capital.
Porém, o preço dessa mercadoria virtual não é expressão imaginária, já que há
trabalho objetivado em sua produção; entretanto, a relação entre valor e preço é de
certo modo arbitrária, não só em virtude do fato de que o bem é único mas também
porque, na produção dessa mercadoria virtual, há desmedida do valor (Prado, 2005)..
Assim, a empresa possuidora do programa não irá vendê-lo como mercadoria.
Mas poderá alugá-lo para todas as pessoas ou empresas interessadas, já que, nessa
modalidade de transação, ela poderá manter para si a propriedade do valor (do capital)
objetivado no programa, cobrando pelo acesso a esse objeto.
Todos os consumidores poderão, assim, dispor do seu valor de uso, mantendo uma
cópia numerada do programa em seus próprios computadores (ou tablets, smartphones)
pessoais, desde que paguem para tanto. Cada consumidor, seja ele apenas um usuário
comum ou também um produtor, uma empresa, terá de contribuir com uma quota cuja
soma, ao final da vida útil do programa, represente o retorno do capital adiantado e
do mais-capital.
Esse tipo de produção capitalista só consegue ter êxito, portanto, se a empresa,
o Estado e outros pilares do sistema garantirem, por diversos meios – entre eles a
ideologia na forma de marketing, mas também a coerção e a força –, que os consumidores
paguem pelo acesso a algo que pode ser adquirido a custo nulo.
Note que o exemplo vale para softwares proprietários, mas poderia se aplicar para
outros tipos de bens que no limite são conjuntos de informação: como as plataformas
de cultura e entretenimento (como Netflix, Spotify), de trabalho (Uber etc.), as fórmulas
de medicamentos, as redes sociais (na verdade, o acesso às propagandas ou aos dados
pessoais produzidos por milhões de usuários nas redes) etc.
Em suma, por terem essas características, os valores desses tipos de bem são
desmedidos, não se balizam pelo tempo de trabalho socialmente necessário para
produzi-los e reproduzi-los e dependem, portanto, do poder social das empresas em
impor pagamentos pelo acesso a esse tipo de bem. As empresas que vendem informação,
conhecimentos científicos e tecnológicos etc. dependem necessariamente, portanto,
de verdadeiros monopólios do conhecimento (PAGANO, 2014).

149
 Monopólios internacionais

Se dependem de monopólios para dar lucro, esses bens tendem inexoravelmente

a se concentrar no controle de poucas grandes corporações multinacionais, cujo poder
tende a ultrapassar o da grande maioria dos estados nacionais.
Como o berço dessa recente revolução tecnológica foram os Estados Unidos da
América, este vem sendo o Estado que lidera o processo mundial para o estabelecimento
de uma “segurança jurídica” mínima, que garanta o retorno dos investimentos realizados
nas indústrias baseadas em informação e conhecimento. Essa ação culminou no papel
central que o país desempenhou na aprovação do Acordo sobre os Aspectos da Propriedade
Intelectual (o chamado TRIPS), que deram base à fundação da Organização Mundial
do Comércio, em 1995. Esse acordo deve-se diretamente à pressão das empresas
norte-americanas baseadas em propriedade intelectual, em especial do setor de
entretenimento, tecnologia da informação e fármacos, sobre o governo norte-americano
para que ele, por meio do fortalecimento do sistema internacional de propriedade
intelectual, minimizasse a crise econômica vivida pelo país nos anos 1970 e 1980 por
meio do incentivo à chamada “nova economia”.
Por enquanto, do ponto de vista internacional, essa estratégia liderada pela
hegemonia norte-americana foi bastante benéfica para os chamados países desenvolvidos.
O gráfico 1, a seguir, mostra os fluxos financeiros registrados como “cobranças pelo
uso de propriedade intelectual” na balança de pagamentos de dois conjuntos de países
agrupados de acordo com o nível de desenvolvimento (segundo as Nações Unidas). A
soma dos fluxos líquidos mostra que os superávits dessa conta sempre foram para o
conjunto dos países desenvolvidos, com seu pico em 2007 (US$ 71,05 bilhões) enquanto
os países em desenvolvimento seguem contabilizando conjuntamente importantes
déficits nessa conta, sendo o pior ano 2016 (US$ 66,4 bilhões), o último observado
por nós na série.

Gráfico 1: Soma dos fluxos líquidos (exportações menos importações) da conta “cobranças
pelo uso de propriedade intelectual” do balanço de pagamento dos países desenvolvidos
(developed) e em desenvolvimento (developing) classificados de acordo com o nível
de desenvolvimento da ONU (1980-2018 medidos em milhões de dólares de 2016)

60000

40000

20000

0
1980
1981
1982
1982
1983
1984
1985
1986
1987
1988
1989
1990
1991
1992
1993
1994
1995
1996
1997
1998
1999
2000
2001
2002
2003
2004
2005
2006
2007
2008
2009
2010
2011
2012
2013
2014
2015
2016
2017
2018

-20000

-40000

-60000

-80000

Trips Developed (net) Developing (net)

Fonte: FMI; ONU; UNCTAD. Elaboração própria.

150
 A emergência dessa “economia do conhecimento” trouxe, assim, a difusão mundial
da propriedade privada de recursos que hoje são essenciais para a reprodução da
sociedade contemporânea, como os programas de computador, as fórmulas para a
fabricação de remédios, as tecnologias para a produção de sementes etc.
Além disso, o surgimento das redes sociais fez emergir também um novo e poderoso
canal de veiculação de propaganda para a venda de todo o tipo de mercadorias em
conjunto com o negócio baseado na apropriação privada dos nossos dados pessoais
– como detalhes de cartões de crédito, preferências políticas, históricos médicos,
históricos de compras, de navegação na internet – os quais são vendidos (por altos
valores) e utilizados para influenciar nosso comportamento (AMER; NOUJAIM, 2019;
DURAND, 2018; SADOWSKI, 2019; SOUZA et al., 2019).

Empresas sem fábricas

A tabela 2 e o gráfico 1 mostram, também, a consolidação de modelos limites de

empreendimentos capitalistas que englobam desde empresas sem fábricas (Microsoft,
Alphabet – Google, Facebook) até empresas com fábricas que concentram, porém,
atividades tipicamente pós-industriais (Apple, Amazon, Alibaba, Tencent Holdings,
Johnson & Johnson etc.).
As empresas sem fábricas levam à cabo apenas atividades financeiras e atividades
de pesquisa e de criação de bens culturais, científicos e tecnológicos. São empresas
que dependem direta ou indiretamente da restrição à propriedade monopolista do
conhecimento criado socialmente. Ainda que nessas empresas haja processo de trabalho
(assalariado) e produção de bens socialmente úteis, os ativos desse tipo de empresa
são principalmente dinheiro, títulos públicos e privados, ações, dados privados, assim
como direitos de propriedade intelectual (patentes, direitos autorais etc.).
Rigorosamente, esse tipo de empresa não produz e não vende diretamente
mercadorias de modo ordinário: ela comercializa o direito de acesso às suas patentes,
direitos autorais, marcas, softwares, projetos e processos de produtos, dados pessoais,
espaço para propaganda em suas plataformas, bens e serviços cujos preços não têm
necessariamente relação com os custos de produção e reprodução dessas “mercadorias”.
Pode-se dizer que são empresas rentistas, que recebem seus lucros a partir dos
seus monopólios. Ainda que nessa espécie de empresa tenha trabalho e, portanto,
geração de novos valores (e de mais-valia, ou lucros), estes valores são desmedidos
enquanto tais. São empresas que buscam captar rendas, ou seja, firmas “rent seeker”.
(PRADO, 2005, p. 109).
Note, empresas líderes como o Google (Alphabet) podem ter um enorme e
desmedido lucro porque a quantidade de anúncios (e de dados pessoais vendidos
para influenciar comportamentos) que essa empresa vende não tem relação direta
com os custos da empresa (salários, por exemplo) para criar e manter suas plataformas
digitais (como o Google Search, o Gmail, o YouTube etc.) on-line, por meio das quais
os usuários navegam, se comunicam e criam conteúdo.
Empresas como a Uber auferem seus lucros ou prejuízos independente dos
custos de criação e manutenção da sua plataforma, custos que não variam diretamente
com a quantidade de “serviços de transporte” vendidas pelos seus “colaboradores”
151
precarizados por meio do aplicativo. O lucro ou prejuízo do Facebook é alto ou pequeno,
independente do custo de produção, manutenção e aprimoramento da sua rede social.
Por outro lado, essas empresas, e outras, como Microsoft, Netflix, Spotify, Oracle,
podem ser reduzidas a pó do dia para a noite se todos os usuários, em vez de pagarem
pelo acesso, resolverem “piratear” os softwares (filmes, músicas etc.) ou “usar de graça”
as plataformas contando com a anuência de legislações e governos (um cenário pouco
provável, mas bastante possível).
Ademais, mesmo as empresas que ainda têm por objetivo produzir e/ou vender
mercadorias tangíveis (Apple, Amazon, Alibaba, Tencent Holdings, Johnson & Johnson
etc.) tendem a manter internamente todas as atividades típicas pós-industriais,
procurando terceirizar para empresas com menor poder de barganha (situadas na
China, por exemplo) todas as operações tipicamente industriais, as quais dão um
retorno menor ao capital investido. Assim, o montante de lucro que conseguem obter
depende amplamente do poder de monopólio que detêm. Poder que está associado
também à propriedade intelectual, à propriedade dos dados dos usuários, enfim, a
monopólios informacionais.

Em consequência, essa espécie de empreendimento não segue mais a

lógica da eficiência competitiva da grande indústria que consiste em buscar
obter lucros e superlucros produzindo uma dada quantidade de produto
minimizando o tempo de trabalho, o período de rotação do capital fixo e os
custos das matérias primas. A lógica desse tipo de empresa se manifesta
no fato de que ela organiza todas as suas atividades em função de uma
explícita “agregação de valor”, ou seja, da contribuição possível que ações
qualitativamente diferenciadas levadas a efeito em seu âmbito engendram
na produção, no trato com os clientes e fornecedores, na imagem da empresa
junto aos consumidores, as quais supostamente contribuem para uma melhor
rentabilidade do capital investido (PRADO, 2005, p. 110-111).

Tanto empresas sem, quanto empresas com fábricas, vão seguir, portanto, uma
lógica de captação de renda, típica dos monopólios de outrora, porém, agora, tendo
como atividade fim a criação de bens não rivais cujo o custo de reprodução tende a zero.
Além disso, esses dois tipos de empresas mostram de forma clara que a força
produtiva decisiva é cada vez mais atributo da atividade humana coletiva e social. As
máquinas continuam existindo, mas, na medida que a robotização e a automação (e a
inteligência artificial) avançam, elas se tornam cada vez mais instrumentos de atuação
desse saber científico e tecnológico coletivo. A humanidade, tal como foi previsto por
Marx na sua obra máxima, passa a criar (pelo menos potencialmente) uma enorme
quantidade de riqueza efetiva com relativamente pouco tempo de trabalho humano vivo.
Como a informação e o conhecimento podem existir quase que naturalmente de
forma livre e acessível, ou seja, de forma desmercantilizada, isso se torna um grande
risco para a reprodução dessa forma de capital (que depende desses ativos); assim, o
resultado da evolução dessa economia informacional vem se tornando uma enorme
ampliação do domínio do capital, que vai ultrapassar todas as barreiras tradicionais e
avançar sobre toda a vida social, transformando tudo o que conseguir em mercadoria.
Assim, além da ciência e da tecnologia, a lógica da valorização capitalista vai
subordinar esferas que outrora (pelo menos no período do pós-Segunda Guerra) foram
152
públicas e gratuitas, como a educação, a arte, a cultura e outras esferas relacionadas
ao próprio indivíduo social, como as esferas afetivas, comunitárias (como a religião
e a política) e até nosso sono (CRARY, 2014)

Quem ganha com a privatização da informação e do conhecimento?

Do ponto de vista das classes sociais, quem se beneficia desse admirável mundo
novo são, rigorosamente, os proprietários do capital e os altos gerentes (estes últimos
ganham salários astronômicos, mas ainda assim são funcionários do capital): o chamado
1%. A grande maioria dos trabalhadores dessas empresas são, em geral, razoavelmente
bem remunerados, mas têm de encarar uma realidade extremamente competitiva no
mercado de força de trabalho. Como trabalham com a cabeça, eles devem cooperar
intelectualmente, mas estão obrigados permanentemente a participar de uma paradoxal
corrida de ratos competitiva, porém cooperativa.

Ainda que possuam uma ampla competência técnica e científica e que tenham
de assumir grandes responsabilidades na manutenção das atividades da
empresa, não são de modo algum insubstituíveis, já que detêm um conhecimento
padrão que pode ser adquirido hoje por um grande número de pessoas
na sociedade. Assim, a própria pós-grande indústria não lhes garante um
emprego estável, mas, ao contrário, mantém-nos sob risco permanente,
classificando-os no plano ideológico como detentores de “capital humano”
e de “donos do próprio futuro” que têm de se aperfeiçoar incessantemente
(PRADO, 2005).

O capitalismo chega agora em uma situação limite, pois os capitalistas (como classe
e indivíduos) continuam proprietários dos meios de produção em geral e, portanto, das
condições do trabalho, mesmo quando estas se encontram na cabeça dos trabalhadores.
Assim, a dominação do capital, longe de se abrandar, tem de se tornar intransigente
e totalizadora, estendendo-se não apenas sobre o tempo de trabalho mas também
para além desse tempo, avançando para a vida social do trabalhador como um todo.
Como é difícil dominar a complexidade das interações do corpo de funcionários,
assim como suas relações com o ambiente econômico e social externo – pois os
trabalhadores (sendo ainda livres) podem, a todo o momento, levar sua cabeça (o
seu “capital humano”) para outra empresa, ou mesmo abrir seus próprios negócios –
a exploração intensificada do trabalho vai exigir que os trabalhadores pertencentes
aos seus exércitos cooperem ou até sejam devotos do trabalho.

O paradoxo é notório: mesmo se o tempo de trabalho enquanto tal deixou

de ser crucial para o aumento da produtividade ou da geração de riqueza
efetiva, cresce a jornada de trabalho para que os trabalhadores possam, assim,
se dedicar de corpo e alma à empresa, “agregando valor”, ou mesmo porque
agora eles são obrigados a sinalizar para a gerência a própria fidelidade aos
propósitos da empresa. Por outro lado, com a finalidade de subsumir ao
máximo os trabalhadores aos procedimentos e às estratégias da empresa,
cria-se um ambiente interno em que o trabalho se configura como “uma
nova ideologia, uma nova religião” (WARDE, 2002).
Desse modo, a empresa “pós-moderna” – comunicativa! – submete à máxima

153
 tensão e à exaustão psicológica os seus empregados, de tal maneira que
doenças como o vício de trabalhar, o cansaço crônico e a depressão tornam-
se cada vez mais difundidas nos ambientes de trabalhos em que aí se criam
(PRADO, 2005, p. 114).

Segundo o último relatório da Organização Internacional do Trabalho, intitulado

“Condições de trabalho em perspectiva global”, cerca de 89% de todos os trabalhadores
considerados na pesquisa relatam pelo menos um tipo de condição adversa de saúde
mental durante o trabalho (OIT, 2019, p. 151).
Os paradoxos vão tornando o capitalismo cada vez mais esquizofrênico com as
empresas propagandeando a imagem de serem participativas, cooperativas, éticas, mas
sendo, no fundo, empresas cada vez mais centralizadoras, competitivas e irrestritas
na busca de lucro, não hesitando em submeter os trabalhadores aos seus propósitos,
durante as vinte e quatro horas do dia, de um modo totalizador.
Como núcleo da sociabilidade capitalista, a empresa é já uma instituição total.
Se a fábrica de outrora dominava e ainda domina o indivíduo integralmente durante o
tempo de trabalho, “a empresa da pós-grande indústria vem submeter o trabalhador
de um modo total, envolvente, hipócrita ou mesmo cínico, inclusive fora do tempo de
trabalho” (PRADO, 2005, p. 114).
O grande símbolo dessa lógica totalizadora são os smartphones. Verdadeiras panaceias
da comunicação humana8, esses aparelhos se interpõem como intermediários de boa
parte da socialização humana, e se tornam, cada vez mais, ferramentas fundamentais
para a reprodução da vida moderna.
O smartphone se torna, assim como o dinheiro, um importante meio que promove
o metabolismo social9, porém agora em um mundo (de lucros e valores) desmedido
e desregrado. Se por um lado o smartphone é hoje uma ferramenta fundamental para
boa parte dos cidadãos (sejam eles consumidores e/ou trabalhadores informacionais,
sejam eles programadores de software, sejam eles solucionadores de problemas, sejam
eles motoristas de Uber), ao mesmo tempo, ele vem se tornando uma ferramenta de
vigilância em massa e também de controle social e individual (BARROS et al., 2018).
Se essa nova economia digital significa a intensificação absurda do trabalho para
um conjunto de trabalhadores intelectuais, ela cria, ao mesmo tempo, uma situação de
falta de trabalho para um grande número de outros trabalhadores não tão qualificados.
O capitalismo tem se tornado crescentemente incapaz de oferecer empregos estáveis
e bem remunerados para muitos, talvez até mesmo para a grande maioria da força
de trabalho mundial.
Apesar de os países mais ricos e desenvolvidos concentrarem as atividades mais
criativas, mesmo nesses países, desenvolve-se um conjunto de setores industriais,
comerciais e de serviços em que as ocupações exigem pouca ou quase nenhuma

8
Porque incorporam em um pequeno dispositivo grande parte dos aparelhos eletroeletrônicos de comuni-
cação de outrora (computador pessoal, conexão com a internet, gravação de som, vídeo, microfone, telefone,
câmera de filmagem, edição de vídeo, ilhas de edição, efeitos).
9
Marx (1983, p. 227) define metabolismo social como “o processo de troca que transfere mercadorias da mão
em que elas são não valores de uso para a mão em que elas são valores de uso”.
154
qualificação e onde as relações de emprego costumam ser informais e precárias, muitas
delas, inclusive, sendo mediadas pelas plataformas10.
A riqueza obscena ostentada pelo CEO da Amazon, Jeff Bezos (avaliada, em setembro
de 2019, em US$ 114,4 bilhões) se liga, assim, umbilicalmente com os irrisórios salários
dos seus trabalhadores, que recebem, em média, US$ 11 dólares por hora – sem falar
das péssimas, cansativas e deprimentes condições de trabalho que eles enfrentam:
como falta de ar-condicionado, interrupções cronometradas no banheiro, vigilância
constante por vídeo etc. (LIEBER, 2018). Essas condições não são tão diferentes em
outras empresas que utilizam as plataformas para explorar a força de trabalho, como
a Uber, a iFood, a Rappi, a Amazon (e seu Mechanical Turk) etc.
Ainda que o trabalho industrial tenha se deslocado para empresas dependentes,
geralmente situadas em países do terceiro mundo, por conta da crescente mecanização,
automação e robotização das empresas fabris, cresce no mundo um contingente cada
vez mais expressivo da força de trabalho, que não pode mais ser aproveitado para a
valorização do capital nem mesmo nessas empresas.
As tendências previstas um século e meio atrás, quando Marx escreveu sua obra
máxima, se concretizam historicamente. Cresce a exclusão completa daquela parte da
população que não está minimamente qualificada, o que culmina de modo dramático
em uma tendência concentradora de riqueza11 inerente ao processo de acumulação
baseado na inteligência coletiva, na exploração rentista das formas subalternas de
organização empresarial e na hegemonia do mundo da finança sobre o mundo da
produção.
Além disso, à medida que a mecanização e a robotização penetram na produção
agrícola, o mundo se torna urbanizado, pois se reduz o contingente de força de trabalho
necessário nas áreas rurais. As cidades, especialmente as do terceiro mundo, tornam-
se, então, depósitos de população excedente para o capital, desenvolvendo-se aí “não
apenas uma cultura da insegurança, mas uma cultura da barbárie(mas também, talvez,
da revolução”). (PRADO, 2005, p. 116).
Por fim, é importante lembrar que, desde a desregulamentação dos mercados
financeiros nos anos 1980, o capital nunca esteve tão livre: ele pode (como podia até
o imediato pós-guerra) atravessar continentes e oceanos em frações de segundos
(e ir embora). Os estados nacionais, assim como as forças políticas, como governos,
parlamentos, sindicatos etc., prisioneiros de suas limitações territoriais e institucionais,
passam a enfrentar dilemas shakespearianos: continuar ou não aceitando as reformas
que desregulam e flexibilizam o mercado de trabalho, reduzem os benefícios do
sistema de seguro social, abrem os mercados de capitais para os fluxos de capital de
curto e longo prazo etc. Se a acumulação de capital entra em estagnação, aprofunda-

10
Nos Estados Unidos, apesar da taxa de desemprego em 2019 estar em um patamar muito baixo (4%), os
salários reais estão estagnados desde 2008, e um contingente razoável possui trabalho considerado precário
(14%), instável (10%), sendo esse setor precário o maior responsável pelo crescimento recente dos empregos
(94%) (UETRICHT, 2019).
11
Segundo o banco Credit Suisse (2018), em 2018, apenas 0,7% da população adulta mundial possuía uma
riqueza acima de US$ 1 milhão. Essa elite, apesar de pequena, controla coletivamente 46% da riqueza do
mundo, avaliada em aproximadamente US$ 128,7 trilhões.
155
se a degradação da sociedade; se a acumulação prossegue, cresce a desigualdade, a
exploração, o desregramento do mundo (PRADO, 2005).
O capitalismo ainda é aquele, a busca incessante de lucro a qualquer custo está
nos precarizando, nos excluindo ou nos esgotando física e mentalmente. A sociedade
está cansada, mas como as alternativas existentes dentro dos limites da propriedade
privada dos meios de produção não representam mais do que o aprofundamento
do caos social, impõe-se como necessidade um projeto alternativo de sociedade que
promova uma verdadeira desintoxicação pós-capitalista das esferas de produção e
reprodução da vida no Planeta Terra, ou seja, que traga uma boa vida para o conjunto
da população mundial.
Da renovação do projeto socialista à luta pelos espaços comunais, esse projeto
necessariamente deve fundar-se na organização da produção com base na inteligência
coletiva e na abolição da relação de capital. Um bom início poderia ser a criação de
plataformas como o Uber, porém cooperativas ou estatais, que garantissem uma remuneração
mínima digna para a atividade de transporte de passageiros; a migração da utilização
estatal de softwares proprietários para livres; a abolição da propriedade intelectual
de conhecimentos relativos à saúde; a luta pela autogestão efetiva nos ambientes de
trabalho cooperativos; a luta pela propriedade cooperativa de empresas falidas; o
fortalecimento de redes sociais federadas e controladas de forma descentralizada
pelos usuários etc.

156
Referências
AMER, Karim; NOUJAIM, Jehane. The Great Hack (Privacidade Hackeada). Disponível
no Netflix Brasil, 2019.

Apple. Third Quarter Results, 2019. Disponível em: https://www.apple.com/

newsroom/2019/07/apple-reports-third-quarter-results/. Acesso em: 4 dez. 2022.

ARROW, Kenneth J. Economic Welfare and the Allocation of Resources for Invention.
Santa Monica, CA: RAND Corporation, 1959. Disponível em: http://www.rand.org/
pubs/papers/P1856. Acesso em: 4 dez. 2022.

BARROS, Julinano; ANGELI, Caue; FILHO, Maurício Monteiro. Filme “GIG – A Uberização
do Trabalho”. Repórter Brasil, [s.l.], 2019. Disponível em: https://reporterbrasil.org.
br/gig/. Acesso em: 4 dez. 2022.

CETIC. Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação.

Pesquisa TIC Domicílios, 2019. Disponível em: https://cetic.br/pesquisa/domicilios/
indicadores. Acesso em: 4 dez. 2022.

CRARY, Jonathan. 24/7 – Capitalismo tardio e os fins do sono. São Paulo: Cosac Naify,
2014.

CREDIT Suisse. Global Wealth Report 2018. Research Institute, 2018.

DURAND, Cédric. L’envers de l’économie numérique: um capitalisme intellectuel

monopoliste. In: CNRS, Paris 13 note de recherche ifris, 2018. Disponível em: http://
ifris.org/wp-content/blogs.dir/1/files/2018/05/WP7-C%C3%A9dric-Durand.pdf.
Acesso em: 4 dez. 2022.

GEREFFI, Garry. Global value chains in a post-Washington Consensus world. Review

of International Political Economy, 21(1), 9-37, 2014.

LIEBER, Chave. Bernie Sanders called out Jeff Bezos for poor treatment of Amazon
workers. In a rare move, the company fired back. In: VOX, 2018. Disponível em: https://
www.vox.com/2018/8/30/17797786/amazon-warehouse-conditions-bernie-sanders.
Acesso em: 4 dez. 2022.

MARX, Karl. O capital − Crítica da Economia Política, vol. I, Tomo I. São Paulo: Abril
Cultural, 1983.

NELSON, Richard. The simple economics of basic scientific research. Journal of Political
157
Economy, pp. 297-306, 1959.

PAGANO, Ugo. The crisis of intellectual monopoly capitalism. Cambridge Journal of

Economics, 38, pp. 1409-1429, 2014. Disponível em: doi:10.1093/cje/beu025. Acesso
em: 4 dez. 2022.

PRADO, Eleutério F. S. Desmedida do valor: crítica da pós-grande indústria. São Paulo:

Xamã, 2005.

SADOWSKI, Jathan. When data is capital: Datafication, accumulation, and extraction. Big
Data & Society, [s.l.] 2019. Disponível em: https://doi.org/10.1177/2053951718820549.
Acesso em: 4 dez. 2022.

SATARIANO, Adam; BORROWS, Peter. Apple’s Supply-Chain Secret? Hoard Lasers. In:
Bloomberg Businessweek, [s.l.], 2011. Disponível em: https://www.bloomberg.com/
news/articles/2011-11-03/apples-supply-chain-secret-hoard-lasers. Acesso em: 4
dez. 2022.

SOUZA, Joyce; SILVEIRA, Sérgio Amadeu da; AVELINO, Rodolfo (orgs.). A sociedade de
controle: Manipulação e modulação nas redes digitais. Editora Hedra: São Paulo, 2019.

UETRICHT, Micah. Just How Precarious Is the US Economy? Jacobim Magazine, on-line,
[s.l.], 2019. Disponível em: https://jacobinmag.com/2019/03/precarity-temp-work-
workplace-protections-contractors/. Acesso em: 4 dez. 2022.

158
 Automatização e
Desemprego: o uso de
Inteligência Artificial no
Sistema Nacional de Emprego
FERNANDA BRUNO (UFRJ)

PAULO FALTAY (UFRJ)

PAULA CARDOSO PEREIRA (UFRJ)

159
160
 Automatização e Desemprego: o uso de Inteligência
Artificial no Sistema Nacional de Emprego
Fernanda Bruno (UFRJ)
Paulo Faltay (UFRJ)
Paula Cardoso Pereira (UFRJ)

Introdução

Neste texto apresentamos um estudo de caso sobre o processo de concepção e

implementação de ferramentas de Inteligência Artificial (IA) para intermediação de mão
de obra e perfilização automatizadas no Sistema Nacional de Emprego do Brasil (SINE). A
investigação foi realizada entre agosto e dezembro de 2020 e se baseou em: levantamento e
análise de materiais normativos e documentos oficiais direta ou indiretamente relacionados
ao projeto; revisão bibliográfica; navegação no portal Emprega Brasil para simulação da
jornada do usuário; pedidos de informação pública via Lei de Acesso à Informação; entrevistas
com 11 (onze) atores direta ou indiretamente envolvidos na concepção e implementação da
solução e/ou em temas relacionados à proteção de dados pessoais, mercado de trabalho e
defesa de direitos trabalhistas1.
A adoção de tais ferramentas tecnológicas no SINE ocorre no contexto de uma
reestruturação do órgão realizada pelo governo Bolsonaro que prevê, além do uso de IA
no portal de vagas Emprega Brasil2, o compartilhamento do banco de dados do SINE com
a iniciativa privada. A implementação das ferramentas de IA é viabilizada por meio de um
Acordo de Cooperação Técnica (ACT), firmado entre a Secretaria Especial de Produtividade,
Emprego e Competitividade (SEPEC) e a Microsoft e publicado no Diário Oficial da União em
12 de novembro de 2020.
O SINE é um órgão público fundado em 1975 e, atualmente, administrado pelo Ministério
do Trabalho e Previdência3. O órgão é responsável por coordenar três importantes políticas do
sistema público de emprego: a) a intermediação de mão de obra (encaminhar trabalhadores
para vagas adequadas e disponíveis no mercado laboral); b) a orientação para qualificação
profissional; c) a concessão de benefício de seguro-desemprego. Os três eixos do SINE englobam
um conjunto de políticas públicas que busca maior efetividade na colocação dos trabalhadores
na atividade produtiva, visando a inclusão social, via emprego, trabalho e renda, bem como
por meio da promoção de atividades autônomas e de pequenos empreendimentos individuais
ou coletivos (LOBO; ANZE, 2016).
Atualmente, o SINE é um dos maiores serviços públicos de emprego do mundo

1
A investigação é fruto da parceria entre o MediaLab, UFRJ, Rede Lavits e Derechos Digitales. A pesquisa
foi realizada no âmbito do estudo comparado “Inteligencia Artificial e inclusión en América Latina: estudios
de caso y análisis comparado”, que analisou quatro casos de adoção de sistemas de decisão automatizados
(Automated Decision-Making ou ADM, em inglês) pelo setor público em quatro países latino-americanos,
com ênfase nos impactos para os direitos humanos. O resultado completo da pesquisa pode ser acessado em:
https://ia.derechosdigitales.org/. Acesso em: 2 fev.2023.
2
https://empregabrasil.mte.gov.br/
3
Durante o governo Bolsonaro, o SINE esteve sob a competência do Ministério da Economia até 2021, quando
foi recriada a pasta do Ministério do Trabalho e o sistema foi realocado.
161
(MARRA; OLIVEIRA; MARTINS, 2019). O sistema atende, por ano, aproximadamente 15
milhões de trabalhadores e um milhão e meio de empregadores, nos 1.600 postos físicos de
atendimento e pelo Portal Emprega Brasil. Com uma base única de dados para toda a rede
de atendimento4, composta de aproximadamente 65 milhões de cadastros de trabalhadores,
o portal disponibiliza diversos serviços sem a necessidade de comparecer presencialmente
a um posto de atendimento.
Dois objetivos principais são valorizados entre as atribuições do SINE desde o seu
início: o serviço de intermediação de mão de obra (IMO) e a produção de informações sobre
o mercado de trabalho (MATOS, 2011; ROSSETTO, 2019). Oferecido de maneira gratuita pelo
sistema, o serviço de IMO realiza a mediação entre oferta e demanda de trabalho e consiste
na correspondência (match) dos perfis de trabalhadores cadastrados no sistema com as
categorias e requisitos das vagas de emprego oferecidas pelas empresas no SINE. Com base
na correspondência dessas variáveis, o sistema encaminha as pessoas para entrevistas de
emprego e, por fim, registra o resultado do direcionamento.
Sobre a produção de dados e informações, ao cadastrar uma pessoa, seja nos postos
físicos, seja nos serviços digitais, o sistema coleta uma grande quantidade de dados pessoais
e do perfil profissional de quem deseja um novo emprego. Por sua vez, ao oferecer vagas
disponíveis, as empresas fornecem um conjunto de informações sobre postos de trabalho
que estão sendo criados e ofertados no mundo do trabalho. Há, por fim, dados referentes aos
programas de seguro-desemprego, de capacitação e qualificação profissional e de microcrédito
produtivo (MORETTO, 2018). Atualmente, a base de dados do SINE é gerida pela Dataprev5.
Em 2019, houve um processo de reestruturação do Sistema Nacional de Emprego, visando
a criação do chamado Novo SINE, parte de uma ampla Estratégia Brasileira para Transformação
Digital, aprovada em 2018. Anunciada em 27 de fevereiro de 2019, a mudança não é apenas
cosmética. No texto “O Novo Sine: mudanças do modelo brasileiro de intermediação de mão
de obra” (BARBOSA FILHO; FERREIRA; ARAÚJO, 2020), destaca-se que o sistema passará
por “mudanças estruturais a fim de incorporar práticas e mecanismos de IMO alinhados
aos adotados nos países da Organização para a Cooperação e Desenvolvimento Econômico
(OCDE)”. A implementação de ferramentas de IA, o uso e a importância de dados digitais com
informações do mercado de trabalho e a parceria com a iniciativa privada são elementos
centrais do Novo Sine.

Nesse processo de reestruturação, identificamos duas mudanças relevantes:

a) A criação do chamado SINE Aberto6, uma plataforma que compartilha a base de

dados dos trabalhadores cadastrados no SINE com empresas privadas do segmento de
intermediação de mão de obra;

4
https://dados.gov.br/dataset/postos-do-sistema-nacional-de-emprego-sine.
5
Criada por meio da Lei 6.125, de 4 de novembro de 1974, que a instituiu com personalidade jurídica de
direito privado, patrimônio próprio e autonomia administrativa e financeira, a Empresa de Tecnologia e
Informações da Previdência (Dataprev) é uma empresa pública vinculada ao Ministério da Economia. A
Dataprev é a responsável pela gestão da Base de Dados Sociais Brasileira e fornece serviços de Tecnologia da
Informação e Comunicação para a execução de políticas sociais do Estado brasileiro.
6
http://sineaberto.economia.gov.br/#/

162
 b) A implementação de ferramentas de Inteligência Artificial no Portal Emprega Brasil
para job matching e perfilização, que foram focaram o estudo de caso e são o escopo deste
texto.
Esse segundo item foi viabilizado pela parceria entre o governo federal e a Microsoft,
anunciada publicamente com o lançamento do projeto Microsoft Mais Brasil, em outubro
de 20207. O projeto envolve o uso de ferramentas de Inteligência Artificial fornecidas pela
Microsoft para o Governo para os setores de emprego e de sustentabilidade. A oferta da
Microsoft para o setor de emprego, além do uso de IA para a intermediação de mão de
obra e perfilização dos trabalhadores, envolve também qualificação profissional por meio
da Escola do Trabalhador 4.0, que ofertará cursos nas áreas de tecnologia e produtividade
disponibilizados pela empresa8. A implementação do projeto por parte do Governo é liderada
pela Coordenação Geral de Projetos Especiais da Secretaria de Políticas Públicas para o
Emprego (SPPE).
Os principais documentos que detalham como se dará a implementação de ferramentas
de IA no Novo SINE, fontes privilegiadas de consulta para a pesquisa a qual originou este
texto, são o Acordo de Cooperação Técnica (ACT) nº 110/2020 e o Plano de Trabalho que
integra o dito acordo.
O referido ACT foi constituído a partir do Edital de Chamamento Público nº 5/20209
que tinha como objetivo

[…] selecionar pessoa(s) jurídica(s) de direito privado, com ou sem fins lucrativos,
interessada(s) em propor e realizar ações de apoio à SEPEC para enfrentamento dos
impactos negativos causados no setor produtivo brasileiro em razão da pandemia
do covid-19, sem o desembolso ou a transferência de recursos públicos financeiros
ou patrimoniais. (grifos nossos)

Dentre as justificativas que embasam a adoção da solução, destaca-se ainda a ênfase

dada aos custos do SINE, relatando o valor de aproximadamente R$ 150 milhões por ano aos
cofres públicos10. Além disso, menciona-se a defasagem tecnológica da plataforma, a baixa
integração com políticas públicas do trabalho e o baixo índice de alocações realizadas por
intermédio do SINE.
As informações públicas mais recentes sobre o andamento da adoção das ferramentas
automatizadas e do ACT são de abril de 2021 e foram publicadas pela assessoria de comunicação
da Microsoft11. O post relata que, a partir daquele mês, as ferramentas de IA começaram a

7
Na divulgação, também se menciona a empresa de solução em tecnologia da informação Bizapp, que repre-
senta a Microsoft Dynamics 365 (Plataforma CRM) como líder na atualização do Portal do SINE.
8
A Escola do Trabalhador é um programa criado em 2017 pelo Ministério do Trabalho em parceria com a
Universidade de Brasília. Quando anunciado o projeto Microsoft Mais Brasil, afirmou-se que a Escola do
Trabalhador 4.0 atenderia até 5,5 milhões de candidatos a emprego até 2023 e disponibilizaria 58 instrutores
para oferecer orientação personalizada para até 315 mil pessoas. Com a parceria, a iniciativa passou a integrar
o programa Caminho Digital e tem como foco a “capacitação em habilidades digitais e inserção profissional
voltados para a Economia 4.0”, ofertando cursos, em sua imensa maioria, relacionados ao uso de softwares e
tecnologias da própria Microsoft. Mais informações em: https://escoladotrabalhador40.org.br/.
9
Publicado pela SEPEC no Diário Oficial da União do dia 1º de julho de 2020.
10
Sendo R$ 25 milhões para o Governo Federal e R$ 125 milhões para os Estados e Municípios.
11
https://news.microsoft.com/pt-br/features/ministerio-da-economia-moderniza-o-sine/
163
ser implementadas também nos postos físicos do SINE e seriam direcionadas ao uso dos
atendentes que poderiam, segundo o texto, “oferecer um atendimento individualizado focado
nas dificuldades individuais de empregabilidade daqueles que buscam uma (re)colocação
profissional, além de prover informações de Inteligência de negócio aos gestores regionais e
nacionais do sistema SINE”. A adoção da ferramenta na rede física se dará de maneira gradual,
iniciando pelos estados do Paraná, Minas Gerais, Ceará e Bahia, informa ainda o texto.
Esse texto, entretanto, concerne ao período da nossa investigação, ou seja, entre agosto
e dezembro de 2020, como dito anteriormente. Para tanto, inicialmente apresentaremos um
breve levantamento do uso de ferramentas de Inteligência Artificial para intermediação de mão
de obra no mundo, com ênfase no contexto público, pontuando alguns efeitos potencialmente
nocivos já identificados na adoção de tais tecnologias. Na sequência, detalhamos o design do
sistema implementado, descrevendo o funcionamento das duas ferramentas algorítmicas
utilizadas. Em seguida, faremos uma análise dos mecanismos de accountability previstos no
projeto, enfatizando suas fragilidades e a urgência da construção de um marco regulatório para
IA voltada para o interesse público. No tópico seguinte, apontamos alguns riscos e impactos
potenciais da implementação de ferramentas de IA no SINE identificados durante nossa
pesquisa, momento em que o projeto ainda estava em fase de execução. Por fim, elaboramos
sugestões e pontos de atenção para o debate sobre o uso de IA em políticas públicas e tecemos
algumas reflexões de caráter mais especulativo, visando ao debate e à ação coletiva sobre o
uso de Inteligência Artificial no setor público, especialmente na América Latina.

IA e a intermediação de mão de obra pelo mundo

Nos últimos anos, vem se espraiando a implementação e utilização de Inteligência

Artificial na intermediação de emprego, recrutamento e contratação de profissionais tanto no
setor público quanto no setor privado. Na iniciativa privada, pesquisa realizada em fevereiro
de 2022 pela Society for Human Resource Management12 apontou que 25% das organizações
e entidades filiadas à instituição faziam uso de alguma ferramenta de IA em seus processos.
Já no setor público, há uma lacuna de pesquisas e informações consolidadas sobre o
número exato de serviços públicos, em diferentes escalas de administração, que utilizam ou
estão implementando ferramentas de IA na intermediação de mão de obra ao redor do mundo.
Relatórios de organizações internacionais, como o BID (URQUIDI; ORTEGA, 2020) e a OCDE
(DESIERE; LANGENBUCHER; STRUYVEN, 2019) e pesquisas de entidades da sociedade civil
e da academia13, no entanto, nos trazem alguns exemplos e pistas do estágio de utilização da
IA no setor público de emprego.
Na Europa, destaca-se o projeto de 2014 de perfilamento automatizado pelo Publiczne
Służby Zatrudnienia (PSZ)14, serviço público de emprego da Polônia, e a introdução de ferramentas

12
hhttps://www.shrm.org/about-shrm/press-room/press-releases/pages/fresh-shrm-research-explores-use-
-of-automation-and-ai-in-hr.aspx
13
Neste sentido, ver: ALGORITHM WATCH (2020). Automating Society Report 2020. Disponível em: https://
automatingsociety.algorithmwatch.org/wp-content/uploads/2020/10/Automating-Society-Report-2020.pdf.
Acesso em: 30 nov.2022.
14
Mais informações sobre isso podem ser encontradas em: https://psz.praca.gov.pl/. Para uma análise da auto-
matização de perfilamento e dos problemas de transparência e riscos de discriminação, ver o relatório produ-
zido pela Fundação Panoptykon em 2015: NIKLAS, J.; SZTANDAR-SZTANDERSKA, K.; SZYMIELEWICZ,
164
automatizadas pelo Pôle Emploi15, da França, e pelo VDAB16, de Flandres/Bélgica. Na Ásia,
é muito discutido o projeto The Work17, do Korea Employment Information Service (KEIS),
da Coreia do Sul. Já no contexto da América Latina, anterior à iniciativa que relatamos no
Brasil, foi lançado no Paraguai, em 2017, o ParaEmpleo18, uma plataforma de job matching
e perfilização automatizados.
É importante destacar que relatórios de entidades como o Banco Interamericano de
Desenvolvimento (BID) e a Organização para a Cooperação e Desenvolvimento Econômico
(OCDE) não são peças desinteressadas nesse cenário. A introdução de ferramentas de IA no
setor público de emprego é amplamente defendida por essas organizações, que ressaltam a
otimização do tempo – para o sistema e para os usuários –, maior precisão na recomendação
de vagas e maior eficácia no número de contratações. O otimismo desse receituário, entretanto,
contrasta com as poucas evidências para respaldar as afirmações feitas pelas Big Techs e pelos
desenvolvedores sobre os benefícios de suas ferramentas de IA. Muitas das suposições nas
quais tais afirmações se baseiam permanecem não testadas e não escrutinadas, tornando-se
mais estratégias de publicidade e de vendas de produtos do que diagnósticos.
A esse cenário de incerteza somam-se os potenciais riscos de discriminações a grupos
populacionais já vulnerabilizados. Um dos casos rumorosos de preconceito aconteceu com
a ferramenta interna de contratação da Amazon que, por ter sido treinada para reconhecer
padrões de currículos enviados para a empresa nos anos anteriores, em sua imensa maioria de
homens, considerava as candidatas mulheres automaticamente menos aptas para as vagas19.
Já no caso do sistema de emprego da Polônia, ele também se tornou paradigmático pelos

K.. Profiling The Unemployed In Poland: Social And Political Implications Of Algorithmic Decision Making.
Fundacja Panoptykon. 2015. Disponível em:
https://panoptykon.org/sites/default/files/leadimage-biblioteka/panoptykon_profiling_report_final.pdf. Acesso
em: 29 nov. 2022.
15
https://www.pole-emploi.fr/accueil/. Para um detalhamento maior dos serviços automatizados do órgão,
ver o artigo de seu diretor de inovação aqui:
https://www.annales.org/enjeux-numeriques/DG/2018/DG-2018-01/Enj18a8_Chapuis.pdf. Acesso em: 28
nov.2022.
16
O serviço público belga fundou um laboratório de inovação em 2014 que é responsável por desenvolver
novas aplicações digitais e elaborar análises a partir dos dados gerados pelo serviço. Usando um modelo de
aprendizado de máquina com centenas de variáveis, o laboratório desenvolveu um modelo de perfil estatístico,
chamado Próximos Passos, que estima a probabilidade de uma pessoa ficar desempregada por um período
maior que seis meses. Veja mais em: https://www.vdab.be. Acesso em: 28 nov.2022.
17
O serviço consiste em oferecer seis recomendações personalizadas de informações relacionadas a empregos
para os usuários registrados no órgão. As recomendações de vagas são realizadas por meio de ferramentas
de IA que analisam o currículo da pessoa registrada, a experiência anterior dela, financiamentos ou bolsas já
recebidas e as próprias áreas de interesse dela. Veja mais em: https://www.keis.or.kr. Acesso em: 20 out.2022.
18
Fruto de uma parceria do governo paraguaio com o BID, a plataforma digital faz o pareamento das “com-
petências” dos usuários com as ofertas de vagas, apresentando uma porcentagem aproximada de match,
levando em conta também a proximidade do emprego da residência do usuário. Na página do projeto no site
do BID, eles argumentam que o projeto “aplica processos livres de discriminação”, mas não detalham como
isso é realizado. Ver mais em: https://fairlac.iadb.org/en/paraempleo e https://paraempleo.mtess.gov.py/es/.
Acessos em: 12 set.2022.
19
Disponível em: https://tecnoblog.net/meiobit/391571/ferramenta-de-recrutamento-amazon-ai-discrimi-
nava-mulheres/. Acesso em: 12 out.2022.
165
efeitos potencialmente nocivos. Após diversas críticas e pesquisas mostrando que o sistema
tinha tendências discriminatórias, não tinha transparência adequada e violava leis de proteção
de dados, após uma decisão contrária da corte constitucional do país em relação ao uso dos
dados, a ferramenta de perfilização foi interrompida pelo governo polonês em 201920.
O caso da Polônia atesta não apenas os perigos da implementação de ferramentas
automatizadas pelo poder público sem critérios e parâmetros definidos, mas também a
possibilidade de intervenção e a necessidade da regulação da IA no setor público. No mundo,
o debate e as disputas estão em aberto. Em abril de 2021, a União Europeia21 apresentou
proposta de regulação da IA na qual o uso dessas tecnologias para o emprego é classificado
como de “alto risco”, o que implica medidas e requisitos mais rígidos de confiabilidade e de
auditorias e avaliações dos procedimentos decisórios. Por sua vez, em novembro de 2021, o
Conselho da Cidade de Nova York proibiu a venda de “ferramentas automatizadas de decisão
de emprego” sem auditorias anuais de discriminação22.

Design do sistema algorítmico

Como descrito anteriormente, o sistema de Inteligência Artificial para o portal de vagas

do SINE consiste em duas ferramentas:

1) Uma ferramenta de job matching, que promove o cruzamento automatizado de vagas

registradas no portal com os trabalhadores considerados mais adequados para preenchê-las;

2) Uma ferramenta de profiling, que faz uma segmentação dos trabalhadores por “perfis
de risco” segundo critérios de capacidade de reinserção no mercado laboral, apoiando tanto
a recomendação de vagas no portal como a orientação de políticas públicas de qualificação
profissional.

Por meio de um pedido de Lei de Acesso à Informação23 sobre que critérios serão
utilizados para a intermediação inteligente, a Coordenação-Geral de Projetos Especiais da
SPPE respondeu que

[s]erão utilizadas técnicas para identificar vagas mais adequadas para os trabalhadores
a partir das experiências anteriores de trabalhos, encaminhamentos com e sem
sucesso, perfil de consultas de vagas, perfil profissional e dados da utilização
das plataformas digitais do Sine. No que se refere à indicação de habilidades,
será utilizado um mapeamento de ocupações para competências [SIC] a fim de
recomendar cursos de qualificação que desenvolverão as habilidades demandadas
para o exercício de determinadas atividades de interesse dos trabalhadores.

20
Disponível em: https://algorithmwatch.org/en/poland-government-to-scrap-controversial-unemploymen-
t-scoring-system/. Acesso em 3 jan.2022.
21
Disponível em: https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:52021PC0206&-
from=EM. Acesso em 3 jan.2022.
22
Disponível em: https://news.bloomberglaw.com/daily-labor-report/nyc-targets-artificial-intelligence-bias-
-in-hiring-under-new-law. Acesso em 3 jan.2022.
23
Protocolo 03005.184809/2020-85, respondido em 01/12/2020.

166
 Mesmo com a explanação dos critérios de processamento algorítmico para ambos
os módulos, ainda permanecem opacos maiores detalhes sobre a lógica operativa dos
modelos algorítmicos que serão utilizados para cada tarefa. Nesse sentido, as regras
algorítmicas mais explícitas a que esta investigação teve acesso são as divulgadas
quando da realização de uma prova de conceito24, realizada durante o segundo semestre
de 2019 e conduzida pela Microsoft e a EloGroup25. Por isso, as regras mencionadas
nessa prova foram tomadas como base para algumas considerações que fazemos sobre
riscos e impactos potenciais.
Segundo nota de divulgação veiculada pela Microsoft26, o principal objetivo da
prova foi “validar a melhora de assertividade de job-matching do sistema” (MICROSOFT
NEWS CENTER, 2020). A divulgação também afirma que a IA utilizada no teste
apresentou um índice de assertividade superior a 70% para recomendação de vagas
supostamente mais apropriadas para o perfil do trabalhador, ainda que não se detalhe
como a “probabilidade de match” é calculada. No texto, descreve-se que:

Com o cruzamento de informações históricas dessas bases e análise por meio

de algoritmos de IA, o índice mostrou uma assertividade superior a 70%.
Em termos práticos, isso significa que, a cada 10 casos de trabalhadores
que já haviam conseguido uma oportunidade no passado, com o uso do
algoritmo de IA, em sete dos casos ele seria capaz de recomendar a vaga mais
adequada ao perfil do profissional, bem como a melhor recomendação do
trabalhador para a vaga. Os outros 30% correspondem a profissionais que,
com base no histórico, foram empregados, mas que, segundo o modelo de
IA, teriam menor probabilidade de conquistar aquela posição. O algoritmo
recomenda trabalhadores que tenham mais de 60% de probabilidade de
match (combinação) com a vaga. (Idem., 2020)

Para sugerir quais vagas têm mais chance de se encaixar no perfil de um determinado
trabalhador, o algoritmo de IA considerou tanto as situações que se reverteram em
contratação quanto as que não tiveram sucesso. Um dos diferenciais do modelo proposto,
afirma-se, é que ele “permite recomendar vagas de emprego para indivíduos com o perfil
profissional semelhante ao de trabalhadores que foram aceitos em processos seletivos
anteriores” (Ibidem) e não opera a partir da Classificação Brasileira de Ocupações (CBO).
Essa classificação é, hoje, a base do pareamento entre currículos e vagas no SINE e é
descrita como um problema por vários atores envolvidos na defesa da implementação
do novo sistema por ser complexa e, com frequência, pouco assertiva. Algumas das
implicações relacionadas à ênfase que o novo modelo de intermediação dá para o
histórico de contratações – ao que informações disponíveis indicam –, sobretudo na

24
Para a prova, foram usados dados históricos de três bases: do próprio SINE, do Cadastro Geral de Empre-
gados e Desempregados (CAGED) e da Relação Anual de Informações Sociais (RAIS).
25
Empresa privada brasileira baseada no Rio de Janeiro. Com escritórios em quatro cidades no país, atua em
12 países no desenvolvimento e licenciamento de softwares e em consultoria de gestão e TI para organizações
públicas, privadas e do terceiro setor. Veja mais sobre isso em: https://elogroup.com.br/. Acesso em: 20 mar.2022
26
Disponível em: https://news.microsoft.com/pt-br/sistema-nacional-de-emprego-sine-testa-uso-de-inteli-
gencia-artificial-para-aumentar-eficiencia-na-oferta-de-oportunidades-de-trabalho/. Acesso em: 20 mar.2022.

167
regulação do campo de oportunidades do trabalhador, serão abordadas no tópico 5.
Fontes da Secretaria de Políticas Públicas para o Emprego entrevistadas afirmaram
que, apesar da prova de conceito ter apresentado bons resultados para a ferramenta
de job matching, “os resultados de perfilização não foram tão bons”, sem detalhar
números mais precisos ou critérios específicos sobre a avaliação.
Em entrevista realizada por e-mail, a Microsoft afirmou que “[n]a prova de conceito
mencionada […] conseguimos aumentar a assertividade desse casamento entre vagas
disponíveis e pessoas buscando emprego para 70%, um número muito expressivo
quando comparado à eficiência do SINE.27”. Entretanto, também foi relatado na entrevista
que “[o] estudo não foi utilizado em produção e, portanto, não gerou contratações”,
tornando metodologicamente infundada a comparação entre a efetividade declarada
do algoritmo de job matching da prova de conceito e o modelo de intermediação
atual do SINE. Como pontua um representante entrevistado da classe trabalhista no
Conselho Deliberativo do Fundo de Amparo ao Trabalhador (CODEFAT), o sistema
de avaliação das ferramentas de intermediação no contexto das mudanças em cursos
no SINE deveria priorizar não apenas “números soltos”, mas, sobretudo, informar os
perfis a que tais números se referem e quem está sendo beneficiado com as mudanças
em curso.

Mecanismos de accountability no SINE: a importância da regulação

da IA guiada pelo interesse público

Um aspecto bastante evidente durante a investigação foi a fragilidade dos

mecanismos usualmente designados por accountability (responsabilização e prestação
de contas) previstos no projeto. Identificamos também outras fragilidades correlatas,
relacionadas ao campo regulatório, conforme detalharemos a seguir.
Na documentação a que tivemos acesso sobre a implementação, a única menção
a dispositivos de prestação de contas é feita no Plano de Trabalho, quando se descreve,
dentre as obrigações da SPPE, “Elaborar relatórios periódicos sobre os impactos da
iniciativa na política pública de intermediação de mão de obra”. Porém, não foram
dados mais detalhes acerca dos critérios ou periodicidade de tais relatórios.
Em resposta a pedido de informação via LAI sobre que mecanismos de revisão
de erro estão sendo considerados no desenho do sistema, a Coordenação de Projetos
Especiais da SPPE respondeu que “a revisão de erros dos algoritmos de inteligência
artificial pode ser avaliada sob o ponto de vista de vieses indesejados ou sobre o risco
de pareamentos equivocados”. Além disso, o órgão afirma que “serão tomados cuidados
na avaliação dos algoritmos de forma que não sejam permitidas discriminações que
não sejam positivas”, mas não há qualquer detalhamento sobre como tais questões
serão concretamente enfrentadas.

27
O dado também figura entre as justificativas apresentadas no Plano de Trabalho do Acordo de Cooperação
Técnica: “A Microsoft desenvolveu, em 2019, uma prova de conceito utilizando inteligência artificial junto
à Secretaria de Políticas Públicas de Emprego, SPPE, demonstrando a capacidade de elevar o potencial de
intermediação de mão de obra do sistema para o percentual de 70% comparado com taxas significativamente
inferiores do sistema em uso.”
168
 No mesmo pedido de informação, questionada se a implementação do novo sistema
no SINE prevê a realização de auditorias, e, caso positivo, como seriam realizadas, a
Coordenação de Projetos Especiais da SPPE respondeu que, “tendo em vista que a
plataforma é mantida pela Dataprev, os procedimentos de auditoria daquela empresa
pública serão empregados também no portal de vagas do Sine.28”
Porém, ainda que o projeto seja frágil nesse sentido, convém pontuar que ele
está sujeito aos mecanismos previstos na LGPD (Lei nº 13.709/2018), entre os quais
ressaltamos o direito à explicação e o direito à revisão. Sobre o primeiro, o §1º do
art. 20 da LGPD define que “[o] controlador deverá fornecer, sempre que solicitadas,
informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados
para a decisão automatizada, observados os segredos comercial e industrial.” Já quanto
ao direito à revisão, também no art. 20, está previsto que o titular dos dados tem
direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento
automatizado de dados pessoais que afetem seus interesses. Esse direito, no entanto, foi
duramente limitado, uma vez que, quando a lei foi publicada, houve veto presidencial à
possibilidade de revisão humana de decisões automatizadas29. O veto tornou bastante
limitados os efeitos da possibilidade de reparação de erros por meio do exercício do
direito à revisão no contexto brasileiro e abriu a possibilidade de que, na prática,
um pedido de revisão de decisão automatizada poderia resultar em outra decisão
igualmente automatizada (SILVA; MEDEIROS, 2019), em um ciclo que beira o absurdo.
A LGPD também é o melhor mecanismo de que dispomos até o momento para
reparação de vítimas de erros de sistemas que envolvam tratamento de dados, como
o implementado no SINE. O art. 42 define que “o controlador ou o operador que, em
razão do exercício de atividade de tratamento de dados pessoais, causar a outrem
dano patrimonial, moral, individual ou coletivo, em violação à legislação de proteção
de dados pessoais, é obrigado a repará-lo”. O artigo também prevê que as ações
de reparação por danos coletivos que tenham por objeto a responsabilização dos
operadores e controladores dos dados podem ser exercidas coletivamente. Nesses
casos, órgãos como o Ministério Público, a Defensoria Pública ou mesmo organizações
não governamentais poderiam representar toda uma coletividade diante do Poder
Judiciário para defender tais direitos.
Além dos dispositivos mencionados da LGPD, convém mencionar ainda o princípio
da não discriminação e o princípio da responsabilização e prestação de contas como
princípios relevantes para orientar o desenvolvimento de políticas públicas de governança
em IA baseadas em direitos humanos.

28
Recordamos também que está entre as atribuições da Autoridade Nacional de Proteção de Dados (ANPD)
requerer realização de auditoria para verificação de aspectos discriminatórios em tratamento automatizado
de dados pessoais e a elaboração do relatório de impacto à proteção de dados pessoais.
29
É bastante significativa a justificativa utilizada pelo presidente Jair Bolsonaro para o veto, ao afirmar que
a revisão humana de decisões automatizadas “contraria o interesse público”, uma vez que “inviabilizará os
modelos atuais de planos de negócios de muitas empresas, notadamente das startups, bem como impacta a
análise de risco de crédito e de novos modelos de negócios de instituições financeiras, gerando efeito nega-
tivo na oferta de crédito aos consumidores. A justificativa completa ao veto está disponível em: http://www.
planalto.gov.br/ccivil_03/_ato2019-2022/2019/Msg/VEP/VEP-288.htm. Acesso em: 28 fev.2022.
169
 O que a fragilidade dos mecanismos de accountability do projeto do SINE deixa
explícito é que, alinhada ao que vários especialistas vêm ressaltando, a urgência da
construção de um marco regulatório para IA, focando o contexto brasileiro e que
evite que interesses mercadológicos, frequentemente associados a um discurso
tecnosolucionista que encontra na tecnologia a solução para problemas de ordem
estrutural, se sobreponham a interesses públicos e à necessária precaução aos potenciais
riscos e impactos, sobretudo sociais, da ampla adoção de ferramentas de IA para os
mais variados fins em contextos públicos e/ou privados.
Nesse sentido, é importante destacar que está em curso, nesse momento, no
Senado do Brasil, a realização de uma série de audiências públicas por uma comissão
de juristas responsável por subsidiar a elaboração de substitutivo aos Projetos de Lei
nº 5.051 (2019), PL 21 (2020) e PL 872 (2021), que buscam estabelecer as regras,
diretrizes e fundamentos para regular o desenvolvimento e a aplicação da IA no Brasil. As
audiências públicas foram organizadas a partir de quatro eixos temáticos: (i) conceitos,
compreensão e classificação de IA; (ii) impactos da IA; (iii) direitos e deveres; e (iv)
accountability (prestação de contas), governança e fiscalização30.
Além dessa iniciativa, destacamos a elaboração da Estratégia Brasileira de Inteligência
Artificial (EBIA), concebida entre os anos de 2019 e 2020, liderada pelo Ministério de
Ciência, Tecnologia e Inovação (MCTI31). Alinhada às diretrizes da OCDE endossadas
pelo Brasil, a EBIA fundamenta-se nos cinco princípios definidos pela Organização
para uma gestão responsável dos sistemas de IA, quais sejam: (i) crescimento inclusivo,
desenvolvimento sustentável e bem-estar; (ii) valores centrados no ser humano e na
equidade; (iii) transparência e explicabilidade; (iv) robustez, segurança e proteção;
e (v) a responsabilização ou a prestação de contas (accountability).
No eixo Legislação, Regulação e Uso Ético, a EBIA toca em questões importantes,
como a necessidade de intervenção humana em contextos de IA em que o resultado de
uma decisão automatizada implica um alto risco de dano para o indivíduo. O documento
afirma ser desejável que tais decisões sejam passíveis de explicação e interpretação,
que os indivíduos devem ter ciência de suas interações com sistemas de IA e que a
regulamentação da IA deve ser seguida por princípios como: (i) desenvolvimento
de estruturas legais existentes; (ii) adoção de abordagem regulatória baseada em
princípios e resultados; (iii) realização de um “teste de equilíbrio de riscos/benefícios”
centrado no indivíduo humano; e (iv) avaliação de impacto contextual. Propõe-se
também que a IA não deve criar ou reforçar preconceitos que impactem indivíduos por
motivos relacionados a características sensíveis como raça, etnia, gênero, nacionalidade,
renda, orientação sexual, deficiência, crença religiosa ou inclinação política. Já no eixo
Governança de IA, destacamos as seguintes indicações: que a ideia de accountability
deve ser guiada pelo princípio da precaução; a intervenção regulatória deve ser

30
A comissão, formada por 18 juristas, convocou 60 especialistas da academia, da comunidade técnica, da
sociedade civil, do mercado e do poder público para 12 painéis que se realizarão do dia 28 de abril a 13 de
maio de 2022.
31
A EBIA foi construída em três etapas: (i) contratação de consultoria especializada em IA, (ii) benchmarking
nacional e internacional, e (iii) processo de consulta pública.
170
proporcional ao grau de risco que a aplicação oferece; realização de análise de risco
por meio da elaboração de relatórios de impacto; controle de qualidade por meio de
testes e validações periódicos; adoção de metodologias transparentes e auditáveis
quanto ao desenvolvimento dos sistemas, às fontes de dados e aos procedimentos e
documentação do projeto em questão.
Contudo, o tom geral da EBIA, sobretudo sobre questões regulatórias, responsabilização
e prestação de contas, é bastante brando e/ou vago, e, em diversos momentos, orienta
que se deve evitar ações regulatórias que possam limitar a inovação, a adoção e o
desenvolvimento de IA. O estímulo ao desenvolvimento da chamada “IA ética” (termo em
si mesmo passível de discussão), apesar de constar como parte das ações estratégicas, é
visado, sobretudo, em termos de parcerias com corporações que desenvolvem “soluções
comerciais dessas tecnologias de IA ética” (EBIA, 2021, p. 23). Além disso, cabe destacar
o incentivo, em diversos pontos, à abertura de bases de dados do Governo para o
desenvolvimento de estudos e aplicações brasileiras que envolvam IA, sugerindo o uso
de sandboxes regulatórios para a operacionalização desse modelo32. Essa frente torna
explícito que iniciativas como o SINE Aberto, descrito na introdução deste trabalho,
integra uma estratégia mais ampla de estímulo ao acesso privado a dados públicos.

Riscos e potenciais impactos

Apesar de, na ocasião da realização desta pesquisa, o projeto ainda estar em fase
de execução, de modo que não era possível avaliar seus impactos efetivos, a investigação
e análise do processo de implementação permitiu apontar alguns riscos e impactos
potenciais, detalhados a seguir.

1) Regulação do campo de oportunidades do trabalhador desocupado

Um dos maiores riscos potenciais do uso de ferramentas de Inteligência Artificial

para intermediação de mão de obra e perfilização automatizadas no contexto do SINE se
relaciona ao modo como o funcionamento dessas ferramentas incide e regula o campo
de oportunidades do trabalhador desempregado. Chamou-nos especialmente a atenção
o fato de o processamento algorítmico para recomendação dar ênfase ao histórico de
contratações anteriores do trabalhador, o que implica um risco de privilegiar aqueles
com bom desempenho no passado ou que possuem características inferidas como
positivas pelo treinamento dos algoritmos, impactando potencial e negativamente
aqueles que têm mais dificuldade de se recolocar no mercado de trabalho e que são,
justamente, o público-alvo declarado dessa política de emprego.
Ao utilizar como um dos principais critérios de filtro de recomendação das
vagas os padrões de processos seletivos anteriores contidos no banco de dados e as
projeções de probabilidades de contratação traçadas a partir disso, o sistema pode

32
Sandboxes regulatórios podem ser descritos como a criação de ambientes experimentais para teste de inova-
ções no mercado por um determinado período sem a necessidade de cumprimento de requisitos regulatórios
tradicionais. O modelo tem origem no mercado financeiro.
171
tender a repetir e reforçar seu próprio histórico. Na prática, isso significa que o sistema
possuiria a tendência de recomendar vagas para – e, consequentemente, contratar
– os trabalhadores cujo perfil se assemelha aos já contratados (provavelmente, mais
qualificados), diminuindo a probabilidade de contratação dos trabalhadores que diferem
desse perfil (provavelmente, menos qualificados), que tenderiam a ser menos visíveis
para os contratantes dentro do sistema.
Autores vêm destacando que, dentre o público atendido pelo SINE, aquele com
maior dificuldade de inserção em um posto de trabalho é o de jovens, mulheres e
negros, geralmente com baixa escolaridade, falta de experiência e pouca qualificação
(ROSSETO, 2019; MORETTO, 2018). Esses seriam, portanto, os grupos de trabalhadores
potencialmente mais vulneráveis a serem prejudicados pela lógica descrita de exibição
de vagas. Assim, a almejada melhoria na eficiência e otimização da intermediação de
mão de obra corre o risco de ser prejudicada pelas próprias lógicas que orientam o
sistema: seja na ênfase do histórico de contratações no algoritmo de intermediação
inteligente, seja na liberação da consulta prévia ao currículo completo do trabalhador33,
há uma tendência a selecionar, do modo mais antecipado possível, os perfis mais
qualificados do banco de dados. Nesse sentido, há um risco de que a performatividade
do próprio sistema impacte negativamente uma parcela de trabalhadores que tem
mais dificuldade de conseguir vagas.

2) Assimetria de poder e falta de transparência

Um ponto crucial das implicações do uso de IA para intermediação de mão de obra

no contexto do SINE é a intensa assimetria de poder envolvida nesse tipo de modelo e a
dificuldade, por parte do trabalhador, de entender e conhecer minimamente as regras
de funcionamento do sistema. Além disso, há pouca ou nenhuma margem para que
ele possa interferir ou questionar os resultados da intermediação e do perfilamento
aos quais está sujeito, já que o sistema opera segundo regras e critérios que lhe são
opacos, como é recorrente na mediação algorítmica (ALGORITHM WATCH, 2020;
NIKLAS et al., 2015).
Até o momento, não há indícios, por exemplo, de que se deixará claro aos usuários
do sistema informações como: os critérios utilizados para a exibição (ou não) das
vagas; a forma como é calculada a probabilidade de contratação de um trabalhador; a
existência de um sistema de perfilização “por trás” do portal de vagas; o tipo de perfil
em que o trabalhador está classificado segundo esse sistema; os critérios utilizados
para a segmentação dos trabalhadores em determinados perfis, para citar apenas
alguns aspectos que permanecerão opacos para o trabalhador.

33
Antes da implementação das novas ferramentas tecnológicas no portal de vagas, as empresas não conseguiam
acessar o currículo completo do trabalhador antes da entrevista. Segundo fontes entrevistadas, a regra integrava
os protocolos de intermediação tradicional do SINE visando evitar discriminações, sobretudo baseadas em
gênero, raça e faixa etária durante o processo seletivo. Essa impossibilidade foi apontada como um problema
do atual sistema tanto no diagnóstico documentado no Plano de Transformação Digital do SINE quanto no
Plano de Trabalho do ACT firmado com a Microsoft. Entre as mudanças a serem implementadas no portal, está
a liberação da consulta dos currículos completos dos candidatos antes da entrevista por parte das empresas.
172
 Dado que o sistema recomenda apenas as vagas supostamente mais compatíveis
com suas habilidades – e é somente para essas que ele pode manifestar interesse34 –,
o trabalhador não chega a ter consciência da diferença entre as oportunidades totais
e aquelas a que tem acesso. O discurso sobre as vantagens da personalização das
recomendações, seja no âmbito das políticas públicas ou na paisagem midiática das
grandes plataformas digitais, costuma ofuscar os problemas relacionados aos critérios
utilizados na filtragem de conteúdo para personalização em contextos algoritmicamente
regulados e segmentados.
Essa assimetria poderia ser minimizada se tivesse havido uma maior participação
da classe trabalhadora na elaboração e implementação desse sistema, mas não foi o
que ocorreu. Apenas houve participação de alguns trabalhadores usuários do SINE
na fase de diagnóstico do problema, durante a elaboração do Plano de Transformação
Digital do SINE35. Esse risco é particularmente preocupante no contexto brasileiro atual,
uma vez que, como mencionado anteriormente, houve o veto presidencial à revisão
humana de decisões automatizadas na ocasião da aprovação da LGPD. A possibilidade
de revisão humana na LGPD, caso tivesse permanecido no texto final da lei, poderia
reduzir alguns danos provocados pelas características sistêmicas relacionadas à falta de
transparência e assimetria de poder em processos decisórios mediados por algoritmos.

3) Big Techs no setor público

O terceiro e último risco que identificamos está associado à transferência de dados

estratégicos sobre a economia e o mercado de trabalho no Brasil para infraestruturas
de processamento de dados de grandes corporações de tecnologia como a Microsoft.
Tal transferência não é apenas restrita aos dados pessoais dos cadastrados no SINE,
como abre a possibilidade de a empresa identificar tendências no setor ocupacional
formal, influenciar políticas públicas (como a Escola do Trabalhador 4.0 atesta) e
desenhar oportunidades de negócios em várias frentes.
O conjunto dos dados do SINE, um dos maiores do mundo, constitui uma fonte
rica de informações não apenas em relação às ações efetivamente realizadas pelo
sistema ou observadas no mercado de trabalho, mas também por fornecer indicativos
de tendências potenciais (LOBO; ANZE, 2014). Assim, as informações geradas na
operacionalização das ações do SINE permitem um diagnóstico conjuntural do mercado
de trabalho formal, possibilitando também uma análise de mais longo prazo, para
verificar tendências de transformações estruturais no setor ocupacional formal e,
ainda, subsidiar “a tomada de decisão no âmbito das políticas públicas que não se
restringe apenas às relacionadas ao trabalho” (MORETTO, 2018, p. 225).

34
Segundo fontes entrevistadas da SPPE, com as mudanças em curso no portal, o empregador passará a ter a
possibilidade de convocar para um processo mesmo os trabalhadores que não manifestaram interesse na vaga.
Este poderá aceitar ou negar o convite. Contudo, o inverso não está declaradamente previsto para ocorrer,
ou seja, que o trabalhador possa manifestar interesse em uma vaga que o sistema não considera compatível
com suas habilidades.
35
Para mais detalhes, conferir o relatório completo da pesquisa, disponível em: https://ia.derechosdigitales.
org/casos/brasil-sistema-nacional-de-empleo/. Acesso em: 22 jan.20022.
173
 Apesar de constar no ACT a vedação de transferência para a Microsoft de “informações
protegidas por sigilo fiscal, empresarial e comercial”, as cláusulas não parecem garantir
resguardos a respeito da transferência de informações que não estejam protegidas por
esses sigilos, como as informações e conhecimentos conjunturais e estruturais sobre
o mercado de trabalho descritas anteriormente. É importante frisar esse aspecto, uma
vez que é significativo para o âmbito dessa parceria que a Microsoft tenha, nos últimos
anos, adquirido empresas relacionadas ao uso de dados e ferramentas automatizadas
de intermediação de mão de obra, como a Bright Media Corporation e o LinkedIn.
Todos os riscos que identificamos se agravam diante da fragilidade dos mecanismos
de controle público e social previstos na implementação dessas ferramentas, evidenciada
no tópico anterior. Outra questão a se observar é como os atores envolvidos na
concepção e implementação da ferramenta decisória tendem a minimizar os efeitos
materiais do sistema, uma vez que o que é automatizado não é a decisão sobre quais
trabalhadores serão ou não contratados, mas “apenas” quais serão recomendados para
determinada vaga. Em outros termos, a decisão final cabe sempre ao empregador. O
relatório Automating Society 2020, que sintetiza os resultados de pesquisa realizada
em 11 países europeus sobre o uso de sistemas automatizados de decisão em diversos
âmbitos, dentre eles a intermediação de mão de obra, descreve uma postura similar
por parte desses atores (ALGORITHM WATCH, 2020). Uma argumentação comum,
segundo o relatório, é afirmar que a contratação não é realizada pelo sistema de decisão
automatizada, e que este apenas automatiza o processo de avaliação, que fornece uma
base para que empregadores tomem a decisão sobre a contratação.

Sugestões para o debate sobre o uso de IA em políticas públicas

Considerando os potenciais riscos e impactos identificados por nossa pesquisa,

algumas recomendações presentes na Estratégia Brasileira de IA e uma perspectiva
tecnopolítica ancorada em necessidades e realidade locais36, elaboramos algumas
sugestões e pontos de atenção para o debate sobre o uso de IA em políticas públicas:

1) Elaboração de relatórios prévios de impacto e testagem que permitam análise de

riscos antes da implementação de sistemas de decisão automatizada. No caso analisado,
a prova de conceito era extremamente vaga e não permitia dimensionar os impactos,
sobretudo em relação a direitos humanos, no âmbito do SINE.

2) Utilização de metodologias transparentes e auditáveis quanto ao desenvolvimento

dos sistemas de IA, às fontes de dados e à documentação de implementação e utilização
de mecanismos continuados de controle público, com validações periódicas, que
permitam o monitoramento dos efeitos de tais sistemas;

36
Além da importância de abordagens situadas no contexto brasileiro, cabe uma atenção a iniciativas regionais,
focalizando especialmente a América Latina, ou, mais amplamente, o Sul global.

174
 3) Utilização de supervisão humana de decisões automatizadas quando aplicadas
a políticas públicas e direito à revisão humana de tais decisões. Reiteramos a gravidade
do veto presidencial ao direito de revisão humana de decisões automatizadas previsto
originalmente na LGPD;

4) Construção de abordagens situadas em contextos locais que ampliem efetivamente

a participação das populações que são beneficiárias da política pública proposta, para
construir um cuidado coletivo na formulação dessas políticas e evitar o risco que hoje
se encontra colocado no caso que estudamos: de que o uso de Inteligência Artificial na
gestão pública do desemprego seja um proxy para automação de políticas neoliberais
que acabam por precarizar os serviços que alegam otimizar;

5) Construção de um debate decolonial sobre Inteligência Artificial. A elaboração

coletiva de uma agenda decolonial para o desenvolvimento, uso e avaliação de IA é central
para que o ativismo, a pesquisa e as entidades de defesa de direitos não reproduzam
uma tendência que marcou parte da história dos direitos digitais na América Latina,
cuja agenda foi, durante muito tempo, fortemente espelhada no Norte global37.

6) Fomentar iniciativas de formação tecnopolítica no âmbito da gestão pública com

o objetivo de qualificar o debate e problematizar a perspectiva de que as tecnologias
são ferramentas neutras, ainda em vigor, conforme identificamos no discurso dos
responsáveis pela implementação do projeto do SINE;

7) Promover fóruns que discutam princípios de governança e regulação para

o uso de Inteligência Artificial no setor público. No contexto latino-americano, o
Uruguai possui uma iniciativa interessante de Fóruns de corregulação (Laboratorio
de Datos y Sociedad), como a proposta de Mesas de diálogo sobre o uso de sistemas de
vigilância38 automatizada. Cabe mencionar, novamente, a importância da comissão de
juristas atualmente em atividade, responsável por subsidiar a proposta de um marco
regulatório da IA no Brasil;

8) Instituir agendas para fomentar estudos locais e comparativos sobre casos

concretos de implementação e utilização de IA em diferentes domínios, com a possível
criação de um observatório de Inteligência Artificial no Brasil, conforme indicado na
EBIA. Acompanhar trajetórias de tecnologias em ação é essencial para compreender
os efeitos e os problemas que emergem nessa trajetória;

9) Por fim, vale discutir abordagens que considerem seriamente o princípio de

precaução no uso de dispositivos algorítmicos e/ou IA em políticas públicas, especialmente

37
Destacamos algumas iniciativas no âmbito da América Latina, Índia e África: https://www.tierracomun.net/;
https://aplusalliance.org/; https://notmy.ai/; https://deeplearningindaba.com/; https://www.colectivasos.com/
38
Disponível em: https://quinto-plan.gobiernoabierto.gub.uy/proposals/24-mesas-de-dialogo-sobre-uso-de-
-sistemas-de-vigilancia automatizada. Acesso em: 28 fev.2022.

175
quando se trata de populações vulneráveis. Isso implica inverter os termos com que
esses dispositivos vêm sendo implementados: em vez de caber à sociedade civil e a
órgãos de defesa de direitos fundamentais mostrar que tais aplicações podem causar
(ou já causaram) danos, caberia aos responsáveis pela implementação (governos e
corporações envolvidas) tomar medidas concretas para avaliação e redução de potenciais
danos, mesmo em cenários de incerteza.

Considerações finais

Tendo em vista o debate e a ação coletiva sobre o uso de Inteligência Artificial

no setor público, especialmente na América Latina, seguem algumas reflexões finais,
todas de caráter mais especulativo.
Um primeiro ponto diz respeito às possíveis reinscrições da lógica colonial quando a
implementação de políticas públicas é formulada dentro da lógica de mercado e baseada
na importação de sistemas tecnológicos e de epistemologias centradas em dados, como
assinala Paola Ricaurte (2019). Sabemos que a racionalidade algorítmica vai de par
com o avanço do cálculo computacional nos mais diversos setores da vida pessoal,
social e política, expandindo as fronteiras extrativas: relações sociais convertidas em
relações entre dados se tornam meios privilegiados de extração de valor econômico e
epistemológico (COULDRY; MEJIAS, 2019; RICAURTE, 2019; GAGO; MEZZADRA, 2017).
É bastante preocupante que essa mesma racionalidade, que está concentrada
em um número bastante restrito de corporações com agendas, sobretudo, comerciais,
seja aplicada como solução para serviços públicos voltados para o acesso e garantia
de direitos. Achille Mbembe (2021) reconhece a continuidade do processo colonial na
conversão do mundo em um vasto terreno de dados esperando por extração, reduzindo
o conhecimento a uma tarefa em que governos, corporações e burocracias coletam
e analisam dados. Essa reinscrição de práticas extrativistas e coloniais no âmbito
do capitalismo de plataforma produz efeitos que não são homogêneos, atualizando
assimetrias históricas.
O caso que apresentamos não é um caso isolado. Na geopolítica do colonialismo
digital, o Sul global tem ocupado, cada vez mais, o lugar de fonte de dados mais acessível,
abundante e barata para extração de saberes estratégicos e treinamento de algoritmos
que atuam sobre populações vulneráveis. O projeto Microsoft Mais Brasil é um dentre
tantos outros que oferecem “soluções ou inovações tecnológicas” para problemas
sociais na África e na América Latina (BIHANE, 2020; OBSERVATÓRIO EDUCAÇÃO
VIGIADA, 2021). Não é raro que governos dessas regiões recebam tais soluções sem
o devido questionamento e cuidado, transferindo a gestão de infraestruturas e bases
de dados de seus países para monopólios como Facebook, Microsoft, Google, Uber e
Netflix (KWET, 2019).
Isso nos encaminha para um segundo ponto de reflexão, levantado por Beatriz
Busaniche (2019), pesquisadora da Universidade de Buenos Aires e da Fundación Vía
Libre. Referindo-se às preocupações recorrentes no debate sobre políticas públicas e
ameaças à privacidade, Beatriz aponta que, muitas vezes, se perde de vista o perigo mais
iminente relacionado ao “solucionismo” tecnológico: a negligência por parte de quem tem
nas mãos o desenvolvimento da implementação. Para ela, no contexto latino-americano,
176
“o risco iminente em matéria de privacidade não é tanto a construção de um Estado
autoritário, mas a existência real, palpável, evidente, de um Estado negligente”. Esse
Estado negligente acolhe sem restrições o tecnosolucionismo das grandes corporações
de tecnologia, que “ofertam” ferramentas para serviços considerados pouco eficientes
no Sul global. No caso da nossa investigação, essa negligência se relaciona menos aos
riscos para a privacidade do que para o conhecimento extraído de dados estratégicos,
bem como para o potencial direcionamento de políticas públicas por parte de entes
privados, sobretudo Big Techs.
Ainda que possamos perceber, em âmbito global, a crescente influência de
grandes corporações de tecnologia em diferentes esferas – saúde, medicina, educação,
administração pública, segurança pública, entretenimento, transporte e mobilidade
urbana, política ambiental etc. –, os efeitos, mais uma vez, não são os mesmos em todos os
lugares. O problema mais amplo de se utilizar os mesmos modelos epistemológicos e os
mesmos princípios de governamentalidade para esferas sociais tão diversas39 se agrava
ainda mais quando esses modelos e princípios, concebidos para operar em contextos
específicos do Norte global e segundo uma agenda corporativa também específica,
são acolhidos como soluções para problemas sociais complexos em contextos muito
distintos, como o desemprego no Brasil, impactando o desenho de políticas públicas.
A esse problema, soma-se um terceiro ponto, que é o tipo de abstração próprio
à racionalidade algorítmica orientada por dados. No processo de automação da
intermediação de mão de obra e perfilização de trabalhadores em busca de emprego,
tal abstração vai de par com a assimetria de poder própria a esses e muitos outros
sistemas de Inteligência Artificial. No caso que estudamos, o trabalhador que utiliza esse
serviço tem dificuldade de compreender minimamente as normas de funcionamento
do sistema. Além disso, há pouca ou nenhuma margem para que ele possa interferir
nos resultados da intermediação e do perfilamento aos quais está sujeito ou questioná-
los. Para tal racionalidade, só conta o que é legível pelos mecanismos automatizados
de tomada de decisão. Nesse contexto, o que não é computável não existe (MBEMBE,
2021).
No caso que analisamos, a inteligência artificial é dirigida a um conjunto de
efeitos e resultados, sendo indiferente a importantes aspectos que podem impactar
o pleno acesso ao serviço que oferecem, como a dificuldade de compreensão das
regras em jogo, dos ganhos e perdas envolvidos, dos meios possíveis de contestação.
Nenhum desses elementos é computável pelo sistema de inteligência artificial em jogo.
Trata-se, assim, da concretização tecnológica de um programa político de governo que
coloca os trabalhadores em um lugar em que eles tendem a se ver como candidatos
a serviços, e não como sujeitos de direito (ALSTON, 2019). O problema, que fique
claro, não é a agência maquínica per se, mas o tipo de racionalidade que vigora nesse
domínio, muito pouco permeável a avaliações, negociações e contestações por parte
dos usuários desses serviços e de outros atores. O que, tratando-se de uma política
pública, pode ter impactos sociais desastrosos.

Conferir uma interessante pesquisa sobre a penetração das Big Techs em diversas esferas sociais, disponível
39

em: https://www.sphere-transgression-watch.org/. Acesso em 12 mar.2022.

177
 Uma última questão importante ao se avaliar criticamente como a implementação
de tecnologias de automatização de decisões ou a abertura de grandes bancos de dados
públicos para a iniciativa privada impactam, de modo desigual, distintos segmentos
populacionais, é que essa assimetria não está necessariamente vinculada a aspectos
internos do sistema tecnológico (embora isso também possa ocorrer), mas sim no modo
como distintos grupos têm ou não o privilégio de aderir a tais ferramentas. No caso do
SINE, o público potencialmente mais afetado é aquele que vai aderir às ferramentas
de decisão automatizada não (só) porque não lhe foi pedido o consentimento do uso
de dados em termos legais, mas por sua vulnerabilidade social e econômica. Assim,
uma pergunta fundamental que deveríamos nos fazer, nesses casos, é quem ou quais
grupos podem abrir mão de “estar dentro” desse tipo de sistema. Ou seja, quem tem
o privilégio de fazer o “opt-out40”
A avaliação da questão sob esse viés implica também uma inflexão na perspectiva
sobre o impacto de tecnologias digitais para os direitos humanos. Além da necessária
atenção à proteção de dados pessoais e a efeitos específicos de discriminação decorrentes
da automatização de decisões, os pontos de reflexão anteriormente levantados demandam
outra ordem de cuidados. Ou seja, é necessário um olhar atento aos aspectos sistêmicos e
estruturais, sobretudo àqueles relacionados às múltiplas formas de assimetria, abstração
e opacidade implicadas na adoção massiva de tecnologias como a Inteligência Artificial,
que modifica não apenas a escala, mas a natureza dos problemas decorrentes do uso
de tais tecnologias.

40
Devemos essa questão a Simone Browne que, em conversa com David Lyon sobre sistemas de vigilância no
IV Simpósio Internacional LAVITS, questionou-o: “who can opt out?”.

178
Referências
BUSANICHE, B. Negligencia, la primera amenaza a nuestra privacidad. Apresen-
tação no Webinar LAVITS 2020. Acesso em: 10 dez.2020, Disponível em: https://
www.youtube.com/ watch?v=f9hJxmfsSac.

COULDRY, N.; MEJIAS, U. Data Colonialism: Rethinking Big Data’s Relation to the
Contemporary Subject. Television & New Media, [s. l.], v. 20, n. 4, p. 336-349, 2019.

DESIERE, S.; LANGENBUCHER, K.; STRUYVEN, L. Statistical profiling in public

employment services: An international comparison. OECD Social, Employment and
Migration Working Papers, [s. l.], v. 224, p. 1-29, 2019. Disponível em: https://www.
oecd-ilibrary.org/docserver/b5e5f16e-en.pdf?expires=1680203749&id=id&acc-
name=guest&checksum=530DB3E68B4FFB1A8357ECB70184F9D5. Acesso em: 8
maio 2022.

FILHO, F. H. B.; FERREIRA, M. L.; ARAÚJO, P. L. da C. P. O novo SINE: mudanças do

modelo brasileiro de intermediação de mão de obra. In: CORSEUIL, C. H. L. (ed.).
Mercado de Trabalho: conjuntura e análise. Brasília: IPEA, 2020. cap. 1, p. 3-8.
Disponível em: https://repositorio.ipea.gov.br/bitstream/11058/9994/1/bmt_68_
novo_sine.pdf. Acesso em: 30 mar. 2021.

GAGO, V.; MEZZADRA, S. A Critique of the Extractive Operations of Capital: Toward

an Expanded Concept of Extractivism. Rethinking Marxism, [s. l.], v. 29, n. 4, p.
574-591, 2018. Disponível em: https://ctheory.sitehost.iu.edu/img/Gago&Mezza-
dra&_A_Critique-of-the-Extractive-Operations-of-Capital_Toward-an-expanded-
-concept-of-extractivism.pdf. Acesso em: 13 ago. 2021.

KWET, M. Digital colonialism: US empire and the new imperialism in the Global
South. Race & Class, [s. l.], v. 60, n. 4, p. 3-26, 2019.

LOBO, V. G.; ANZE, V. R. Duas diretrizes para a reestruturação do sistema nacional

de emprego. Mercado de Trabalho, [s. l.], v. 61, p. 43-48, 20116. Disponível em:
https://repositorio.ipea.gov.br/bitstream/11058/7315/1/bmt61_duasdiretrizes.
pdf. Acesso em: 10 dez. 2020.

MARRA, E. C. de O.; OLIVEIRA, K. M. A. de; JÚNIOR, L. A. M. O serviço de intermedia-

ção de mão de obra da administração pública estadual de Minas Gerais entre 2015
e 2018: efetividade, públicos e perspectivas. Mercado de Trabalho: conjuntura e
análise, Brasília, ano 26, p. 99-100, abril 2020. Disponível em: https://repositorio.
ipea.gov.br/bitstream/11058/10000/1/bmt_68__servico_intermediacao.pdf. Aces-
so em: 10 dez. 2020.

MATOS, F. de (coord.). Boas práticas dos serviços públicos de emprego no Brasil.

Brasília: Ministério do Trabalho e Emprego, 2011. 112 p. Disponível em: http://
179
acesso.mte.gov.br/data/files/8A7C816A350AC882013558C444B32BC4/BOAS-
-PRATICAS-SERVPUBLICO-web.pdf. Acesso em: 15 jul. 2021.

MBEMPE, A. Futures of Life and Futures of Reason. Public Culture, [s. l.], v. 33, n. 1,
p. 11-33, 2021.

MICROSOFT, Microsoft. Sistema Nacional de Emprego (SINE) testa uso de Inteli-

gência Artificial para aumentar eficiência na oferta de oportunidades de trabalho.
Microsoft News Center Brasil, [S. l.], p. 1-2, 13 abr. 2020. Disponível em: https://
news.microsoft.com/pt-br/sistema-nacional-de-emprego-sine-testa-uso-de-inte-
ligencia-artificial-para-aumentar-eficiencia-na-oferta-de-oportunidades-de-traba-
lho/. Acesso em: 10 dez. 2020.

MORETTO, A. J. O SINE no século XXI: Informação, tecnologia e políticas públicas

de trabalho. In: MORETTO, A. J.; MATOS, F. de; MACAMBIRA, J.; CACCIAMALI, M. C.
(org.). As transformações no mundo do trabalho e o Sistema Público de Emprego
como instrumento de inclusão social. Fortaleza: Instituto de Desenvolvimento do
Trabalho (IDT), 2018. cap. 9, p. 213-231. Disponível em: https://sites.usp.br/pro-
lam/wp-content/uploads/sites/35/2021/01/mundo-do-trabalho.pdf. Acesso em:
9 jul. 2020.

NIKLAS, J.; SZTANDAR-SZTANDERSKA, K.; SZYMIELEWICZ, K. Profiling the unem-

ployed in Poland: social and political implications of algorithmic decision making.
Varsóvia, Polônia: Fundacja Panoptykon, 2015. 51 p. Disponível em: https://panop-
tykon.org/sites/default/files/leadimage-biblioteka/panoptykon_profiling_report_
final.pdf. Acesso em: 19 jul. 2020.

OBSERVATÓRIO EDUCAÇÃO VIGIADA. Observatório Educação Vigiada. [S. l.], 2022.

Disponível em: https://educacaovigiada.org.br/pt/sobre.html. Acesso em: 11 maio
2022.

RICARTE, P. Data Epistemologies, The Coloniality of Power, and Resistance. Televi-

sion & New Media, [s. l.], v. 20, n. 4, p. 350-365, 2019.

ROSSETTO, M. S. O Sistema Nacional de Emprego (SINE): As fragilidades de um

grande sistema público. Orientadora: Luciana Lima Leite. 2019. 94 f. Dissertação de
mestrado (Mestrado em Políticas Públicas) - Universidade Federal do Rio Grande
do Sul – Instituto de Filosofia e Ciências Humanas, Porto Alegre, 2019. Disponível
em: https://lume.ufrgs.br/handle/10183/197723. Acesso em: 11 maio 2022.

SILVA, T. Comunidades, algoritmos e ativismos digitais: Olhares afrodiaspóricos. 1.

ed. São Paulo: LiteraRUA, 2020. 280 p.

SILVA, P.; MEDEIROS, J. A polêmica da revisão (humana) sobre decisões automatiza-

das. ITS Feed, [S. l.], p. 1-2, 10 out. 2019. Disponível em: https://feed.itsrio.org/a-

180
-pol%C3%AAmica-da-revis%C3%A3o-humana-sobre-decis%C3%B5es-automati-
zadas-a81592886345. Acesso em: 10 dez. 2020.

UN, United Nations. Report of the Special Rapporteur on extreme poverty and
human rights, Philip Alston*. [S. l.]: United Nations, 2015. 19 p. Disponível em:
https://digitallibrary.un.org/record/798707/files/A_HRC_29_31-EN.pdf?ln=en.
Acesso em: 21 jul. 2021.

URQUIDI, M.; ORTEGA, G. Inteligência artificial para a busca de emprego: Como

melhorar a intermediação de mão de obra nos Serviços Públicos de Emprego. Nota
técnica do BID, [s. l.], p. 1-16, 2020. Disponível em: https://webcache.googleu-
sercontent.com/search?q=cache:FIndYhbRpdEJ:https://publications.iadb.org/
publications/portuguese/document/Inteligencia-artificial-para-a-busca-de-em-
prego-Como-melhorar-a-intermediacao-de-mao-de-obra-nos-Servicos-Publicos-
-de-Emprego.pdf&cd=1&hl=pt-BR&ct=clnk&gl=br. Acesso em: 21 jan. 2022.

181
 QUEM ESCREVEU O LIVRO

182
Organizadores

Cláudio Penteado
Cientista Social. Professor Titular da UFABC. Doutor em Ciências Sociais pela PUC/
SP, é pesquisador do Laboratório de Tecnologias Livre (LabLivre/UFABC), do Núcleo
de Estudos em Arte, Mídia e Política (NEAMP - PUC/SP) e do Instituto Nacional de
Ciência e Tecnologia em Democracia Digital (INCT.DD), desenvolve pesquisas sobre
política e as novas tecnologias.

Jerônimo Pellegrini
Bacharel em Ciência da Computação. Professor da UFABC. Doutor em Ciência de
Computação pela UNICAMP, pesquisador nas áreas de inteligência artificial aplicada,
criptografia e relações entre tecnologia e sociedade.

Sérgio Amadeu da Silveira

Sociólogo. Professor da UFABC. Pesquisador das redes digitais e Inteligência Artificial.
Bolsista-produtividade CNPq. Membro da comunidade do software livre. Integra o
Laboratório de Tecnologias Livre (LabLivre/UFABC). Foi membro do Comitê Gestor
da Internet no Brasil e presidente do Instituto Nacional de Tecnologia da Informação.
Criador e apresentador do podcast Tecnopolítica.

Autoras e autores

André Lemos
Escritor, professor Titular da Faculdade de Comunicação da UFBA e Pesquisador 1A do
CNPq. Doutor em Sociologia pela Université Paris V, Sorbonne. Pós-Doutorado pelas
Universidades McGill e Alberta (Canadá), National University of Ireland (Irlanda) e
TIDD-PUC-SP (São Paulo). É diretor do Lab404 - Laboratório de Pesquisa em Mídia
Digital, Redes e Espaço. Sua pesquisa atual é sobre “erros na cultura digital”.

Débora Salles
Coordenadora geral de pesquisa no NetLab, o Laboratório de Estudos de Internet e
Redes Sociais da UFRJ, e pesquisadora em estágio pós-doutoral no Programa de Pós-
Graduação em Ciência da Informação IBICT/UFRJ. Atuou como Professora substituta
na Escola de Comunicação da UFRJ. Doutora em Ciência da Informação pelo Instituto
Brasileiro de Informação Ciência e Tecnologia (IBICT) em convênio com a Universidade
Federal do Rio de Janeiro.

Fernanda Bruno
Coordenadora do Programa de Pós-Graduação em Comunicação e Cultura da UFRJ e
do MediaLab.UFRJ. Pesquisadora do CNPq, co-fundadora da Rede latino-americana de
estudos em vigilância, tecnologia e sociedade/LAVITS e Pesquisadora colaboradora

183
do Surveillance Studies Centre da Queens University, Canadá.

Fernanda Campagnucci
Diretora executiva da Open Knowledge Brasil. Doutora em Administração Pública
e Governo pela Escola de Administração de Empresas da Fundação Getúlio Vargas
(EAESP-FGV). Atuou na Prefeitura de São Paulo liderando políticas e iniciativas de
transparência, dados abertos e inovação aberta.

Fernanda Rosa
Socióloga e Professora Assistente de Estudos de Ciência e Tecnologia na Virginia Tech
(EUA). Ph.D. em Comunicação, com pós-doutorado no Center for Advanced Research
in Global Communication da Universidade da Pensilvânia (EUA).

Glenda Dantas
Jornalista, é cofundadora da Conexão Malunga, plataforma de discussão sobre TICs
para a autonomia. É editora geral da Agenda Arte e Cultura (UFBA), pós-graduanda
em Comunicação Estratégica e Gestão de Marcas (UFBA) e membra voluntária do
Laboratório de Identidades Digitais e Diversidade (LIDD/UFRJ).

Helena Martins
Professora da Universidade Federal do Ceará (UFC), jornalista e doutora em Comunicação
Social pela UnB. Editora da Revista Eptic, é pesquisadora do GT Economía política
de la información, la comunicación y la cultura da Clacso, coordenadora do Telas
(UFC) e integrante do OBSCOM/CEPOS (UFS). Atua na luta pelo direito à comunicação,
integrando atualmente o DiraCom - Direito à Comunicação e Democracia.

Jader Gama
Doutor em Desenvolvimento Socioambiental pelo Programa de Pós-Graduação em
Desenvolvimento Sustentável do Trópico Úmido (PPGDSTU). Especialista em Tecnologias
em Educação pela PUC - RJ (2010). Atualmente é professor da FAPAN (Faculdade Pan
Amazônica) e pesquisador da Incubadora de Políticas Públicas da Amazônia (IPPA).

José Corrêa Leite

Membro do Coletivo 660. Doutor em Ciências Sociais pela Pontifícia Universidade
Católica de São Paulo (2005) e pós-doutor pela Faculdade de Filosofia Letras e Ciências
Humanas da Universidade de São Paulo. Professor no Centro Universitário Armando
Alvares Penteado.

José Paulo Guedes Pinto

Doutor em economia pela Universidade de São Paulo. Pesquisador visitante na London
School of Economics and Political Science. Professor Associado II do Bacharelado de
Relações Internacionais, do Bacharelado de Ciências Econômicas e do Pós-Graduação
em Economia Política Mundial na Universidade Federal do ABC.

184
Juliane Cintra
Coordenadora Institucional (das unidades de Eventos, Comunicação e Tecnologia)
da Ação Educativa, lidera o projeto TECLA - Tecnologia em Ação, uma iniciativa da
instituição dedicada à promoção e defesa de direitos humanos associados ao ambiente
digital. Mestranda em Direitos Humanos pela Faculdade de Direito da USP.

Larissa Ambrosano Packer

Mestre em Filosofia do Direito pela Universidade Federal do Paraná (2010), doutoranda
no Programa de pós-graduação de Ciências Sociais e Desenvolvimento, agricultura
e sociedade da UFRRJ. Atualmente trabalha na Organização internacional GRAIN no
programa América Latina realizando pesquisas em torno do monitoramento dos agentes
das cadeias agroalimentares e seus impactos na captura de terras e recursos naturais
(land grabbing e resources grabbing) para a soberania alimentar.

Nelson Pretto
Doutor em Ciências da Comunicação pela Universidade de São Paulo, é professor
associado da Faculdade de Educação da Universidade Federal da Bahia. Coordenador
do grupo de pesquisa “Educação, Comunicação e Tecnologias”, da UFBA, é professor e
ativista militante da relação da educação com a cultura e com a ciência e a tecnologia.

Nina da Hora
Cientista da Computação, Pesquisadora, e HackerAntirracista. Diretora do Instituto
da Hora - Centro de pesquisa e tecnologia com incidência na sociedade. Mestranda
em Inteligência Artificial na Unicamp, colunista da revista MIT Technology Review e
integrante do Conselho de Segurança do TikTok.

Paulo Faltay
Doutor em Comunicação e Cultura pela Escola de Comunicação da Universidade Federal
do Rio de Janeiro (ECO/UFRJ). Pesquisador do MediaLab.UFRJ e da Rede Latino-americana
de estudos em vigilância, tecnologia e sociedade/LAVITS.

Paula Cardoso Pereira

Doutoranda em Comunicação e Cultura pela Escola de Comunicação da Universidade
Federal do Rio de Janeiro (ECO/UFRJ), pesquisadora e designer do laboratório
interdisciplinar MediaLab.UFRJ, membro da Rede Latino-Americana de Estudos em
Vigilância, Tecnologia e Sociedade (Lavits).

Rafael Evangelista
Antropólogo. Pesquisador do Labjor/Unicamp. Professor do PPG em Divulgação
Científica e Cultural. Conselheiro do Comitê Gestor da Internet no Brasil. Doutor
em Antropologia Social (Unicamp), co-coordena o grupo de pesquisa Informação,
Comunicação, Tecnologia e Sociedade (ICTS) e é membro da Rede Latino-Americana
de Estudos em Vigilância, Tecnologia e Sociedade (Lavits).

185
Rafael Grohmann
Rafael Grohmann é professor de estudos criticos de plataformas da Universidade
de Toronto, Canadá. Lider do DigiLabour e do Observatorio do Cooperativismo de
Plataforma. Co-diretor do Critical Digital Methods Institute. Pesquisador dos projetos
Fairwork e Platform Work Inclusion Living Lab. Atualmente, coordena pesquisa sobre
plataformas de propriedade de trabalhadores e interseccionalidades na America Latina.

Sivaldo Pereira da Silva

Professor da Faculdade de Comunicação (FAC) e do Programa de Pós-Graduação em
Comunicação da Universidade de Brasília (UnB). PhD em Comunicação e Cultura
Contemporâneas pela Universidade Federal da Bahia. Foi pesquisador visitante no
IPEA, consultor da UNESCO e professor visitante na Technische Universität Dortmund
(Alemanha). Atualmente é coordenador do Programa de Pós-Graduação em Comunicação
da UnB e presidente da Associação Brasileira de Pesquisadores em Comunicação e
Política (Compolítica).

Tarcízio Silva
Senior Tech Policy Fellow pela Fundação Mozilla, produzindo pesquisa e incidência
sobre transparência, responsabilidade e antirracismo na inteligência artificial. Curador
na Desvelar, colaborador na Tecla / Ação Educativa e no Instituto Sumaúma. Doutorando
em Ciências Humanas e Sociais na UFABC.

Wagner Meira Jr.

Professor titular da Universidade Federal de Minas Gerais. doutor em Ciência da
Computação pela University of Rochester (1997). Coautor dos livros Data Mining
and Analysis - Fundamental Concepts and Algorithms e Data Mining and Machine
Learning - Fundamental Concepts and Algorithms.

186
187