Proteção de dados pessoais e democracia: fake news,

REDES manipulação do eleitor e o caso da Cambridge Analytica

Marcelo Guerra Martins

Centro Universitário das Faculdades Metropolitanas Unidas,
São Paulo, SP, Brasil.
http://orcid.org/0000-0002-3176-229X

Victor Augusto Tateoki

Centro Universitário das Faculdades Metropolitanas Unidas,
São Paulo, SP, Brasil.
http://orcid.org/0000-0003-1335-1574

Resumo: Dentro do contexto da Sociedade da Informação, o presente

artigo analisa a importância da proteção dos dados pessoais deixados
por usuários na internet, com fins de minimizar eventual manipulação
do eleitor por meio de instrumentos como fake news ou propaganda
direcionada. Dentre outros males, esses expedientes maliciosos
obscurecem a figura do candidato no que se refere ao seu passado,
Canoas, v. 7, n. 3, 2019
suas ideias e proposições mais relevantes. O artigo descreve o caso da
Cambridge Analytica que, a partir da colheita de dados de milhões de
Artigo
potenciais eleitores, inclusive obtidos de forma bastante questionável,
Recebido: 04.04.2019 produziu material especificamente direcionado segundo diversos perfis
anteriormente determinados. Acredita-se que essa atuação acabou
Aprovado: 14.05.2019 por influenciar, em níveis ainda a serem melhor averiguados, a eleição
Publicado: 21.10.2019 presidencial norte americana de 2016, que culminou na vitória do
candidato republicano Donald Trump. O artigo também aborda como
DOI http://dx.doi.org/10.18316/REDES.v7i3.5610 algumas legislações passaram a tratar do tema da proteção dos dados
pessoais em ambientes virtuais. No que tange à metodologia, trata-se
de um estudo qualitativo com resultados obtidos primordialmente por
indução.
Palavras chave: Proteção de Dados; Democracia; Fake News; Propaganda
Eleitoral; Sociedade da Informação.

Protection of personal data and democracy: fake news,

voter manipulation and the case of Cambridge Analytica

Abstract: Within the context of the Information Society, this article

analyzes the importance of protecting the personal data left by users
in Internet, in order to minimize possible manipulation of the voter
through instruments such as fake news or targeted advertising. Among
other evils, these malicious expedients obscure the candidate’s figure in
regard to his past, his most relevant ideas and propositions. The article
describes the Cambridge Analytica case that, from the data collection
of millions of potential voters, even obtained in a very questionable
way, produced material specifically directed to several predetermined
 136 Marcelo Guerra Martins, Victor Augusto Tateoki

profiles. It is believed that this performance eventually influenced, at levels still to be better investigated, the 2016
US presidential election that culminated in the victory of Republican candidate Donald Trump. The article also
addresses how some legislation has come to address the issue of protection of personal data in virtual environments.
Regarding the methodology, this is a qualitative study with results obtained primarily by induction.
Keywords: Data Protection, Democracy, Fake News, Electoral Advertising; Information Society.

Introdução

A humanidade vive um período denominado Sociedade da Informação, dado que, dentre suas
características, encontrar-se o fato de as comunicações, principalmente aquelas realizadas por meio da
Internet, terem se massificado e atingindo grandes contingentes populacionais ao redor do mundo. O
problema é que o usuário deixa dados ao utilizar a internet, dados esses de caráter pessoal, acessíveis a
terceiros que os utilizarão para diversas finalidades, não apenas para o mercado de consumo.

Nesse contexto, o presente artigo tem como objetivo discutir e analisar a importância da proteção
dos dados pessoais para a manutenção da própria democracia, evitando-se que, a partir de dados pessoais
colhidos nas redes eletrônicas, o eleitor seja manipulado ou induzido a votar nesse ou naquele candidato,
pois, quando isso ocorre de modo malicioso ou com base em notícias falsas ou tendenciosas, a consciência
eleitoral resta afetada, apequenando-se, por conseguinte, a liberdade de escolha dos candidatos que é um
dos pilares da democracia.

Em um primeiro momento, o artigo trata da democracia na Sociedade da Informação, como o uso

da tecnologia vem se tornando um meio para o amadurecimento de questões relevantes face a oportunidade
conferida a milhões de cidadãos de se manifestarem, mesmo que eletronicamente, a respeito dos mais
variados temas. Em um segundo momento, o trabalho analisa a importância da proteção de dados pessoais
e de como a sua utilização pode tratar um perfil para compreender as preferências de determinado usuário
ou eleitor, de maneira a gerar material eletrônico apto a (ou com a intenção de) manipulá-lo nesse ou
naquele sentido.

Em terceiro tópico, o texto aborda as questões da liberdade de expressão e as fake news, como
normalmente são criadas e seus reflexos negativos tanto no aspecto político como cotidianamente. Na
quarta e última parte, o artigo analisará o caso do Cambridge Analytica que, em suma, a partir de dados
pessoais de milhões de eleitores norte-americanos constantes do Facebook, induziu audiência dirigida
sobre determinados assuntos, dentro de um determinado espectro político de preferências.

Em termos de metodologia, o presente texto se apresenta como um estudo de caso com abordagem
essencialmente qualitativa e com as conclusões obtidas primordialmente por meio da indução.

Sociedade da informação na democracia

A evolução da tecnologia, principalmente aquela ligada à informática, vem exercendo grande

influência sobre comportamento humano, notadamente quando se fala em uma sociedade em rede, o

Redes: Revista Eletrônica Direito e Sociedade, Canoas, v. 7, n. 3, p. 135–148, out. 2019.

 Proteção de dados pessoais e democracia: fake news, manipulação do eleitor e o caso da Cambridge
Analytica 137

que foi proporcionado a partir da popularização da internet. Com efeito, “o surgimento do ciberespaço
acompanha, traduz e promove a geral evolução da civilização. A tecnologia é produzida em uma cultura e
a sociedade é condicionada pelas tecnologias”1.

Foi na década de 1970 que o desenvolvimento e a comercialização da microeletrônica modificaram

diversos processos sociais e criaram novos paradigmas em termos de convivência e organização2. Nessa
época é que, efetivamente, começam-se a fincar as bases do que viria a ser a Sociedade da Informação3 que,
segundo Roberto Senise Lisboa, corresponde a uma
expressão utilizada para identificar o período histórico a partir da preponderância da informação sobre os meios
de produção e a distribuição dos bens na sociedade que se estabeleceu a partir da vulgarização das programações
de dados utiliza dos meios de comunicação existentes e dos dados obtidos sobre uma pessoa e/ou objeto, para a
realização de atos e negócios jurídicos4.

No atual período informacional, principalmente após a dispersão em nível global de redes eletrônicas
como a internet, as comunicações passaram a ocorrer de forma muito rápida e a custos cada vez mais
reduzidos, a ponto de os telefones móveis terem se transformado em computadores com alto poder de
processamento. Tanto é que, dentre outros fatores, a “rede global de celulares foi combinada com o sistema
de transporte de superfície e ar para fornecer níveis de mobilidade sem precedentes”5.

Com efeito, a internet “passou a ser a base tecnológica para a forma organizacional da Era da
Informação”6, sendo certo que essa gigantesca rede “inaugurou um paradigma inédito no modo de
comunicação humana, a partir de quando bilhões de pessoas passaram a contatar outros tantos bilhões de
modo instantâneo e a custos cada vez mais baixos”7.

1
LÈVI, Pierre. Cyberculture. Trad. Robert Bononno. Minneapolis: University of Minnesota Press, 2001. p. 07. O texto original
é o seguinte: The emergence of cyberspace accompanies, translates, and promotes the general evolution of civilization. A
technology is produced within a culture, and a society is conditioned by its technologies”.
2
É o que apontam Manuel Castells (A era da informação: economia, sociedade e cultura: a sociedade em rede. 14. ed. São Paulo:
Paz e Terra, 2011. p. 76) e Pierre Lèvy (Cibercultura. Trad. Carlos Irineu da Costa. 3. ed. São Paulo: Editora 34, 2010. p. 70).
3
Em 1972, por exemplo, a organização sem fins lucrativos Japan Computer Usage Development Institute apresentou o plano
japonês da sociedade da informação (MASUDA, Yoneji. A sociedade da informação como sociedade pós-industrial. Rio de
Janeiro: Editora Rio, 1985. p. 19).
4
O direito na sociedade da informação. Portal de e-governo, inclusão digital e sociedade do conhecimento, 2016. p. 10.
Cabe salientar que nem todos os autores adotam ao termo Sociedade da Informação. Disponível em: http://www.egov.ufsc.br/
portal/conteudo/direito-na-sociedade-da-informa%C3%A7%C3%A3o. Acesso em: 04 mar. 2019. Por exemplo, José de Oliveira
Ascensão utiliza a expressão Sociedade da Comunicação (Direito da internet e da sociedade da informação. Rio de Janeiro:
Forense, 2002. p. 71) e Pierre Lévy e André Lemos referem-se à a Sociedade do Conhecimento (O futuro da internet: em
direção a uma ciberdemocracia. São Paulo: Paulus, 2010).
5
TOWNSEND, Anthony. Digitally mediated urban space: new lessons for design, Praxis Journal, Issue 6, mar. 2004. p. 101. O
texto original é o seguinte: “The global cellular network has combined with the surface and air transportation system to provide
unprecedented levels of mobility”. Disponível em: http://www.anthonymobile.com/wp-content/uploads/2017/05/townsend-
praxis.pdf. Acesso em: 23 fev. 2018.
6
CASTELLS, Manuel. A galáxia da internet: reflexões sobre a internet, os negócios e a sociedade. Trad. Maria Luiza X. de A.
Borges. Rio de Janeiro: Zahar, 2003. p. 07.
7
MARTINS, Marcelo Guerra; BARCELLOS, Rodrigo da Silveira. Demissão por justa causa por aprovação de comentário
(“curtida”) contra o empregador no Facebook. Revista Eletrônica Direito e Sociedade, v. 5, n. 1, 2017. p. 134. Disponível em:

Redes: Revista Eletrônica Direito e Sociedade, Canoas, v. 7, n. 3, p. 135–148, out. 2019.

 138 Marcelo Guerra Martins, Victor Augusto Tateoki

Nessa conjuntura, a internet passou a desempenhar um papel de relevo na condução da própria

democracia, na medida em que cada vez se torna mais fácil ao cidadão, utilizando-se do ambiente virtual,
informar-se dos acontecimentos, manifestar suas preferências, opiniões, críticas, etc., em relação a questões
colocadas na pauta política em determinado momento. Aliás, a atuação dos cidadãos em rede, já colocou
em xeque vários governos, como foram os casos da Primavera Árabe (que efetivamente chegou a apear
alguns caudilhos de seus tronos), o movimento Occupy Wall Street, etc. O fenômeno igualmente vem
ocorrendo no Brasil, valendo lembrar as famosas manifestações de rua de junho de 2013, conclamadas por
meio da internet sem a participação de partidos políticos, associações ou sindicatos.

Não se trata da chamada democracia direta exercida pelos gregos, em que cada cidadão podia se
manifestar na Ágora diante dos demais. Trata-se, isso sim, de algo mais sofisticado e inovador, cujos efeitos
ainda não são plenamente conhecidos. Essa novel maneira de exercer a cidadania vem sendo denominada
de ciberdemocracia ou cyberdemocracy, considerando que entrou em cena um novo espaço público,
justamente o ciberespaço ou espaço virtual que, dentre outras façanhas, elevou a um patamar nunca antes
visto o direito da liberdade de expressão e de comunicação.

É fato que, conforme asseveram Pierre Lèvi e André Lemos, “Os destinos da democracia e do
ciberespaço estão intimamente ligados porque ambos implicam no que há de mais essencial na humanidade:
a inspiração à liberdade, à potência criativa da inteligência coletiva”8. Nessa linha de raciocínio, segundo
Marciele B. Bernanrdes, a cyberdemocracy (ou e-democracy) se consubstancia como:
uma expansão quantitativa do modelo contemporâneo à democracia representativa, de forma a promover seu
aperfeiçoamento e complemento mediante o uso da internet, para aproximar cidadãos de seus representantes e
não como um modelo alternativo vigente9.

Obviamente, a ciberdemocracia ainda é algo em construção. Não se sabe como esse novo modo
de exercer a cidadania evoluirá. Certamente, ao menos por ora, o sistema de representação pelos partidos
ainda continuará existindo por bastante tempo. Contudo, é certo que todo esse avanço tecnológico traz
consigo alguns pontos negativos, destacando-se, para fins do presente artigo, a possível manipulação da
vontade dos eleitores para votarem nesse ou naquele candidato.

Dados pessoais e sua proteção pelo direito

A evolução das tecnologias da informação tornou a coleta, o uso, o armazenamento e o tratamento de
dados pessoais mais facilitados, o que, por conseguinte, permitiu um aumento no volume de tais atividades.
Assim, por exemplo, enquanto em 1983 um microprocessador tinha capacidade de 10 megabytes, dez anos
depois, em 1993, a capacidade havia se multiplicado por dez mil, ou seja, passara para10 gigabytes10.

https://revistas.unilasalle.edu.br/index.php/redes/article/view/3207/pdf. Acesso em: 25 fev. 2019.

8
O futuro da internet: em direção a uma ciberdemocracia. São Paulo: Paulus, 2010. p. 57.
9
Democracia na sociedade informacional: desenvolvimento da democracia digital nos municípios brasileiros. São Paulo:
Saraiva, 2013. p. 114.
10
LÉVY, Pierre. Cibercultura. Trad. Carlos Irineu da Costa. 3. ed. São Paulo: Editora 34, 2010. p. 32-33.

Redes: Revista Eletrônica Direito e Sociedade, Canoas, v. 7, n. 3, p. 135–148, out. 2019.

 Proteção de dados pessoais e democracia: fake news, manipulação do eleitor e o caso da Cambridge
Analytica 139

Outro exemplo é a evolução da quantidade de informações transmissíveis por redes eletrônicas.

Assim, segundo Manuel Castells11, em 1970 a capacidade era de 56 mil bits por segundo; em 1987 chegou
a 1,5 milhão de bits por segundo; em 1992 passou para 45 milhões de bits por segundo e, em 1995, com
o início das transmissões em gigabits, seria possível transmitir o conteúdo da Biblioteca do Congresso
Americano em apenas um minuto.

Estima-se que, na atualidade, a cada ano a quantidade de dados gerados pela humanidade é
dobrada. Assim, somente no ano de 2016 teriam sido produzidos tantos dados quanto em toda a história
da humanidade. Prevê-se ainda que daqui uma década haverá algo em torno de 150 bilhões de sensores de
medição em rede. Sendo assim, a quantidade de dados duplicará a cada 12 horas12.

É fato que dados e informações pessoais, no contexto da Sociedade da Informação, possuem enorme
relevância econômica, uma vez que, conforme explica Irineu Francisco Barreto Junior, foi dado à “informação
o status de principal mercadoria, ou valor, a ser produzido e perseguido no terceiro milênio, reorganizando
as economias capitalistas e esse modo de produção”13. Dessa maneira, a colheita de informações a respeito
de gostos e preferências dos consumidores é cada vez mais relevante para os diversos tipos de fornecedores
de bens e serviços. E, uma das maneiras mais eficazes de obter tais informações é justamente a partir dos
sinais e rastros deixados pelas pessoas na internet.

Isso ocorre, por exemplo, quando alguém utiliza certos serviços aparentemente gratuitos, tais como
as diversas ferramentas de busca disponíveis na internet, ou mesmo quando visita sites lojas virtuais e lá
pesquisa certos e determinados itens. Não é raro que pouco tempo depois, o usuário receba propaganda
eletrônica a respeito dos produtos pesquisados na rede pouco antes. Nesse sentido:
tais plataformas de internet precisam da atenção de novos e antigos usuários para sobreviver. O tempo gasto
nas redes sociais é essencial para que se conheça mais sobre eles e para que haja interesse dos anunciantes
em comprar espaços. A luta pela atenção dos usuários passou a ser um foco central das empresas de internet;
quanto maior o tempo gasto utilizando os serviços, maior a quantidade de informação coletada e, portanto, mais
direcionada poderá ser a publicidade14.

Nesse contexto, não é estranho que as diversas plataformas digitais comecem a disponibilizar
conteúdo mais individualizado, isso é, em harmonia com gostos e preferências dos usuários, com o
intuito de prender por mais tempo sua atenção. Disso resulta o que pode ser chamado de “bolha virtual
ou informacional”, quer dizer, um ambiente no qual circule conteúdo “pré-aprovado” pelo internauta, ao

11
CASTELLS, Manuel. A era da informação: economia, sociedade e cultura: a sociedade em rede. 14. ed. São Paulo: Paz e
Terra, 2011. p. 84.
HELBING, Dirk et. al. Will democracy survive Big Data and artificial intelligence? Scientific American, fev. 2017. Disponível
12

em: https://www.scientificamerican.com/article/will-democracy-survive-big-data-and-artificial-intelligence/. Acesso em: 04

mar. 2019.
A relevância do conceito Sociedade da Informação para a pesquisa jurídica. In: PAESANI, Liliana Minardi (Coord.). Direito
13

na sociedade da informação. São Paulo: Atlas, 2007. p. 66.

14
SORJ, Bernardo, et. al. Sobrevivendo nas redes: guia do cidadão. Ensaios de Democracia Digital, n. 3, mar. 2018. p. 19.
Disponível em: http://www.plataformademocratica.org/Arquivos/ Sobrevivendo_nas_redes.pdf>. Acesso em: 10 mar. 2019.

Redes: Revista Eletrônica Direito e Sociedade, Canoas, v. 7, n. 3, p. 135–148, out. 2019.

 140 Marcelo Guerra Martins, Victor Augusto Tateoki

mesmo tempo tornando menos frequente a entrada de conteúdo não amigável às ideias e concepções dos
usuários. Esse fenômeno, também chamado de “câmara de eco”, segundo Gartom Timothy Ash15, surge no
egocentrismo diário, no qual as pessoas buscam e encontram ideias que apenas reforcem suas concepções
prévias, em prejuízo da possibilidade de terem contato mais frequente com pensamentos divergentes ou
mesmo antagônicos.

Passando o foco para a seara política propriamente dita, é certo que um ambiente pluralista, onde
ideias e concepções diversas convivam em equilíbrio, é extremamente importante para o aprimoramento do
exercício da democracia, visto conferir aos eleitores a possibilidade de sopesar proposições de várias
índoles políticas e, consequentemente, formar um convencimento mais depurado e consciente.

Por conseguinte, o problema da “bolha virtual” acima referida, segundo Dirk Helbing et. al., é que
ela “resulta na formação de grupos separados que não compreendem mais e se encontram cada vez mais
em conflitos uns com os outros. Desta forma, a informação personalizada pode destruir intencionalmente
a coesão social”16.

Além das implicações econômicas e políticas acima indicadas, não se pode negar que há uma ligação
entre os dados pessoais deixados pela navegação na internet e a privacidade17, sendo certo que o conceito
de privacidade deve “abarcar todas as manifestações da esfera íntima, privada da personalidade, que o texto
constitucional consagrou”18. Tudo isso, como não poderia deixar de ser, despertou a atenção de legisladores
ao redor do mundo.

Assim, a atenção jurídico-normativa para com os dados pessoais teve início na década de 1970,
época em que surgiram as primeiras leis, tratados internacionais e decisões a respeito. Nesse tópico,
conforme mostra Danilo Doneda:
Na década de 1970 surgiram as primeiras iniciativas legislativas para tutela de dados pessoais. Entre as
precursoras a já mencionada Lei da Land alemão de Hesse, em 1970; a primeira lei nacional de proteção de
dados, promulgada na Suécia: o Estatuto para bancos de dados em 1973 – Data Legen 289, ou Datalag (que por
sua vez também criava um inspetor para uso de dados pessoais – o Dataispektionen), além do Privacy Act norte
americano em 197419.

15
Free speech – ten principles for connected world. London: Atlantic Books, 2016. p. 208-209.
16
Will democracy survive Big Data and artificial intelligence? Scientific American, fev. 2017. O texto original é o seguinte:
“This causes social polarization, resulting in the formation of separate groups that no longer understand each other and
find themselves increasingly at conflict with one another. In this way, personalized information can unintentionally destroy
social cohesion”. Disponível em: https://www.scientificamerican.com/article/will-democracy-survive-big-data-and-artificial-
intelligence/. Acesso em: 04 mar. 2019.
17
Segundo Laura Schertel Mendes, o primeiro texto doutrinário a tratar do direito à privacidade foi de autoria de Samuel Warren
e Louis Brandeis, publicado nos Estados Unidos em 1890 que, dentre outros aspectos, relata como as câmeras fotográficas
(surgidas há pouco tempo então) invadiram a vida privada dos indivíduos (Privacidade e proteção de dados e defesa do
consumidor: linhas gerais de um novo direito fundamental. São Paulo: Saraiva, 2014. p. 28).
18
SIVA, José Afonso da. Curso de direito constitucional positivo. 26.ed. São Paulo: Malheiros, 2006. p. 206.
19
Da privacidade à proteção de dados pessoais. Rio de Janeiro: Renovar, 2006. p. 206.

Redes: Revista Eletrônica Direito e Sociedade, Canoas, v. 7, n. 3, p. 135–148, out. 2019.

 Proteção de dados pessoais e democracia: fake news, manipulação do eleitor e o caso da Cambridge
Analytica 141

Uma primeira geração de leis focou mais na questão funcional da proteção de dados pessoais,
a autorização e o registro para funcionamento do banco de dados perante órgão competente, ficando a
privacidade do indivíduo em segundo plano. A segunda geração inseriu nos ordenamentos tópicos como
a efetividade do consentimento e a liberdade de escolha para a não disponibilização dos dados pessoais.

A terceira geração, na década de 1980, conferiu aos interessados a possibilidade de participação

no processamento dos dados, desde a coleta e até o respectivo tratamento. Apenas na quarta geração de
leis é que adveio uma clara intenção de se proteger a privacidade individual, como é o caso, no âmbito da
União Europeia, da Diretiva de Proteção de Dados Pessoais de 1995 95/46/CE, seguida pelo General Data
Protection Regulation, em vigor desde 25 de maio de 201820.

No Brasil, a Constituição Federal de 1988, em seu art. 5º, inciso X, protege não apenas a vida privada, mas
também a imagem e a honra. O Código Civil de 2002, no mesmo diapasão, declara ser inviolável a vida privada
da pessoa natural, no que foi seguido pelo chamado Marco Civil da Internet (Lei 12.965/2014) que, quanto à
disciplina do uso da internet no Brasil tem, dentre outros princípios, a proteção à privacidade (art. 3º, inciso II).

Mais recentemente, foi editada a Lei Geral de Proteção de Dados (Lei nº 13.709/2018) que
entrará totalmente em vigor apenas em 2020. Essa norma, dentre diversas medidas, criou a Autoridade
Nacional de Proteção de Dados, estipulou diversas obrigações a empresas que colhem dados pessoais em
ambientes virtuais, estabeleceu direitos aos titulares desses dados, bem como implantou um sistema de
responsabilidade administrativa e judicial específico para a área. Resta aguardar a entrada em vigor plena
da norma para que seja possível emitir juízos acerca de sua eficácia prática.

Fake news e suas características

A internet permitiu que cada pessoa expressasse e distribuísse, de forma livre e sem censura, suas
ideias, opiniões e relatos acerca do que quer que seja. Não é mais necessário um veículo intermediário,
tal como um jornal ou revista, para que alguém tenha acesso a todo o tipo de informação, cuja fonte,
muitas vezes, possui credibilidade duvidosa ou, quiçá, nenhuma confiabilidade, o que para muitas pessoas,
infelizmente, não é um problema.

É nesse contexto que surgem as chamadas fake news (notícias falsas ou também chamadas de
“pós-verdade”). São supostas notícias que tentam se passar por matérias jornalísticas dignas de confiança,
mas que, em diversos graus, propagam informações inverídicas, distorcem fatos ocorridos ou mesmo
opiniões emitidas por alguém. Não se confundem as fake news com os boatos (ou hoax) que, em suma,
“são informações que não foram verificadas, têm origem desconhecida e, mesmo assim, circulam como se
fossem verdadeiras”21. Ou seja, a diferença entre a fake news e os boatos é o modo como são produzidos: as
fake news já surgem com a intenção de enganar e os boatos não necessariamente.

20
MENDES, Laura Schertel. Privacidade e proteção de dados e defesa do consumidor: linhas gerais de um novo direito
fundamental. São Paulo: Saraiva, 2014. p. 42-55.
21
SORJ, Bernardo, et. al., ob. cit.. p. 47.

Redes: Revista Eletrônica Direito e Sociedade, Canoas, v. 7, n. 3, p. 135–148, out. 2019.

 142 Marcelo Guerra Martins, Victor Augusto Tateoki

É possível afirmar que a produção de fake news tenha ao menos dois objetivos. O primeiro é de
índole política, ou seja, persuadir ou polarizar questões sociais relevantes para beneficiar alguém (ou algum
grupo político) em futuras eleições, conseguindo mais votos em detrimento dos adversários. O outro é a
questão econômica propriamente dita, por exemplo, pela potencial maximização de visualizações em sites
que remuneram a partir do número de visitas às respectivas páginas eletrônicas.

No que tange às eleições norte-americanas de 2016, no contexto da disputa entre Hilary Clinton
e Donald Trump, jovens macedônios produziam material com o conteúdo que parcela do eleitorado
americano “queria ver”, não se importando se as notícias eram verdadeiras ou falsas, nem se tais atos
iriam influenciar as eleições ou não. O que importava era ganhar dinheiro, sendo estimado que tais jovens
auferissem em torno de 1,8 mil euros ao mês22.

Fake news possuem três características, quase sempre presentes: (1) são bombásticas, ou seja,
chocantes e sensacionalistas; (2) estariam sendo escondidas do público em geral, pois são veiculadas como
informações sérias e comprometedoras, mantidas em segredo pelos meios de comunicação tradicionais
e, por fim, (3) corroboram com uma das posições polarizadas, ou melhor, comprovariam as declarações
ou argumentações de um dos lados do debate, dando razão ou confirmação àqueles posicionamentos pré-
concebidos23.

A demonstrar a complexidade do tema, Claire Wandle24 visualiza nada menos do que sete tipos de
notícias falsas observáveis atualmente na internet: (1) sátira ou paródia, sem intenção de fazer mal, mas com
potencial para enganar; (2) falsa conexão, quando as manchetes (os visuais das legendas) não dão suporte
a conteúdo; (3) conteúdo enganoso, com a má utilização da informação para  moldar um problema  ou
um indivíduo; (4) contexto falso, quando o verdadeiro conteúdo é compartilhado com informações falsas
contextuais; (5) conteúdo impostor, quando fontes verdadeiras são forjadas com conteúdo falso; (6)
conteúdo manipulado, com a manipulação de informações ou imagens, como as fotos “adulteradas” e (7)
conteúdo fabricado que é totalmente falso e projetado para enganar e fazer mal.

O grande, e talvez maior malefício das fake news, seja o fato de que esse tipo de material acaba
gerando uma desinformação generalizada no seio social que, não raras vezes, pode levar certo tempo para
ser desbaratada. O resultado é a perda de autonomia genuína na tomada de decisões pelas pessoas, ao
menos enquanto não perceberem que estão sendo manipuladas por notícias falaciosas.

Governos ditatoriais não raramente utilizam de desinformação, muitas vezes por meio de mentiras,
para induzir a sociedade a acreditar em certos fatos ou circunstâncias que não correspondem à verdade. É
o que ocorreu, por exemplo, na Alemanha nazista, cujo ministro da propaganda, Joseph Gobbels, não tinha

22
KIRBY, Emma Jane. A cidade europeia que enriquece inventando notícias – e influenciando eleições. BBC News – Brasil, 12
dez. 2016. Disponível em: https://www.bbc.com/portuguese/internacional-38206498. Acesso em: 10. mar. 2019.
23
Ob. cit.. p. 48.
24
Fake News. It´s complicated. First Draft, 16 fev. 2017. Disponível em: https://firstdraftnews.org/fake-news-complicated/>
Acesso em: 19 mar. 2019.

Redes: Revista Eletrônica Direito e Sociedade, Canoas, v. 7, n. 3, p. 135–148, out. 2019.

 Proteção de dados pessoais e democracia: fake news, manipulação do eleitor e o caso da Cambridge
Analytica 143

pruridos em afirmar que “se você contar uma mentira grande o suficiente e ficar repetindo-a, as pessoas
acreditarão ser verdade”25.

Acontece que, diferentemente de qualquer período da história antes, atualmente tem-se a questão
específica da internet cujo conteúdo, como sabido, consegue atingir milhões de pessoas em muito pouco
tempo, em todos os locais do mundo, sem que exista qualquer hipótese de controle da qualidade das
informações que trafegam na rede.

Nessa conjuntura deve ser adicionada a questão dos bots (ou robôs), que são softwares programados
para compartilhar informações que privilegiem apenas um dos lados de uma certa pendenga, bem como
os “perfis falsos programados”, que tentam mimetizar perfis de pessoas verdadeiras, sendo operados
simultaneamente por programas de computador e pessoas naturais.

Aliado a tudo isso, não se pode ignorar a evolução das técnicas para produção de imagens e vídeos,
com a crescente melhoria da qualidade das edições e montagens, cuja adulteração fica cada vez mais
difícil de identificar. Nesse campo, por exemplo, destaca-se o trabalho realizado por pesquisadores da
Universidade de Washington que, a partir da captura de 14 horas de som e imagem do ex-presidente
Barack Obama, construíram uma montagem realística26. Este tipo de operação é denominado de Deep Fake
(ou Falsificação Profunda) e conta com o auxílio de softwares potentes.
O leigo talvez demore a aceitar que aquelas imagens não são verdadeiras e não foram filmadas, mas
sintetizadas digitalmente. Essa tecnologia, antes acessível somente para Hollywood, está cada vez mais à
disposição.

Pode-se aplicar o rosto de alguém em cenas de sexo ou em qualquer situação comprometedora. O mesmo vale
para a voz. Com amostras da fala de uma pessoa, um software faz com que ela diga qualquer coisa, com timbre,
cadência e entonação próximos da perfeição27.

Os referidos autores informam, ainda, que a Comissão Europeia elaborou propostas para combater
a desinformação e as fake news, dentro de cinco linhas mestras, a saber: (1) maior transparência na
divulgação de notícias online, como os dados pessoais que são utilizados para direcionar informações aos
leitores; (2) promoção de educação para mídia; (3) desenvolvimento de ferramentas para que jornalistas e
cidadãos combatam a desinformação; (4) impulsionar a pluralidade, a diversidade e a sustentabilidade dos
meios de comunicação; (5) estímulos a pesquisas sobre desordem informacional.

25
HOLOCAUST EDUCATION & ARCHIVE RESEARCH TEAM. Joseph Goebbels The poison dwarf. O texto original é o
seguinte: “If you tell a lie big enough and keep repeating it, people will eventually come to believe it”. Disponível em: http://www.
holocaustresearchproject.org/holoprelude/goebbels.html. Acesso em: 07 mar. 2019.
26
FAKE Obama created using AI tool to make phoney speeches. BBC News, 17 jul. 2017. Disponível em: https://www.bbc.com/
news/av/technology-40598465/fake-obama-created-using-ai-tool-to-make-phoney-speeches. Acesso: 07. mar. 2019.
27
ALMEIDA, Virgílio et. al. Com avanço tecnológico as fake news vão entrar em fase nova e preocupante. Folha de São Paulo,
08 de abr. de 2018. Disponível em: <https://www1.folha.uol.com.br/ilustrissima/2018/04/com-avanco-tecnologico-fake-news-
vao-entrar-em-fase-nova-e-preocupante.shtml>. Acesso em: 04 fev. 2019.

Redes: Revista Eletrônica Direito e Sociedade, Canoas, v. 7, n. 3, p. 135–148, out. 2019.

 144 Marcelo Guerra Martins, Victor Augusto Tateoki

O caso da Cambridge Analytica

A Cambridge Analytica é uma empresa de marketing inglesa cuja especialidade é analisar grandes
quantidades de dados pessoais para construir estratégias supostamente mais eficazes a serem empregadas
em campanhas publicitárias de várias ordens, sejam de índole meramente comercial, sejam de caráter

político. Ao que se sabe, essas análises implicavam na combinação de elementos da ciência comportamental
com tecnologia de anúncios orientados pelo prévio exame dos dados.

Em março de 2018, importantes órgãos da imprensa internacional noticiaram que a Cambridge

Analytica teve acesso a dados pessoais de mais de 50 milhões de usuários do Facebook, os tendo utilizado
em 2016 para conduzir e influenciar as eleições do presidenciais norte americanas que resultaram na vitória
do candidato republicano Donald Trump.

Os dados do Facebook foram colhidos por meio do aplicativo thisisyourdigitallife, sendo que,
ao utilizarem o aplicativo, os usuários concordavam em ceder dados e informações pessoais que,
posteriormente, foram repassadas para a Cambridge28. Segundo explica Silas Martí:
Tudo começou em junho de 2014, quando o professor Aleksandr Kogan, da Universidade Cambridge, no Reino
Unido, criou um teste de personalidade no Facebook com o pretexto de conduzir um estudo psicológico de usuários.
Mesmo que só 270 mil pessoas tenham feito o teste de Kogan, o sistema permitiu que sua equipe visse o perfil de
50 milhões de usuários, pois também captava as informações de todos os amigos delas.
No ano seguinte, Kogan repassou essa informação à Cambridge Analytica, que então contratou outros
especialistas, entre eles Christopher Wylie, que acabou revelando o esquema ao jornal britânico The Observer (a
versão dominical do Guardian) para influenciar a eleição dos EUA29.

Descobriu-se, outrossim, que a Cambridge se utilizou de conhecimentos teóricos das ciências

comportamentais para identificar diversos parâmetros de personalidade existentes na imensa base de
dados colhidos e, com isso, engendrou uma campanha publicitária específica para cada tipo de usuário.
Umas das bases para o engenho foram as “curtidas” deixadas pelos internautas no Facebook, bem como
pesquisas aparentemente sem maiores repercussões, tais como: que animal mais combina com você? Desse
modo, “Trump e sua equipe eleitoral conseguiram montar perfis de personalidade de eleitores potencias de
forma mais eficiente que seus concorrentes”30.

A BBC informou que o algoritmo para analisar os dados dos usuários com as curtidas criado pela
Cambridge poderia ser bastante preciso: com poucas de dezenas de “curtidas” seria possível revelar aspectos

28
Reveled: 50 million Facebook profiles harvest for Cambridge Analytica in major data breach. The Guardian, 17 mar. 2018.
Disponível em: https://www.theguardian.com/news/2018/mar/17/cambridge-analytica-facebook-influence-us-election. Acesso
em: 11. mar. 2019.
29
Entenda o escândalo do uso de dados do Facebook. Folha de São Paulo, 22 mar. 2018. Disponível em: https://www1.folha.uol.
com.br/mercado/2018/03/entenda-o-escandalo-do-uso-de-dados-do-facebook.shtml. Acesso em: 12 mar. 2019.
VESTING, Thomas. A mudança da esfera pública pela inteligência artificial. In. ABBOUD, Georges; NERY JR, Nelson.;
30

CAMPOS, Ricardo (Coords.). Fake news e regulação. São Paulo: Thomson Reuters Brasil, 2018. p. 93.

Redes: Revista Eletrônica Direito e Sociedade, Canoas, v. 7, n. 3, p. 135–148, out. 2019.

 Proteção de dados pessoais e democracia: fake news, manipulação do eleitor e o caso da Cambridge
Analytica 145

da personalidade de alguém com elevadíssima precisão31. A partir disso, a publicidade eleitoral, dentro do
próprio Facebook, foi dirigida para cada tipo de pessoa. Estima-se que foram distribuídos cerca de 35 a 45
mil tipos de anúncios diferentes, dependendo das características do destinatário32.

E qual foi a culpa do Facebook? O problema é que, segundo explica Paulo Alves: “O vazamento de
perfis teria ocorrido por conta de uma política flexível do Facebook com relação à entrega de informações de perfis
a aplicativos de terceiros na rede social. Entre 2007 e 2014, a empresa [...] ofereceu livremente dados de usuários a
desenvolvedores de apps”33.

E, em que sentido esse tipo de publicidade dirigida pode prejudicar o funcionamento da democracia? Não
seria direito dos candidatos fazerem propaganda de suas ideias e propostas perante os eleitores?

É preciso convir que uma coisa é veicular a propaganda eleitoral que, em suma, identifique o candidato,
exponha suas principais ideias e apresente suas proposições. Outra coisa, bem diversa, aliás, é manipular o eleitor
apresentando-lhe não um candidato real, mas alguém fabricado e que aparenta dizer exatamente aquilo que agrada
ao eleitor. Dessa forma, se se quiser atender aos diversos perfis de eleitores, não haverá um candidato, mas tantos
quantos forem os perfis selecionados.

Ora, essa circunstância obscurece a transparência em torno da pessoa do candidato, notadamente suas
ideias e propostas. Com efeito, a transparência em torno do candidato é pedra angular do sistema, visto que é ela que
permite ao eleitor fazer sua escolha de forma livre e, sobretudo, consciente. Assim, em um cenário de manipulação
do eleitor por propaganda eleitoral direcionada a grupos ou perfis pré-selecionados, a qualidade do voto, como
expressão do exercício da cidadania, é severamente prejudicada.

Considerações finais

A era da Sociedade da Informação possibilitou que a transmissão de dados, ideias e conhecimento,

principalmente a partir da utilização de redes eletrônicas como a internet, atingissem níveis nunca antes
imaginados, tanto em termos de volume e velocidade de transmissão, quanto em relação ao universo de
pessoas participantes dessa conjuntura extremamente dinâmica.

Não obstante todas as vantagens trazidas pela comunicação em massa, há o problema dos dados
pessoais deixados pelos usuários das redes que, em muitos casos, são compostos de dados de caráter
pessoal, acessíveis a terceiros que os utilizarão para diversas finalidades, não apenas comerciais, mas
também políticas, por meio de uma eventual manipulação do eleitorado por meio de propaganda eleitoral
eletrônica dirigida a grupos específicos.
31
Como a Cambridge Analytica analisou a personalidade de milhões de usuários no facebook. BBC News, 25 abr. 2018.
Disponível em.: https://www.youtube.com/watch?v=x1SnHHby0wA. Acesso: 11. mar. 2019.
32
HAYNES, Ian. The power of A/B testing: the US election - what happens when persona driven content, a/b and multivariate testing
optimise? Symposeum, 10 fev. 2018. Disponível em: https://symposeum.com/power-b-testing-us-election/. Acesso em: 12 mar. 2019.
33
Facebook e Cambridge Analytica: sete fatos que você precisa saber. Tectudo, 24 mar. 2018. Disponível em: <https://www.
techtudo.com.br/noticias/2018/03/facebook-e-cambridge-analytica-sete-fatos-que-voce-precisa-saber.ghtml>. Acesso em: 12
mar. 2019.

Redes: Revista Eletrônica Direito e Sociedade, Canoas, v. 7, n. 3, p. 135–148, out. 2019.

 146 Marcelo Guerra Martins, Victor Augusto Tateoki

Uma das ferramentas utilizadas para tal desiderato são as chamadas fake news que, em suma, se
mostram como notícias que tentam se passar por matérias jornalísticas dignas de confiança, mas que, em
diversos graus, propagam informações inverídicas, distorcem fatos ocorridos ou mesmo opiniões emitidas
por alguém. É o que ocorreu, por exemplo, em escala ainda a ser devidamente averiguada, nas eleições
presidenciais norte americanas de 2016. Por sua vez, a propaganda eleitoral dirigida especialmente a certos
grupos e perfis de eleitores tem por objetivo apresentar um candidato que defende as ideias e valores próprios
desses grupos, que não necessariamente coincidirão com aquilo que o candidato verdadeiramente pensa.
Com isso, resta ameaçada uma das pedras angulares do sistema democrático, visto ser a transparência (ou
a autenticidade do candidato) um dos principais elementos que viabiliza uma escolha livre e, sobretudo,
consciente por parte do eleitor.

Diante de tais ameaças, os sistemas jurídicos de vários países começaram a editar normas de
proteção de dados pessoais, em vários níveis, inclusive conferindo ao usuário controle acerca de quais
dados e limites para compartilhamento e utilização por terceiros. É o caso, por exemplo, da Diretiva de
Proteção de Dados Pessoais de 1995 95/46/CE, seguida pelo General Data Protection Regulation, em vigor
desde 25 de maio de 2018 no âmbito da União Europeia.

No Brasil, o destaque vai para a Lei Geral de Proteção de Dados (Lei nº 13.709/2018) que entrará
totalmente em vigor somente em 2020. Dentre diversas medidas, essa norma criou a Autoridade Nacional
de Proteção de Dados, estabeleceu diversas obrigações a empresas que colhem dados pessoais em ambientes
virtuais, fixou direitos aos titulares desses dados, bem como previu um sistema de responsabilidade
administrativa e judicial específico para a área.

Referências

ALMEIDA, Virgilio; DONEDA, Danilo; LEMOS, Ronaldo. Com avanço tecnológico as fake news vão entrar em
fase nova e preocupante. Folha de São Paulo, 08 de abr. de 2018. Disponível em: <https://www1.folha.uol.com.br/
ilustrissima/2018/04/com-avanco-tecnologico-fake-news-vao-entrar-em-fase-nova-e-preocupante.shtml>. Acesso
em: 04 fev. 2019.

ALVES, Paulo. Facebook e Cambridge Analytica: sete fatos que você precisa saber. Tectudo, 24 mar. 2018. Disponível
em: <https://www.techtudo.com.br/noticias/2018/03/facebook-e-cambridge-analytica-sete-fatos-que-voce-precisa-
saber.ghtml>. Acesso em: 12 mar. 2019.

ASCENSÃO, José de Oliveira. Direito da internet e da sociedade da informação. Rio de Janeiro: Forense, 2002.

ASH, Gartom Timothy. Free speech – ten principles for connected world. London: Atlantic Books, 2016.

BARRETO JUNIOR, Irineu Francisco. A relevância do conceito Sociedade da Informação para a pesquisa jurídica.
In: PAESANI, Liliana Minardi (Coord.). Direito na sociedade da informação. São Paulo: Atlas, 2007, p. 61-77.

BERNARDES, Marciele Berger. Democracia na sociedade informacional: desenvolvimento da democracia digital

nos municípios brasileiros. São Paulo: Saraiva, 2013.

CASTELLS, Manuel. A galáxia da internet: reflexões sobre a internet, os negócios e a sociedade. Trad. Maria Luiza
X. de A. Borges. Rio de Janeiro: Zahar, 2003.

Redes: Revista Eletrônica Direito e Sociedade, Canoas, v. 7, n. 3, p. 135–148, out. 2019.

 Proteção de dados pessoais e democracia: fake news, manipulação do eleitor e o caso da Cambridge
Analytica 147

CASTELLS, Manuel. A era da informação: economia, sociedade e cultura: a sociedade em rede. 14. ed. São Paulo:
Paz e Terra, 2011.

CASTELLS, Manuel. Redes de indignação e esperança: os movimentos sociais através da internet. 2. ed. Rio de
Janeiro: Zahar, 2013.

COMO a Cambridge Analytica analisou a personalidade de milhões de usuários no facebook. BBC News, 25 abr.
2018. Disponível em.: https://www.youtube.com/watch?v=x1SnHHby0wA. Acesso: 11. mar. 2019.

DONEDA, Danilo. Da privacidade à proteção de dados pessoais. Rio de Janeiro: Renovar, 2006.

FAKE Obama created using AI tool to make phoney speeches. BBC News, 17 jul. 2017. Disponível em: https://www.
bbc.com/news/av/technology-40598465/fake-obama-created-using-ai-tool-to-make-phoney-speeches. Acesso: 07.
mar. 2019.

HELBING, Dirk; FREY, Bruno S.; GIGERENZER, Gerd; HAFEN, Ernest; HAGNER, Michael; HOFSTETTER,
Yvonne; HOVEN, Jeroen Van Den; ZICARI, Roberto V.; Zwitter Andrej. Will democracy survive Big Data and artificial
intelligence? We are in the middle of a technological upheaval that will transform the way society is organized. We
must make the right decisions now. Scientific American, fev. 2017. Disponível em: https://www.scientificamerican.
com/article/will-democracy-survive-big-data-and-artificial-intelligence/. Acesso em: 04 mar. 2019.

HAYNES, Ian. The power of A/B testing: the US election - what happens when persona driven content, a/b and
multivariate testing optimise? Symposeum, 10 fev. 2018. Disponível em: https://symposeum.com/power-b-testing-
us-election/. Acesso em: 12 mar. 2019.

HOLOCAUST EDUCATION & ARCHIVE RESEARCH TEAM. Joseph Goebbels - the poison dwarf. Disponível
em: http://www.holocaustresearchproject.org/holoprelude/goebbels.html. Acesso em: 07 mar. 2019.

KIRBY, Emma Jane. A cidade europeia que enriquece inventando notícias – e influenciando eleições. BBC News –
Brasil, 12 dez. 2016. Disponível em: https://www.bbc.com/portuguese/internacional-38206498. Acesso em: 10. mar.
2019.

LÉVY, Pierre. Cibercultura. Trad. Carlos Irineu da Costa. 3. ed. São Paulo: Editora 34, 2010.

LÉVY, Pierre. Cyberculture. Trad. Robert Bononno. Minneapolis: University of Minnesota Press, 2001.

LÉVY, Pierre; LEMOS, André. O futuro da internet: em direção a uma ciberdemocracia. São Paulo: Paulus, 2010.

LISBOA, Roberto Senise. O direito na sociedade da informação. Portal de e-governo, inclusão digital e
sociedade do conhecimento. Disponível em: http://www.egov.ufsc.br/portal/conteudo/direito-na-sociedade-da-
informa%C3%A7%C3%A3o. Acesso em: 04 mar. 2019.

MARTINS, Marcelo Guerra; BARCELLOS, Rodrigo da Silveira. Demissão por justa causa por aprovação de
comentário (“curtida”) contra o empregador no Facebook. Revista Eletrônica Direito e Sociedade, v. 5, n.1, p. 133-
141, 2017.

MASUDA, Yoneji. A sociedade da informação como sociedade pós-industrial. Rio de Janeiro: Editora Rio, 1985.

MARTÍ, Silas. Entenda o escândalo do uso de dados do Facebook. Folha de São Paulo, 22 mar. 2018. Disponível
em: https://www1.folha.uol.com.br/mercado/2018/03/entenda-o-escandalo-do-uso-de-dados-do-facebook.shtml.
Acesso em: 12 mar. 2019.

MENDES, Laura Schertel. Privacidade e proteção de dados e defesa do consumidor: linhas gerais de um novo
direito fundamental. São Paulo: Saraiva, 2014.

Redes: Revista Eletrônica Direito e Sociedade, Canoas, v. 7, n. 3, p. 135–148, out. 2019.

 148 Marcelo Guerra Martins, Victor Augusto Tateoki

REVELATED: 50 million Facebook profiles harvest for Cambridge Analytica in major data breach. The Guardian,
17 mar. 2018. Disponível em: https://www.theguardian.com/news/2018/mar/17/cambridge-analytica-facebook-
influence-us-election. Acesso em: 11. mar. 2019.

SILVA, José Afonso da. Curso de direito constitucional positivo. 26. ed. São Paulo: Malheiros, 2006.

SORJ, Bernardo; CRUZ, Francisco Brito.; SANTOS, Maike Wilde dos; RIBEIRO, Márcio Moretto; ORTELLADO,
Pablo. Sobrevivendo nas redes: guia do cidadão. Ensaios de Democracia Digital, n. 3, mar. 2018. Disponível em:
http://www.plataformademocratica.org/Arquivos/Sobrevivendo_nas_redes.pdf>. Acesso em: 10 mar. 2019.

TOWNSEND, Anthony. Digitally mediated urban space: new lessons for design. Praxis Journal, Issue 6, mar. 2004,
p. 101. Disponível em: http://www.anthonymobile.com/wp-content/uploads/2017/05/townsend-praxis.pdf. Acesso
em: 23 fev. 2018.

VESTING, Thomas. A mudança da esfera pública pela inteligência artificial. In. ABBOUD, Georges; NERY JR,
Nelson; CAMPOS, Ricardo (Coords.). Fake news e regulação. São Paulo: Thomson Reuters Brasil, 2018, p. 91-108.

WANDLE, Claire. Fake news. It´s complicated. First Draft, 16 fev. 2017. Disponível em: https://firstdraftnews.org/
fake-news-complicated/> Acesso em: 19 mar. 2019.

Redes: Revista Eletrônica Direito e Sociedade, Canoas, v. 7, n. 3, p. 135–148, out. 2019.