Revista Conexão, n.

11, 2023

ISSN 2357-9196

DESAFIOS E IMPLICAÇÕES ÉTICAS DO USO DA INTELIGÊNCIA ARTIFICIAL E

A FALTA DE PREVISÃO LEGAL NO SISTEMA JURÍDICO BRASILEIRO

Divaléia Casagrande
Gefferson Vivan
Vera Lúcia Dick

Resumo
Este artigo tem como objetivo iluminar a discussão e o pensamento crítico em torno do uso e avanço
da Inteligência Artificial (IA) e sua regulamentação – ou a falta dela – no sistema jurídico brasileiro,
enquadrado através de lentes éticas. O foco central está no desafio de aplicar a ética ao ritmo
rapidamente acelerado do progresso tecnológico, onde a regulamentação legal está
consistentemente atrasada e lutando para acompanhar, e muito menos antecipar, as tecnologias
emergentes ou existentes. O tema suscita discursos em diversas esferas, não só jurídicas, mas
também sociais, dada a sua relevância e impacto na população em geral. A tecnologia afeta
significativamente a vida pessoal e profissional dos indivíduos, tornando esta questão de grande
preocupação.

Palavras-chave: Inteligência Artificial. Ética. Princípios éticos. Jurídico.

Abstract
This article aims to illuminate the discussion and critical thinking surrounding the use and
advancement of Artificial Intelligence (AI) and its regulation—or the lack thereof—within the Brazilian
legal system, framed through an ethical lens. The central focus is on the challenge of applying ethics
to the rapidly accelerating pace of technological progress, where legal regulation is consistently
lagging behind and struggling to keep up with, emerging or existing technologies. The topic prompts
discourse across various spheres, not only legal but also societal, given its relevance and impact on
the general population. Technology significantly affects individuals' personal and professional lives,
making this an issue of broad concern.

Keywords: Artificial Intelligence. Ethics. Ethical Principles. Legal.

Introdução

Nos últimos anos, os desenvolvimentos em Inteligência Artificial (IA) têm sido

marcados por avanços significativos em áreas como aprendizado de máquina,
processamento de linguagem natural e visão computacional. Algoritmos mais
complexos e eficientes têm sido desenvolvidos para lidar com grandes conjuntos de
dados, resultando em melhorias nas aplicações de IA em setores como saúde,

274
 Revista Conexão, n. 11, 2023

ISSN 2357-9196
finanças, transporte e segurança. Paralelamente, a integração de IA com tecnologias
emergentes, como a internet das coisas e a robótica, têm ampliado as possibilidades
de atuação e impacto da IA em diferentes aspectos da vida moderna. (Bueno e
Santos, 2024)

Entretanto, esse cenário de inovação e introdução da inteligência artificial não

é algo novo, ou recente. A história da IA reporta a décadas. Sua origem remete aos
estudos da lógica, matemática, filosofia e neurociência.

Por volta do final dos anos 1940 e início dos anos 1950, pesquisadores como
Alan Turing, John von Neumann e Claude Shannon, desenvolveram conceitos
chaves relacionados à computação e à inteligência. Em 1950, Alan Turing propôs
um teste chamado "Teste de Turing", que se tornou um marco importante na história
da IA. O teste consiste em determinar se uma máquina pode exibir um
comportamento inteligente indistinguível do de um ser humano (Onody 2021,online).

Durante as décadas de 1950 e 1960 pesquisadores desenvolveram

algoritmos e programas que possibilitaram às máquinas realizarem tarefas
específicas, como jogar xadrez e resolver problemas matemáticos. Os sistemas
eram baseados apenas em regras e não eram dotados da capacidade de aprender.
Entretanto, a partir dos anos 1980, houve um grande avanço na área de
Aprendizado de Máquina (Machine Learning), que é um subcampo da IA.

O Machine Learning outorga às máquinas o aprendizado a partir de dados e

possibilita também melhorarem seu desempenho ao longo do tempo. Foram
desenvolvidos nesse período, algoritmos como redes neurais artificiais, árvores de
decisão e algoritmos genéticos.

Essa evolução continuou e nas últimas décadas a disponibilidade de grandes

quantidades de dados e o poder computacional crescente impulsionaram o
progresso da IA com uma velocidade nunca antes vista.

E é aqui que mora o centro da nossa análise crítica, uma vez que o
regramento jurídico não consegue acompanhar e mensurar o quanto uma IA é ética,
ou o seu uso está sendo de forma ética.

275
 Revista Conexão, n. 11, 2023

ISSN 2357-9196
Mas o que é Ética?

A Ética, segundo o Dicionário Aurélio Buarque de Holanda, ―é o estudo dos

juízos de apreciação referentes à conduta humana suscetível de qualificação do
ponto de vista do bem e do mal‖. E, ainda ―Conjunto de princípios, valores e normas
morais e de conduta de um indivíduo ou de grupo social ou de uma sociedade‖
(Dicionário Michaelis).

Em grego, Ethos é a morada humana não sendo algo pronto e construído de

uma só vez. É ciência da conduta humana perante o ser e seus semelhantes. A
maneira como o homem deve se comportar no meio social. Ou seja, o conjunto de
valores construtivos, buscando identificar o que é bom ou mau, correto ou incorreto,
construtivo ou destrutivo, na perspectiva da vida e da qualidade de vida individual e
coletiva.

Princípios Éticos em Inteligência Artificial

Os princípios éticos em inteligência artificial são essenciais para garantir o

desenvolvimento e uso responsável dessa tecnologia. Entre os principais princípios
éticos que norteiam a IA, destacam-se a transparência, a justiça, a responsabilidade,
a privacidade e a segurança. Esses princípios buscam assegurar que a IA seja
aplicada de forma ética e que os impactos negativos sejam minimizados. Além
disso, a ética em IA também abrange a necessidade de considerar o bem-estar
humano, a equidade e a diversidade, bem como a preservação da autonomia e da
liberdade. Portanto, a definição e aplicação de princípios éticos claros são
fundamentais para orientar o desenvolvimento e uso da inteligência artificial de
maneira ética e responsável. (Ignácio, 2024)

Ética e Regulação Legal: Desafios e Oportunidades

Quando se analisa a interseção entre ética e regulação legal no contexto da

inteligência artificial, é imprescindível explorar os desafios e oportunidades
enfrentados. É necessário legislação adequada para garantir seu uso ético, uma vez

276
 Revista Conexão, n. 11, 2023

ISSN 2357-9196
que a IA pode impactar áreas como privacidade, emprego e discriminação.
Fiscalização e regulamentação eficientes são necessárias para garantir o uso
responsável da IA assim como seus benefícios para a humanidade. Os desafios
incluem, desde a necessidade de desenvolver marcos regulatórios eficazes que
garantam a proteção dos direitos humanos e a segurança dos indivíduos, bem como
lidar com questões complexas relacionadas à responsabilidade e transparência na
tomada de decisões algorítmicas. Por outro lado, as oportunidades surgem na
possibilidade de promover inovação responsável e criar um ambiente propício para o
desenvolvimento ético da IA. Além disso, a regulação pode contribuir para minimizar
o viés e a discriminação em algoritmos, garantindo maior equidade e justiça na sua
utilização. (Hupffer e da Silva Santanna)

Legislação Internacional sobre Inteligência Artificial

A legislação internacional sobre Inteligência Artificial está se desenvolvendo à

medida que a tecnologia avança. Organizações como a União Europeia têm
implementado regulamentos como o Regulamento Geral de Proteção de Dados
(GDPR) para lidar com questões de privacidade e proteção de dados. Além disso, a
Organização para a Cooperação e Desenvolvimento Econômico (OCDE) tem
trabalhado em diretrizes para garantir a transparência e responsabilidade na
utilização de IA. Outros acordos internacionais estão sendo discutidos para abordar
questões éticas e legais em torno da Inteligência Artificial, à medida que a
comunidade global reconhece a necessidade de uma abordagem unificada para
regular essa tecnologia em escala internacional. (Vieira, 2021)

Legislação Nacional e Regional sobre Inteligência Artificial

No Brasil, ainda não há uma legislação específica sobre Inteligência Artificial,

mas há discussões e propostas em andamento. No entanto, alguns estados, como
São Paulo, têm adotado iniciativas para regulamentar o tema, como a Lei Estadual
nº 17.865/2020, que estabelece diretrizes para a utilização de sistemas de
inteligência artificial na administração pública estadual. Este é um tema em

277
 Revista Conexão, n. 11, 2023

ISSN 2357-9196
constante evolução e a tendência é que mais legislações nacionais e regionais
surjam para lidar com os desafios éticos e legais da inteligência artificial. (De
Oliveira, 2022)

A burocratização do sistema jurídico brasileiro, os interesses de políticos e

seus partidos, assim como interesses da cúpula empresarial podem ser
considerados entraves para uma aceleração na confecção de normas que
regularizem o uso e o desenvolvimento de novas IA.

Responsabilidade Ética e Jurídica na Utilização de Algoritmos

Preocupação crescente, a responsabilidade ética e jurídica na utilização de

algoritmos avança à medida que a inteligência artificial se torna mais presente em
nossas vidas. As decisões tomadas por algoritmos podem ter um impacto
significativo nos direitos e liberdades individuais, levando à necessidade de
estabelecer padrões e regulamentações para garantir a responsabilidade e
transparência das organizações que os utilizam. Por isso a urgência em
regulamentar o uso. Questões como viés, discriminação, proteção de dados e
impacto social estão no centro deste debate, exigindo medidas legais e éticas que
promovam a equidade e a justiça na aplicação de algoritmos em diversos contextos,
desde contratações até sistemas judiciais.

Para entender como funciona e para onde caminha esse mundo novo e
frenético é fundamental desenvolver mecanismos para tornar os sistemas de IA mais
transparentes, permitindo que os usuários entendam como as decisões são
alcançadas.

A transparência e explicabilidade são questões cruciais em sistemas de

inteligência artificial, especialmente quando se trata de tomar decisões que afetam
as pessoas. A falta de compreensão sobre como as decisões são tomadas pelos
algoritmos de IA geram desconfiança e insegurança. Além disso, a explicabilidade é
importante para garantir que os sistemas de IA sejam responsáveis e justos,
evitando vieses indesejados e discriminatórios. Nesse sentido, as organizações e
reguladores precisam estabelecer padrões e diretrizes claras para promover a

278
 Revista Conexão, n. 11, 2023

ISSN 2357-9196
transparência e explicabilidade em sistemas de IA, garantindo assim uma utilização
ética e legal da tecnologia. (Vasconcelos e Gomes, 2023)

A questão do viés e discriminação em algoritmos, por exemplo é um desafio

significativo e cada vez mais relevante para a ética e a previsão legal em inteligência
artificial. Algoritmos de IA podem refletir e até amplificar os preconceitos e
desigualdades existentes na sociedade, resultando em discriminação contra certos
grupos. É necessário desenvolver políticas e regulamentações rigorosas para mitigar
o viés e discriminação em algoritmos, assegurando que a inteligência artificial seja
utilizada de forma justa e equitativa, respeitando os direitos fundamentais das
pessoas.

Esse é apenas um exemplo no mundo de possibilidades em que a IA interfere

e precisa ser regulamentada, áreas como medicina, política, privacidade, ambiental,
educação, entre outras anseiam por normativas legais.

Proteção de Dados e Privacidade em Aplicações de Inteligência Artificial

Aqui mora uma das maiores preocupações da sociedade visto que o potencial
risco de violação da privacidade dos usuários é real e diário. É crucial garantir que
os dados coletados e processados sejam utilizados de forma ética e legal,
respeitando as regulamentações de proteção de dados. Além disso, é preciso
atentar para a transparência e a explicabilidade nos sistemas de inteligência
artificial, a fim de assegurar que as decisões tomadas respeitem a privacidade dos
indivíduos. A implementação de medidas de segurança cibernética também se
mostra essencial para proteger os dados pessoais dos usuários de possíveis
violações e usos indevidos. (Cruz, 2024)

O ordenamento jurídico brasileiro possui a Lei Geral de Proteção de Dados

(LGPD) com sessenta e cinco artigos e sem orientações interpretativas deixa
margens para uma interpretação ampla e subjetiva, podendo gerar insegurança
jurídica. Promulgada em 2018, sua última atualização ocorreu em 2022. Aborda
apenas o uso, tratamento e proteção de dados sensíveis de pessoas físicas,
enumerando os direitos que o cidadão possui, pontuando regras e deveres que os

279
 Revista Conexão, n. 11, 2023

ISSN 2357-9196
agentes de tratamento precisam cumprir para que possam estar em conformidade
com as boas práticas e governança.

Conclusão e Considerações Finais

Os desafios e oportunidades no contexto das perspectivas futuras em ética e

Inteligência Artificial são significativos. Com o avanço acelerado da IA, questões
éticas complexas como a autonomia das máquinas, o impacto no mercado de
trabalho e a tomada de decisões algorítmicas ganham destaque e estão no centro
das urgências.

Em contrapartida, as oportunidades surgem na forma de avanços

tecnológicos inovadores, novos modelos de negócios e a possibilidade de melhorar
a qualidade de vida das pessoas. Enfrentar esses desafios e aproveitar essas
oportunidades exigirá um diálogo contínuo entre diversos setores da sociedade, bem
como o desenvolvimento de regulamentações eficazes levando em consideração
princípios éticos sólidos que orientem o uso responsável da IA.

Portanto, a ética e a previsão legal em relação à Inteligência Artificial

representam um campo em constante evolução e adaptação. Ainda há um longo
caminho para se chegar a um mundo ideal no que diz respeito à legislação para a
regulamentação do uso de forma ética da Inteligência Artificial. A necessidade de
equilibrar inovação e proteção dos direitos individuais é desafiadora, mas essencial
para garantir o uso ético e responsável da IA. A legislação internacional e nacional
continua a se desenvolver para abordar questões como transparência, viés,
proteção de dados e responsabilidade jurídica. As considerações finais destacam a
importância da colaboração entre governos, empresas, especialistas em ética e
sociedade civil para garantir o desenvolvimento ético da IA e a implementação de
leis eficazes que promovam a confiança no uso dessa tecnologia.

Referências:

280
 Revista Conexão, n. 11, 2023

ISSN 2357-9196
Bueno, E. F. e Santos, M. F. "Inteligência Artificial: Desafios para regulação jurídica."
Revista Eletrônica Direito & TI, 2024. direitoeti.com.br

Cruz, B. D. S. "Inteligência artificial: sua aplicabilidade e contribuição ao mundo

jurídico." 2024.
https://repositorio.pucgoias.edu.br/jspui/bitstream/123456789/7444/1/BRUNO%20DI
AS%20DA%20SILVA%20CRUZ.pdf

de Souza, Gustavo Cruz, e Antônio José Roveroni. "Inteligência Artificial (IA): O

papel crucial da regulamentação." Revista Ibero-Americana de Humanidades,
Ciências e Educação 9.10 (2023): 1982-1993. periodicorease.pro.br

de Oliveira, Carlos Alexandre Firme, et al. "O conhecimento pertinente e a

inteligência artificial numa ótica tecnológica interdisciplinar." Revista Acadêmica da
Lusofonia 1.2 (2024): 1-16. revistaacademicadalusofonia.com

de Oliveira, C. G. B. "Desafios da regulação do digital e da inteligência artificial no

Brasil." Revista USP, 2022. usp.br

Dicionário Michaelis, https://michaelis.uol.com.br/moderno-

portugues/busca/portugues-brasileiro/etica/).

Hupffer, H. M. e da Silva Santanna, G. " Inteligência Artificial e discriminação

algorítmica: Marcos regulatórios e parâmetros éticos." guaritadigital.com.br, .
http://www.guaritadigital.com.br/casaleirialivros/iasg/iasg.4.pdf

Ignácio, Andrew Carvalho, Lucas da Silva Oliveira, e Marcos Paulo Moraes Francez.
"Eficiência do uso da inteligência artificial no desenvolvimento de software."
Advances in Global Innovation & Technology 2.2 (2024): 06-16.

Onody, Roberto N. Teste de Turing e Inteligência Artificial. 2021. In: IFSC USP.

Turing, Alan. "Computing Machinery and Intelligence" (1950).

Vasconcelos, C. S. e Gomes, M. S. A. V. "Uma análise do contraditório à luz das

decisões judiciais automatizadas: Reflexos sobre o processo civil contemporâneo."
cidp.pt, . https://www.cidp.pt/revistas/rjlb/2023/5/2023_05_0429_0471.pd

281