Gpt em ação
Gpt em ação
Gpt em ação
130-143
·ISSN 2340-860X - ·ISSNe 2386-5229
1. Introdução
A relação entre a tecnologia e a humanidade é pauta de debates pela
sociologia, pela sociedade civil e pelo Direito há alguns séculos. Se por um lado, as
previsões pessimistas da Revolução Industrial apontavam para uma inevitável
realidade em que a automação iria substituir a manufatura por completo, elevando
gradativamente os índices de desemprego e pobreza. Por outro lado, os prognósticos
otimistas enxergavam na automação o fim do trabalho árduo e das jornadas
1 Mestre em Proteção dos Direitos Fundamentais pela Universidade de Itaúna - UIT (2020-
2021). Bacharel em Direito pela Universidade de Itaúna - UIT (2019). Advogado.
2 Mestre em Proteção dos Direitos Fundamentais pela Universidade de Itaúna - UIT (2020-
2022). Bacharel em Direito pela Universidade Federal de Juiz de Fora (2018). Advogado.
Membro do Observatório do Mundo em Rede - Cyber Leviathan.
3 Pós-Doutor em Direito pela UNIME, Itália. Doutor em Direito (UGF/RJ). Professor da
Recibido: 21/03/2023
Aceptado: 06/06/2023
DOI: 10.5281/zenodo.8043807
Rafael C. V. Ferreira et al. O surgimento do Chat GPT e a: (...)
4 HARARI, Y. N. Sapiens: uma breve história da humanidade, L&PM, Porto Alegre, 2019.
5 FONSECA FILHO, C. História da computação: o caminho do pensamento e da tecnologia.
Porto Alegre: EDIPUCRS, 2007.
6 PEREIRA, D. M., & SILVA, G. S.“As Tecnologias de Informação e Comunicação (TICs) como
7 OPENAI. ChatGPT: Optimizing Language Models for Dialogue, 30 nov. 2022. Disponível em:
academic paper on itself, with minimal human input?. HAL, 2022. n. 03701250. Disponível
em: https://hal.science/hal-03701250. Acesso em: 25 fev. 2023.
11 HEIDEGGER, M. Ser e Tempo, Vozes, Petrópolis, 2006.
133
134 Cadernos de Dereito Actual Nº 21. Núm. Ordinario, (2023)
semelhante a um ser humano pode ser o passo inicial de uma evolução muito maior
da Inteligência Artificial.
A empresa OpenAI, responsável pelo ChatGPT, foi fundada como entidade
sem fins lucrativos em 2015, com o objetivo declarado de promover a pesquisa e a
implantação da Inteligência Artificial em benefício de toda a humanidade. 12 Desde
então, ela vem recebendo investimentos bilionários de companhias tradicionais do
ramo tecnológico, como a Microsoft. 13 Enquanto grandes interesses econômicos
envolvem essas novas tecnologias de automação, direitos fundamentais e interesses
legítimos precisam ser resguardados, principalmente daqueles em posição de
vulnerabilidade. 14
O ChatGPT é apenas um dos modelos de inteligência artificial em
desenvolvimento na atualidade, mas, apesar de ainda estar em fase de testes, o
impacto provocado não tem precedentes, sendo capaz de ameaçar até mesmo a
hegemonia do buscador do Google. 15
Nos primeiros meses de teste, a ferramenta demonstrou cumprir muito bem
os objetivos propostos, principalmente quando se trata de grandes bancos de dados,
superando de longe o que até então se tinha como modelos de inteligência artificial
- assistentes pessoais, como SIRI, da Apple e Alexa, da Amazon, ou atendentes
automatizados de serviços ao consumidor.
Ainda é difícil saber em que medida essas aplicações aproximam-se da forma
de processamento de dados do cérebro humano, mesmo porque este ainda não é
bem compreendido pela ciência. É de se destacar o caso das aplicações de IA para a
produção de imagens, que têm sido alvo de debate sobre a originalidade de suas
produções. Não se pode descurar que o trabalho realizado pela máquina mistura
elementos de bilhões de imagens presentes em seus bancos de dados, várias delas
protegidas por direitos autorais, o que pode ensejar violação da propriedade
intelectual de milhões de artistas. 16
Isso conduz a questionamentos filosóficos muito mais profundos: não é
exatamente o que o ser humano faz? Assimilar, processar e reproduzir elementos
visuais e linguísticos disponíveis no ambiente natural para criar algo ‘novo’? E os
direitos de propriedade intelectual não seriam criações artificiais para proteger e
fomentar determinados mercados? A inteligência artificial, nesse caso, deveria ser
considerada co-autora de uma produção acadêmica?
Este tem sido o posicionamento de alguns pesquisadores que utilizaram a
plataforma para a escrita de artigos científicos, mas o assunto ainda é muito
controverso, já que a posição de autor de uma publicação impõe responsabilidade
legal, algo incompatível com a máquina. 17 Nesse caso, a questão gira em torno de
12 OPENAI. “OpenAI is an AI research and deployment company. Our mission is to ensure that
artificial general intelligence benefits all of humanity”, OpenAI, 2023. Disponível em:
https://openai.com/about/. Acesso em: 25 fev. 2023.
13 BASS, D. “Microsoft Invests $10 Billion in ChatGPT Maker OpenAI”. Bloomberg, 23 jan. 2023.
qual é o compromisso da aplicação, com qual objetivo ela foi desenhada, qual é o
seu viés e qual a responsabilidade do ser humano por trás da máquina.
A resposta que o ChatGPT fornece quando lhe solicitam uma autodescrição
busca exatamente satisfazer a requisição do usuário, com linguagem correspondente
ao pedido, ao encontro dos seus anseios. Torna-se necessário, então, avaliar a
compatibilidade da sua utilização com a lógica da pesquisa científica, aferindo os
limites e os termos de utilização que não comprometam os resultados.
A partir disso, torna-se urgente questionar qual deve ser considerado o bom
uso delas e qual é a natureza da sua capacidade criativa. Pouco tempo após o
lançamento, enquanto já é atribuída à IA a autoria de livros infantis 18 e artigos
científicos 19, autoridades educacionais logo restringiram o acesso de alunos à
plataforma, temendo prejuízo para o ensino e os métodos de avaliação. 20 Daí, torna-
se imprescindível aferir se, e em que circunstâncias, esses modelos de IA são
benéficos para a produção acadêmica e como evitar a sua má utilização.
Tratando-se de uma autêntica tecnologia disruptiva, é preciso demarcar, o
quanto antes, a posição do ser humano e da máquina nesse novo ambiente de
produção de conhecimento, principalmente o científico. Caso contrário, como tem
ocorrido em diversos setores, corre-se o risco dessas ferramentas assumirem o papel
de protagonismo, colocando o ser humano em segundo plano, sacrificando ainda a
busca pela verdade científica.
18 NOLAN, B. “This man used AI to write and illustrate a children's book in one weekend. He
wasn't prepared for the backlash”, Insider, 15 jan. 2023. Disponível em:
https://www.businessinsider.com/chatgpt-midjourney-ai-write-illustrate-childrens-book-one-
weekend-alice-2023-1. Acesso em: 23 mar. 2023.
19 STOKEL-WALKER, C. “ChatGPT listed as author on research papers: many scientists
veja prós e contras do robô na sala de aula”, G1, 29 jan. 2023. Disponível em:
https://g1.globo.com/educacao/noticia/2023/01/29/tentar-proibir-chatgpt-nas-escolas-sera-
perda-de-tempo-dizem-especialistas-veja-pros-e-contras-do-robo-na-sala-de-aula.ghtml.
Acesso em: 25 fev. 2023.
21 FOUCAULT, M. A verdade e as formas jurídicas. Trad. Roberto Cabral de Melo Machado;
às limitações cognitivas do ser humano. Foi somente no século XIX que se reuniu
condições para reflexões especificamente voltadas para aprimorar as formas de
construção do conhecimento científico, a partir das contribuições de Karl Popper e do
Círculo de Viena, expoentes da corrente do empirismo lógico. 22
A ressignificação da razão desvelou que o cérebro humano, este enquanto
animal, não se desenvolveu como uma ferramenta divina capaz de enxergar o mundo
como ele é. Na verdade, é o produto da evolução que nos permitiu a melhor
adaptação à vida em comunidade em condições adversas. É, portanto, uma
ferramenta especializada para este fim, mas sujeita a diversas falhas.
O rigor que caracteriza a ciência moderna é, na verdade, um dos grandes
responsáveis pelo rápido desenvolvimento tecnológico que culminou nos sofisticados
modelos de inteligência artificial que já surpreendem o mundo. O método científico,
como hoje é compreendido, foi desenvolvido para minimizar as armadilhas cognitivas
do ser humano, permitindo a construção de um pensamento contra-intuitivo,
racionalmente válido.
Um dos pontos centrais nesse processo envolve atacar a arrogância do
cérebro e seu viés de confirmação, a partir da noção de falseabilidade. O
conhecimento científico, portanto, não pode ser tido como verdade permanente, pelo
contrário, deverá ser considerado provisório, permitindo sucessivos testes que o
fortalecerão ou o refutarão, mas sempre acumulando experiências e resultados. 23
O método científico importa, então, na necessária transparência dos
processos que levaram a um resultado, comprovando, através de evidências, uma
relação de causalidade. Para isso, é preciso demonstrar o processo de forma que ele
possa ser repetido pelos pares, afastando a pessoalidade da pesquisa, tornando-a a
mais objetiva possível. É por isso que cientistas escrevem artigos, para apresentar
pormenorizadamente o processo percorrido por eles, expondo o estudo à análise de
outros pesquisadores.
A ciência deve ser compreendida, portanto, como uma refinada arte de
detectar mentiras 24, e não um instrumento para encontrar a verdade, o que foge
mesmo da compreensão comum acerca da ciência. Isto é, a ciência não pode ser
viciada pela lógica do convencimento, da crença ou da arbitrariedade. O que a rege
é o pensamento cético, capaz de reconhecer um argumento falacioso ou fraudulento,
independentemente de se gostar ou não da conclusão que emerge de uma cadeia de
raciocínio, mas considerando se ela deriva da premissa ou ponto de partida, e se ele
é verdadeiro. 25
Aí reside o problema central da utilização da Inteligência Artificial para a
construção de trabalhos acadêmicos e também uma oportunidade de os aplicar de
forma positiva para a ciência. Os modelos de linguagem natural atualmente testados
foram construídos para conversar e dissertar de forma coerente sobre determinados
assuntos. É de se dizer que eles se mostraram extremamente capazes para essas
tarefas. A narrativa convincente do ChatGPT e outras AI generativas é exatamente o
oposto do que se espera da demonstração de resultados de uma pesquisa científica.
A máquina, ao que se sabe, não tem senso crítico.
Uma das grandes preocupações com a ferramenta, inclusive, se volta para
seu potencial de promover a desinformação, criando e repetindo de forma muito
convincente teorias conspiratórias e narrativas enganosas. 26 Ao utilizar a plataforma
diz pesquisador”, Trad. Luiz Roberto M. Gonçalves, Folha de S. Paulo, 9 fev. 2023. Disponível
Rafael C. V. Ferreira et al. O surgimento do Chat GPT e a: (...)
para a demonstração dos resultados de uma pesquisa, o autor poderá se deixar levar
pelo viés de confirmação, ao ver um texto escrito por outrem, chancelando as
conclusões obtidas por ele.
Ao fazê-lo, também sacrifica uma parte importante do processo de reflexão,
de autorrevisão ao reconstruir o raciocínio. Ao ocultar contradições, a narrativa
artificial e harmônica dificulta também o trabalho dos pares revisores e pode facilitar
a desinformação científica. Não por acaso, alguns já constataram a capacidade do
ChatGPT de inventar fatos e estudos para corroborar as conclusões por meio do
argumento de autoridade. 27
Também vale ressaltar que a produção científica não é algo linear. Ela
precisa de testes e ser colocada à prova. Guardadas as devidas proporções, construir
um trabalho é como montar um quebra-cabeças. Ou seja, é necessário analisar se
as peças se encaixam ou não. Às vezes dar passos à frente, outrora regressar. É a
partir dessa montagem que se consegue oferecer algo robusto. Daí, confiar
exclusivamente em algo produzido rapidamente pela IA pode ser um caminho
perigoso.
Caso o pesquisador tenha ciência desse risco, é possível tirar vantagem da
transparência que processos automatizados podem oferecer. Sabendo exatamente o
caminho percorrido pela Inteligência Artificial para oferecer um texto coerente,
inclusive que pontos foram omitidos, e quais contradições foram ignoradas, a
ferramenta pode acrescentar uma nova camada de testes para os resultados
encontrados.
Valendo-se de uma outra perspectiva, novos modelos de IA também podem
ser treinados para detectar falhas em pesquisas, reduzindo ainda mais a influência
subjetiva dos cientistas em suas pesquisas. Para isso é necessário questionar desde
a base de dados utilizada para treinamento do modelo até as medidas tomadas por
seus criadores para mitigar vieses discriminatórios presentes na sociedade.
A eliminação desse tipo de preconceito é primordial para o futuro das
pesquisas. O ambiente científico necessita de independência e afastamento de
lideranças políticas e grupos de dominação. Uma ciência que não age em prol da
sociedade se coloca, muitas vezes, em rota de colisão com garantias fundamentais
e, consequentemente, catalisa o risco de rupturas na sociedade 28.
Um bom exemplo dos riscos trazidos pelo afastamento entre a ciência e a
sociedade está na energia nuclear. 29 Se por um lado a quimioterapia e a radioterapia
são técnicas extremamente avançadas para o enfrentamento do câncer atualmente,
por outro as bombas atômicas e erros no manuseio desse tipo de avanço podem
provocar - e já provocaram - desastres tais quais o de Chernobyl, que ainda traz
preocupações que não poder ser colocadas em segundo plano.
Guardadas as devidas proporções, os aplicativos, como o ChatGPT,
representam, no século XXI, o mesmo nível de ruptura trazido pela energia nuclear,
em meados do século passado. Mais uma vez, o que se percebe é um amplo poderio
que se concentra nas mãos de poucos. Enquanto a bomba atômica sempre foi algo
possuído e manuseado por pouquíssimos Estados, o oligopólio da Inteligência
Artificial também tem se apresentado como algo restrito às bilionárias organizações
voltadas ao ramo da tecnologia da informação.
em:https://www1.folha.uol.com.br/tec/2023/02/chatgpt-sera-maior-espalhador-de-
desinformacao-que-ja-existiu-diz-pesquisador.shtml. Acesso em: 25 fev. 2023.
27 HSU, T.; THOMPSON, S. A. “ChatGPT será maior espalhador de desinformação que já existiu,
diz pesquisador”, Trad. Luiz Roberto M. Gonçalves, Folha de S. Paulo, 9 fev. 2023. Disponível
em:https://www1.folha.uol.com.br/tec/2023/02/chatgpt-sera-maior-espalhador-de-
desinformacao-que-ja-existiu-diz-pesquisador.shtml. Acesso em: 25 fev. 2023.
28 MACHADO DOS SANTOS, A., Mendes, D., & Freiberger, R. L. (2022). Capitalismo,
30 BECK, U. Sociedade de risco: Rumo a uma Outra Modernidade. Editora 34; 2. Reimpressão.
2011, 384p. p. 275.
31 HOFFMANN-RIEM, W. (2020). BIG DATA E INTELIGÊNCIA ARTIFICIAL: desafios para o
mesma natureza que aquele feito por um computador, mediante cálculos de uma
equação, através de parâmetros pré-estabelecidos pelo usuário.
4. Conclusão
A história global tem mostrado que proibir a tecnologia não é o melhor
caminho, eis que foi ela que moldou o modo de vida que conhecemos, com a criação
de medicamentos que desenvolveram a medicina, o desenvolvimento processos de
produção de alimentos que minimizaram a escassez e a criação de meios de
transporte e de telecomunicação que uniram o mundo em uma única sociedade.
Logo, tentar frear uma nova tecnologia é um esforço infrutífero, pois
independentemente do bom ou mal-uso, sua utilidade sempre será explorada por
quem a detém. Com as mais recentes tecnologias da informação e da comunicação
não haverá exceção. A maior parte delas já é desenvolvida por empresas tão
poderosas quanto Estados, com operações em todo o mundo. Seu avanço é rápido e
tem povoado as discussões sobretudo no âmbito escolar e acadêmico. Em especial,
os novos modelos de linguagem natural, como o ChatGPT, chegaram como uma
tempestade sobre a pesquisa e o ensino.
Enquanto os professores desde logo enxergaram uma grande ameaça ao
processo de ensino-aprendizagem, pela capacidade da máquina de substituir o aluno
na confecção de trabalhos, cientistas debatem o papel da nova tecnologia na
produção acadêmica. Estes fenômenos já ocorriam desde muito antes da existência
de modelos de IA tão sofisticados, mas a sua eficiência gerou um alerta para a
comunidade educacional.
A abertura dessas ferramentas para o público em geral trouxe novas
oportunidades, para o bem ou para o mau. Sua exploração dependerá da capacidade
das instituições de compreender o funcionamento da máquina, e reformular seus
próprios processos de avaliação, seguindo diretrizes de transparência, e
aperfeiçoando o ambiente de aprendizagem e produção do conhecimento. Ainda que
de forma repentina e desconcertante, as plataformas de linguagem natural deverão
pressionar pelo aprimoramento dos processos educacionais, obrigando os
professores a utilizar métodos não tradicionais de avaliação e de produção de
conhecimento.
No campo científico, a aplicação da Inteligência Artificial deve conduzir a
profundas reflexões epistemológicas sobre o papel do cientista frente a um mundo
cada vez mais regulado pelas máquinas e por gigantes empresas do ramo da
tecnologia. Ao final, o ponto comum que deve pautar a discussão sobre a aplicação
de modelos de automação continua sendo a autonomia do pensamento humano,
questão essencial que deve ser tratada no âmbito da liberdade acadêmica e científica.
Assim, ao que tudo indica, é atualmente, na primeira metade do século XXI,
que o verdadeiro risco de as máquinas se mostrarem capazes de substituir, por
completo, a mão de obra e inteligência humana começa a aparecer. Antes do
surgimento da Inteligência Artificial, a relação entre homens e máquinas parecia
sedimentada. Essa viragem trazida pela IA precisa ser amplamente debatida, não só
no plano nacional, mas global, possibilitando que os Estado se debrucem sobre o
tema e estejam preparados para dialogar com as plataformas, impedindo que
interesses privados se sobreponham a garantias fundamentais.
Por fim, não se pode esquecer que as ações e/ou omissões de hoje terão
impactos no futuro.
Referências
141
142 Cadernos de Dereito Actual Nº 21. Núm. Ordinario, (2023)
NOLAN, Beatrice. This man used AI to write and illustrate a children's book
in one weekend. He wasn't prepared for the backlash. Insider, 15 jan. 2023.
Disponível em: https://www.businessinsider.com/chatgpt-midjourney-ai-write-
illustrate-childrens-book-one-weekend-alice-2023-1. Acesso em: 23 mar. 2023.
OPENAI. “OpenAI is an AI research and deployment company. Our mission
is to ensure that artificial general intelligence benefits all of humanity”, OpenAI, 2023.
Disponível em: https://openai.com/about/. Acesso em: 25 fev. 2023.
OPENAI. ChatGPT: Optimizing Language Models for Dialogue, 30 nov. 2022.
Disponível em: https://openai.com/blog/chatgpt/. Acesso em: 25 fev. 2023.
PATI, R. “Google investe em inteligência artificial para bater de frente com o
Chat GPT”, Correio Braziliense, 21 fev. 2023. Disponível em:
https://www.correiobraziliense.com.br/economia/2023/02/5075122-google-
investe-em-inteligencia-artificial-para-bater-de-frente-com-o-chat-gpt.html. Acesso
em: 25 fev. 2023.
PEREIRA, D. M., & SILVA, G. S. (2020). As Tecnologias de Informação e
Comunicação (TICs) como aliadas para o desenvolvimento. Cadernos De Ciências
Sociais Aplicadas, 7(8). Recuperado de
https://periodicos2.uesb.br/index.php/ccsa/article/view/1935.
POPPER, K. R. A lógica da pesquisa científica, Trad. Leonidas Hegenberg;
Octanny Silveira da Mota, 2. ed., Cultrix, São Paulo, 2013.
SAGAN, C. O mundo assombrado pelos demônios: a ciência vista como uma
vela no escuro, Trad. Rosaura Eishemberg, Companhia de Bolso, São Paulo, 2006.
STOKEL-WALKER, C. “ChatGPT listed as author on research papers: many
scientists disapprove”, Nature, 18 jan. 2023. Disponível em:
https://www.nature.com/articles/d41586-023-00107-z. Acesso em: 25 fev. 2023.
TENENTE, L. “Tentar proibir ChatGPT nas escolas será perda de tempo,
dizem especialistas; veja prós e contras do robô na sala de aula”, G1, 29 jan. 2023.
Disponível em: https://g1.globo.com/educacao/noticia/2023/01/29/tentar-proibir-
chatgpt-nas-escolas-sera-perda-de-tempo-dizem-especialistas-veja-pros-e-contras-
do-robo-na-sala-de-aula.ghtml. Acesso em: 25 fev. 2023.
TRANSFORMER, G. G. P., THUNSTRÖM, A. O., STEINGRIMSSON, S. “Can
GPT-3 write an academic paper on itself, with minimal human input?”. HAL, 2022. n.
03701250. Disponível em: https://hal.science/hal-03701250. Acesso em: 25 fev.
2023.
VINCENT, J. “AI art tools Stable Diffusion and Midjourney targeted with
copyright lawsuit”, The Verge, 16 jan. 2023. Disponível em:
https://www.theverge.com/2023/1/16/23557098/generative-ai-art-copyright-legal-
lawsuit-stable-diffusion-midjourney-deviantart. Acesso em 25 fev. 2023.
143