O que é ChatGPT e por que o sistema de IA deixou educadores em alerta

Como uma linguista que estuda os efeitos da tecnologia na forma como as pessoas leem, escrevem e pensam, acredito que existam outras preocupações igualmente alarmantes para além da trapaça. Isso inclui a possibilidade de ameaça da IA às habilidades de redação dos alunos, ao valor da produção verbal como um processo e à importância de se ver a escrita como um veículo para o pensamento.

Como parte da pesquisa que fiz para meu novo livro sobre os efeitos da inteligência artificial na escrita humana, entrevistei jovens adultos nos Estados Unidos e na Europa com uma série de questões relacionadas ao tema. Eles relataram preocupações sobre como as ferramentas de IA podem prejudicar o que fazem como escritores. No entanto, como observo na obra, essas inquietações estão em formação há muito tempo.

Ferramentas como o ChatGPT são apenas as mais recentes em uma progressão de programas de IA para edição ou geração de texto. De fato, o potencial da IA de minar tanto a capacidade de escrita quanto a motivação para se construir suas próprias composições existe há décadas.

Os avanços da geração de texto de IA incluíram recursos de autocompletar para pesquisas em linha, bem como a previsão de texto. Escreva "Foi Roma" na busca do Google e será dada uma lista de opções, como "Foi Roma construída em um dia". Digite "por" em uma mensagem de texto e aparecerão “por favor”, "porque" ou "porém" para completar sua sentença. Essas ferramentas invadem nossos esforços de escrita sem ao menos serem convidadas, pedindo-nos incessantemente que sigamos suas sugestões.

Os jovens adultos nas minhas entrevistas demonstraram apreço pela ajuda da IA nas correções ortográficas e preenchimento de palavras, mas também apontam efeitos negativos. Um participante disse que "em algum ponto, depender de textos preditivos faz com que se perca as próprias capacidades ortográficas".

Outro observou que "o software de correção ortográfica e de IA pode ser usado por pessoas que só queiram seguir o caminho mais fácil". Um entrevistado mencionou a preguiça ao confiar em textos preditivos: "Não faz mal quando me sinto particularmente preguiçoso".

As ferramentas de IA também podem afetar a voz de escrita de uma pessoa. Uma pessoa no meu inquérito testemunhou que, com textos preditivos, "não sinto que fui eu quem escreveu".

Um estudante do Ensino Médio da Grã-Bretanha ecoou a mesma preocupação sobre o estilo de escrita individual ao descrever o verificador ortográfico Grammarly: "O Grammarly pode remover a voz artística dos estudantes… Em vez de respeitar o estilo próprio de escrita dos estudantes, a ferramenta retira isso sugerindo mudanças severas nos trabalhos".

Na mesma linha de pensamento, o filósofo Evan Selinger está preocupado com o fato da previsão de textos reduzir o poder da escrita como forma de atividade mental e expressão pessoal: "Ao nos desencorajar a pensar profundamente nas nossas palavras, a tecnologia preditiva pode mudar sutilmente a forma como interagimos uns com os outros". "Damos aos outros mais algoritmos e menos de nós mesmos. A automação pode nos fazer parar de pensar", complementa.

Nas sociedades letradas, a escrita é historicamente reconhecida como uma forma de ajudar as pessoas a pensar. Muitos já citaram o comentário do autor Flannery O'Connor de que "escrevo porque não sei o que penso até ler o que digo". Uma série de outros escritores de sucesso, de William Faulkner a Joan Didion, também expressaram esse sentimento. Se a geração de textos de IA faz a nossa escrita por nós, diminuímos as oportunidades de resolver questões nós mesmos.

Uma consequência assustadora da utilização de programas como o ChatGPT na geração de linguagem é que o texto é gramaticalmente perfeito. Um produto acabado. A falta de erros é um sinal de que a IA — e não um humano — escreveu as palavras, uma vez que até os escritores e editores realizados cometem erros. A escrita humana é um processo. Questionamos o que escrevemos originalmente, reescrevemos ou, por vezes, recomeçamos do zero.

Quando se realizam trabalhos de escrita escolares, o ideal é que haja um diálogo contínuo entre professor e aluno: discutir sobre o que o estudante quer escrever. Partilhar e comentar os rascunhos iniciais.

Depois é hora do autor repensar e rever. Mas essa prática muitas vezes não acontece. A maioria dos professores não tem tempo para preencher um papel editorial — e educativo — colaborativo. Além disso, podem não ter interesse ou as competências necessárias, quiçá ambas.

Os estudantes esforçados, por vezes, conseguem absorver sozinhos alguns aspectos do processo — como os autores profissionais normalmente fazem. Mas a tentação de se apoiar em ferramentas de edição e geração de texto, como o Grammarly e o ChatGPT, torna mais prático as pessoas substituírem oportunidades de pensar e aprender por tecnologias de pronta-entrega.

Educadores estão estudando como é possível fazer bom uso da tecnologia de escrita. Alguns apontam o potencial da IA para dar um pontapé inicial ao pensamento ou à colaboração. Antes do ChatGPT, uma versão anterior do mesmo programa, o GPT-3, foi licenciada por empreendimentos comerciais como o Sudowrite. Nela, os usuários podiam introduzir uma frase ou sentença e depois pedir ao software para preencher mais palavras, estimulando potencialmente a criatividade do escritor humano.

No entanto, há um declive escorregadio entre a colaboração e a intromissão. A escritora Jennifer Lepp admite que, à medida que se apoiava cada vez mais no Sudowrite, o texto resultante "já não se parecia com o meu. Era muito desconfortável olhar para trás e não se sentir realmente ligada às palavras ou às ideias".

Estudantes têm ainda menos probabilidades do que os escritores experientes de reconhecer onde traçar a linha entre a ajuda na escrita e simplesmente deixar um gerador de texto de IA assumir o seu conteúdo e estilo.

À medida que a tecnologia tem se tornado mais poderosa e difundida, espero que as escolas se esforcem a ensinar seus alunos os prós e os contras da Inteligência Artificial generativa. No entanto, a atratividade e a eficiência podem tornar difícil resistir às ferramentas de IA para polir um trabalho de escrita ou, mesmo, fazer grande parte dela. A verificação ortográfica, a verificação gramatical e os programas de autocomplemento já abriram seus caminhos.

Perguntei ao ChatGPT se ele era uma ameaça à motivação humana para escrever. "Haverá sempre uma procura de conteúdo criativo e original que requer a perspectiva única e a perspicácia de um escritor humano", foi a resposta do bot.

O sistema continuou: "Os servidores de escrita servem para muitos propósitos para além da simples criação de conteúdos, tais como a autoexpressão, comunicação e crescimento pessoal, que podem continuar a motivar as pessoas a escrever mesmo que certos tipos de produção possam ser automatizados".

Fiquei animada ao constatar que o programa aparentemente reconheceu suas próprias limitações. A minha esperança é que educadores e estudantes também o façam. O objetivo de fazer trabalhos de escrita deve ser mais do que submeter trabalho para uma nota. A redação deve ser uma viagem, e não apenas um destino.

*Naomi S. Baron é professora de Linguística na Universidade Americana, nos Estados Unidos. Este texto foi originalmente publicado em inglês no The Conversation.