É fake? Como saber se uma mídia foi gerada por inteligência artificial

Saber identificar se um conteúdo foi criado artificialmente ajuda a evitar a propagação de fake news e até mesmo golpes e cibercrimes. Para não se confundir, o usuário deve estar atento a sinais de distorções, padrões irregulares e artificialidade. Confira, a seguir, como descobrir se um conteúdo foi gerado por inteligência artificial.

📝 É possível criar uma inteligência artificial em casa? Tire dúvidas no Fórum do TechTudo

Para explicar de forma mais didática, o TechTudo separou esta matéria em quatro tópicos. Cada um deles discorre sobre um tipo de mídia diferente. Confira no índice a seguir.

1. Como descobrir se um texto foi criado por IA
2. Como descobrir se uma imagem foi criada por IA
3. Como descobrir se um áudio foi criado por IA
4. Como descobrir se um vídeo foi criado por IA

Chatbots de IA, como ChatGPT e Bard, já fazem parte da rotina de muitos usuários, seja para realizar pesquisas online, trabalhar ou organizar demandas pessoais. No entanto, quando a escrita autoral e criativa é exigida — como ocorre em atividades profissionais e acadêmicas, por exemplo — não é possível simplesmente copiar e colar as respostas de chatbots. Por sorte, para situações como essas, já existem softwares que identificam se a origem de um texto é sintética ou não.

É o caso da AI Text Classifier, desenvolvida pela própria criadora do ChatGPT, a OpenAI, e do GPT Zero. Ferramentas como essas indicam a probabilidade do conteúdo ter sido desenvolvido por uma IA e podem, inclusive, destacar os trechos possivelmente criados por robôs. Vale lembrar, contudo, que serviços como esse não têm 100% de precisão. Como a escrita é pessoal e alguns textos realmente originais podem ter sido formulados a partir de orientações de chatbots, a avaliação pode gerar em falsos positivos.

Apesar de já haver ferramentas com esse foco, também é possível usar a inteligência humana para tentar identificar textos gerados artificialmente. Conteúdos com repetição excessiva de palavras-chave e linguagem engessada devem levantar suspeitas. Além disso, as IA costumam seguir um padrão comum, com parágrafos de introdução, desenvolvimento e conclusão bem delimitados — ao contrário da redação humana, que é geralmente mais fluída.

Nem sempre é fácil identificar imagens geradas por inteligência artificial. Ferramentas como Midjourney e DALL-E 2 são capazes de gerar fotos e ilustrações realistas rapidamente a partir de comandos simples. Para descobrir a procedência de uma produção gráfica, é possível utilizar a busca reversa do Google Imagens, que permite pesquisar links a partir de um arquivo carregado no site. Se a foto for real, o buscador provavelmente apontará para uma fonte verídica, que explique seu contexto.

O usuário também pode procurar por indícios de IA nas próprias imagens. Erros como mãos defeituosas, com dedos sobrando ou faltando, e partes do corpo desproporcionais, por exemplo, são bastante comuns em representações de seres humanos. Foi o caso, por exemplo, da famosa foto do Papa Francisco usando uma jaqueta "puffer", que viralizou na web e confundiu usuários: na imagem, a mão esquerda do pontífice só possuía quatro dedos.

Também é recomendável dar zoom nas fotos de origem duvidosa para buscar pequenos erros, como excesso de dentes, orelhas distorcidas e brincos diferentes entre si. A aproximação também pode revelar distorções, desfoques ou itens duplicados no fundo das imagens. Outra maneira de identificar a origem desses conteúdos é procurar por logos ou marcas d’água. O DALL-E 2, por exemplo, identifica suas criações com uma barra colorida no canto inferior direito da imagem. Vale lembrar, no entanto, que arquivos gerados por inteligência artificial podem ser facilmente editados e "cortados", apagando as assinaturas das ferramentas.

Ferramentas de IA para criação de áudios e clonagem de voz vêm se popularizando na web e podem confundir usuários. Por sorte, também existem ferramentas específicas para distinguir a origem desse tipo de conteúdo, como, por exemplo, o site AI Voice Detector (aivoicedetector.com). Com elas, é possível identificar indícios como vozes robóticas, barulho de fundo e pronúncia estranha de algumas palavras. Sotaques descontextualizados também podem ser um sinal de alerta, já que muitas plataformas ainda não estão adaptadas para idiomas como o português.

Áudios pouco naturais e sem marcas de oralidade, como gaguejo e pausas irregulares, devem levantar suspeitas. Falas constantes, sem variação de volume e com ausência de emoção também podem ter origem sintética. Outra maneira de verificar a veracidade de um áudio é reproduzi-lo com velocidade reduzida, o que permitirá identificar possíveis sons estranhos. Dicas como essa são bastante úteis, já que essa tecnologia pode ser aplicada na práticas de golpes, como extorsão e fraude.

Ferramentas de IA podem criar vídeos realistas por meio de montagens e edição de imagem e som. A tecnologia aplicada nesse processo, conhecida como deepfake, tem sido utilizada para fins diversos, desde o comercial da Volkswagen que "ressuscitou" a cantora Elis Regina à prática de crimes na Internet, como disseminação de fake news ou pornografia de vingança. Logo, com o rápido desenvolvimento da tecnologia, é cada vez mais difícil identificar vídeos gerados por inteligência artificial.

Contudo, apesar da melhoria tecnológica, alguns dos principais sinais de conteúdos gerados por deepfake estão literalmente "na cara". Expressões pouco naturais, faces distorcidas e falta de sincronia entre fala e movimentos da boca podem ser indícios de que um vídeo foi manipulado. Além disso, tamanho e cor dos lábios que não combinam com outras partes do rosto também devem levantar suspeitas.

Vale observar ainda se quem aparece na tela não pisca, pisca em excesso ou demora para abrir os olhos entre uma piscada e outra. Sobrancelhas estáticas, que não acompanham os movimentos dos olhos e da face também devem chamar a atenção do usuário. Ainda se deve prestar atenção se os cabelos parecem rígidos demais e se os dentes não têm contornos individuais definidos.

O usuário deve desconfiar de supostas filmagens com pessoas que parecem robóticas, não demonstram emoções ou se portam de forma neutra ou discrepante em relação ao conteúdo do que dizem. Postura desajeitada, movimentos bruscos e estranhos ou posições e tonalidades de pele inconsistentes entre face e corpo também são indícios de deepfake. Outros sinais que devem ser observados são imagens desfocada e inconsistências na iluminação, sombras ou reflexos no vídeo.

Com informações de Cnet.

Veja também: Como saber se meu WhatsApp foi clonado? Saiba descobrir