Imagens on-line ampliam viés de gênero

Tais vieses tendem a aumentar em decorrência da adoção de modelos de inteligência artificial (IA) que permitem aos usuários gerar imagens automaticamente por meio de comandos textuais ou “prompts”. Isso porque os modelos de IA multimodal são treinados em bancos de imagens públicas que, como a Nature constatou, vêm repletos de preconceitos de gênero. Frear o avanço dos vieses requer uma série de ações, a começar pelo reconhecimento da existência dos problemas.

A IA é um modelo probabilístico que extrai informações úteis e insights de grandes conjuntos de dados e esta técnica pode ser preditiva ou generativa. Como o algoritmo se baseia em dados históricos, é preciso trabalhar as bases para elas não serem enviesadas. “Os dados vêm carregados de preconceitos culturais e desigualdades históricas que a gente tem na sociedade”, explica Marina Mansur, sócia da McKinsey.

Reside aí a importância de contar com equipes diversas para gerir o machine learning e usar dados de qualidade. “A base de dados tem de refletir a composição da sociedade. Você precisa ter uma equipe diversificada de desenvolvedores de tecnologia, do ponto de vista de gênero, de etnia e também diversificação cognitiva”, acrescenta Dora Kaufman, professora do TIDD (Intelligent Technologies and Digital Design Program) da PUC-SP.

A heterogeneidade eleva a preocupação com a representatividade e aumenta o nível de conscientização com relação aos vieses. Quando isso não ocorre, o aprendizado da IA fica comprometido. “É uma questão de como criamos, processamos e divulgamos a informação, pois ela se propaga na internet e se perpetua, formando depois uma base de dados com erros, incongruências e disparidades capazes de distorcer o aprendizado da máquina a ponto de desenvolver viés”, aponta a advogada Patricia Peck, CEO e sócia-fundadora do Peck Advogados.

E mais: a preocupação com a ética da IA deve permear os debates sobre regulação da ferramenta no mundo. “Ao desenvolver a tecnologia, devemos ter em mente o ‘ethics by design’, conceito que traz a ética desde a concepção do sistema de IA e, com isso, ter meios de mitigar os riscos de desenvolvimento de IA enviesada”, diz Peck.

Algumas companhias já entenderam que precisam de equipes diversas. Um estudo da McKinsey, de 2023, revelou que a diversidade de gênero nas equipes executivas mais do que duplicou na última década. “A diversidade, para além de direitos humanos, é muito lucrativa. Empresas que têm lideranças mais diversas performam melhor, dão um retorno maior, um lucro maior e têm funcionários mais felizes”, diz Mansur.

Peck afirma que há iniciativas de diversidade e inclusão para criar um ambiente em que a IA seja treinada com dados confiáveis. “As notícias falsas e outros conteúdos mentirosos têm sido retirados das redes para não contaminar os dados que servem de base de treinamento. Mas, infelizmente, as informações tendenciosas e não confiáveis são propagadas em larga escala e os mecanismos de combate têm se mostrado ineficientes, prejudicando a IA e seu desenvolvimento ético e transparente.”

Além disso, Kaufman conta que já existem laboratórios trabalhando com a possibilidade de identificar a origem do viés. “Conseguir identificar não quer dizer que imediatamente vai conseguir eliminar, mas é um grande passo”, explica a pesquisadora, para quem as limitações de hoje devem ser resolvidas e, quando isso acontecer, a IA pode levar a tomadas de decisões na sociedade mais justas e neutras.