Avanço da IA faz crescer pressão por regulamentação

A IA tem sido usada com sucesso para reduzir custos, tornar processos mais eficientes, melhorar a comunicação com clientes e oferecer serviços a cidadãos, mas há um lado obscuro que preocupa especialistas e autoridades. Além da desinformação, a lista de ameaças inclui riscos à segurança dos dados, disseminação de preconceitos e desrespeito aos direitos autorais. Escolas estão preocupadas que alunos trapaceiem e usem sistemas automatizados para cumprir tarefas escolares, enquanto legisladores se perguntam de quem será a responsabilidade, no futuro, se a IA cometer um erro médico ou fizer vítimas no trânsito.

Tudo isso está levando a movimentos internacionais para estabelecer regras sobre a criação e o uso da inteligência artificial, mas essa também é uma questão controversa. “É preciso regulamentar a IA? É, porque se trata de uma tecnologia de impacto para a sociedade, que exige a definição de padrões. Mas [a legislação] não deve bloquear o desenvolvimento tecnológico”, diz Patricia Peck, CEO e fundadora do escritório Peck Advogados, especializado em direito digital.

O ChatGPT provocou admiração ao mostrar o grau de desenvolvimento da IA generativa, que é capaz de gerar textos e imagens, fazer pesquisas e “conversar”. Em seu mais recente estudo anual, a americana Amy Webb, uma das mais reconhecidas futurólogas internacionais, classificou o ChatGPT como o mais poderoso sistema de IA já lançado para o público em geral. O sucesso do sistema, porém, despertou temores quanto a seus limites, aumentando a pressão para que se estabeleçam limites para a IA.

No Brasil tramita no Congresso o projeto de lei 2.338/23, que dispõe sobre um marco legal para a inteligência artificial. Resultado do trabalho de uma comissão de juristas, o PL foi apresentado ao Senado pelo presidente da casa, o senador Rodrigo Pacheco (PSD-MG). Um dos pontos que merece atenção, diz Patricia Peck, é a definição genérica do que é considerada IA de alto risco, sujeita a regras de controle mais restritas. O texto inclui na categoria sistemas voltados a diversas áreas, como educação, saúde, análise de crédito e identificação biométrica, sem detalhar o tipo de aplicação. Por exemplo, se um hospital usa IA para controlar estoque ou ajudar o médico a atender o paciente.

Isso pode afetar regulações já existentes e ter impacto negativo no desenvolvimento tecnológico, diz a advogada. No caso dos sistemas biométricos, por exemplo, a Organização Mundial de Saúde (OMS) considera o reconhecimento facial mais seguro que outras formas de autenticação, porque evita o contato e ajuda na prevenção à covid-19. Restringir os sistemas indiscriminadamente contrariaria esse tipo de abordagem, diz Peck.

“É preciso pensar em regulamentação da IA e para a IA”, diz o advogado e pesquisador Christian Perrone, responsável pelas áreas de direito & tecnologia e governo eletrônico do Instituto de Tecnologia e Sociedade (ITS Rio). No primeiro caso está a imposição de limites para coibir eventuais riscos da tecnologia. No segundo, políticas capazes de estimular o mercado produtor e garantir uma presença sólida no futuro da inteligência artificial. Para Perrone, é preciso equilibrar os dois lados da balança.

Na Europa, a discussão do arcabouço regulatório de IA tem sido acompanhada da regulação específica de cada setor, além de estratégias nacionais de países para usar dados dos cidadãos, de maneira segura, na criação de serviços públicos. “O cuidado é para criar mecanismos que gerem segurança, mas também inovação e inclusão”, afirma o pesquisador.