O professor Leonardo Bezerra, do Instituto Metrópole Digital (IMD/UFRN), apresentou, na última sexta-feira, 24, um projeto intitulado "Workbenches e Metodologias para a Auditoria Participativa de Dano", durante a reunião do AI Office da Comissão Europeia. O trabalho faz parte de sua atuação enquanto docente convidado da Universidade de Stirling, na Escócia.

Criado para regulamentar o uso de aplicações de Inteligência Artificial (IA) no bloco europeu, o AI Office é responsável por aplicar e fiscalizar o EU AI Act, legislação aprovada em 2024. O órgão integra a Comissão Europeia, que exerce funções equivalentes ao Poder Executivo da União.

A apresentação ocorreu de forma remota para a equipe da Unidade 3 de Segurança de IA do AI Office, que é responsável por analisar os danos sistêmicos de modelos de IA de propósito geral (GPAI). O termo GPAI é utilizado para se referir a modelos grandes de IA, como os usados no ChatGPT, Gemini, Sora e Veo.

O encontro online teve por objetivo prospectar uma colaboração internacional entre o projeto e a comissão europeia – sobretudo devido à participação de outros órgãos de regulamentação de IA no projeto, como NIST (EUA) e ICO (Reino Unido).

Expectativa

Segundo o professor Leonardo Bezerra, a expectativa é que esse trabalho aumente consideravelmente a compreensão sobre IA tanto no Reino Unido como em diversos outros lugares do mundo, como Estados Unidos, Japão e Europa, além do Brasil.

“Este projeto é apenas a porta de entrada para uma pesquisa que tem como objetivo que a sociedade compreenda e requeira que a tecnologia seja justa, auditável e inclusiva”, conta o docente.

Para atingir esse objetivo, a pesquisa busca inserir pessoas que não possuem formação técnica em IA no processo de auditoria de aplicações de Inteligência Artificial. O objetivo central é criar uma espécie de “verificação comunitária” para avaliar e mitigar potenciais danos sociais que essas aplicações possam acarretar.

O projeto, que já foi apresentado em outras ocasiões, é financiado em 3,5 milhões de euros (cerca de R$ 25 milhões) pela agência britânica UK Research and Innovation (UKRI), sendo uma das três iniciativas selecionadas entre cerca de 100 concorrentes.

Legislação Brasileira

Segundo Leonardo Bezerra – cuja formação nas áreas de engenharia de algoritmos, tomada de decisão e otimização multicritério complementa sua atuação quanto aos impactos sociais de aplicações de IA e sua regulamentação – a pesquisa também tem potencial de repercussão no Brasil.

O projeto de lei brasileiro sobre Inteligência Artificial, que já foi aprovado no Senado em dezembro de 2024 e está em análise na Câmara dos Deputados, é inspirado, em grande parte, pela legislação europeia (EU AI Act).

“Assim como o Brasil aprovou a Lei Geral de Proteção de Dados (LGPB) espelhando a legislação de privacidade de dados aprovada na União Europeia, espera-se que o Marco Regulatório da IA seja aprovado no Brasil espelhando o EU AI Act. Na União Europeia, essas legislações levaram à criação do Data Protection Officer e do AI Office. No Brasil, espera-se o mesmo da Agência Nacional de Proteção de Dados”, comenta o docente.