Novas abordagens para lidar com imparcialidade e transparência em problemas de aprendizado de máquina

• Processo: 20/10572-5
• Modalidade de apoio: Bolsas no Brasil - Pós-Doutorado
• Data de Início da vigência: 01 de dezembro de 2020
• Data de Término da vigência: 04 de fevereiro de 2024
• Área de conhecimento: Engenharias - Engenharia Elétrica - Telecomunicações
• Pesquisador responsável: Leonardo Tomazeli Duarte
• Beneficiário: Guilherme Dean Pelegrina
• Instituição Sede: Faculdade de Ciências Aplicadas (FCA). Universidade Estadual de Campinas (UNICAMP). Limeira , SP, Brasil
• Auxílio(s) vinculado(s): 24/18794-8 - LVI Simpósio Brasileiro de Pesquisa Operacional (SBPO 2024), AR.BR
• Bolsa(s) vinculada(s): 21/11086-0 - Interpretabilidade e equidade em aprendizado de máquina: funções baseadas na capacidade e índices de interação, BE.EP.PD
• Assunto(s): Aprendizado computacional Integral de Choquet Processamento de sinais
• Palavra(s)-Chave do Pesquisador: Aprendizado de Máquina | aprendizado não-supervisionado | Imparcialidade e transparência | integral de Choquet | Processamento de Sinais | Processamento de sinais

Resumo

Técnicas de aprendizado de máquina vêm sendo utilizadas na construção de sistemas automáticos a fim de lidar com diversos problemas práticos. Exemplos são as aplicações em sistemas de liberação de créditos, os quais avaliam se um indivíduo levará a uma possível inadimplência no pagamento do crédito recebido, ou em sistemas judiciais, os quais preveem se o réu sob julgamento pode vir a ser reincidente. De forma geral, o intuito desses sistemas é auxiliar os tomadores de decisão em suas tarefas complexas, as quais podem ser difíceis de lidar devido ao grande número de informações disponíveis ou ao raciocínio muitas vezes enviesado dos próprios decisores. No entanto, o que se nota em situações reais é que a aplicação de alguns algoritmos provoca a discriminação de grupos específicos de indivíduos. Dessa forma, surge a necessidade em se explorar técnicas de aprendizado de máquina que levam em conta características como a imparcialidade e a transparência na construção do sistema adotado. É neste contexto que se enquadra este projeto de pesquisa. Mais precisamente, essas preocupações serão abordadas tanto na etapa de pré-processamento, por meio de um método baseado na análise de componente principais, quanto nas etapas de treinamento e classificação, através do uso da otimização multiobjetivo e da integral de Choquet. A partir dos métodos propostos, então, será possível a construção de sistemas automáticos cuja aplicação não resulta em disparidades éticas em relação aos indivíduos sob análise. Vale ressaltar que nossas propostas são generalistas, ou seja, podem ser utilizadas para a aplicação nos mais diversos problemas em aprendizado de máquina.

Publicações científicas

(6)

(Referências obtidas automaticamente do Web of Science e do SciELO, por meio da informação sobre o financiamento pela FAPESP e o número do processo correspondente, incluída na publicação pelos autores)

CAMPELLO, BETANIA SILVA CARNEIRO; PELEGRINA, GUILHERME DEAN; PELISSARI, RENATA; SUYAMA, RICARDO; DUARTE, LEONARDO TOMAZELI. Mitigating subjectivity and bias in AI development indices: A robust approach to redefining country rankings. EXPERT SYSTEMS WITH APPLICATIONS, v. 255, p. 13-pg., 2024-07-24. (23/04159-6, 20/10572-5, 20/09838-0)

PELEGRINA, GUILHERME DEAN; DUARTE, LEONARDO TOMAZELI; GRABISCH, MICHEL. A k-additive Choquet integral-based approach to approximate the SHAP values for local interpretability in machine learning. ARTIFICIAL INTELLIGENCE, v. 325, p. 23-pg., 2023-09-28. (21/11086-0, 20/10572-5, 20/09838-0)

PELEGRINA, GUILHERME D.; DUARTE, LEONARDO T.; GRABISCH, MICHEL. Interpreting the Contribution of Sensors in Blind Source Extraction by Means of Shapley Values. IEEE SIGNAL PROCESSING LETTERS, v. 30, p. 5-pg., 2023-01-01. (20/09838-0, 20/10572-5, 21/11086-0)

PELEGRINA, GUILHERME DEAN; SIRAJ, SAJID; DUARTE, LEONARDO TOMAZELI; GRABISCH, MICHEL. Explaining contributions of features towards unfairness in classifiers: A novel threshold-dependent Shapley value-based approach. ENGINEERING APPLICATIONS OF ARTIFICIAL INTELLIGENCE, v. 138, p. 12-pg., 2024-10-05. (21/11086-0, 20/10572-5, 20/09838-0)

PELEGRINA, GUILHERME D.; BROTTO, RENAN D. B.; DUARTE, LEONARDO T.; ATTUX, ROMIS; ROMANO, JOAO M. T.; IEEE. Analysis of Trade-offs in Fair Principal Component Analysis Based on Multi-objective Optimization. 2022 INTERNATIONAL JOINT CONFERENCE ON NEURAL NETWORKS (IJCNN), v. N/A, p. 8-pg., 2022-01-01. (20/09838-0, 19/20899-4, 20/01089-9, 20/10572-5, 21/11086-0)

PELEGRINA, GUILHERME DEAN; COUCEIRO, MIGUEL; DUARTE, LEONARDO TOMAZELI. A preprocessing Shapley value-based approach to detect relevant and disparity prone features in machine learning. PROCEEDINGS OF THE 2024 ACM CONFERENCE ON FAIRNESS, ACCOUNTABILITY, AND TRANSPARENCY, ACM FACCT 2024, v. N/A, p. 11-pg., 2024-01-01. (21/11086-0, 20/10572-5, 20/09838-0)