Interpretabilidade e equidade em aprendizado de máquina: funções baseadas na capacidade e índices de interação

• Processo: 21/11086-0
• Modalidade de apoio: Bolsas no Exterior - Estágio de Pesquisa - Pós-Doutorado
• Data de Início da vigência: 01 de abril de 2022
• Data de Término da vigência: 22 de março de 2023
• Área de conhecimento: Engenharias - Engenharia Elétrica - Telecomunicações
• Pesquisador responsável: Leonardo Tomazeli Duarte
• Beneficiário: Guilherme Dean Pelegrina
• Supervisor: Michel Grabisch
• Instituição Sede: Faculdade de Ciências Aplicadas (FCA). Universidade Estadual de Campinas (UNICAMP). Limeira , SP, Brasil
• Instituição Anfitriã: Université Paris 1 Panthéon-Sorbonne, França
• Vinculado à bolsa: 20/10572-5 - Novas abordagens para lidar com imparcialidade e transparência em problemas de aprendizado de máquina, BP.PD
• Assunto(s): Aprendizado computacional Processamento de sinais Integral de Choquet Equidade
• Palavra(s)-Chave do Pesquisador: Aprendizado de Máquina | Índices de interação | integral de Choquet | Interpretabilidade e equidade | Modelo multilinear | Processamento de sinais e aprendizado de máquina

Resumo

Atualmente, a comunidade de pesquisa tem se esforçado no desenvolvimento de mecanismos que melhoram a interpretabilidade e a equidade em problemas de aprendizado de máquina. Trabalhos recentes abordaram a interpretabilidade por meio do método agnóstico denominado SHAP. Este método é baseado no valor de Shapley, um conceito clássico da teoria dos jogos cooperativos que indica a contribuição marginal de um atributo na saída do modelo. No entanto, a ideia do valor de Shapley, bem como a de outros índices de importância, pode ser estendida a coalizões de atributos. Portanto, investigaremos se esses métodos podem ser usados para entender tanto o efeito de cada atributo, isoladamente, quanto as interações entre eles no modelo treinado. Além disso, podemos usar essas interpretações para compreender como o modelo treinado leva a resultados injustos. A maioria dos métodos agnósticos usados para a explicação local do modelo (por exemplo, o método SHAP) considera uma aproximação de tal modelo a partir de uma função linear interpretável. Na literatura, é possível encontrar funções baseadas na capacidade, como a integral de Choquet e o modelo multilinear, que podem ser usadas para ajustar localmente o modelo e fornecer uma interpretação clara dos atributos em relação à saída do modelo. Na verdade, os coeficientes da capacidade usados na integral de Choquet estão diretamente associados ao valor de Shapley. Em relação ao modelo multilinear, os parâmetros estão associados ao valor de Banzhaf, outro conceito da teoria dos jogos cooperativos. Portanto, outro objetivo seria investigar se ambas as funções poderiam ser usadas para melhorar a interpretabilidade no aprendizado de máquina. Vale ressaltar que este projeto de estágio de pesquisa se insere no contexto da bolsa de Pós-Doutorado número 2020/10572-5, a qual versa sobre o estudo de novas abordagens para lidar com a interpretabilidade e a equidade no aprendizado de máquina. (AU)

Publicações científicas

(Referências obtidas automaticamente do Web of Science e do SciELO, por meio da informação sobre o financiamento pela FAPESP e o número do processo correspondente, incluída na publicação pelos autores)

PELEGRINA, GUILHERME D.; DUARTE, LEONARDO T.; GRABISCH, MICHEL. Interpreting the Contribution of Sensors in Blind Source Extraction by Means of Shapley Values. IEEE SIGNAL PROCESSING LETTERS, v. 30, p. 5-pg., 2023-01-01. (20/09838-0, 20/10572-5, 21/11086-0)

PELEGRINA, GUILHERME D.; BROTTO, RENAN D. B.; DUARTE, LEONARDO T.; ATTUX, ROMIS; ROMANO, JOAO M. T.; IEEE. Analysis of Trade-offs in Fair Principal Component Analysis Based on Multi-objective Optimization. 2022 INTERNATIONAL JOINT CONFERENCE ON NEURAL NETWORKS (IJCNN), v. N/A, p. 8-pg., 2022-01-01. (20/09838-0, 19/20899-4, 20/01089-9, 20/10572-5, 21/11086-0)