Interpretabilidade e equidade em aprendizado de máquina: funções baseadas na capacidade e índices de interação

Resumo

Atualmente, a comunidade de pesquisa tem se esforçado no desenvolvimento de mecanismos que melhoram a interpretabilidade e a equidade em problemas de aprendizado de máquina. Trabalhos recentes abordaram a interpretabilidade por meio do método agnóstico denominado SHAP. Este método é baseado no valor de Shapley, um conceito clássico da teoria dos jogos cooperativos que indica a contribuição marginal de um atributo na saída do modelo. No entanto, a ideia do valor de Shapley, bem como a de outros índices de importância, pode ser estendida a coalizões de atributos. Portanto, investigaremos se esses métodos podem ser usados para entender tanto o efeito de cada atributo, isoladamente, quanto as interações entre eles no modelo treinado. Além disso, podemos usar essas interpretações para compreender como o modelo treinado leva a resultados injustos. A maioria dos métodos agnósticos usados para a explicação local do modelo (por exemplo, o método SHAP) considera uma aproximação de tal modelo a partir de uma função linear interpretável. Na literatura, é possível encontrar funções baseadas na capacidade, como a integral de Choquet e o modelo multilinear, que podem ser usadas para ajustar localmente o modelo e fornecer uma interpretação clara dos atributos em relação à saída do modelo. Na verdade, os coeficientes da capacidade usados na integral de Choquet estão diretamente associados ao valor de Shapley. Em relação ao modelo multilinear, os parâmetros estão associados ao valor de Banzhaf, outro conceito da teoria dos jogos cooperativos. Portanto, outro objetivo seria investigar se ambas as funções poderiam ser usadas para melhorar a interpretabilidade no aprendizado de máquina. Vale ressaltar que este projeto de estágio de pesquisa se insere no contexto da bolsa de Pós-Doutorado número 2020/10572-5, a qual versa sobre o estudo de novas abordagens para lidar com a interpretabilidade e a equidade no aprendizado de máquina. (AU)