Interpretabilidade em aprendizado de máquina baseada no valor de Shapley: Métodos de aproximação e aplicações

• Processo: 25/00700-0
• Modalidade de apoio: Auxílio à Pesquisa - Regular
• Data de Início da vigência: 01 de maio de 2025
• Data de Término da vigência: 30 de abril de 2027
• Área do conhecimento: Engenharias - Engenharia Elétrica - Telecomunicações
• Pesquisador responsável: Guilherme Dean Pelegrina
• Beneficiário: Guilherme Dean Pelegrina
• Instituição Sede: Escola de Engenharia (EE). Universidade Presbiteriana Mackenzie (UPM). Instituto Presbiteriano Mackenzie. São Paulo , SP, Brasil
• Assunto(s): Processamento de sinais
• Palavra(s)-Chave do Pesquisador: interpretabilidade em aprendizado de máquina | Processamento de Sinais | valor de Shapley | Processamento de sinais

Resumo

Frequentemente, situações práticas requerem a aplicação de métodos complexos de aprendizado de máquina a fim de modelar as relações entre os dados de entrada e a saída do sistema. Via de regra, esses métodos são de difícil interpretação, o que traz uma desvantagem quando se deseja compreender o impacto dos atributos no resultado obtido. Como solução, pesquisas recentes vem desenvolvendo métodos agnósticos que podem ser usados para extrair interpretabilidade de tais modelos. Um exemplo são os modelos baseados no valor de Shapley, um conceito vindo da teoria dos jogos cooperativos e que fornece a contribuição marginal de cada atributo no desempenho da máquina treinada. No entanto, essa ferramenta tem uma dificuldade. A complexidade computacional cresce exponencialmente com o número de atributos. Sendo assim, o cálculo exato dos valores de Shapley fica inviável em aplicações nas quais o número de atributos é elevado. Neste contexto, este projeto tem como primeira frente de pesquisa o desenvolvimento de métodos de aproximação para os valores de Shapley. A ideia é explorar tanto conceitos da teoria de jogos quanto métodos de redução de dimensão de dados a fim de reduzir a complexidade computacional. Com isso, conseguiremos usar os valores de Shapley como ferramenta para extrair interpretabilidade nos problemas de processamento de sinais abordados na segunda frente de pesquisa deste projeto. Mais precisamente, investigaremos a importância dos sensores usados na construção de aparelhos de captação de sinais médicos, como eletrocardiograma, e a contribuição dos atributos extraídos de sinais de áudio para reconhecimento de emoções. (AU)