Investigando o problema de desacordo em métodos de explicação locais

Resumo

IA responsável é um tema altamente discutido hoje em dia. Uma das questões relacionadas a este tópico é a necessidade de entender as previsões feitas por modelos preditivos. Em particular, os modelos usados no campo da saúde e criminal precisam ser confiáveis. Em outras palavras, a precisão do modelo não é a única coisa importante a ser considerada, mas também é essencial entender o comportamento do modelo em relação aos dados de entrada. Para resolver este problema, muitos métodos de explicação foram propostos para modelos de explicações globais e locais (específicos para cada instância). O surgimento de métodos distintos de explicação dentro do contexto de aprendizado de máquina alavancou várias novas questões a serem investigadas. O problema de desacordo é um desses problemas, pois pode haver cenários em que os resultados de diferentes métodos de explicação discordam uns dos outros. Essa questão é preocupante, especialmente em áreas onde as explicações podem ter alto impacto, como saúde e segurança. Embora compreender com que frequência, quando e onde os métodos de explicação concordam ou discordam seja essencial para aumentar a confiança nas explicações, poucos trabalhos têm se dedicado a investigar o problema da discordância. Este projeto tem como foco a análise do problema de desacordo para métodos de explicação locais, visando entender em quais cenários ocorrem desacordos. Uma ferramenta de visualização será implementada para apoiar o processo analítico, permitindo recursos interativos para escrutinar o problema de desacordo e sua relação com outras entidades, como precisão do modelo e qualidade da explicação. (AU)