Estudo e Implementação de Técnicas para Explicação de Modelos Preditores

• Processo: 25/01862-3
• Modalidade de apoio: Bolsas no Brasil - Iniciação Científica
• Data de Início da vigência: 01 de maio de 2025
• Data de Término da vigência: 30 de abril de 2026
• Área de conhecimento: Ciências Exatas e da Terra - Ciência da Computação
• Pesquisador responsável: Marcos Gonçalves Quiles
• Beneficiário: Jonas Lucas Durão
• Instituição Sede: Instituto de Ciência e Tecnologia (ICT). Universidade Federal de São Paulo (UNIFESP). Campus São José dos Campos. São José dos Campos , SP, Brasil
• Empresa: Universidade de São Paulo (USP). Instituto de Química de São Carlos (IQSC)
• Vinculado ao auxílio: 17/11631-2 - CINE: desenvolvimento computacional de materiais utilizando simulações atomísticas, meso-escala, multi-física e inteligência artificial para aplicações energéticas, AP.PCPE
• Assunto(s): Aprendizado computacional Redes neurais
• Palavra(s)-Chave do Pesquisador: Aprendizado de Máquina | Aprendizado de Máquina aplicada à química | Interpretação de modelos de aprendizado de máquina | Redes neurais | Xai | Aprendizado de máquina

Resumo

A Inteligência Artificial Explicável (XAI) tem ganhado destaque por fornecer transparência e compreensão nos processos de tomada de decisão por modelos de aprendizado de máquina. Essa explicabilidade é crucial em áreas científicas, em que a confiança nas previsões deve ser alta e as decisões baseadas nesses modelos podem ter implicações significativas.No campo de estudo da química, o uso de XAI é particularmente relevante. Modelos de aprendizado de máquina têm se mostrado promissores para realizações de diversas tarefas, pois em contrapartida as abordagens tradicionais demandam um alto custo computacional, como os cálculos de Teoria do Funcional da Densidade (DFT). A capacidade de interpretar e entender as previsões desses modelos é vital para os especialistas do domínio, permitindo-lhes uma maior confiança nas recomendações e na validação mais eficaz dos resultados obtidos.Apesar da sua importância, há uma carência significativa de estudos que integram XAI com a predição de propriedades de materiais, destacando uma lacuna crítica neste campo de investigação.Este projeto de pesquisa visa preencher essa lacuna ao focar na interpretação de preditores de propriedades moleculares baseados em redes neurais, considerados modelos caixa preta. O objetivo central está na construção de modelos preditivos que não apenas apresentam alta acurácia na predição de propriedades dos materiais, mas também ofereçam insights claros e compreensíveis sobre como essas previsões são feitas, fortalecendo a confiança e a aplicabilidade dos modelos de aprendizado de máquina em química de materiais. Em particular, o bolsista irá estudar e implementar diversos métodos de XAI e disponibilizá-los em um toolbox em linguagem Python.