Lógicas Fuzzy e Probabilísticas com Aplicações à Interpretabilidade de Redes Neurais

• Processo: 24/19144-7
• Modalidade de apoio: Auxílio à Pesquisa - Regular
• Data de Início da vigência: 01 de fevereiro de 2025
• Data de Término da vigência: 31 de janeiro de 2027
• Área do conhecimento: Ciências Exatas e da Terra - Ciência da Computação
• Proposta de Mobilidade: SPRINT - Projetos de pesquisa - Mobilidade
• Pesquisador responsável: Marcelo Finger
• Beneficiário: Marcelo Finger
• Pesquisador Responsável no exterior: Felip Manyà
• Instituição Parceira no exterior: Consejo Superior de Investigaciones Científicas (CSIC) , Espanha
• Instituição Sede: Instituto de Matemática e Estatística (IME). Universidade de São Paulo (USP). São Paulo , SP, Brasil
• Município da Instituição Sede: São Paulo
• Pesquisadores associados: Sandro Márcio da Silva Preto
• Vinculado ao auxílio: 19/07665-4 - Centro de Inteligência Artificial, AP.eScience.CPE
• Assunto(s): Inteligência artificial Lógica fuzzy Redes neurais
• Palavra(s)-Chave do Pesquisador: Explainable Artiificial Intelligence | Inteligência Artificial | interpretabilidade | Logica Fuzzy | Lógica Probabilística | Redes neurais | Inteligência Artificial

Resumo

Redes neurais estão por trás de muitos dos sistemas inteligentes mais avançados, mas ainterpretabilidade e explicabilidade destes métodos de aprendizado automático continua sendo um desafio significativo. Em uma abordagem neurosimbólica, a lógica multivalorada de Lukasiewicz com infinitos valores-verdade (Linf) pode ser usada para representar redes neurais em uma abordagem formal, permitindo a verificação formal de suas propriedades por meio da avaliação de uma fórmula lógica. Embora esforços anteriores tenham se concentrado em Linf simples,outra possibilidade é alavancar FP(Linf), uma extensão probabilística de Linf, que é maisadequada para lidar com a natureza probabilística de redes neurais. Os principais objetivosdeste projeto são avançar a compreensão computacional e algorítmica deFP( L). Além disso, este projeto busca explorar futuras oportunidades de colaboraçãoe propor novos projetos conjuntos entre pesquisadores de São Paulo e Barcelonacom ênfase na melhoria da interpretabilidade de redes neurais por meio de sistemas lógicos,junto com outros tópicos em inteligência artificial. (AU)