FederatedTrustee: Explicabilidade Pos-Hoc para Aprendizagem Federada Confiável

• Processo: 25/11909-7
• Modalidade de apoio: Bolsas no Brasil - Iniciação Científica
• Data de Início da vigência: 01 de agosto de 2025
• Data de Término da vigência: 31 de julho de 2026
• Área de conhecimento: Ciências Exatas e da Terra - Ciência da Computação - Metodologia e Técnicas da Computação
• Pesquisador responsável: Ronaldo Alves Ferreira
• Beneficiário: Maria Luiza Brito Pagliosa
• Instituição Sede: Faculdade de Computação. Universidade Federal de Mato Grosso do Sul (UFMS). Campo Grande , SP, Brasil
• Vinculado ao auxílio: 23/00811-0 - EcoSustain: ciência de dados e computação para o meio ambiente, AP.TEM
• Assunto(s): Inteligência artificial explicável Aprendizado federado
• Palavra(s)-Chave do Pesquisador: explainable AI | Federated Learning | Aprendizado Federado

Resumo

O Aprendizado Federado (FL) permite o treinamento descentralizado de modelos preservando a privacidade do usuário. No entanto, ele apresenta desafios não resolvidos no gerenciamento de confiança e na interpretabilidade do modelo, visto que os servidores têm visibilidade limitada sobre a qualidade e a intenção das atualizações do cliente. Este projeto visa desenvolver FederatedTrustee, uma ferramenta que incorpora técnicas de IA explicável (XAI) ao pipeline de FL para aumentar a transparência, a robustez e a confiabilidade. Inspirada em métodos post-hoc globais, como Trustee, a ferramenta avaliará as contribuições do cliente e gerará modelos substitutos interpretáveis ¿¿para explicar o comportamento do modelo agregado. O projeto também investigará estratégias de preservação da privacidade para mitigar possíveis vazamentos de mecanismos de explicação, como árvores de decisão.