| Processo: | 23/00721-1 |
| Modalidade de apoio: | Auxílio à Pesquisa - Regular |
| Vigência: | 01 de agosto de 2023 - 31 de julho de 2025 |
| Área do conhecimento: | Ciências Exatas e da Terra - Ciência da Computação - Sistemas de Computação |
| Convênio/Acordo: | MCTI/MC |
| Pesquisador responsável: | Heitor Soares Ramos Filho |
| Beneficiário: | Heitor Soares Ramos Filho |
| Instituição Sede: | Instituto de Ciências Exatas (ICEx). Universidade Federal de Minas Gerais (UFMG). Ministério da Educação (Brasil). Belo Horizonte , SP, Brasil |
| Pesquisadores associados: | Alejandro César Frery Orgambide ; Amir Houmansadr ; Antonio Alfredo Ferreira Loureiro ; Fabricio Murai Ferreira ; Leandro Aparecido Villas |
| Assunto(s): | Aprendizado federado Redes bayesianas Aprendizado computacional Quantificação de incertezas |
| Palavra(s)-Chave do Pesquisador: | Adversarial federate learning | Bayesian neural network | Federated Learning | Ordinal Patterns | Uncertainty Quantification | Aprendizado Federado |
Resumo
O projeto de pesquisa denominado Quantifying Uncertainty in Adversarial Federated Learning visa analisar e propor novas abordagens para modelos de aprendizado de máquina distribuído que mantêm restrições de privacidade e segurança. O Aprendizado Federado (FL) é uma abordagem promissora para treinar modelos de aprendizado de máquina de forma colaborativa em dados espalhados em dispositivos distribuídos, levando em conta as restrições de privacidade. No entanto, o processo de treinamento FL é vulnerável a ataques de envenenamento de modelo em que participantes mal-intencionados podem fazer upload de pesos de modelo falsos. O projeto visa abordar essas vulnerabilidades e propor novas soluções para manter a privacidade e a segurança em modelos distribuídos de aprendizado de máquina. Em suma, este projeto apresenta uma proposta de pesquisa científica em cinco direções: (i) quantificação da generalização de modelos baseados em redes neurais bayesianas para sistemas federados de aprendizagem; (ii) Abordagens do sistema de detecção de intrusão DDoS em aplicações federadas; (iii) quantificação da incerteza em ambientes heterogêneos distribuídos (por exemplo, Aprendizado Federado); (iv) investigação para aprendizado contínuo (incremental) para identificar novos malwares desconhecidos para proteger sistemas mesmo no dia zero do lançamento de um malware; e (v) estudar o uso de testes estatísticos de padrões ordinais para identificar ataques de envenenamento de dados em aplicações federadas. (AU)
| Matéria(s) publicada(s) na Agência FAPESP sobre o auxílio: |
| Mais itensMenos itens |
| TITULO |
| Matéria(s) publicada(s) em Outras Mídias ( ): |
| Mais itensMenos itens |
| VEICULO: TITULO (DATA) |
| VEICULO: TITULO (DATA) |