Quantificação de incerteza em aprendizado federado adversário

Resumo

O projeto de pesquisa denominado Quantifying Uncertainty in Adversarial Federated Learning visa analisar e propor novas abordagens para modelos de aprendizado de máquina distribuído que mantêm restrições de privacidade e segurança. O Aprendizado Federado (FL) é uma abordagem promissora para treinar modelos de aprendizado de máquina de forma colaborativa em dados espalhados em dispositivos distribuídos, levando em conta as restrições de privacidade. No entanto, o processo de treinamento FL é vulnerável a ataques de envenenamento de modelo em que participantes mal-intencionados podem fazer upload de pesos de modelo falsos. O projeto visa abordar essas vulnerabilidades e propor novas soluções para manter a privacidade e a segurança em modelos distribuídos de aprendizado de máquina. Em suma, este projeto apresenta uma proposta de pesquisa científica em cinco direções: (i) quantificação da generalização de modelos baseados em redes neurais bayesianas para sistemas federados de aprendizagem; (ii) Abordagens do sistema de detecção de intrusão DDoS em aplicações federadas; (iii) quantificação da incerteza em ambientes heterogêneos distribuídos (por exemplo, Aprendizado Federado); (iv) investigação para aprendizado contínuo (incremental) para identificar novos malwares desconhecidos para proteger sistemas mesmo no dia zero do lançamento de um malware; e (v) estudar o uso de testes estatísticos de padrões ordinais para identificar ataques de envenenamento de dados em aplicações federadas. (AU)