Preservação da privacidade e defesa de backdoors: rumo à aprendizagem federada em contextos médicos

Resumo

Em contextos médicos, os dados podem ser recolhidos a partir de fontes heterogêneas, como máquinas de raio-X, exames de sangue, dispositivos portáteis e dispositivos da Internet das Coisas. As estratégias de Inteligência Artificial (IA), como a Aprendizagem Profunda (AP), podem combinar estes dados para descobrir padrões e anomalias. O DL é especializado na classificação de imagens médicas para ajudar os médicos no diagnóstico. Embora a IA possa aumentar a capacidade dos sistemas computacionais para resolver problemas complexos, pode apresentar problemas de segurança e privacidade. As preocupações com a privacidade ganharam atenção nos últimos anos devido à regulamentação da privacidade e à sensibilização para a segurança contra ataques de backdoor que corrompem os modelos. A aprendizagem federada (FL) é uma estratégia que aumenta a privacidade dos modelos de DL porque treina os modelos sem partilhar o conjunto de dados sensíveis entre os clientes. No entanto, a FL pode sofrer ataques de backdoor e ataques de privacidade mais robustos, como os ataques de interferência de membros. Pretendemos desenvolver novas técnicas para melhorar a privacidade dos sistemas e estratégias defensivas contra backdoors. O estágio será realizado na Universidade da Flórida (UF), EUA, supervisionado pelo Prof. Dr. Sumi Helal. Os objetivos deste projeto abrangem os interesses tanto do projeto temático da FAPESP ``Mining, Index and Visualizing Big Data in Clinical Decision Support Systems" -- (MIVisBD) quanto da pesquisa realizada na UF pelo Prof. Helal.