Antiesparsidade e equidade em processamento de sinais: da separação cega de fontes ao aprendizado de máquina equânime

• Processo: 22/04237-4
• Modalidade de apoio: Bolsas no Exterior - Estágio de Pesquisa - Doutorado
• Vigência (Início): 22 de agosto de 2022
• Vigência (Término): 21 de agosto de 2023
• Área do conhecimento: Engenharias - Engenharia Elétrica
• Pesquisador responsável: João Marcos Travassos Romano
• Beneficiário: Renan Del Buono Brotto
• Supervisor: Jean-Michel Loubes
• Instituição Sede: Faculdade de Engenharia Elétrica e de Computação (FEEC). Universidade Estadual de Campinas (UNICAMP). Campinas , SP, Brasil
• Local de pesquisa: Artificial and Natural Intelligence Toulouse Institute (ANITI), França
• Vinculado à bolsa: 19/20899-4 - Antiesparsidade e equidade em processamento de sinais: da separação cega de fontes ao aprendizado de máquina equânime, BP.DR
• Assunto(s): Separação cega de fontes Aprendizado computacional Processamento de sinais Equidade
• Palavra(s)-Chave do Pesquisador: Bounded Component Analysis | Fair Machine Learning | Robust Learning | Separação Cega de Fontes | Processamento de Sinais e Inteligência Artificial

Resumo

Modelos de Aprendizado de Máquina têm recebido muita atenção em uma variedade de problemas devido aos seus resultados surpreendentes e à sua capacidade de aprender a partir de dados. Contudo, a aplicação de tais modelos em problemas socioeconômicos-tais como concessão de crédito, predição de reincidência criminal, seleção de estudantes, entre outros- levantou preocupações éticas. Dados tendenciosos normalmente levam a modelos que tomam decisões tendenciosas, o que produz mais dados tendenciosos, criando um círculo vicioso. Nos últimos anos, observamos um grande interesse de pesquisa nesse tema, originando o chamado Aprendizado de Máquina Equânime (Fair Machine Learning). Podemos tratar esse problema atuando sobre os dados antes que eles alimentem o modelo, com as chamadas técnicas de pré-processamento; podemos também atuar sobre um modelo já em operação, fazendo um novo processamento sobre as decisões tomadas por ele, a fim de reduzir impactos sociais negativos (pós-processamento). Finalmente, podemos construir modelos que sejam capazes de levar a equidade em conta durante a fase de treinamento, por meio de restrições durante o ajuste dos parâmetros. Nosso principal objetivo neste projeto de pesquisa é estudar essas técnicas de processamento durante o ajuste do modelo e avaliar, teoricamente, a qualidade das decisões tomadas. Podemos esperar que um modelo equânime trate indivíduos parecidos-ou seja, indivíduos que têm o mesmo conjunto de atributos, diferindo apenas no atributo sensível-de modos parecidos. Estabelecendo um métrica de distância para os indivíduos do conjunto de dados, quando tratamos indivíduos mais distantes de modo similar, garantimos o mesmo tratamento para os indivíduos que são mais similares. O Aprendizado de Máquina Robusto (Robust Learning) é uma ferramenta adequada para satisfazer essa restrição e é a principal técnica que investigaremos. Entretanto, como o conceito de equidade é bastante amplo, também estamos interessados em outras abordagens para assegurar o Aprendizado de Máquina Equânime. (AU)