Imparcialidade de Longo-Prazo com Dados Incompletos: Exploração Limitada e Retorno Parcial

• Processo: 24/17292-9
• Modalidade de apoio: Bolsas no Brasil - Doutorado
• Data de Início da vigência: 01 de outubro de 2025
• Data de Término da vigência: 31 de julho de 2027
• Área de conhecimento: Ciências Exatas e da Terra - Ciência da Computação
• Pesquisador responsável: Marcos Medeiros Raimundo
• Beneficiário: Giovani de Almeida Valdrighi
• Instituição Sede: Instituto de Computação (IC). Universidade Estadual de Campinas (UNICAMP). Campinas , SP, Brasil
• Assunto(s): Aprendizado computacional Classificação
• Palavra(s)-Chave do Pesquisador: Aprendizado de Máquina | Classificação | imparcialidade | Longo-prazo | Aprendizado de Máquina

Resumo

Os algoritmos baseados em dados tornaram-se comuns em aplicações sociais, incluindo pontuação de crédito, sistemas de recomendação, policiamento preditivo, diagnósticos médicos, etc. Devido ao elevado impacto das decisões na vida dos indivíduos, pesquisadores desenvolveram procedimentos de avaliação e estratégias de aprendizagem para garantir que as previsões sejam justas entre diferente grupos demográficos. No entanto, estas metodologias não incorporam a relação dinâmica: a população é influenciada pelas previsões feitas pelo algoritmo. A justiça a longo prazo considera o atraso na resposta das intervenções para garantir melhores resultados no futuro. No entanto, as metodologias propostas ainda não consideram cenários mais realistas, incluindo o feedback parcialmente observável e as restrições na exploração do ambiente pelo algoritmo. Para garantir a justiça a longo prazo, pode não ser viável implementar políticas injustas para coletar mais informações. Esta pesquisa concentra-se no estudo do compromisso entre garantir a justiça no curto e no longo prazo. A pesquisa inclui a concepção de um algoritmo capaz de alcançar uma política ótima em tal cenário e apresentar uma análise detalhada do custo de tais restrições.