Compreendendo e mitigando os impactos das realidades sintéticas na sociedade

• Processo: 24/14064-5
• Modalidade de apoio: Bolsas no Brasil - Pós-Doutorado
• Data de Início da vigência: 01 de dezembro de 2024
• Data de Término da vigência: 30 de novembro de 2026
• Área de conhecimento: Ciências Exatas e da Terra - Ciência da Computação - Metodologia e Técnicas da Computação
• Pesquisador responsável: Anderson de Rezende Rocha
• Beneficiário: Ana Carolina Pontalti Monari
• Instituição Sede: Instituto de Computação (IC). Universidade Estadual de Campinas (UNICAMP). Campinas , SP, Brasil
• Vinculado ao auxílio: 23/12865-8 - Horus: técnicas de inteligência artificial para detecção e análise de realidades sintéticas, AP.TEM
• Palavra(s)-Chave do Pesquisador: Debunking Fake News | Disinformation Impacts | Mitigating Misinformation | Social and Political Impacts of Fake News | Social Impacts of Synthetic Realities | Synthetic Realities | Artificial Intelligence and Digital Forensics

Resumo

O Projeto Horus é um esforço ambicioso e multidisciplinar que visa contribuir para o cenário da pesquisa em inteligência artificial (IA) e para a confiança na mídia digital. Abrangendo cinco linhas de pesquisa distintas e interconectadas - (A) aprendizado robusto de recursos, (B) reconhecimento de conjunto aberto, (C) aprendizado autossupervisionado, (D) aprendizado multimodal e (E) técnicas de fusão - o projeto busca abordar desafios críticos no desenvolvimento de IA, como aprimorar a generalização do modelo, permitir a compreensão multimodal e promover paradigmas de aprendizado autossupervisionado. As linhas de pesquisa servem como a espinha dorsal para o desenvolvimento de oito aplicações diversas, abordando desafios urgentes na era digital. Essas aplicações incluem (A1) deepfake e (A2) detecção geral de mídia sintética, combatendo a crescente ameaça de manipulação de mídia sintética; (A3) atribuição de autoria, reforçando a autenticidade e integridade do conteúdo; (A4) detecção de phishing, protegendo os usuários contra atividades online maliciosas; (A5) verificação de fatos, promovendo a precisão das informações e combatendo a desinformação; (A6) detecção de falsificação científica, preservando a credibilidade de publicações acadêmicas; (A7) detecção de ataque de apresentação e injeção, frustrando ameaças cibernéticas em vários domínios biométricos; e (A8) detecção de pornografia infantil habilitada por IA, reforçando esforços para proteger populações vulneráveis. Este projeto de pós-doutorado abordará tópicos relacionados a todas as frentes e, em específico, se concentrará na detecção e nos impactos das aplicações A1, A2, A5 e A6.