Busca avançada
Ano de início
Entree
Conteúdos relacionados

Horus: técnicas de inteligência artificial para detecção e análise de realidades sintéticas

Processo:23/12865-8
Modalidade de apoio:Auxílio à Pesquisa - Temático
Data de Início da vigência: 01 de junho de 2024
Data de Término da vigência: 31 de maio de 2029
Área do conhecimento:Ciências Exatas e da Terra - Ciência da Computação - Metodologia e Técnicas da Computação
Pesquisador responsável:Anderson de Rezende Rocha
Beneficiário:Anderson de Rezende Rocha
Instituição Sede: Instituto de Computação (IC). Universidade Estadual de Campinas (UNICAMP). Campinas , SP, Brasil
Município da Instituição Sede:Campinas
Pesquisadores associados: Daniel Henriques Moreira ; EMELY PUJOLLI DA SILVA ; Emily Silva Tomadon ; Fernanda Alcântara Andaló ; Gabriel Capiteli Bertocco ; Giovanni Mesquita Micaroni ; Haoliang LI ; Hélio Pedrini ; Igor Leonardo Oliveira Bastos ; João Phillipe Cardenuto ; Leopoldo André Dutra Lusquino Filho ; Luisa Verdoliva ; Michael Macedo Diniz ; Paolo Bestagini ; Paula Dornhofer Paro Costa ; Rafael Soares Padilha ; Renjie Wan ; Sandra Eliza Fontes de Avila ; Sébastien Marcel ; Shiqi Wang ; Simone Milani ; Viviane Da Silva Pimentel ; Walter Jerome Scheirer
Bolsa(s) vinculada(s):26/11981-2 - Pré-Processamento de Artigos Científicos Retratados Utilizando Aprendizado de Máquina, BP.IC
26/01688-6 - Aprendizado robusto de características e investigações multimodais para Realidades Sintéticas, BP.PD
26/02537-1 - Detecção de mídias sintéticas: criações naturais vs. sintetizadas, BP.DD
 + mais bolsas vinculadas 25/26482-9 - Coleta de dados e implementação de baselines para detecção de phishing, BP.IC
25/26481-2 - Coleta de dados e implementação de baselines para detecção de falsificações de imagens científicas, BP.IC
25/26523-7 - Promovendo a confiança nos meios de comunicação digitais contra a desinformação: uma proposta de jornalismo científico, BP.JC
25/26480-6 - Coleta de dados e implementação de baselines para atribuição de autoria, BP.IC
25/09592-5 - Aprimorando a predição de duração em modelos de TTS de aprendizado profundo a partir de uma perspectiva psicoacústica do ritmo da fala, BP.MS
25/15682-7 - Detecção de Deepfakes, BP.DD
24/23118-1 - Avaliação de Ferramentas de Ética em Modelos de Linguagem, BP.DR
24/13186-0 - Detecção de desinformação e desmascaramento de notícias falsas, BP.PD
24/14064-5 - Compreendendo e mitigando os impactos das realidades sintéticas na sociedade, BP.PD
24/14068-0 - Coleta de dados e implementação de baselines para detecção de phishing, BP.IC
24/13183-0 - Aprendizado robusto e investigações multimodais para detecção de realidades sintéticas, BP.PD
24/13869-0 - Coleta de dados e implementação de baselines para detecção de falsificações de imagens em publicações científicas, BP.IC
24/14069-7 - Coleta de dados e implementação de baselines para atribuição de autoria, BP.IC - menos bolsas vinculadas
Assunto(s):Forense digital  Inteligência artificial 
Palavra(s)-Chave do Pesquisador:artificial intelligence | DeepFakes | Digital Manipulations | Multimedia Forensics | Phishing | Synthetic Realities | Forense Digital

Resumo

O Projeto Horus é um empreendimento ambicioso e multidisciplinar que visa contribuir para o cenário da pesquisa em inteligência artificial (IA) e para a confiança na mídia digital. Compreendendo cinco linhas de pesquisa distintas e interconectadas --- aprendizagem robusta de características (A), reconhecimento de conjunto aberto (B), aprendizagem auto-supervisionada (C), aprendizagem multimodal (D) e técnicas de fusão (E) --- o projeto procura enfrentar desafios críticos no desenvolvimento da IA, como melhorar a generalização de modelos, permitir a compreensão intermodal e promover paradigmas de aprendizagem auto-supervisionada. As linhas de pesquisa servem de espinha dorsal para o desenvolvimento de oito aplicações, abordando desafios urgentes da era digital. Essas aplicações incluem (A1) detecção de deepfakes e (A2) mídia sintética geral, combatendo a crescente ameaça de manipulações via mídias sintéticas; (A3) atribuição de autoria, reforçando a autenticidade e integridade do conteúdo; (A4) detecção de phishing, protegendo os utilizadores contra actividades online maliciosas; (A5) checagem de fatos, promovendo o rigor da informação e combate à desinformação; (A6) detecção de falsificações científicas, preservando a credibilidade das publicações acadêmicas; (A7) detecção de ataques de apresentação e injeção, combatendo ameaças cibernéticas em vários domínios biométricos; e (A8) detecção de pornografia infantil baseada em IA, reforçando os esforços para proteger as populações vulneráveis. O projeto representa uma mudança de paradigma na investigação em inteligência artificial, colocando o indivíduo humano na vanguarda, abrindo caminho para aplicações éticas e confiáveis e contribuindo significativamente para a melhoria da sociedade como um todo. Os resultados esperados incluem novas soluções e metodologias para a confiança digital e um cenário digital mais seguro. (AU)

Matéria(s) publicada(s) na Agência FAPESP sobre o auxílio:
Mais itensMenos itens
Matéria(s) publicada(s) em Outras Mídias ( ):
Mais itensMenos itens
VEICULO: TITULO (DATA)
VEICULO: TITULO (DATA)

Publicações científicas (19)
(As publicações científicas contidas nesta página são originárias da Web of Science ou da SciELO, cujos autores mencionaram números dos processos FAPESP concedidos a Pesquisadores Responsáveis e Beneficiários, sejam ou não autores das publicações. Sua coleta é automática e realizada diretamente naquelas bases bibliométricas)
SAMEERA, K. M.; VINOD, P.; ROCHA, ANDERSON; REHIMAN, K. A. RAFIDHA; CONTI, MAURO. WeiDetect: Weibull distribution-based defense against poisoning attacks in federated learning for network intrusion detection systems. JOURNAL OF INFORMATION SECURITY AND APPLICATIONS, v. 95, p. 19-pg., . (23/12865-8)
CARDENUTO, JOAO PHILLIPE; KRINSKY, JOSHUA; NOGUEIRA, LUCAS; BHARATI, APARNA; MOREIRA, DANIEL. Implications of Neural Compression to Scientific Images. PROCEEDINGS OF THE 2025 ACM WORKSHOP ON INFORMATION HIDING AND MULTIMEDIA SECURITY, IH&MMSEC 2025, v. N/A, p. 6-pg., . (23/12865-8)
DE ROSA, VINCENZO; GUILLARO, FABRIZIO; POGGI, GIOVANNI; COZZOLINO, DAVIDE; VERDOLIVA, LUISA. Exploring the Adversarial Robustness of CLIP for AI-generated Image Detection. 2024 IEEE INTERNATIONAL WORKSHOP ON INFORMATION FORENSICS AND SECURITY, WIFS 2024, v. N/A, p. 6-pg., . (23/12865-8)
BERTOCCO, GABRIEL; ANDALO, FERNANDA; BOULT, TERRANCE; ROCHA, ANDERSON. Vision through distortions: Atmospheric Turbulence- and Clothing-invariant long-range recognition. 2024 IEEE INTERNATIONAL WORKSHOP ON INFORMATION FORENSICS AND SECURITY, WIFS 2024, v. N/A, p. 6-pg., . (22/02299-2, 19/15825-1, 23/12865-8)
LUO, ZIYUAN; ROCHA, ANDERSON; SHI, BOXIN; GUO, QING; LI, HAOLIANG; WAN, RENJIE. The NeRF Signature: Codebook-Aided Watermarking for Neural Radiance Fields. IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE, v. 47, n. 6, p. 16-pg., . (23/12865-8)
ZHANG, KEYANG; KONG, CHENQI; WANG, SHIQI; ROCHA, ANDERSON; LI, HAOLIANG. Image Provenance Analysis via Graph Encoding With Vision Transformer. IEEE Transactions on Information Forensics and Security, v. 20, p. 16-pg., . (23/12865-8)
NASCIMENTO, JOSE; JACOBS, NATHAN; ROCHA, ANDERSON. Interactive Event Sifting using Bayesian Graph Neural Networks. 2024 IEEE INTERNATIONAL WORKSHOP ON INFORMATION FORENSICS AND SECURITY, WIFS 2024, v. N/A, p. 5-pg., . (23/12865-8)
KONG, CHENQI; LUO, ANWEI; WANG, SHIQI; LI, HAOLIANG; ROCHA, ANDERSON; KOT, ALEX C.. Pixel-Inconsistency Modeling for Image Manipulation Localization. IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE, v. 47, n. 6, p. 18-pg., . (23/12865-8)
NASCIMENTO, JOSE; BESTAGINI, PAOLO; ROCHA, ANDERSON. Multimodal Classification of Social Media Disaster Posts With Graph Neural Networks and Few-Shot Learning. IEEE ACCESS, v. 13, p. 11-pg., . (23/12865-8)
LI, YIXUAN; LIU, XUELIN; WANG, XIAOYANG; LEE, BU SUNG; WANG, SHIQI; ROCHA, ANDERSON; LIN, WEISI. FakeBench: Probing Explainable Fake Image Detection via Large Multimodal Models. IEEE Transactions on Information Forensics and Security, v. 20, p. 16-pg., . (23/12865-8)
YANG, JING; ROCHA, ANDERSON. Take It Easy: Label-Adaptive Self-Rationalization for Fact Verification and Explanation Generation. 2024 IEEE INTERNATIONAL WORKSHOP ON INFORMATION FORENSICS AND SECURITY, WIFS 2024, v. N/A, p. 6-pg., . (23/12865-8, 19/04053-8)
BERTOCCO, GABRIEL; ANDALO, FERNANDA; BOULT, TERRANCE E.; ROCHA, ANDERSON. Large-Scale Fully-Unsupervised Re-Identification. IEEE TRANSACTIONS ON BIOMETRICS, BEHAVIOR, AND IDENTITY SCIENCE, v. 7, n. 2, p. 14-pg., . (22/02299-2, 19/15825-1, 23/12865-8)
CARDENUTO, JOAO P.; MANDELLI, SARA; MOREIRA, DANIEL; BESTAGINI, PAOLO; DELP, EDWARD; ROCHA, ANDERSON. Explainable Artifacts for Synthetic Western Blot Source Attribution. 2024 IEEE INTERNATIONAL WORKSHOP ON INFORMATION FORENSICS AND SECURITY, WIFS 2024, v. N/A, p. 6-pg., . (23/12865-8, 20/02211-2)
ROCHA, ANDERSON; BOWYER, KEVIN; VERDOLIVA, LUISA; LEI, ZHEN; PROENCA, HUGO. Cutting-Edge Biometrics Research: Selected Best Papers From IJCB 2023. IEEE TRANSACTIONS ON BIOMETRICS, BEHAVIOR, AND IDENTITY SCIENCE, v. 6, n. 4, p. 4-pg., . (23/12865-8)
MARI, DANIELE; CAVASIN, SAVERIO; MILANI, SIMONE; CONTI, MAURO. Effectiveness of learning-based image codecs on fingerprint storage. 2024 IEEE INTERNATIONAL WORKSHOP ON INFORMATION FORENSICS AND SECURITY, WIFS 2024, v. N/A, p. 6-pg., . (23/12865-8)
LUO, ZIYUAN; LIU, JUN; LI, HAOLIANG; ROCHA, ANDERSON; WAN, RENJIE. MantleMark: Migrating Watermarks From Multi-View Images to Radiance Fields via Frequency Modulation. IEEE Transactions on Information Forensics and Security, v. 21, p. 16-pg., . (23/12865-8)
UEDA, LUCAS; LIMA, JOAO; MARQUES, LEONARDO; COSTA, PAULA. Improving Speech Emotion Recognition Through Cross Modal Attention Alignment and Balanced Stacking Model. INTERSPEECH 2021, v. N/A, p. 5-pg., . (23/12865-8, 20/09838-0)
YANG, JING; GLOCKNER, MAX; ROCHA, ANDERSON; GUREVYCH, IRYNA. Self-Rationalization in the Wild: A Large-scale Out-of-Distribution Evaluation on NLI-related tasks. TRANSACTIONS OF THE ASSOCIATION FOR COMPUTATIONAL LINGUISTICS, v. 13, p. 29-pg., . (19/04053-8, 23/12865-8, 22/05002-0)
CARDENUTO, JOAO PHILLIPE; MOREIRA, DANIEL; ROCHA, ANDERSON. Unveiling scientific articles from paper mills with provenance analysis. PLoS One, v. 19, n. 10, p. 28-pg., . (23/12865-8, 20/02211-2)