Estudo de Semântica em Modelos de Aprendizado em Profundidade

• Processo: 15/25739-4
• Modalidade de apoio: Bolsas no Brasil - Mestrado
• Data de Início da vigência: 01 de março de 2016
• Data de Término da vigência: 01 de julho de 2018
• Área de conhecimento: Ciências Exatas e da Terra - Ciência da Computação - Metodologia e Técnicas da Computação
• Pesquisador responsável: João Paulo Papa
• Beneficiário: Gustavo Henrique de Rosa
• Instituição Sede: Faculdade de Ciências (FC). Universidade Estadual Paulista (UNESP). Campus de Bauru. Bauru , SP, Brasil
• Bolsa(s) vinculada(s): 16/21243-7 - Aprendendo Parâmetros de Remoção em Redes Neurais por Convolução, BE.EP.MS
• Assunto(s): Aprendizado computacional Reconhecimento de padrões
• Palavra(s)-Chave do Pesquisador: Aprendizado de Máquina | Aprendizado em Profundidade | Otimização por meta-heurísticas | Reconhecimento de padrões

Resumo

Arquiteturas de aprendizado em profundidade têm sido amplamente estudadas nos últimos anos, principalmente pelo seu alto poder discriminativo e eficácia em muitos problemas considerados essenciais na área de visão computacional como, por exemplo, reconhecimento de faces, pessoas e objetos, dentre outros. Entretanto, um problema desses modelos diz respeito ao grande número de parâmetros a serem ajustados, que podem chegar a milhares. Um outro ponto crítico está relacionado à necessidade de grandes bases de dados para treinar essas técnicas de aprendizado em profundidade, bem como a sua alta propensão ao chamado super-treinamento dos dados devido, principalmente, à sua complexa arquitetura. Muito embora, recentemente, alguns trabalhos tenham apresentado possíveis soluções para amenizar o problema do super-treinamento, essas abordagens ainda possuem um número considerável de parâmetros que precisam ser ajustados, e que dependem de um conhecimento prévio da ferramenta a ser utilizada. O presente projeto de pesquisa objetiva um estudo na linha de "como podemos entender melhor" essas arquiteturas e, consequentemente, "aprender como elas aprendem", ou seja, quais são seus pontos fortes (que devem ser valorizados) e seus pontos fracos (que devem ser contornados). Técnicas como Máquinas de Boltzmann Restritas e Redes de Crença em Profundidade serão estudadas no intuito de aprender o seu comportamento por meio de otimização por meta-heurísticas. O presente projeto de pesquisa também contempla um período de estágio no exterior junto à Universidade de Middlesex, Inglaterra.

Publicações científicas

(16)

(Referências obtidas automaticamente do Web of Science e do SciELO, por meio da informação sobre o financiamento pela FAPESP e o número do processo correspondente, incluída na publicação pelos autores)

PISANI, R.; COSTA, K.; ROSA, G.; PEREIRA, D.; PAPA, J.; TAVARES, J. M. R. S.; IEEE. RIVER SEDIMENT YIELD CLASSIFICATION USING REMOTE SENSING IMAGERY. 2016 9TH IAPR WORKSHOP ON PATTERN RECOGNITION IN REMOTE SENSING (PRRS), v. N/A, p. 6-pg., 2016-01-01. (14/16250-9, 15/00801-9, 15/25739-4)

AMORIM, WILLIAN PARAGUASSU; ROSA, GUSTAVO HENRIQUE; THOMAZELLA, ROGERIO; COGO CASTANHO, JOSE EDUARDO; LOFRANO DOTTO, FABIO ROMANO; RODRIGUES JUNIOR, OSWALDO PONS; MARANA, APARECIDO NILCEU; PAPA, JOAO PAULO. Semi-supervised learning with connectivity-driven convolutional neural networks. PATTERN RECOGNITION LETTERS, v. 128, p. 16-22, DEC 1 2019. (14/12236-1, 13/07375-0, 15/25739-4, 16/19403-6)

PEREIRA, CLAYTON R.; WEBER, SILKE A. T.; HOOK, CHRISTIAN; ROSA, GUSTAVO H.; PAPA, JOAO; IEEE. Deep Learning-aided Parkinson's Disease Diagnosis from Handwritten Dynamics. 2016 29TH SIBGRAPI CONFERENCE ON GRAPHICS, PATTERNS AND IMAGES (SIBGRAPI), v. N/A, p. 7-pg., 2016-01-01. (15/25739-4, 14/16250-9, 10/15566-1)

PASSOS, LEANDRO A.; DE SOUZA, JR., LUIS A.; MENDEL, ROBERT; EBIGBO, ALANNA; PROBST, ANDREAS; MESSMANN, HELMUT; PALM, CHRISTOPH; PAPA, JOAO PAULO. Barrett's esophagus analysis using infinity Restricted Boltzmann Machines. JOURNAL OF VISUAL COMMUNICATION AND IMAGE REPRESENTATION, v. 59, p. 475-485, FEB 2019. (14/16250-9, 14/12236-1, 13/07375-0, 15/25739-4, 16/21243-7)

PAPA, JOAO PAULO; ROSA, GUSTAVO HENRIQUE; PAPA, LUCIENE PATRICI. A binary-constrained Geometric Semantic Genetic Programming for feature selection purposes. PATTERN RECOGNITION LETTERS, v. 100, p. 59-66, DEC 1 2017. (13/07375-0, 14/16250-9, 16/19403-6, 10/15566-1, 14/12236-1, 15/25739-4)

THOMAZELLA, R.; CASTANHO, J. E.; DOTTO, F. R. L.; RODRIGUES JUNIOR, O. P.; ROSA, G. H.; MARANA, A. N.; PAPA, J. P.; IEEE. ENVIRONMENTAL MONITORING USING DRONE IMAGES AND CONVOLUTIONAL NEURAL NETWORKS. IGARSS 2018 - 2018 IEEE INTERNATIONAL GEOSCIENCE AND REMOTE SENSING SYMPOSIUM, v. N/A, p. 4-pg., 2018-01-01. (13/07375-0, 15/25739-4, 14/12236-1, 16/19403-6)

DE ROSA, GUSTAVO H.; PAPA, JOAO P.; YANG, XIN-S. Handling dropout probability estimation in convolution neural networks using meta-heuristics. SOFT COMPUTING, v. 22, n. 18, SI, p. 6147-6156, SEP 2018. (14/12236-1, 14/16250-9, 15/25739-4)

AMORIM, WILLIAN PARAGUASSU; TETILA, EVERTON CASTELAO; PISTORI, HEMERSON; PAPA, JOAO PAULO. Semi-supervised learning with convolutional neural networks for UAV images automatic recognition. COMPUTERS AND ELECTRONICS IN AGRICULTURE, v. 164, SEP 2019. (14/12236-1, 13/07375-0, 15/25739-4, 16/19403-6)

PAPA, JOAO PAULO; ROSA, GUSTAVO H.; PEREIRA, DANILLO R.; YANG, XIN-SHE. Quaternion-based Deep Belief Networks fine-tuning. APPLIED SOFT COMPUTING, v. 60, p. 328-335, NOV 2017. (14/16250-9, 14/12236-1, 15/25739-4)

PEREIRA, DANILLO ROBERTO; REBOUCAS FILHO, PEDRO P.; DE ROSA, GUSTAVO HENRIQUE; PAPA, JOAO PAULO; DE ALBUQUERQUE, VICTOR HUGO C.; IEEE. Stroke Lesion Detection Using Convolutional Neural Networks. 2018 INTERNATIONAL JOINT CONFERENCE ON NEURAL NETWORKS (IJCNN), v. N/A, p. 6-pg., 2018-01-01. (14/16250-9, 14/12236-1, 15/25739-4, 16/21243-7)

DE ROSA, GUSTAVO H.; PAPA, JOAO P.; YANG, XIN-S. Handling dropout probability estimation in convolution neural networks using meta-heuristics. SOFT COMPUTING, v. 22, n. 18, p. 10-pg., 2018-09-01. (15/25739-4, 14/16250-9, 14/12236-1)

PEREIRA, CLAYTON R.; PEREIRA, DANILO R.; ROSA, GUSTAVO H.; ALBUQUERQUE, VICTOR H. C.; WEBER, SILKE A. T.; HOOK, CHRISTIAN; PAPA, JOAO P.. Handwritten dynamics dynamics assessment through convolutional neural networks: An application to Parkinson's disease identification. ARTIFICIAL INTELLIGENCE IN MEDICINE, v. 87, p. 67-77, MAY 2018. (13/07375-0, 14/16250-9, 16/19403-6, 10/15566-1, 14/12236-1, 15/25739-4)

ROSA, G. H.; PAPA, J. P.; PAPA, L. P.; OCHOA, G. Feature Selection Using Geometric Semantic Genetic Programming. PROCEEDINGS OF THE 2017 GENETIC AND EVOLUTIONARY COMPUTATION CONFERENCE COMPANION (GECCO'17 COMPANION), v. N/A, p. 2-pg., 2017-01-01. (14/12236-1, 15/25739-4)

PASSOS, LEANDRO A.; PEREIRA, CLAYTON R.; REZENDE, EDMAR R. S.; CARVALHO, TIAGO J.; WEBER, SILKE A. T.; HOOK, CHRISTIAN; PAPA, JOAO P.; IEEE. Parkinson Disease Identification using Residual Networks and Optimum-Path Forest. 2018 IEEE 12TH INTERNATIONAL SYMPOSIUM ON APPLIED COMPUTATIONAL INTELLIGENCE AND INFORMATICS (SACI), v. N/A, p. 5-pg., 2018-01-01. (13/07375-0, 16/21243-7, 14/12236-1, 15/25739-4, 14/16250-9)

PEREIRA, CLAYTON R.; PASSOS, LEANDRO A.; LOPES, RICARDO R.; WEBER, SILKE A. T.; HOOK, CHRISTIAN; PAPA, JOAO PAULO; FELSBERG, M; HEYDEN, A; KRUGER, N. Parkinson's Disease Identification Using Restricted Boltzmann Machines. COMPUTER ANALYSIS OF IMAGES AND PATTERNS, v. 10425, p. 11-pg., 2017-01-01. (14/16250-9, 15/25739-4, 14/12236-1, 16/21243-7)

ROSA, GUSTAVO H.; AFONSO, LUIS C. S.; BALDASSIN, ALEXANDRO; PAPA, JOAO P.; YANG, XIN-SHE; FELSBERG, M; HEYDEN, A; KRUGER, N. Quaternionic Flower Pollination Algorithm. COMPUTER ANALYSIS OF IMAGES AND PATTERNS, v. 10425, p. 12-pg., 2017-01-01. (14/16250-9, 15/25739-4, 14/12236-1, 16/21243-7)

Publicações acadêmicas

(Referências obtidas automaticamente das Instituições de Ensino e Pesquisa do Estado de São Paulo)

ROSA, Gustavo Henrique de. Otimização Meta-Heurística para Regularização de Modelos de Aprendizado em Profundidade. 2018. Dissertação de Mestrado - Universidade Estadual Paulista (Unesp). Instituto de Biociências Letras e Ciências Exatas. São José do Rio Preto São José do Rio Preto.