Busca avançada
Ano de início
Entree
(Referência obtida automaticamente do Web of Science, por meio da informação sobre o financiamento pela FAPESP e o número do processo correspondente, incluída na publicação pelos autores.)

Reinforcing learning in Deep Belief Networks through nature-inspired optimization

Texto completo
Autor(es):
Roder, Mateus [1] ; Passos, Leandro Aparecido [1] ; de Rosa, Gustavo H. [1] ; de Albuquerque, Victor Hugo C. [2, 3] ; Papa, Joao Paulo [1]
Número total de Autores: 5
Afiliação do(s) autor(es):
[1] Sao Paulo State Univ, Dept Comp, Av Engn Luiz Edmundo Carrijo Coube 14-01, BR-17033360 Bauru, SP - Brazil
[2] Univ Fed Ceara, Grad Program Teleinformat Engn, Fortaleza, CE - Brazil
[3] Fed Inst Educ Sci & Technol Ceara, Grad Program Telecommun Engn, Fortaleza, CE - Brazil
Número total de Afiliações: 3
Tipo de documento: Artigo Científico
Fonte: APPLIED SOFT COMPUTING; v. 108, SEP 2021.
Citações Web of Science: 0
Resumo

Deep learning techniques usually face drawbacks related to the vanishing gradient problem, i.e., the gradient becomes gradually weaker when propagating from one layer to another until it finally vanishes away and no longer helps in the learning process. Works have addressed this problem by introducing residual connections, thus assisting gradient propagation. However, such a subject of study has been poorly considered for Deep Belief Networks. In this paper, we propose a weighted layer-wise information reinforcement approach concerning Deep Belief Networks. Moreover, we also introduce metaheuristic optimization to select proper weight connections that improve the network's learning capabilities. Experiments conducted over public datasets corroborate the effectiveness of the proposed approach in image classification tasks. (C) 2021 Elsevier B.V. All rights reserved. (AU)

Processo FAPESP: 19/07825-1 - Máquinas de Boltzmann em profundidade para reconhecimento de eventos em vídeos
Beneficiário:Mateus Roder
Modalidade de apoio: Bolsas no Brasil - Mestrado
Processo FAPESP: 18/21934-5 - Estatística de redes: teoria, métodos e aplicações
Beneficiário:André Fujita
Modalidade de apoio: Auxílio à Pesquisa - Temático
Processo FAPESP: 17/25908-6 - Aprendizado fracamente supervisionado para análise de vídeos no domínio comprimido em tarefas de recuperação e classificação para alertas visuais
Beneficiário:João Paulo Papa
Modalidade de apoio: Auxílio à Pesquisa - Parceria para Inovação Tecnológica - PITE
Processo FAPESP: 19/07665-4 - Centro de Inteligência Artificial
Beneficiário:Fabio Gagliardi Cozman
Modalidade de apoio: Auxílio à Pesquisa - Programa eScience e Data Science - Centros de Pesquisa em Engenharia
Processo FAPESP: 19/02205-5 - Aprendizado adversarial em processamento de linguagem natural
Beneficiário:Gustavo Henrique de Rosa
Modalidade de apoio: Bolsas no Brasil - Doutorado
Processo FAPESP: 13/07375-0 - CeMEAI - Centro de Ciências Matemáticas Aplicadas à Indústria
Beneficiário:Francisco Louzada Neto
Modalidade de apoio: Auxílio à Pesquisa - Centros de Pesquisa, Inovação e Difusão - CEPIDs
Processo FAPESP: 14/12236-1 - AnImaLS: Anotação de Imagem em Larga Escala: o que máquinas e especialistas podem aprender interagindo?
Beneficiário:Alexandre Xavier Falcão
Modalidade de apoio: Auxílio à Pesquisa - Temático