Busca avançada
Ano de início
Entree
(Referência obtida automaticamente do Web of Science, por meio da informação sobre o financiamento pela FAPESP e o número do processo correspondente, incluída na publicação pelos autores.)

Handling dropout probability estimation in convolution neural networks using meta-heuristics

Texto completo
Autor(es):
de Rosa, Gustavo H. [1] ; Papa, Joao P. [1] ; Yang, Xin-S [2]
Número total de Autores: 3
Afiliação do(s) autor(es):
[1] Sao Paulo State Univ, Dept Comp, BR-17033360 Bauru, SP - Brazil
[2] Middlesex Univ, Sch Sci & Technol, London NW4 4BT - England
Número total de Afiliações: 2
Tipo de documento: Artigo Científico
Fonte: SOFT COMPUTING; v. 22, n. 18, SI, p. 6147-6156, SEP 2018.
Citações Web of Science: 0
Resumo

Deep learning-based approaches have been paramount in recent years, mainly due to their outstanding results in several application domains, ranging from face and object recognition to handwritten digit identification. Convolutional neural networks (CNNs) have attracted a considerable attention since they model the intrinsic and complex brain working mechanisms. However, one main shortcoming of such models concerns their overfitting problem, which prevents the network from predicting unseen data effectively. In this paper, we address this problem by means of properly selecting a regularization parameter known as dropout in the context of CNNs using meta-heuristic-driven techniques. As far as we know, this is the first attempt to tackle this issue using this methodology. Additionally, we also take into account a default dropout parameter and a dropout-less CNN for comparison purposes. The results revealed that optimizing dropout-based CNNs is worthwhile, mainly due to the easiness in finding suitable dropout probability values, without needing to set new parameters empirically. (AU)

Processo FAPESP: 14/12236-1 - AnImaLS: Anotação de Imagem em Larga Escala: o que máquinas e especialistas podem aprender interagindo?
Beneficiário:Alexandre Xavier Falcão
Linha de fomento: Auxílio à Pesquisa - Temático
Processo FAPESP: 14/16250-9 - Sobre a otimização de parâmetros em técnicas de aprendizado de máquina: avanços e paradigmas
Beneficiário:João Paulo Papa
Linha de fomento: Auxílio à Pesquisa - Regular
Processo FAPESP: 15/25739-4 - Estudo de semântica em modelos de aprendizado em profundidade
Beneficiário:Gustavo Henrique de Rosa
Linha de fomento: Bolsas no Brasil - Mestrado