An efficient parallel implementation for training supervised optimum-path forest classifiers

Autor(es)

Culquicondor, Aldo ^[1] ; Baldassin, Alexandro ^[2] ; Castelo-Fernandez, Cesar ^[3] ; de Carvalho, Joao P. L. ^[3] ; Papa, Joao Paulo ^[4]

Afiliação do(s) autor(es)

^[1] Univ Catolica San Pablo, Arequipa - Peru

^[2] UNESP Sao Paulo State Univ, Rio Claro - Brazil

^[3] Univ Estadual Campinas, Inst Comp, Campinas - Brazil

^[4] UNESP Sao Paulo State Univ, Bauru, SP - Brazil

• Tipo de documento: Artigo Científico
• Fonte: Neurocomputing; v. 393, p. 259-268, JUN 14 2020.
• Citações Web of Science: 0

Resumo

In this work, we propose and analyze parallel training algorithms for the Optimum-Path Forest (OPF) classifier. We start with a naive parallelization approach where, following traditional sequential training that considers the supervised OPF, a priority queue is used to store the best samples at each learning iteration. The proposed approach replaces the priority queue with an array and a linear search aiming at using a parallel-friendly data structure. We show that this approach leads to less competition among threads, thus yielding a more temporal and spatial locality. Additionally, we show how the use of vectorization in distance calculations affects the overall speedup and also provide directions on the situations one can benefit from that. The experiments are carried out on five public datasets with a different number of samples and features on architectures with distinct levels of parallelism. On average, the proposed approach provides speedups of up to 11.8 x and 26 x in a 24-core Intel and 64-core AMD processors, respectively. (C) 2019 Elsevier B.V. All rights reserved. (AU)

• Processo FAPESP: 14/16250-9 - Sobre a otimização de parâmetros em técnicas de aprendizado de máquina: avanços e paradigmas
• Beneficiário: João Paulo Papa
• Modalidade de apoio: Auxílio à Pesquisa - Regular
• Processo FAPESP: 14/12236-1 - AnImaLS: Anotação de Imagem em Larga Escala: o que máquinas e especialistas podem aprender interagindo?
• Beneficiário: Alexandre Xavier Falcão
• Modalidade de apoio: Auxílio à Pesquisa - Temático
• Processo FAPESP: 13/07375-0 - CeMEAI - Centro de Ciências Matemáticas Aplicadas à Indústria
• Beneficiário: Francisco Louzada Neto
• Modalidade de apoio: Auxílio à Pesquisa - Centros de Pesquisa, Inovação e Difusão - CEPIDs
• Processo FAPESP: 16/19403-6 - Modelos de aprendizado baseados em energia e suas aplicações
• Beneficiário: João Paulo Papa
• Modalidade de apoio: Auxílio à Pesquisa - Regular
• Processo FAPESP: 17/03940-5 - Aprendizado Interativo de Dicionários Visuais Aplicado à Classificação de Imagens
• Beneficiário: César Christian Castelo Fernández
• Modalidade de apoio: Bolsas no Brasil - Doutorado