Ajuste de hiperparâmetros em redes de memória de longo prazo utilizando programação genética

• Processo: 18/10100-6
• Linha de fomento: Bolsas no Brasil - Iniciação Científica
• Vigência (Início): 01 de setembro de 2018
• Vigência (Término): 31 de agosto de 2019
• Área do conhecimento: Ciências Exatas e da Terra - Ciência da Computação - Metodologia e Técnicas da Computação
• Pesquisador responsável: João Paulo Papa
• Beneficiário: Vicente Coelho Lobo Neto
• Instituição-sede: Faculdade de Ciências (FC). Universidade Estadual Paulista (UNESP). Campus de Bauru. Bauru , SP, Brasil
• Vinculado ao auxílio: 14/12236-1 - AnImaLS: Anotação de Imagem em Larga Escala: o que máquinas e especialistas podem aprender interagindo?, AP.TEM
• Assunto(s): Reconhecimento de padrões Aprendizado computacional Aprendizagem profunda Programação genética Memória de longo prazo

Resumo

Técnicas de aprendizado de máquina têm sido amplamente utilizadas nas mais diversas aplicações, principalmente aquelas baseadas em aprendizado em profundidade. Entretanto, essas técnicas possuem diversos hiperparâmetros que requerem seu ajuste de maneira personalizada para cada base, sendo essenciais para um bom desempenho da técnica. O presente projeto de pesquisa objetiva introduzir uma abordagem baseada em Programação Genética (Genetic Programming - GP) para o ajuste fino de hiperparâmetros de redes neurais recorrentes. Mais especificamente, serão otimizadas a representação das palavras, número de camadas LSTM, número de unidades escondidas e tamanho do lote de palavras processado por vez para redes LSTMs (Long Short-Term Memory), sendo os resultados validados em bases de dados de textos. A tarefa a ser estudada é o reconhecimento de classe gramatical de palavras, conhecida como Part-of-Speech (POS) Tagging. Para fins de comparação, serão utilizadas bases de dados públicas amplamente conhecidas, como o corpus Brown. Ademais, o projeto também conta com um período de estágio no exterior via programa FAPESP - Bolsa de Estágio e Pesquisa no Exterior (BEPE).