Bolsa 19/02205-5 - Reconhecimento de padrões, Processamento de linguagem natural - BV FAPESP
Busca avançada
Ano de início
Entree

Aprendizado adversarial em processamento de linguagem natural

Processo: 19/02205-5
Modalidade de apoio:Bolsas no Brasil - Doutorado
Data de Início da vigência: 01 de maio de 2019
Data de Término da vigência: 31 de julho de 2021
Área de conhecimento:Ciências Exatas e da Terra - Ciência da Computação - Metodologia e Técnicas da Computação
Pesquisador responsável:João Paulo Papa
Beneficiário:Gustavo Henrique de Rosa
Instituição Sede: Faculdade de Ciências (FC). Universidade Estadual Paulista (UNESP). Campus de Bauru. Bauru , SP, Brasil
Vinculado ao auxílio:14/12236-1 - AnImaLS: Anotação de Imagem em Larga Escala: o que máquinas e especialistas podem aprender interagindo?, AP.TEM
Assunto(s):Reconhecimento de padrões   Processamento de linguagem natural   Aprendizado computacional   Memória de longo prazo   Redes neurais (computação)
Palavra(s)-Chave do Pesquisador:Aprendizado Adversarial | Aprendizado de Máquina | Geração Automática de Texto | Processamento de Linguagem Natural | Sumarização de Texto | Reconhecimento de Padrões

Resumo

Técnicas de aprendizado de máquina têm sido amplamente pesquisadas nos últimos anos, essencialmente devido à sua alta eficácia em problemas de visão computacional e Processamento de Linguagem Natural (PLN). Entretanto, apesar do seu elevado poder discriminativo, suas capacidades generativas ainda estão distantes de um desempenho exemplar para determinadas aplicações, principalmente aquelas relacionadas à área de mineração de dados textuais. O maior contratempo ocorre quando essas técnicas são confrontadas com estruturas discretas como, por exemplo, sequências de caracteres ou palavras. Muito embora recentemente alguns trabalhos tenham apresentado soluções plausíveis para a geração de linguagem natural, os mesmos ainda não conseguiram gerar uma linguagem completamente `natural´, isto é, uma linguagem a qual seja morfologicamente adequada, sintaticamente correta e semanticamente compreensível. Ademais, outro problema frequente na área de PLN diz respeito à escassez de dados para alimentar arquiteturas de aprendizado em profundidade. Utilizado com bastante sucesso na área de processamento de imagens para geração de dados sintéticos, o aprendizado adversarial ainda não evoluiu satisfatoriamente na área de dados textuais, gerando textos com palavras repetidas e, muitas vezes, sem um significado semântico. Desta forma, o presente projeto de pesquisa objetiva atuar na vanguarda do estudo e desenvolvimento de modelos adversariais no contexto de processamento de linguagem natural. Serão estudadas, principalmente, redes generativas adversariais e redes neurais recorrentes, com especial atenção às redes de memória de longo prazo. O presente projeto de pesquisa também contempla um período de estágio junto à Stanford University, Estados Unidos. (AU)

Matéria(s) publicada(s) na Agência FAPESP sobre a bolsa:
Mais itensMenos itens
Matéria(s) publicada(s) em Outras Mídias ( ):
Mais itensMenos itens
VEICULO: TITULO (DATA)
VEICULO: TITULO (DATA)

Publicações científicas (12)
(Referências obtidas automaticamente do Web of Science e do SciELO, por meio da informação sobre o financiamento pela FAPESP e o número do processo correspondente, incluída na publicação pelos autores)
DE ROSA, GUSTAVO H.; PAPA, JOAO P.. A survey on text generation using generative adversarial networks. PATTERN RECOGNITION, v. 119, . (19/02205-5, 20/12101-0, 14/12236-1, 19/07665-4, 13/07375-0)
RODER, MATEUS; PASSOS, LEANDRO APARECIDO; DE ROSA, GUSTAVO H.; DE ALBUQUERQUE, VICTOR HUGO C.; PAPA, JOAO PAULO. Reinforcing learning in Deep Belief Networks through nature-inspired optimization. APPLIED SOFT COMPUTING, v. 108, . (19/07825-1, 18/21934-5, 17/25908-6, 19/07665-4, 19/02205-5, 13/07375-0, 14/12236-1)
RODER, MATEUS; DE ROSA, GUSTAVO HENRIQUE; PAPA, JOAO PAULO; BREVE, FABRICIO APARECIDO; IEEE. Fine-Tuning Temperatures in Restricted Boltzmann Machines Using Meta-Heuristic Optimization. 2020 IEEE CONGRESS ON EVOLUTIONARY COMPUTATION (CEC), v. N/A, p. 8-pg., . (19/02205-5, 17/25908-6, 19/07825-1, 13/07375-0, 14/12236-1)
RODER, MATEUS; DE ROSA, GUSTAVO HENRIQUE; PASSOS, LEANDRO APARECIDO; PAPA, JOAO PAULO; DEBIASO ROSSI, ANDRE LUIS; IEEE. Harnessing Particle Swarm Optimization Through Relativistic Velocity. 2020 IEEE CONGRESS ON EVOLUTIONARY COMPUTATION (CEC), v. N/A, p. 8-pg., . (19/02205-5, 17/25908-6, 19/07825-1, 13/07375-0, 19/07665-4, 14/12236-1)
DE ROSA, GUSTAVO H.; RODER, MATEUS; PAPA, JOAO PAULO; DOS SANTOS, CLAUDIO F. G.; IEEE. Improving Pre-Trained Weights through Meta-Heuristics Fine-Tuning. 2021 IEEE SYMPOSIUM SERIES ON COMPUTATIONAL INTELLIGENCE (IEEE SSCI 2021), v. N/A, p. 8-pg., . (13/07375-0, 19/07665-4, 14/12236-1, 19/02205-5, 20/12101-0)
FERREIRA, ALVARO R., JR.; DE ROSA, GUSTAVO H.; PAPA, JOAO P.; CARNEIRO, GUSTAVO; FARIA, FABIO A.; IEEE COMP SOC. Creating Classifier Ensembles through Meta-heuristic Algorithms for Aerial Scene Classification. 2020 25TH INTERNATIONAL CONFERENCE ON PATTERN RECOGNITION (ICPR), v. N/A, p. 8-pg., . (14/12236-1, 18/23908-1, 17/25908-6, 19/07665-4, 19/02205-5)
RIBEIRO, LUIZ C. F.; DE ROSA, GUSTAVO H.; RODRIGUES, DOUGLAS; PAPA, JOAO P.. Convolutional neural networks ensembles through single-iteration optimization. SOFT COMPUTING, v. 26, n. 8, p. 12-pg., . (14/12236-1, 19/07665-4, 13/07375-0, 17/25908-6, 19/02205-5, 18/21934-5)
OLIVEIRA, GUILHERME C.; NGO, QUOC C.; PASSOS, LEANDRO A.; PAPA, JOAO P.; JODAS, DANILO S.; KUMAR, DINESH. Tabular data augmentation for video-based detection of hypomimia in Parkinson's disease. COMPUTER METHODS AND PROGRAMS IN BIOMEDICINE, v. 240, p. 8-pg., . (19/00585-5, 18/15597-6, 14/12236-1, 19/07665-4, 13/07375-0, 19/02205-5)
DE ROSA, GUSTAVO H.; PAPA, JOAO P.; YANG, XIN-SHE. A nature-inspired feature selection approach based on hypercomplex information. APPLIED SOFT COMPUTING, v. 94, . (13/07375-0, 16/19403-6, 14/12236-1, 17/25908-6, 17/02286-0, 19/02205-5)
DE ROSA, GUSTAVO H.; PAPA, JOAO P.. OPFython: A Python implementation for Optimum-Path Forest. SOFTWARE IMPACTS, v. 9, p. 3-pg., . (19/02205-5, 20/12101-0, 14/12236-1, 19/07665-4, 13/07375-0)
DE ROSA, GUSTAVO H.; BREGA, JOSE R. F.; PAPA, JOAO P.. How optimizing perplexity can affect the dimensionality reduction on word embeddings visualization?. SN APPLIED SCIENCES, v. 1, n. 12, . (19/02205-5)
Publicações acadêmicas
(Referências obtidas automaticamente das Instituições de Ensino e Pesquisa do Estado de São Paulo)
ROSA, Gustavo Henrique de. Análise de aprendizado adversarial baseado em similaridade na geração de texto. 2022. Tese de Doutorado - Universidade Estadual Paulista (Unesp). Faculdade de Ciências. Bauru Bauru.