Informação a priori em redes neurais

• Processo: 23/00256-7
• Modalidade de apoio: Bolsas no Exterior - Estágio de Pesquisa - Pós-Doutorado
• Data de Início da vigência: 01 de agosto de 2023
• Data de Término da vigência: 31 de julho de 2024
• Área de conhecimento: Ciências Exatas e da Terra - Ciência da Computação
• Pesquisador responsável: Junior Barrera
• Beneficiário: Diego Ribeiro Marcondes
• Supervisor: Ulisses Braga-Neto
• Instituição Sede: Instituto de Matemática e Estatística (IME). Universidade de São Paulo (USP). São Paulo , SP, Brasil
• Instituição Anfitriã: Texas A&M University, Estados Unidos
• Vinculado à bolsa: 22/06211-2 - Aprendizado de máquina via espaços de aprendizado, da teoria para a prática: como a falta de dados pode ser mitigada por alto poder computacional, BP.PD
• Assunto(s): Redes neurais (computação) Aprendizado computacional Computação científica
• Palavra(s)-Chave do Pesquisador: Aprendizado de Máquina Científico | Espaços de Aprendizado | informação a priori | Neural Architecture Search | Redes neurais | Aprendizado de Máquina

Resumo

Embora métodos modernos de aprendizado computacional, como redes neurais (RN), tenham trazido inúmeros benefícios nos últimos anos, o uso indiscriminado de técnicas de aprendizado computacional criou problemas que estão geralmente relacionados com a falta de auditabilidade e interpretabilidade dos métodos. Muito esforço científico vem sendo colocado em alcançar interpretabilidade, e uma área de pesquisa em ascensão, que é altamente dependente de interpretabilidade, é a área de aprendizado de máquina científico (SciML), que junta as áreas de aprendizado computacional e computação científica, e que, ao contrário de métodos caixa-preta tradicionais, busca desenvolver modelos interpretáveis e compatíveis com modelos científicos. Um importante método de SciML são as physics-informed neural networks (PINN), sendo uma alternativa para os métodos numéricos tradicionais para a resolução de equações diferenciais parciais, que tiveram um grande sucesso e são uma área ativa de pesquisa. O sucesso recente das PINN traz a perspectiva de aplicar RN informadas em outros contextos a partir do desenvolvimento de métodos para inserir informação a priori em RN para resolver problemas com interpretabilidade e entendimento sobre os resultados. Nesse contexto, esse projeto busca, a partir do desenvolvimento de RN informadas, estudar como informação a priori pode ser incorporada em RN durante o treinamento, para melhor entender seu comportamento, para melhorar sua performance como modelos de aprendizado e para aplicar RN para resolver problemas numéricos científicos. Em especial, estudaremos como restrições de otimização podem ser incorporadas no treinamento de RN para inserir informação a priori. Esperamos com essa pesquisa desenvolver métodos para restringir RN que possibilitem a construção de um espaço de aprendizado para RN. (AU)