Tópicos em redes neurais: I. interação entre redes neurais de atratores. II. dinâmica de aprendizado em redes de arquitetura profunda

• Processo: 21/07951-7
• Modalidade de apoio: Bolsas no Brasil - Mestrado
• Vigência (Início): 01 de março de 2022
• Vigência (Término): 31 de agosto de 2022
• Área do conhecimento: Ciências Exatas e da Terra - Física
• Pesquisador responsável: Nestor Felipe Caticha Alfonso
• Beneficiário: Pietro Zanin
• Instituição Sede: Instituto de Física (IF). Universidade de São Paulo (USP). São Paulo , SP, Brasil
• Assunto(s): Aprendizagem profunda Aprendizado computacional Redes neurais (computação) Atratores Mecânica estatística Sistemas complexos
• Palavra(s)-Chave do Pesquisador: Algoritmos de Aprendizado | Modelos de agentes | Redes Neurais de arquitetura profunda | Redes Neurais de Atratores | Mecânica Estatísitca de Sistemas Complexos

Resumo

I. Introduzimos um novo tipo de interação entre agentes modelados por redes neurais de atratores. Estudamos analiticamente a influência na capacidade crítica de redes sujeitas a interação com outra rede. Os dois agentes recebem a mesma quantidade de informação prévia, mas são sujeitas a diferentes tempos da dinâmica de sonhos, que leva a diferentes depurações de mínimos locais do Hamiltoniano. Resultados preliminares indicam uma vasta gama de possíveis mudança da capacidade dos agentes de processar informação. II. Estudaremos, usando técnicas de inferência (Dinâmica Entrópica) os algoritmos ótimos para redes de arquitetura profunda com elementos das camadas escondidas na classe ReLu, que tem demonstrado levar a comportamento menos singular que unidades com funções de transferência sigmoidal. Aparentemente as propriedades de convexidade ou não da função de transferência tem importância na ordem da transição de fase de especialização nos ramos internos da rede. (AU)

Publicações científicas

(Referências obtidas automaticamente do Web of Science e do SciELO, por meio da informação sobre o financiamento pela FAPESP e o número do processo correspondente, incluída na publicação pelos autores)

ZANIN, PIETRO; CATICHA, NESTOR. Interacting dreaming neural networks. JOURNAL OF STATISTICAL MECHANICS-THEORY AND EXPERIMENT, v. 2023, n. 4, p. 23-pg., 2023-04-01. (21/07951-7)

Publicações acadêmicas

(Referências obtidas automaticamente das Instituições de Ensino e Pesquisa do Estado de São Paulo)

ZANIN, Pietro. Análise de redes neurais de atratores interagentes por meio de um modelo com solução analítica. 2022. Dissertação de Mestrado - Universidade de São Paulo (USP). Instituto de Física (IF/SBI) São Paulo.