Interpretabilidade de redes profundas

Resumo

Nos últimos anos, grandes avanços têm ocorrido na área de inteligência artificial (AI). Diferentes tipos de aplicações a diferentes setores tecnológicos tem sido desenvolvidos. Em especial, uma classe de algoritmos chamada de deep learning (DL, aprendizagem profunda) vêm se destacando na área de AI. Entre as aplicações de DL que têm demostrado grande capacidade, o reconhecimento e classificação de imagens, reconhecimento de voz e simulação de jogadores em jogos atingiu o status de estado da arte. Apesar desse rápido sucesso, muitos desenvolvimentos ainda têm que ser alcançados como, por exemplo, nas questões relacionadas com interpretabilidadee representabilidade, que estão no cerne do futuro sucesso do DL. Essas questões estão diretamente relacionadas a melhoria dos métodos e no aumento de confiança dos algoritmos em relação ao usuário. Neste projeto, serão investigadas e desenvolvidas técnicas de interpretabilidade dos algoritmos de DL. Aspectos intrínsecos ao DL como hierarquia, geração de diferentes representações, composição de elementos simples em elementos zomplexos e abstração crescente dos dados irão guiar o desenvolvimento de tais técnicas. Para isso, ferramentas teóricas e computacionais serão empregadas com o objetivo de criar novas rotas de interpretação para o DL. Entre esses, será desenvolvido um método híbrido que incorpore a capacidade dos algoritmos de DL e outras redes de fácil interpretação. Ademais, uma aplicação no campo da astronomia será desenvolvida visando estimar o redshift de galáxias a partir de dados fotométricos. Estimar o redshift de galáxias é fundamental para a estimativa de parâmetros em modelos astronômicos. O emprego de algoritmos de DL se torna vantajoso para esse problema devido a grande quantidade de dados fotométricos e a presença de ruídos e falhas inerentes a esses dados. (AU)