Graphical Tool for the Interactive Design of Marker-based Convolutional Neural Networks

• Grant number: 21/08870-0
• Support Opportunities: Scholarships in Brazil - Technical Training Program - Technical Training
• Start date: September 01, 2021
• End date: January 31, 2023
• Field of knowledge: Physical Sciences and Mathematics - Computer Science - Computer Systems
• Principal Investigator: Alexandre Xavier Falcão
• Grantee: Azael de Melo e Sousa
• Host Institution: Instituto de Computação (IC). Universidade Estadual de Campinas (UNICAMP). Campinas , SP, Brazil
• Associated research grant: 14/12236-1 - AnImaLS: Annotation of Images in Large Scale: What can machines and specialists learn from interaction?, AP.TEM

Abstract

Redes Neurais Convolucionais (CNNs) têm sido usadas com sucesso em diversas aplicações de classificação de imagem, e.g., detecção de objetos, segmentação semântica e biometria. Essas redes são muitas vezes vistas como "caixas pretas", uma vez que o projetista não conta com metodologias para selecionar a arquitetura da rede, não tem controle sobre aqualidade dos filtros, e não sabe explicar as decisões da rede. A área de inteligência artificial explicável (XAI) apareceurecentemente para endereçar tais problemas, porém os métodos são mais focados em uma explicação para o usuário do que como um guia para o projetista. O grupo envolvido no projeto temático vem trabalhando na metodologia FLIM (Feature Learning From Image Markers) para construção e visualização de CNNs cujo objetivo é envolver o especialista na construção da rede. Tal envolvimento inclui a seleção manual de marcadores em regiões de interesse na imagem. Este trabalho visa uma ferramenta interativa baseada no projeto da rede FLIM e na visualização tanto de informações paramétricas, como das ativações dos filtros da rede. A ferramenta será avaliada no problema de detecção e classificação de COVID-19 em imagens de tomografia (CT) do tórax, podendo ser adaptada para outras aplicações do grupo. O projeto também conta com a colaboração de médicos radiologistas da Faculdade de Ciências Médicas da UNICAMP.