Proving properties of binary classification neural networks via Lukasiewicz logic

Autor(es)

Preto, Sandro ; Finger, Marcelo

• Tipo de documento: Artigo Científico
• Fonte: LOGIC JOURNAL OF THE IGPL; v. N/A, p. 17-pg., 2022-06-10.

Resumo

Neural networks are widely used in systems of artificial intelligence, but due to their black box nature, they have so far evaded formal analysis to certify that they satisfy desirable properties, mainly when they perform critical tasks. In this work, we introduce methods for the formal analysis of reachability and robustness of neural networks that are modeled as rational McNaughton functions by, first, stating such properties in the language of Lukasiewicz infinitely-valued logic and, then, using the reasoning techniques of such logical system. We also present a case study where we employ the proposed techniques in an actual neural network that we trained to predict whether it will rain tomorrow in Australia. (AU)

• Processo FAPESP: 14/12236-1 - AnImaLS: Anotação de Imagem em Larga Escala: o que máquinas e especialistas podem aprender interagindo?
• Beneficiário: Alexandre Xavier Falcão
• Modalidade de apoio: Auxílio à Pesquisa - Temático
• Processo FAPESP: 19/07665-4 - Centro de Inteligência Artificial
• Beneficiário: Fabio Gagliardi Cozman
• Modalidade de apoio: Auxílio à Pesquisa - Programa eScience e Data Science - Centros de Pesquisa em Engenharia
• Processo FAPESP: 15/21880-4 - PROVERBS -- Sistemas Booleanos Probabilísticos Super-restritos: ferramentas de raciocínio e aplicações
• Beneficiário: Marcelo Finger
• Modalidade de apoio: Auxílio à Pesquisa - Regular
• Processo FAPESP: 21/03117-2 - Verificação formal de redes neurais via lógica infinitamente-valorada de Lukasiewicz
• Beneficiário: Sandro Márcio da Silva Preto
• Modalidade de apoio: Bolsas no Brasil - Pós-Doutorado