Governança de algoritmos de inteligência artificial: projeto ético-técnico da IA

• Processo: 23/09121-7
• Modalidade de apoio: Bolsas no Brasil - Pós-Doutorado
• Data de Início da vigência: 01 de novembro de 2023
• Data de Término da vigência: 30 de junho de 2025
• Área de conhecimento: Ciências Sociais Aplicadas - Direito
• Pesquisador responsável: Nuno Manuel Morgadinho dos Santos Coelho
• Beneficiário: Paola Cantarini Guerra
• Instituição Sede: Faculdade de Direito de Ribeirão Preto (FDRP). Universidade de São Paulo (USP). Ribeirão Preto , SP, Brasil
• Vinculado ao auxílio: 13/07375-0 - CeMEAI - Centro de Ciências Matemáticas Aplicadas à Indústria, AP.CEPID
• Assunto(s): Filosofia do direito Inteligência artificial Algoritmos Governança
• Palavra(s)-Chave do Pesquisador: Design ético-técnico | Governança | Inteligência Artificial | Filosofia do Direito e inteligência artificial

Resumo

O presente projeto de pesquisa possui uma abordagem holística, inclusiva,democrática e trans/interdisciplinar envolvendo as áreas Inovação Tecnológica, Matemática, Filosofia, Sociologia e Direito, postulando-se inclusive por uma relação necessária entre tais disciplinas, já que na origem da IA, com a Cibernética, havia tal reconhecimento da necessidade de uma abordagem holística, sendo uma disciplina transclássica. A proposta se traduz, em suma, na aplicação dos resultados da presente pesquisa, na forma de um "produto", para aplicações de IA em forma de um "Sandbox Regulatório", aplicando-se na prática toda a construção epistemológica e metodológica ora proposta. Posteriormente, visa-se a construção de uma espécie de plataforma digital, uma plataforma de dados aberta para o envolvimento dos cidadãos, auxiliando os Órgãos de Proteção de direitos humanos/fundamentais, para ampliarmos o debate democrático, a perspectiva de cidadania ativa e conscientização, pois assim contribuiríamos para a abordagem denominada de "co-approach", essencial para falarmos em inclusão, democracia, equanimidade e justiça algorítmica.Trata-se da análise, desenvolvimento e aplicação de um "framework" que envolverá, outrossim, o respeito à múltipla dimensionalidade dos direitos fundamentais, olhando para potenciais de afrontas a tais direitos, no âmbito individual, coletivo e social, e assim, buscará, analisar também os impactos ambientais diretos e indiretos das aplicações de IA. com o fim de estabelecer limites e medidas mitigadoras de danos, como uma espécie de certificação ou de rótulo ecológico específico, levando em consideração todo o ciclo de vida da aplicação de IA. Visa-se ainda analisar a viabilidade da aplicação da chamada fórmula de ponderação e a aplicabilidade da "fórmula matemática de R. Alexy revisitada", a partir do diálogo deste com M. Suzi, mas olhando-se agora para aplicações específicas, e problemas afetos ao Brasil, ou seja, levando-se em consideração o contexto sócio-cultural em questão, e parcelas vulneráveis de nossapopulação, para, posteriormente, aplicar em casos práticos e paradigmáticos tal "framework", em um Sandbox regulatório, o qual poderá servir de modelo futuro a ser observado para aferir com isso o nível de maturidade, segurança, confiança e prestação de contas para aquele determinado caso em particular de aplicação de IA. Por outro lado, visa-se contribuir para a implementação de instrumentos de governança em IA e big data, levando em consideração a possível afronta de todos os direitos fundamentais, como também o impacto ambiental, e contribuir para o aumento do nível de transparência, explicabilidade e contestabilidade e, assim, para a justiça social e "design justice ", ou "justiça algorítmica".O projeto possui, em suma, os seguintes objetivos gerais: elaboração de um "framework" dentro da estrutura de um modelo de governança da IA para o Brasil e países do Sul Global, a fim de contribuir para o desenvolvimento de um modelo inclusivo, democrático, multicultural, levando em conta o conceito de Epistemologias do Sul, baseado na abordagem de co-construção ("co-abordagem"), garantindo assim a diversidade epistêmica, justiça algorítmica, com uma proteção adequada de direitos fundamentais/humanos envolvendo a IA.O objetivo é proporcionar, portanto, uma base epistemológica e metodológica que não existe no mercado nacional e internacional para a criação de uma "estrutura" que contribuirá para a avaliação do nível de maturidade das empresas, instituições e órgãos privados e públicos, e para o aumento da confiança no mercado nacional e internacional, resultando em uma contribuição para a realização do Estado Democrático de Direito, pois corresponde à proteção adequada dos direitos fundamentais de todas as parcelas da população. (AU)