Avaliação de Ferramentas de Ética em Modelos de Linguagem

• Processo: 24/23118-1
• Modalidade de apoio: Bolsas no Brasil - Doutorado
• Data de Início da vigência: 01 de junho de 2025
• Data de Término da vigência: 31 de agosto de 2028
• Área de conhecimento: Ciências Exatas e da Terra - Ciência da Computação
• Pesquisador responsável: Hélio Pedrini
• Beneficiário: Jhessica Victoria Santos da Silva
• Instituição Sede: Instituto de Computação (IC). Universidade Estadual de Campinas (UNICAMP). Campinas , SP, Brasil
• Vinculado ao auxílio: 23/12865-8 - Horus: técnicas de inteligência artificial para detecção e análise de realidades sintéticas, AP.TEM
• Assunto(s): Ética Inteligência artificial
• Palavra(s)-Chave do Pesquisador: Ética | Inteligência Artificial | Modelos de linguagem | Ética em Inteligência Artificial

Resumo

Na área de Inteligência Artificial (IA), os modelos de linguagem ganharam um espaço importante devido aos avanços obtidos em vários campos de conhecimento e a popularização de sistemas capazes de simular conversas realistas com seres humanos através da geração de textos. Por conta dos seus impactos na sociedade, torna-se fundamental que esses modelos sejam desenvolvidos e implantados de forma responsável, com atenção aos seus impactos negativos e possíveis danos. Nos últimos anos, houve um aumento na publicação de Ferramentas de Ética para IA (AIETs, do inglês AI Ethics Tools), com o objetivo de ajudar desenvolvedores, empresas, governos e outras partes interessadas a estabelecer confiança, transparência e responsabilidade com suas tecnologias.Em nosso trabalho anterior, propomos uma metodologia para selecionar e avaliar AIETs em modelos de linguagem. Realizamos um levantamento bibliográfico e definimos critérios para filtrar todas as AIETs encontradas. Através de entrevistas com desenvolvedores de modelos de linguagem em português, avaliamos quantitativamente 4 AIETs. A avaliação considerou as percepções dos desenvolvedores sobre o uso e a qualidade das AIETs em ajudar a identificar considerações éticas, bem como se essas considerações correspondem à literatura sobre os impactos éticos desses modelos. Este projeto de pesquisa propõe a extensão de nosso trabalho anterior, realizando uma análise qualitativa sistemática das entrevistas realizadas. Busca-se com essa análise obter insights mais profundos sobre os impactos dos modelos de linguagem desenvolvidos para a língua portuguesa e sobre como os desenvolvedores entendem esses impactos, considerando-se também as nuances das conversas durante as entrevistas e a lógica para mapear os riscos do modelo. Após essa análise, pretende-se identificar as lacunas das AIETs avaliadas e assim propor uma nova AIET exclusiva para modelos de linguagem.