| Processo: | 24/23118-1 |
| Modalidade de apoio: | Bolsas no Brasil - Doutorado |
| Data de Início da vigência: | 01 de junho de 2025 |
| Data de Término da vigência: | 31 de agosto de 2028 |
| Área de conhecimento: | Ciências Exatas e da Terra - Ciência da Computação |
| Pesquisador responsável: | Hélio Pedrini |
| Beneficiário: | Jhessica Victoria Santos da Silva |
| Instituição Sede: | Instituto de Computação (IC). Universidade Estadual de Campinas (UNICAMP). Campinas , SP, Brasil |
| Vinculado ao auxílio: | 23/12865-8 - Horus: técnicas de inteligência artificial para detecção e análise de realidades sintéticas, AP.TEM |
| Assunto(s): | Ética Inteligência artificial |
| Palavra(s)-Chave do Pesquisador: | Ética | Inteligência Artificial | Modelos de linguagem | Ética em Inteligência Artificial |
Resumo Na área de Inteligência Artificial (IA), os modelos de linguagem ganharam um espaço importante devido aos avanços obtidos em vários campos de conhecimento e a popularização de sistemas capazes de simular conversas realistas com seres humanos através da geração de textos. Por conta dos seus impactos na sociedade, torna-se fundamental que esses modelos sejam desenvolvidos e implantados de forma responsável, com atenção aos seus impactos negativos e possíveis danos. Nos últimos anos, houve um aumento na publicação de Ferramentas de Ética para IA (AIETs, do inglês AI Ethics Tools), com o objetivo de ajudar desenvolvedores, empresas, governos e outras partes interessadas a estabelecer confiança, transparência e responsabilidade com suas tecnologias.Em nosso trabalho anterior, propomos uma metodologia para selecionar e avaliar AIETs em modelos de linguagem. Realizamos um levantamento bibliográfico e definimos critérios para filtrar todas as AIETs encontradas. Através de entrevistas com desenvolvedores de modelos de linguagem em português, avaliamos quantitativamente 4 AIETs. A avaliação considerou as percepções dos desenvolvedores sobre o uso e a qualidade das AIETs em ajudar a identificar considerações éticas, bem como se essas considerações correspondem à literatura sobre os impactos éticos desses modelos. Este projeto de pesquisa propõe a extensão de nosso trabalho anterior, realizando uma análise qualitativa sistemática das entrevistas realizadas. Busca-se com essa análise obter insights mais profundos sobre os impactos dos modelos de linguagem desenvolvidos para a língua portuguesa e sobre como os desenvolvedores entendem esses impactos, considerando-se também as nuances das conversas durante as entrevistas e a lógica para mapear os riscos do modelo. Após essa análise, pretende-se identificar as lacunas das AIETs avaliadas e assim propor uma nova AIET exclusiva para modelos de linguagem. (AU) | |
| Matéria(s) publicada(s) na Agência FAPESP sobre a bolsa: | |
| Mais itensMenos itens | |
| TITULO | |
| Matéria(s) publicada(s) em Outras Mídias ( ): | |
| Mais itensMenos itens | |
| VEICULO: TITULO (DATA) | |
| VEICULO: TITULO (DATA) | |