Suporte a Pesquisa em Aprendizado Enriquecido por Conhecimento no Centro de Inteligência Artificial

• Processo: 23/13722-6
• Modalidade de apoio: Bolsas no Brasil - Programa Capacitação - Treinamento Técnico
• Data de Início da vigência: 01 de novembro de 2023
• Data de Término da vigência: 31 de outubro de 2024
• Área de conhecimento: Ciências Exatas e da Terra - Ciência da Computação - Metodologia e Técnicas da Computação
• Acordo de Cooperação: IBM Brasil
• Pesquisador responsável: Fabio Gagliardi Cozman
• Beneficiário: Givanildo de Sousa Gramacho
• Instituição Sede: Centro de Inovação da USP (INOVA). Universidade de São Paulo (USP). São Paulo , SP, Brasil
• Empresa: Universidade de São Paulo (USP). Centro de Inovação da USP (INOVA)
• Vinculado ao auxílio: 19/07665-4 - Centro de Inteligência Artificial, AP.eScience.CPE
• Assunto(s): Inteligência artificial
• Palavra(s)-Chave do Pesquisador: Teste e Validação de Modelos de Linguagens Grandes | Inteligência artificial

Resumo

O trabalho a ser desenvolvida pelo bolsista TT-4 está associado a um projeto de pesquisa focado no desenvolvimento de raciocínio neuro-simbólico, em especial modelos de linguagem e tecnologias associadas, capazes de habilitar agentes conversacionais com a habilidade de adquirir conhecimento orientado a domínio e aplicá-lo em contexto de interação com usuário via diálogos.Em particular, existe uma dificuldade atual referente à avaliação da robustez dos modelos de linguagem e a confiança que se pode atribuir ao conhecimento gerado por eles. Por serem modelos fundamentalmente generativos, de acordo com os princípios do raciocínio indutivo, não garantem raciocínio livre de falhas e, não eventualmente, produzem enunciados de discursos que carregam vieses, inverdades e incoerências. A avaliação que se aplica a estes modelos ainda não está sistematizada e totalmente validada na literatura, tendo como efeito uma falta de sistematização nos procedimentos de avaliação geralmente aplicados. Parte desta falta de sistematização reside na ausência de arcabouços computacionais organizados em ferramentas que podem ser usadas de maneira padronizado em procedimentos de avaliação.As atividades do bolsista estão associadas à especificação e desenvolvimento de um ferramental de avaliação para modelos de linguagem quando aplicados como soluções orientadas a domínio e cuja interação com pessoas se dá via diálogos. Tais atividades exigirão conhecimento de tecnologia de informação (bibliotecas e frameworks bem estabelecidos na comunidade de teóricos e desenvolvedores de modelos de linguagem e de sistemas de diálogo) bem como experiência em programação e documentação adequadas para fins de construção de código adequado para disponibilização pública e organização para ser extensível, estimulando o desenvolvimento de software colaborativo.O bolsista trabalhará no âmbito do Centro de Inteligência Artificial com interação direta pesquisadores de diferentes níveis de experiência, atuando como apoiador para a viabilização de produção de resultados de forma sistemática e otimizada, e consequentemente conferindo produtividade às atividades de pesquisa do grupo de pesquisa ao qual estará associado. (AU)