Support for Knowledge-Enhanced Learning Research at the Center for Artificial Intelligence

• Grant number: 23/13722-6
• Support Opportunities: Scholarships in Brazil - Technical Training Program - Technical Training
• Start date: November 01, 2023
• End date: October 31, 2024
• Field of knowledge: Physical Sciences and Mathematics - Computer Science - Computing Methodologies and Techniques
• Agreement: IBM Brasil
• Principal Investigator: Fabio Gagliardi Cozman
• Grantee: Givanildo de Sousa Gramacho
• Host Institution: Centro de Inovação da USP (INOVA). Universidade de São Paulo (USP). São Paulo , SP, Brazil
• Company: Universidade de São Paulo (USP). Centro de Inovação da USP (INOVA)
• Associated research grant: 19/07665-4 - Center for Artificial Intelligence, AP.eScience.CPE

Abstract

O trabalho a ser desenvolvida pelo bolsista TT-4 está associado a um projeto de pesquisa focado no desenvolvimento de raciocínio neuro-simbólico, em especial modelos de linguagem e tecnologias associadas, capazes de habilitar agentes conversacionais com a habilidade de adquirir conhecimento orientado a domínio e aplicá-lo em contexto de interação com usuário via diálogos.Em particular, existe uma dificuldade atual referente à avaliação da robustez dos modelos de linguagem e a confiança que se pode atribuir ao conhecimento gerado por eles. Por serem modelos fundamentalmente generativos, de acordo com os princípios do raciocínio indutivo, não garantem raciocínio livre de falhas e, não eventualmente, produzem enunciados de discursos que carregam vieses, inverdades e incoerências. A avaliação que se aplica a estes modelos ainda não está sistematizada e totalmente validada na literatura, tendo como efeito uma falta de sistematização nos procedimentos de avaliação geralmente aplicados. Parte desta falta de sistematização reside na ausência de arcabouços computacionais organizados em ferramentas que podem ser usadas de maneira padronizado em procedimentos de avaliação.As atividades do bolsista estão associadas à especificação e desenvolvimento de um ferramental de avaliação para modelos de linguagem quando aplicados como soluções orientadas a domínio e cuja interação com pessoas se dá via diálogos. Tais atividades exigirão conhecimento de tecnologia de informação (bibliotecas e frameworks bem estabelecidos na comunidade de teóricos e desenvolvedores de modelos de linguagem e de sistemas de diálogo) bem como experiência em programação e documentação adequadas para fins de construção de código adequado para disponibilização pública e organização para ser extensível, estimulando o desenvolvimento de software colaborativo.O bolsista trabalhará no âmbito do Centro de Inteligência Artificial com interação direta pesquisadores de diferentes níveis de experiência, atuando como apoiador para a viabilização de produção de resultados de forma sistemática e otimizada, e consequentemente conferindo produtividade às atividades de pesquisa do grupo de pesquisa ao qual estará associado. (AU)