Ajuste Fino de LLM com Instruction Fine-Tuning e Avaliação de Zero-Shot Learning no Domínio Jurídico

• Processo: 24/18041-0
• Modalidade de apoio: Bolsas no Brasil - Programa Capacitação - Treinamento Técnico
• Data de Início da vigência: 01 de novembro de 2024
• Data de Término da vigência: 28 de fevereiro de 2026
• Área de conhecimento: Ciências Exatas e da Terra - Ciência da Computação - Sistemas de Computação
• Pesquisador responsável: Ricardo Marcondes Marcacini
• Beneficiário: Jorge Carlos Valverde Rebaza
• Instituição Sede: Instituto de Ciências Matemáticas e de Computação (ICMC). Universidade de São Paulo (USP). São Carlos , SP, Brasil
• Vinculado ao auxílio: 23/10100-4 - Desenvolvimento de Grandes Modelos de Língua para Aplicações no Domínio Jurídico, AP.PP
• Assunto(s): Aprendizado computacional
• Palavra(s)-Chave do Pesquisador: Dados no domínio Jurídico | Fine-tuning de LLMs | Grandes Modelos de Linguagem | LLM Evaluation Metrics | machine learning | Shot-based learning | Inteligência Artificial Generativa

Resumo

O bolsista deve aprimorar grandes modelos de linguagem (LLMs) no domínio jurídico da Procuradoria-Geral da Fazenda Nacional (PGFN) por meio de instruction fine-tuning e zero-shot learning. Para tal, irá realizar tarefas desde a coleta de dados a análise do desempenho dos modelos. Espera-se que os modelos de linguagem desenvolvidos demonstrem desempenho superior na classificação de matérias tributárias, previsão de resultados de processos judiciais e adaptação a cenários com baixo volume de dados.