Pequenos Modelos de Linguagem no Contexto de Perguntas e Respostas em Bases de Dados Médicas

• Processo: 25/06561-1
• Modalidade de apoio: Bolsas no Brasil - Iniciação Científica
• Data de Início da vigência: 01 de setembro de 2025
• Data de Término da vigência: 31 de agosto de 2026
• Área de conhecimento: Ciências Exatas e da Terra - Ciência da Computação - Metodologia e Técnicas da Computação
• Pesquisador responsável: João Paulo Papa
• Beneficiário: Ana Lara Alves Garcia
• Instituição Sede: Faculdade de Ciências (FC). Universidade Estadual Paulista (UNESP). Campus de Bauru. Bauru , SP, Brasil
• Assunto(s): Processamento de linguagem natural Aprendizado computacional
• Palavra(s)-Chave do Pesquisador: Modelos de linguagem | Processamento de Linguagem Natural | Aprendizado de Máquina

Resumo

Nos últimos anos, a inteligência artificial (IA) tem avançado significativamente, impulsionada pelo desenvolvimento de hardware com maior capacidade de processamento e a consequente evolução dos modelos de Processamento de Linguagem Natural (PLN). No contexto médico, embora os Large Language Models (LLMs) demonstrem potencial considerável, sua implementação enfrenta desafios como vieses de julgamento, limitações de acurácia, coerência, transparência, interpretação, questões éticas e a necessidade de grandes recursos computacionais. Como alternativa promissora, os Small Language Models (SLMs) oferecem performance semelhante com um número consideravelmente menor de parâmetros. Este projeto propõe uma análise comparativa entre diferentes LLMs e SLMs na tarefa de Question Answering (QA) em bases médicas em português brasileiro, avaliando eficácia e eficiência através de benchmarks desenvolvidos a partir de provas do Revalida e informações de sociedades médicas brasileiras. Serão exploradas técnicas como Retrieval-Augmented Generation (RAG), Zero-Shot Learning, Few-Shot Learning e Fine-Tuning com abordagens como LoRA e QLoRA. A hipótese central é que não existe um único modelo ideal para todas as aplicações médicas, considerando a relação custo-benefício entre eficácia e eficiência. Espera-se com este estudo que os resultados contribuam para a adaptação e implementação dessas tecnologias na prática clínica no Brasil, possibilitando avanços significativos na assistência médica baseada em IA. (AU)