Arquiteturas transformers profundas e bidirecionais para descoberta de conhecimento latente em artigos médicos sobre Leucemia Mieloide Aguda

Resumo

O volume de informações produzidas e acessadas através da Internet é grande e crescente. Consequentemente, a quantidade de informações disponíveis em artigos científicos segue a mesma tendência, tornando inviável a análise manual de todo o conteúdo existente. Várias estratégias e arquiteturas de redes neurais artificiais surgiram para representar textos utilizando vetores densos, chamados de wordvectors. Estas técnicas estão em contínua evolução e são capazes de processar conjuntos cada vez mais significativos de textos com menos recursos computacionais. Elas permitem o treinamento de enormes modelos de representação de textos para domínios específicos do conhecimento, como é o caso do PubMedBERT. Utilizando um grande conjunto de textos de uma única área, o modelo pode capturar melhor as relações entre as palavras. Recentemente, ao criar modelos de representação a partir de prefácios de artigos científicos na ciência dos materiais, Tshitoyan et al. (2019) observaram que o conhecimento de certas relações entre elementos estava latente. Além disso, eles demonstraram que algumas relações encontradas nos textos foram descobertas apenas anos antes. Neste contexto, este projeto de pesquisa propõe extrair vetores de palavras de artigos científicos sobre uma doença específica para capturar e analisar se é possível obter conhecimentos latentes que possam acelerar a descoberta de novos diagnósticos, prognósticos e tratamentos. (AU)