Hiper-heurísticas multi-objetivas para construção automática de algoritmos de indução de árvores de decisão com múltiplos testes

Resumo

Árvores de Decisão constituem uma técnica poderosa e amplamente utilizada em tarefas de aprendizado de máquina e mineração de dados, principalmente em virtude da facilidade de interpretação do conhecimento adquirido. Em contraste com os algoritmos tradicionais de indução de árvores de decisão - todos manualmente desenvolvidos por humanos - o algoritmo HEAD-DT constitui uma abordagem de hiper-heurística evolutiva para construção automática de algoritmos de indução de árvores de decisão. HEAD-DT trabalha sobre diversos componentes manualmente desenvolvidos para indução de árvores de decisão, combinando os componentes mais adequados para o problema em questão. Recentemente, foi introduzido o conceito de árvores de decisão com múltiplos testes (MTDT, do inglês Multi-Test Decision Trees), uma nova forma de representação de árvores de decisão. Nas MTDT, cada nó da árvore pode ser composto por múltiplos testes univariados, o que pode ser visto como um caso intermediário (em termos de interpretabilidade) entre as árvores de decisão univariadas e as árvores de decisão multivariadas. Em relação aos algoritmos tradicionais de árvores de decisão univariadas, os algoritmos de indução das MTDT possuem certas particularidades. O critério de split é um exemplo claro, em que pode ser conduzido por um mecanismo de votação majoritária em que todos os testes univariados têm a mesma importância. No entanto, diversas outras estratégias podem ser desenvolvidas para realizar essa tarefa. Nesse contexto, o presente projeto propõe estender o algoritmo HEAD-DT em dois principais aspectos: (i) construir automaticamente algoritmos de indução de árvores de decisão com múltiplos testes, e algumas extensões; e (ii) adotar três abordagens multi-objetivas para guiar o processo evolutivo. Embora muitos trabalhos utilizem algoritmos evolutivos para indução de árvores de decisão, o que se propõe aqui é algo totalmente diferente, pois a ideia é evoluir algoritmos genéricos para indução de árvores de decisão de múltiplos testes, ou seja, o resultado final do método será um algoritmo de indução, e não apenas uma árvore de decisão. Isso caracteriza um algoritmo de meta-learning, pois o objetivo é aprender um algoritmo de aprendizagem. (AU)