Regression trees for fast and adaptive prediction intervals

Autor(es)

Cabezas, Luben M. C. ; Otto, Mateus P. ; Izbicki, Rafael ; Stern, Rafael B.

• Tipo de documento: Artigo Científico
• Fonte: INFORMATION SCIENCES; v. 686, p. 31-pg., 2024-08-27.

Resumo

In predictive modeling, quantifying prediction uncertainty is crucial for reliable decision- making. Traditional conformal inference methods provide marginally valid predictive regions but often produce non-adaptive intervals when naively applied to regression, potentially biasing applications. Recent advances using quantile regressors or conditional density estimators improve adaptability but are typically tied to specific prediction models, limiting their ability to quantify uncertainty around arbitrary models. Similarly, methods based on partitioning the feature space adopt sub-optimal strategies, failing to consistently measure predictive uncertainty across the feature space, especially in adversarial examples. This paper introduces a model-agnostic family of methods to calibrate prediction intervals for regression with local coverage guarantees. By leveraging regression trees and Random Forests, our approach constructs data-adaptive partitions of the feature space to approximate conditional coverage, enhancing the accuracy and scalability of prediction intervals. Our methods outperform established benchmarks on simulated and real- world datasets. They are implemented in the Python package clover, , which integrates seamlessly with the scikit-learn interface for practical application. (AU)

• Processo FAPESP: 23/07068-1 - Aprendizado estatístico de máquina: em direção a uma melhor quantificação de incerteza
• Beneficiário: Rafael Izbicki
• Modalidade de apoio: Auxílio à Pesquisa - Regular
• Processo FAPESP: 13/07699-0 - Centro de Pesquisa, Inovação e Difusão em Neuromatemática - NeuroMat
• Beneficiário: Oswaldo Baffa Filho
• Modalidade de apoio: Auxílio à Pesquisa - Centros de Pesquisa, Inovação e Difusão - CEPIDs
• Processo FAPESP: 19/11321-9 - Redes neurais em problemas de inferência estatística
• Beneficiário: Rafael Izbicki
• Modalidade de apoio: Auxílio à Pesquisa - Regular
• Processo FAPESP: 22/08579-7 - Validação e calibração de modelos preditivos
• Beneficiário: Luben Miguel Cruz Cabezas
• Modalidade de apoio: Bolsas no Brasil - Doutorado Direto
• Processo FAPESP: 21/02178-8 - Seleção de Variáveis Escalável para Métodos baseados em Espaços de Hilbert de reprodução
• Beneficiário: Mateus Piovezan Otto
• Modalidade de apoio: Bolsas no Brasil - Mestrado