What question did this study set out to answer?

O estudo tem como objetivo desenvolver um modelo de regressão binária não paramétrica com perda logarítmica em um quadro de espaço métrico.

February 12, 2026Open Access

Regressão binária não paramétrica em espaços métricos com perda logarítmica

AAAriel AvitalBen-Gurion University of the Negev KEKlim Efremenko AKAryeh KontorovichBen-Gurion University of the Negev

Key Points

O estudo tem como objetivo desenvolver um modelo de regressão binária não paramétrica com perda logarítmica em um quadro de espaço métrico.
Propor um modelo de regressão binária regularizado por Lipschitz.
Derivar um algoritmo de otimização livre de parâmetros baseado em métodos de ponto interior.
Abordar os desafios impostos por uma função de perda não limitada com uma abordagem de truncamento adaptativo.
Estabelecer fundamentos computacionais e teóricos para o modelo.
Apresentar novos desafios estatísticos relacionados à aprendibilidade devido à perda não limitada.
Demonstrar a necessidade de truncamento para aprendizado eficaz.
Fornecer resultados empíricos encorajadores que apoiam o modelo proposto.

Abstract

Resumo Em modelos discriminativos de Bernoulli, a log-verossimilhança é uma escolha natural — e, em um sentido bem definido, universal — de pontuação de risco. Neste contexto geral, propomos uma variante não paramétrica da regressão binária, onde o modelo é regularizado para ser uma função Lipschitz que leva um espaço métrico a 0, 1. Nossa escolha de perda logarítmica corresponde à pontuação de risco de log-verossimilhança. Este contexto apresenta novos desafios computacionais e estatísticos. No lado computacional, derivamos um algoritmo de otimização eficiente baseado em métodos de ponto interior (MPI); uma característica atraente é que é livre de parâmetros (ou seja, não requer ajuste do tamanho do passo de atualização). No lado estatístico, a função de perda não limitada apresenta um problema para limites de generalização clássicos, baseados em número de cobertura e técnicas de Rademacher. Além disso, um resultado de impossibilidade que provamos mostra que a não limitação apresenta um obstáculo inerente à aprendibilidade. Contornamos esse desafio por meio de uma abordagem de truncamento adaptativo, e também derivamos um limite inferior indicando que o truncamento é, de certa forma, necessário. Até onde sabemos, nossa abordagem fornece os primeiros resultados computacionais e teóricos rigorosos nesta área. Finalmente, apresentamos resultados empíricos encorajadores.

Perguntar à IA

Bookmark

View Full Paper