Perdas Binárias para Estimativa de Razão de Densidade

Estimar a razão de duas densidades de probabilidade a partir de um número finito de observações das densidades é um problema central em aprendizado de máquina e estatística. Uma grande classe de métodos constrói estimadores a partir de classificadores binários que distinguem observações das duas densidades. No entanto, o erro dessas construções depende da escolha da função de perda binária, levantando a questão de qual função de perda escolher com base nas propriedades de erro desejadas. Neste trabalho, partimos de medidas de erro prescritas em uma classe de divergências de Bregman e caracterizamos todas as funções de perda que levam a estimadores de razão de densidade com um pequeno erro. Nossa caracterização fornece uma receita simples para construir funções de perda com certas propriedades, como funções de perda que priorizam uma estimativa precisa de valores grandes. Isso contrasta com funções de perda clássicas, como a perda logística ou a perda de boosting, que priorizam a estimativa precisa de valores pequenos. Fornecemos ilustrações numéricas com métodos de núcleo e testamos seu desempenho em aplicações de seleção de parâmetros para adaptação profunda de domínio.