¿Cómo funciona la regresión cuantil?

Espero obtener una explicación intuitiva y accesible de la regresión cuantil.

Digamos que tengo un conjunto de datos simple del resultado , y predictores .X 1 , X $Y$$X_1, X_2$

Si, por ejemplo, ejecuto una regresión cuantil en .25, .5, .75 y obtengo .$\beta_{0,.25},\beta_{1,.25}...\beta_{2,.75}$

¿Se encuentran los valores simplemente ordenando los valores , y realizando una regresión lineal basada en los ejemplos que están en / cerca del cuantil dado?$\beta$$y$

¿O todas las muestras contribuyen a las estimaciones , con pesos descendentes a medida que aumenta la distancia desde el cuantil?$\beta$

¿O es algo totalmente diferente? Todavía tengo que encontrar una explicación accesible.

Recomiendo Koenker y Hallock (2001, Journal of Economic Perspectives) y el libro de texto homónimo de Koenker .

1. El punto de partida es la observación de que la mediana de un conjunto de datos minimiza la suma de los errores absolutos . Es decir, el cuantil del 50% es una solución a un problema de optimización particular (para encontrar el valor que minimiza la suma de los errores absolutos).
2. A partir de esto, es fácil encontrar que cualquier -quantile es la solución a un problema de minimización específico, a saber, minimizar una suma de errores absolutos ponderados asimétricamente , con pesos que dependen de .$\tau$$\tau$
3. Finalmente, para dar el paso a la regresión, modelamos la solución a este problema de minimización como una combinación lineal de variables predictoras, por lo que ahora el problema es encontrar no un solo valor, sino un conjunto de parámetros de regresión.

Por lo tanto, su intuición es bastante correcta: todas las muestras contribuyen a las estimaciones , con pesos asimétricos que dependen del cuantil que apuntamos.$\beta$$\tau$

La idea básica de la regresión cuantil proviene del hecho de que el analista está interesado en la distribución de datos y no solo en la media de los datos. Comencemos con la media.

La regresión media ajusta una línea de la forma de a la media de los datos. En otras palabras, E ( Y | X = x ) = x β . Un enfoque general para estimar esta línea es usar el método de mínimos cuadrados, arg min β ( y - x β ) ′ ( y - X β ) .$y=X\beta$$E(Y|X=x)=x\beta$$\arg\min_\beta (y-x\beta)'(y-X\beta)$

Por otro lado, la regresión mediana busca una línea que espere que la mitad de los datos estén en lados. En este caso, la función objetivo es donde | . El | Es la primera norma.$\arg\min_\beta |y-X\beta|$$|.|$

Extender la idea de mediana a resultados cuantiles en la regresión cuantil. La idea detrás es encontrar una línea en la que el porcentaje de datos esté más allá de eso.$\alpha$

Aquí cometió un pequeño error, la regresión Q no es como encontrar un cuantil de datos y luego ajustar una línea a ese subconjunto (o incluso los bordes que son más desafiantes).

La regresión Q busca una línea que divida los datos en un grupo q un cuantil y los restos. Función objetivo, diciendo función de comprobación de Q-regresión es β alpha = arg min β { alpha | y - X β | I ( y > X β ) + ( 1 - α ) | y - X β | I ( y < X β ) }$\alpha$

Como puede ver, esta inteligente función objetivo no es más que traducir cuantil a un problema de optimización.

$\beta_\alpha$