¿Qué calcula realmente la fórmula y ~ x + 0 en R?

¿Cuál es la diferencia estadística entre hacer una regresión lineal en R con el formulaconjunto en y ~ x + 0lugar de y ~ x? ¿Cómo interpreto esos dos resultados diferentes?

multiple-regression generalized-linear-model intercept JimBoy
fuente

Respuestas:

Agregar +0(o -1) a una fórmula modelo (por ejemplo, in lm()) en R suprime la intersección. Esto generalmente se considera algo malo; ver:

La pendiente estimada se calcula de manera diferente dependiendo de si también se estima la intersección, a saber:

\begin{aligned} (with intercept) & {\hat{β}}_{1} & = \frac{\sum x_{i} y_{i} - \frac{(\sum x_{i}) (\sum y_{i})}{N}}{\sum x_{i}^{2} - \frac{(\sum x_{i})^{2}}{N}} \\ (without intercept) & {\hat{β}}_{1} & = \frac{\sum x_{i} y_{i}}{\sum x_{i}^{2}} \end{aligned}

$\begin{align} \hat\beta_1 &= \frac{\sum x_iy_i - \frac{\big(\sum x_i\big)\big(\sum y_i\big)}{N}}{\sum x_i^2 - \frac{\big(\sum x_i\big)^2}{N}} \tag{with intercept} \\[15pt] \hat\beta_1 &= \frac{\sum x_iy_i}{\sum x_i^2} \tag{without intercept} \end{align}$

$0$

$R^2$

Aquí están las fórmulas subyacentes:

\begin{aligned} (with intercept) & R^{2} & = 1 - \frac{\sum (y_{i} - {\hat{y}}_{i})^{2}}{\sum (y_{i} - \bar{y})^{2}} \\ (without intercept) & R^{2} & = 1 - \frac{\sum (y_{i} - {\hat{y}}_{i})^{2}}{\sum y_{i}^{2}} \end{aligned}

$\begin{align} R^2 &= 1 - \frac{\sum (y_i - \hat y_i)^2}{\sum (y_i - \bar y)^2} \tag{with intercept} \\[15pt] R^2 &= 1 - \frac{\sum (y_i - \hat y_i)^2}{\sum y_i^2} \tag{without intercept} \end{align}$

gung - Restablece a Monica
fuente

Gracias Gung! Si suprimo la Intercepción, mi R cuadrado múltiple mejora, de repente. ¿Puede ayudarme aquí?

JimBoy

No existe una forma acordada para calcular r al cuadrado sin una intercepción. La r al cuadrado no tiene su interpretación habitual. Haciendo de regresión sin una intercepción es casi siempre una mala idea

Repmat

@Repmat: consulte también stats.stackexchange.com/questions/171240/…

@ JimBoy: ver stats.stackexchange.com/questions/171240/…

Depende del contexto (por supuesto), en el lm(...)comando en R suprimirá la intercepción. Es decir, haces una regresión a través del origen.

Tenga en cuenta que la mayoría de los libros de texto sobre el tema de la regresión le dirán que forzar la intercepción (a cualquier valor) es una mala idea.

La interpretación de x no cambia, pero el valor (en comparación con y sin una intercepción) cambiará, a veces de manera muy significativa.

Repmat
fuente

Gracias Repmat! Obtengo estimaciones muy diferentes si suprimo la intercepción en comparación con cuando no lo hago. Además, todas las pruebas t se vuelven altamente significativas. ¿Sabes por qué es esto?

JimBoy

La intersección absorberá cualquier variable que no sea 0 no contenida en el modelo. Con la intercepción desaparecida, la variación tiene que ir a algún lado. Es por eso que la mayoría de los libros, como regla general, establece que la regresión sin una intersección siempre es incorrecta. Es decir, OLS siempre está sesgado y es consistente en este caso (con algunas excepciones).

Repmat