¿Qué sucede cuando incluyo una variable al cuadrado en mi regresión?

Comienzo con mi regresión OLS: donde D es una variable ficticia, las estimaciones se vuelven diferentes de cero con un valor p bajo. Luego realizo una prueba Ramsey RESET y descubro que tengo alguna especificación incorrecta de la ecuación, por lo tanto, incluyo x al cuadrado:

y = β_{0} + β_{1} x_{1} + β_{2} D + ε

$y = \beta _0 + \beta_1x_1+\beta_2 D + \varepsilon$

y = β_{0} + β_{1} x_{1} + β_{2} x_{1}^{2} + β_{3} D + ε

$y = \beta _0 + \beta_1x_1+\beta_2x_1^2+\beta_3 D + \varepsilon$

¿Qué explica el término al cuadrado? (¿Aumento no lineal en Y?)
Al hacer esto, mi estimación D ya no varía de cero, con un valor p alto. ¿Cómo interpreto el término cuadrado en mi ecuación (en general)?

Editar: Mejorando la pregunta.

regression multiple-regression interpretation least-squares polynomial seini
fuente

posible duplicado de Por qué los resultados de ANOVA / Regresión cambian cuando se controla por otra variable

Macro

Razón probable:

parecen explicar la misma variabilidad en

x_{1}^{2}

$x_{1}^2$

D

$D$

y

$y$

steadyfish

Una cosa que podría ayudar es centrar

antes de crear su término cuadrado (ver aquí ). En cuanto a la interpretación de su término al cuadrado, sostengo que es mejor interpretar

como un todo (ver aquí ). Otra cosa es que es posible que tenga una interacción, que medios de adición de

x

$x$

β_{1} x_{1} + β_{2} x_{1}^{2}

$\beta_1x_1+\beta_2x_1^2$

β_{4} x_{1} D + β_{5} x_{1}^{2} D

$\beta_4x_1D+\beta_5x_1^2D$

Gung - Restablece a Monica

No creo que sea realmente un duplicado de esa pregunta; la solución es diferente (las variables de centrado trabaja aquí, pero no existe, si no me equivoco)

Peter Flom - Restablecer Mónica

@ Peter, interpreto esta pregunta como un subconjunto de "¿Por qué cuando agrego una variable a mi modelo, la estimación del efecto / valor de

para algunos otros cambios de variable?", Que se aborda en la otra pregunta. Entre las respuestas a esas preguntas están la colinealidad (a la que alude Gung en su respuesta a esa pregunta) / la superposición de contenido entre los predictores (es decir, entre

, que sospecho que es el culpable en este caso) . La misma lógica se aplica aquí. No estoy seguro de cuál es la controversia, pero está bien si usted y otros no están de acuerdo. Salud.

p

$p$

D

$D$

(x_{1}, x_{1}^{2})

$(x_1,x_1^2)$

Macro

Respuestas:

Bueno, primero, la variable ficticia se interpreta como un cambio en la intercepción. Es decir, su coeficiente le da la diferencia en la intersección cuando , es decir, cuando , la intersección es . Esa interpretación no cambia al agregar el cuadrado . $\beta_3$ $D=1$ $D=1$ $\beta_0 + \beta_3$ $x_1$

Ahora, el punto de agregar un cuadrado a la serie es que asumes que la relación desaparece en cierto punto. Mirando tu segunda ecuación

y = β_{0} + β_{1} x_{1} + β_{2} x_{1}^{2} + β_{3} D + ε

$y = \beta _0 + \beta_1x_1+\beta_2x_1^2+\beta_3 D + \varepsilon$

Tomando el derivado wrt $x_1$

\frac{δ y}{δ x_{1}} = β_{1} + 2 β_{2} x_{1}

$\frac{\delta y}{\delta x_1} = \beta_1 + 2\beta_2 x_1$

$\beta_1<0$

\hat{y} = 1.3 + 0.42 x_{1} - 0.32 x_{1}^{2} + 0.14 D

$\hat{y} = 1.3 + 0.42 x_1 - 0.32 x_1^2 + 0.14D$

$x_1$

\frac{δ y}{δ x_{1}} = 0.42 - 2 * 0.32 x_{1}

$\frac{\delta y}{\delta x_1} = 0.42 - 2*0.32 x_1$

$x_1$

\frac{δ y}{δ x_{1}} = 0 ⟺ x_{1} \approx 0.66

$\frac{\delta y}{\delta x_1} = 0 \iff x_1 \approx 0.66$

Ese es el punto en el que la relación tiene su punto de inflexión. Puede echar un vistazo a la salida de Wolfram-Alpha para la función anterior, para visualizar su problema.

$x_1$ $y$

Δ y = (β_{1} + 2 β_{2} x_{1}) Δ x

$\Delta y = (\beta_1 + 2\beta_2x_1)\Delta x$

$\beta_1$ $x_1^2$

$D$ $x_1$

altabq
fuente

Hola. Si tuviera varios predictores, ¿debería usar derivadas parciales o derivadas totales (diferenciales)?

skan

Una derivada parcial sigue siendo la forma correcta de llegar aquí. La interpretación de todos los coeficientes es ceteris paribus , es decir, mantener todo lo demás constante. Eso es exactamente lo que estás haciendo cuando tomas una derivada parcial.

altabq

Vea esta página IDRE de UCLA para complementar la excelente respuesta de @ altabq.

Cyrille

Un buen ejemplo de incluir el cuadrado de la variable proviene de la economía laboral. Si asume ycomo salario (o logaritmo de salario) y xcomo edad, entonces incluir x^2significa que está probando la relación cuadrática entre una edad y el salario. El salario aumenta con la edad a medida que las personas adquieren más experiencia, pero a mayor edad, el salario comienza a aumentar a un ritmo decreciente (las personas envejecen y no estarán tan saludables para trabajar como antes) y en algún momento el salario no aumenta ( alcanza el nivel salarial óptimo) y luego comienza a caer (se jubilan y sus ganancias comienzan a disminuir). Entonces, la relación entre salario y edad se invierte en forma de U (efecto del ciclo de vida). En general, para el ejemplo mencionado aquí, agese espera que el coeficiente en sea positivo y que enage^2 es negativo. El punto aquí es que debe haber una base teórica / justificación empírica para incluir el cuadrado de la variable. La variable ficticia, aquí, puede considerarse como la representación del género del trabajador. También puede incluir el término de interacción de género y edad para examinar si el diferencial de género varía según la edad.

Métrica
fuente