Forma alternativa de derivar coeficientes MCO

En otra pregunta mía , un respondedor usó la siguiente derivación del coeficiente OLS:

Tenemos un modelo: donde no se observa. Luego tenemos:
$Y = X_{1} β + X_{2} β_{2} + Z γ + ε,$ $Y = X_1 \beta + X_2 \beta_2 + Z \gamma + \varepsilon,$ $Z$ dondey. $plim {\hat{β}}_{1} = β_{1} + γ \frac{C o v (X_{1}^{*}, Z)}{V a r (X_{1}^{*})} = β_{1},$ $\text{plim}\, \hat \beta_{1} = \beta_1 + \gamma \frac{Cov(X_1^*, Z)}{Var(X_1^*)} = \beta_1,$ $X_1^* = M_2 X_1$ $M_2 = [I - X_2(X_2'X_2)^{-1}X_2']$

Esto se ve diferente del habitual que he visto en Econometría. ¿Existe una exposición más explícita de esta derivación? ¿Hay un nombre para la matriz ? $\beta = (X'X)^{-1}X'Y$ $M_2$

econometrics regression Heisenberg
fuente

Estoy bastante seguro de que se describe en las notas de conferencia de Hansen, pero no las tengo en mis manos en este momento.

FooBar

El matriz es la "aniquilador" o matriz "fabricante residual" asociado con la matriz . Se llama "aniquilador" porque (por supuesto, su propia matriz ). Está se denomina "fabricante residual" porque , en la regresión . $\mathbf M = \mathbf I-\mathbf X(\mathbf X'\mathbf X)^{-1}\mathbf X'$ $\mathbf X$ $\mathbf M\mathbf X =0$ $X$ $\mathbf M \mathbf y =\mathbf {\hat e}$ $\mathbf y = \mathbf X \beta + \mathbf e$

Es una matriz simétrica e idempotente. Se utiliza en la prueba del teorema de Gauss-Markov.

Además, se utiliza en el teorema de Frisch-Waugh-Lovell , del cual se pueden obtener resultados para la "regresión particionada", que dice que en el modelo (en forma de matriz)

y = X_{1} β_{1} + X_{2} β_{2} + u

$\mathbf y = \mathbf X_1\beta_1 + \mathbf X_2\beta_2 + \mathbf u$

tenemos eso

{\hat{β}}_{1} = (X_{1}^{'} M_{2} X_{1})^{- 1} (X_{1}^{'} M_{2}) y

$\hat \beta_1 = (\mathbf X_1'\mathbf M_2\mathbf X_1)^{-1}(\mathbf X_1'\mathbf M_2)\mathbf y$

Como es idempotente, podemos reescribir lo anterior por $\mathbf M_2$

{\hat{β}}_{1} = (X_{1}^{'} M_{2} M_{2} X_{1})^{- 1} (X_{1}^{'} M_{2} M_{2}) y

$\hat \beta_1 = (\mathbf X_1'\mathbf M_2\mathbf M_2\mathbf X_1)^{-1}(\mathbf X_1'\mathbf M_2\mathbf M_2)\mathbf y$

$M_2$

{\hat{β}}_{1} = ([M_{2} X_{1}]^{'} [M_{2} X_{1}])^{- 1} ([M_{2} X_{1}]^{'} [M_{2} y]

$\hat \beta_1 = ([\mathbf M_2\mathbf X_1]'[\mathbf M_2\mathbf X_1])^{-1}([\mathbf M_2\mathbf X_1]'[\mathbf M_2\mathbf y]$

Pero este es el estimador de mínimos cuadrados del modelo

[M_{2} y] = [M_{2} X_{1}] β_{1} + M_{2} u

$[\mathbf M_2\mathbf y] = [\mathbf M_2\mathbf X_1]\beta_1 + \mathbf M_2\mathbf u$

$\mathbf M_2\mathbf y$ $\mathbf y$ $\mathbf X_2$

$\mathbf y$ $\mathbf X_2$ $\mathbf M_2\mathbf X_1$ $\hat \beta_1$ $\mathbf y$ $\mathbf X_1$ $\mathbf X_2$

$\mathbf X_1$ $\mathbf x_1$ $\mathbf M_2 \mathbf x_1$ $X_1$ $\mathbf X_2$ $\hat \beta_1$ $X_1$ $\mathbf X_2$ $Y$ $\mathbf X_2$

Esta es una parte emblemática del clásico Álgebra de mínimos cuadrados.

Alecos Papadopoulos
fuente

Comencé a responder, pero me superpuse mucho con esta respuesta. Puede encontrar mucha de esta información en el Capítulo 3.2.4 de la 7ª edición de "Análisis econométrico" de Bill Greene.

cc7768

@ cc7768 Sí, esa es una buena fuente de álgebra de mínimos cuadrados. Pero no dude en publicar material adicional. Por ejemplo, esencialmente mi respuesta cubre solo la segunda pregunta del OP.

Alecos Papadopoulos

M_{2} y

$\mathbf M_2y$

X_{1}

$\mathbf X_1$

{\hat{β}}_{1}

$\hat \beta_1$

M_{2} y

$\mathbf M_2y$

M_{2} X_{1}

$\mathbf M_2\mathbf X_1$

@Heisenberg Correcto. Error de tipografía. Lo arregló y agregó un poco más.

Alecos Papadopoulos

Forma alternativa de derivar coeficientes MCO

Respuestas: