¿Errores estándar para coeficientes de regresión múltiple?

Me doy cuenta de que esta es una pregunta muy básica, pero no puedo encontrar una respuesta en ningún lado.

Estoy calculando los coeficientes de regresión usando las ecuaciones normales o la descomposición QR. ¿Cómo puedo calcular los errores estándar para cada coeficiente? Por lo general, pienso que los errores estándar se calculan como:

$SE_\bar{x}\ = \frac{\sigma_{\bar x}}{\sqrt{n}}$

¿Qué es para cada coeficiente? ¿Cuál es la forma más eficiente de calcular esto en el contexto de OLS?$\sigma_{\bar x}$

Al hacer una estimación de mínimos cuadrados (suponiendo un componente aleatorio normal), las estimaciones de los parámetros de regresión se distribuyen normalmente con una media igual al parámetro de regresión verdadero y la matriz de covarianza donde es la varianza residual y es la matriz de diseño. es la transposición de y X está definida por la ecuación del modelo Y = X \ beta + \ epsilon con \ beta los parámetros de regresión y \ epsilon es el término de error. La desviación estándar estimada de un parámetro beta se obtiene tomando el término correspondiente en (X ^ TX) ^ {- 1}$\Sigma = s^2\cdot(X^TX)^{-1}$$s^2$$X^TX$$X^T$$X$$X$$Y=X\beta+\epsilon$$\beta$$\epsilon$$(X^TX)^{-1}$multiplicándolo por la estimación muestral de la varianza residual y luego tomando la raíz cuadrada. Este no es un cálculo muy simple, pero cualquier paquete de software lo calculará por usted y lo proporcionará en la salida.

Ejemplo

En la página 134 de Draper y Smith (mencionado en mi comentario), proporcionan los siguientes datos para ajustar por mínimos cuadrados un modelo $Y = \beta_0 + \beta_1 X + \varepsilon$ donde $\varepsilon \sim N(0, \mathbb{I}\sigma^2)$ .

                      X                      Y                    XY
                      0                     -2                     0
                      2                      0                     0
                      2                      2                     4
                      5                      1                     5
                      5                      3                    15
                      9                      1                     9
                      9                      0                     0
                      9                      0                     0
                      9                      1                     9
                     10                     -1                   -10
                    ---                     --                   ---
Sum                  60                      5                    32
Sum of  Squares     482                     21                   528

Parece un ejemplo donde la pendiente debe estar cerca de 0.

Entonces

y

donde .$\bar{X} = \sum X_i/n = 60/10 = 6$

Estimación para = (b0) = (Yb-b1 Xb) b1 Sxy / Sxx$β = (X^TX)^{-1} X^TY$

b1 = 1/61 = 0.0163 y b0 = 0.5- 0.0163 (6) = 0.402

De arriba de Sb1 = Se (0.008) y Sb0 = Se (0.395) donde Se es la desviación estándar estimada para el término de error. Se = √2.3085.$(X^TX)^{-1}$

Lamento que las ecuaciones no contengan subíndice y superíndice cuando las corté y pegué. La tabla tampoco se reprodujo bien porque los espacios se ignoraron. La primera cadena de 3 números corresponde a los primeros valores de XY y XY y lo mismo para las siguientes cadenas de tres. Después de Sum vienen las sumas para XY y XY respectivamente y luego la suma de los cuadrados para XY y XY respectivamente. Las matrices 2x2 también se estropearon. Los valores después de los corchetes deben estar entre corchetes debajo de los números a la izquierda.