¿Cuál es la relación entre y F-Test?

17

Me preguntaba si hay una relación entre y una prueba F. $R^2$

Por lo general, y mide la fuerza del relación lineal en la regresión.

R^{2} = \frac{\sum ({\hat{Y}}_{t} - \bar{Y})^{2} / T - 1}{\sum (Y_{t} - \bar{Y})^{2} / T - 1}

$R^2=\frac {\sum (\hat Y_t - \bar Y)^2 / T-1} {\sum( Y_t - \bar Y)^2 / T-1}$

Una prueba F solo prueba una hipótesis.

¿Existe una relación entre y una prueba F? $R^2$

regression hypothesis-testing least-squares goodness-of-fit Le Max
fuente

2

La fórmula para

R^{2}

$R^2$ parece incorrecta, no solo porque le faltan algunos caracteres en el denominador: esos términos "

- 1

$-1$ " no pertenecen. La fórmula correcta se parece mucho más a una estadística

F

$F$ :-).

whuber

Ver stats.stackexchange.com/questions/58107/…

Stéphane Laurent

23

Si se cumplen todos los supuestos y tiene la forma correcta para $R^2$ entonces el estadístico F habitual se puede calcular como $F = \frac{ R^2 }{ 1- R^2} \times \frac{ \text{df}_2 }{ \text{df}_1 }$ . Este valor se puede comparar con la distribución F apropiada para hacer una prueba F. Esto se puede derivar / confirmar con álgebra básica.

Greg Snow
fuente

2

¿podría definir df1 y df2?

bonobo

1

@bonobo, df1 es el grado de libertad del numerador (basado en el número de predictores) y df2 es el grado de libertad del denominador.

Greg Snow

1

Para aclarar más acerca de los grados de libertad: df1 = k, donde k es el número de predictores. df1 se llama "grados de libertad del numerador", aunque esté en el denominador de esta fórmula. df2 = n− (k + 1), donde n es el número de observaciones yk es el número de predictores. df2 se llama el "denominador grados de libertad", aunque está en el numerador de esta fórmula.

Tim Swast

55

@GregSnow ¿podría considerar agregar las definiciones de los grados de libertad a la respuesta? Sugerí tal cambio en stats.stackexchange.com/review/suggested-edits/175306 pero fue rechazado.

Tim Swast

22

Recuerde que en una configuración de regresión, el estadístico F se expresa de la siguiente manera.

F = \frac{(T S S - R S S) / (p - 1)}{R S S / (n - p)}

$F = \frac{(TSS - RSS)/(p-1)}{RSS/(n-p)}$

donde TSS = suma total de cuadrados y RSS = suma residual de cuadrados, es el número de predictores (incluida la constante) es el número de observaciones. Esta estadística tiene una distribución con grados de libertad y . $p$ $n$ $F$ $p-1$ $n-p$

Recuerde también que

R^{2} = 1 - \frac{R S S}{T S S} = \frac{T S S - R S S}{T S S}

$R^2 = 1 - \frac{RSS}{TSS} = \frac{TSS - RSS}{TSS}$

el álgebra simple le dirá que

R^{2} = 1 - (1 + F \cdot \frac{p - 1}{n - p})^{- 1}

$R^2 = 1 - (1 + F \cdot \frac{p-1}{n-p})^{-1}$

donde F es la estadística F de arriba.

Esta es la relación teórica entre el estadístico F (o la prueba F) y . $R^2$

La interpretación práctica es que un más grande conduce a valores altos de F, por lo que si es grande (lo que significa que un modelo lineal se ajusta bien a los datos), el estadístico F correspondiente debería ser grande, lo que significa que Debería haber una fuerte evidencia de que al menos algunos de los coeficientes son distintos de cero. $R^2$ $R^2$

Zheng Li
fuente

1

Intuitivamente, me gusta pensar que el resultado de la relación F da primero una respuesta de sí a no a la pregunta, '¿puedo rechazar ?' (esto se determina si la relación es mucho mayor que 1, o el valor p < ). $H_0$ $\alpha$

Entonces, si determino que puedo rechazar , indica la fuerza de la relación entre. $H_0$ $R^2$

En otras palabras, una relación F grande indica que hay una relación. Alto luego indica cuán fuerte es esa relación. $R^2$

Entropica
fuente

-1

Además, rápidamente:

R2 = F / (F + np / p-1)

Por ejemplo, el R2 de una prueba F de 1df = 2.53 con un tamaño de muestra 21, sería:

R2 = 2.53 / (2.53 + 19) R2 = .1175

rystoli
fuente

1

No veo cómo esto agrega algo más allá de lo que ya está en la respuesta de Zheng Li.

Glen_b -Reinstate Monica el

¿Cuál es la relación entre y F-Test?

Respuestas: