En Una Introducción al Aprendizaje Estadístico (James et al.), En la sección 3.7 ejercicio 5, establece que la fórmula para suponiendo una regresión lineal sin una intersección es donde y
son las estimaciones habituales en OLS para la regresión lineal simple ()
Este no es el ejercicio real ; Simplemente me pregunto cómo derivar la ecuación. Sin usar álgebra matricial , ¿cómo puedo derivarlo?
Mi intento: con , tenemos .
Después de un poco de álgebra, se puede demostrar que y . A partir de aquí, estoy atascado.
self-study
least-squares
Clarinetista
fuente
fuente
Respuestas:
Esto es directo de la definición de mínimos cuadrados ordinarios. Si no hay intercepción, uno está minimizandoR ( β) =∑i = ni = 1(yyo- βXyo)2 . Esto es suave en función deβ , por lo que todos los mínimos (o máximos) ocurren cuando la derivada es cero. Diferenciando con respecto aβ obtenemos -∑i = ni = 12 (yyo- βXyo)Xyo . Resolviendo paraβ da la formula.
fuente