He estado usando mínimos cuadrados iterativamente ponderados (IRLS) para minimizar las funciones de la siguiente forma, J(m)=∑Ni=1ρ(|xi−m|)J(m)=∑i=1Nρ(|xi−m|)J(m) = \sum_{i=1}^{N} \rho \left(\left| x_i - m \right|\right) donde NNN es el número de instancias de xi∈Rxi∈Rx_i \in \mathbb{R} , m∈Rm∈Rm...
Soy bastante nuevo en esto, así que espero que me perdones si la pregunta es ingenua. (Contexto: estoy aprendiendo econometría del libro "Teoría y métodos econométricos" de Davidson y MacKinnon , y no parecen explicar esto; también he visto el libro de optimización de Luenberger que trata las...
Este enlace de wikipedia enumera una serie de técnicas para detectar la heterocedasticidad residual de OLS. Me gustaría saber qué técnica práctica es más eficiente en la detección de regiones afectadas por la heterocedasticidad. Por ejemplo, aquí la región central en la trama 'Residuals vs Fitted'...
¿La regresión de rango reducido y la regresión de componentes principales son solo casos especiales de mínimos cuadrados parciales? Este tutorial (Página 6, "Comparación de objetivos") establece que cuando hacemos mínimos cuadrados parciales sin proyectar X o Y (es decir, "no parcial"), se...
Hoy, estaba jugando con un pequeño conjunto de datos y realicé una regresión OLS simple que esperaba que fallara debido a la perfecta multicolinealidad. Sin embargo, no fue así. Esto implica que mi comprensión de la multicolinealidad es incorrecta. Mi pregunta es: ¿Dónde me equivoco? Creo que...
Para un modelo lineal, la solución OLS proporciona el mejor estimador lineal imparcial para los parámetros. Por supuesto, podemos cambiar un sesgo por una varianza más baja, por ejemplo, regresión de cresta. Pero mi pregunta es sobre no tener prejuicios. ¿Hay otros estimadores que se usan con...
Estoy dando una presentación sobre líneas de ajuste. Tengo una función lineal simple, y=1x+by=1x+by=1x+b . Estoy tratando de obtener puntos de datos dispersos que puedo poner en un diagrama de dispersión que mantendrá mi línea de mejor ajuste en la misma ecuación. Me encantaría aprender esta...
Estoy tratando de entender cómo funcionan las funciones de influencia. ¿Podría alguien explicar en el contexto de una regresión OLS simple yyo= α + β⋅ xyo+ εyoyi=α+β⋅xi+εi\begin{equation} y_i = \alpha + \beta \cdot x_i + \varepsilon_i \end{equation} donde quiero la función de influencia para...
Se supone que debo enseñar el teorema de Frish Waugh en econometría, que no he estudiado. He entendido las matemáticas detrás de esto y espero que la idea también "el coeficiente que obtienes para un coeficiente particular de un modelo lineal múltiple sea igual al coeficiente del modelo de...
Estoy tratando de ver si elegir la regresión de cresta , LASSO , la regresión de componentes principales (PCR) o los mínimos cuadrados parciales (PLS) en una situación en la que hay un gran número de variables / características ( ) y un menor número de muestras ( ), y mi objetivo es la...
Nota: = Suma de cuadrados totales, = Suma de errores al cuadrado, y = Suma de cuadrados de la regresión. La ecuación en el título a menudo se escribe como:SSTSSTSSTSSESSESSESSRSSRSSR ∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2\sum_{i=1}^n (y_i-\bar...
¿Por qué buscamos minimizar en x^2lugar de minimizar |x|^1.95o |x|^2.05? ¿Hay razones por las cuales el número debe ser exactamente dos o es simplemente una convención que tiene la ventaja de simplificar las
Digamos que tenemos X de forma (2, 5) e y de forma (2,) Esto funciona: np.linalg.lstsq(X, y) Es de esperar que esto funcione solo si X tenía forma (N, 5) donde N> = 5 Pero, ¿por qué y cómo? Volvemos 5 pesos como se esperaba, pero ¿cómo se resuelve este problema? ¿No es que tenemos 2...
Sé cómo realizar una regresión lineal en un conjunto de puntos. Es decir, sé cómo ajustar un polinomio de mi elección, a un conjunto de datos dado (en el sentido LSE). Sin embargo, lo que no sé es cómo forzar a mi solución a pasar por algunos puntos particulares de mi elección. He visto que esto se...
Soy un graduado de negocios y economía que actualmente estudia para una maestría en ingeniería de datos. Mientras estudiaba la regresión lineal (LR) y luego el análisis de series de tiempo (TS), surgió una pregunta en mi mente. ¿Por qué crear un método completamente nuevo, es decir, series de...
La pregunta es sencilla: ¿es apropiado usar la regresión lineal cuando Y es acotado y discreto (por ejemplo, el puntaje de la prueba 1 ~ 100, alguna clasificación predefinida 1 ~ 17)? En este caso, ¿"no es bueno" usar regresión lineal, o es totalmente incorrecto
¿Puede alguien explicarme brevemente por qué se necesitan cada uno de los seis supuestos para calcular el estimador de MCO? Solo encontré la multicolinealidad: si existe, no podemos invertir la matriz (X'X) y, a su vez, estimar el estimador general. ¿Qué pasa con los otros (por ejemplo, linealidad,...
La pregunta anterior lo dice todo. Básicamente, mi pregunta es para una función de ajuste genérica (podría ser arbitrariamente complicada) que no será lineal en los parámetros que estoy tratando de estimar, ¿cómo se eligen los valores iniciales para inicializar el ajuste? Estoy tratando de hacer...
Esta pregunta está inspirada en la larga discusión en los comentarios aquí: ¿Cómo usa la regresión lineal la distribución normal? En el modelo de regresión lineal habitual, para simplificar aquí escrito con un solo predictor: Yi=β0+β1xi+ϵiYi=β0+β1xi+ϵi Y_i = \beta_0 + \beta_1 x_i + \epsilon_i...
Si en las regresiones estándar de OLS se violan dos supuestos (distribución normal de errores, homocedasticidad), ¿son los errores estándar de arranque y los intervalos de confianza una alternativa apropiada para llegar a resultados significativos con respecto a la importancia de los coeficientes...