Conozco los beneficios de la regularización cuando construyo modelos predictivos (sesgo vs. varianza, evitando el sobreajuste). Pero me pregunto si es una buena idea hacer también la regularización (lazo, cresta, red elástica) cuando el propósito principal del modelo de regresión es la inferencia...
Vi esta lista aquí y no podía creer que hubiera tantas formas de resolver mínimos cuadrados. Las "ecuaciones normales" en la Wikipedia parecían ser una forma bastante α^β^=y¯−β^x¯,=∑ni=1(xi−x¯)(yi−y¯)∑ni=1(xi−x¯)2α^=y¯−β^x¯,β^=∑i=1n(xi−x¯)(yi−y¯)∑i=1n(xi−x¯)2 {\displaystyle {\begin{aligned}{\hat...
Estoy tratando de averiguar cómo realizar algunas pruebas de hipótesis en una regresión lineal (la hipótesis nula no tiene correlación). Cada guía y página sobre el tema con el que me encuentro parece estar usando una prueba t. Pero no entiendo qué significa realmente la prueba t para regresión...
He entrenado un modelo de regresión lineal, utilizando un conjunto de variables / características. Y el modelo tiene un buen rendimiento. Sin embargo, me he dado cuenta de que no hay una variable con una buena correlación con la variable predicha. ¿Como es
Se estima que los estimadores de regresión penalizados como LASSO y ridge corresponden a estimadores bayesianos con ciertos antecedentes. Supongo (como no sé lo suficiente sobre las estadísticas bayesianas) que para un parámetro de ajuste fijo, existe un previo concreto correspondiente. Ahora un...
He leído innumerables publicaciones en este sitio que están increíblemente en contra del uso de la selección gradual de variables usando cualquier tipo de criterio, ya sea basado en valores p, AIC, BIC, etc. Entiendo por qué estos procedimientos son en general bastante pobres para la selección de...
Tengo una variable numérica que resulta no significativa en un modelo de regresión logística multivariante. Sin embargo, cuando lo categorizo en grupos, de repente se vuelve significativo. Esto es muy contra-intuitivo para mí: al categorizar una variable, proporcionamos cierta información. ¿Cómo...
¿Alguien sabe de un buen artículo de revisión para la literatura estadística sobre regresión no lineal? Estoy principalmente interesado en resultados de consistencia y asintóticos. De particular interés es el modelo yyo t= m ( xyo t, θ ) + ϵyo t,yyot=metro(Xyot,θ)+ϵyot,y_{it} = m(x_{it},\theta) +...
En la regresión logística, ¿es necesario preocuparse tanto por la multicolinealidad como lo estaría en una regresión OLS directa? Por ejemplo, con una regresión logística, donde existe multicolinealidad, ¿tendría que ser cauteloso (como lo haría en la regresión OLS) con la inferencia de los...
¿Cómo debo definir una fórmula modelo en R, cuando una (o más) restricciones lineales exactas que vinculan los coeficientes está disponible? Como ejemplo, digamos que usted sabe que b1 = 2 * b0 en un modelo de regresión lineal
Dado que el modelado de regresión es a menudo más "arte" que ciencia, a menudo me encuentro probando muchas iteraciones de una estructura de regresión. ¿Cuáles son algunas formas eficientes de resumir la información de estas ejecuciones de modelos múltiples en un intento por encontrar el "mejor"...
Estoy tratando de implementar un análisis de "punto de cambio" o una regresión multifásica usando nls()en R. Aquí hay algunos datos falsos que he hecho . La fórmula que quiero usar para ajustar los datos es: y=β0+β1x+β2max(0,x−δ)y=β0+β1x+β2max(0,x−δ)y = \beta_0 + \beta_1x +...
En general, estandarizo mis variables independientes en regresiones, para comparar adecuadamente los coeficientes (de esta manera tienen las mismas unidades: desviaciones estándar). Sin embargo, con datos de panel / longitudinales, no estoy seguro de cómo debería estandarizar mis datos,...
¿Podría alguien decirme qué significa el término 'persistencia' en el análisis de series de tiempo? Se trata de econometría y regresión
Tengo un modelo lineal clásico, con 5 posibles regresores. No están correlacionados entre sí y tienen una correlación bastante baja con la respuesta. Llegué a un modelo donde 3 de los regresores tienen coeficientes significativos para su estadística t (p <0.05). Agregar una o las dos variables...
Soy bastante nuevo en esto, así que espero que me perdones si la pregunta es ingenua. (Contexto: estoy aprendiendo econometría del libro "Teoría y métodos econométricos" de Davidson y MacKinnon , y no parecen explicar esto; también he visto el libro de optimización de Luenberger que trata las...
Considere la regresión lineal con cierta regularización: Ej. Encuentre que minimice| El | A x - b | El | 2 + λ | El | x | El | 1xxx||Ax−b||2+λ||x||1||Ax−b||2+λ||x||1||Ax - b||^2+\lambda||x||_1 Por lo general, las columnas de A están estandarizadas para tener una media cero y una norma unitaria,...
Tengo datos de recuento (análisis de demanda / oferta con recuento de clientes, dependiendo de, posiblemente, muchos factores). Intenté una regresión lineal con errores normales, pero mi diagrama QQ no es realmente bueno. Intenté una transformación logarítmica de la respuesta: una vez más, mal...
Esto es algo que veo hecho como una especie de método ad-hoc y me parece muy sospechoso, pero tal vez me estoy perdiendo algo. He visto esto en regresión múltiple, pero seamos simples: yyo= β0 0+ β1Xyo+ εyoyyo=β0 0+β1Xyo+εyo y_{i} = \beta_{0} + \beta_{1} x_{i} + \varepsilon_{i} Ahora tome los...
Este enlace de wikipedia enumera una serie de técnicas para detectar la heterocedasticidad residual de OLS. Me gustaría saber qué técnica práctica es más eficiente en la detección de regiones afectadas por la heterocedasticidad. Por ejemplo, aquí la región central en la trama 'Residuals vs Fitted'...