Estoy dando una presentación sobre líneas de ajuste. Tengo una función lineal simple, y=1x+by=1x+by=1x+b . Estoy tratando de obtener puntos de datos dispersos que puedo poner en un diagrama de dispersión que mantendrá mi línea de mejor ajuste en la misma ecuación. Me encantaría aprender esta...
Soy consciente del tipo de regularización LASSO, cresta y red elástica en modelos de regresión lineal. Pregunta: ¿Se puede aplicar este tipo (o similar) de estimación penalizada al modelado ARIMA (con una parte MA no vacía)? En la construcción de modelos ARIMA, parece habitual considerar un...
Estoy tratando de entender el equilibrio entre sesgo y varianza, la relación entre el sesgo del estimador y el sesgo del modelo, y la relación entre la varianza del estimador y la varianza del modelo. Llegué a estas conclusiones: Tendemos a sobreajustar los datos cuando descuidamos el sesgo...
Para un modelo lineal, la solución OLS proporciona el mejor estimador lineal imparcial para los parámetros. Por supuesto, podemos cambiar un sesgo por una varianza más baja, por ejemplo, regresión de cresta. Pero mi pregunta es sobre no tener prejuicios. ¿Hay otros estimadores que se usan con...
Tengo un ejemplo trabajado (en R), que estoy tratando de entender más. Estoy usando Limma para crear un modelo lineal y estoy tratando de entender lo que sucede paso a paso en los cálculos de cambio de pliegue. Principalmente estoy tratando de averiguar qué sucede para calcular los coeficientes....
Siempre lucho por obtener la verdadera esencia del problema de los parámetros incidentales. Leí en varias ocasiones que los estimadores de efectos fijos de los modelos de datos de panel no lineales pueden estar severamente sesgados debido al problema de parámetro incidental "bien conocido". Cuando...
Actualmente estoy tratando de aplicar un modelo lineal ( family = gaussian) a un indicador de biodiversidad que no puede tomar valores inferiores a cero, está inflado a cero y es continuo. Los valores varían de 0 a un poco más de 0.25. Como consecuencia, hay un patrón bastante obvio en los residuos...
Hoy, estaba jugando con un pequeño conjunto de datos y realicé una regresión OLS simple que esperaba que fallara debido a la perfecta multicolinealidad. Sin embargo, no fue así. Esto implica que mi comprensión de la multicolinealidad es incorrecta. Mi pregunta es: ¿Dónde me equivoco? Creo que...
Se supone que debo enseñar el teorema de Frish Waugh en econometría, que no he estudiado. He entendido las matemáticas detrás de esto y espero que la idea también "el coeficiente que obtienes para un coeficiente particular de un modelo lineal múltiple sea igual al coeficiente del modelo de...
Soy un ingeniero de software que trabaja en aprendizaje automático. Según tengo entendido, la regresión lineal (como OLS) y la clasificación lineal (como la regresión logística y SVM) hacen una predicción basada en un producto interno entre los coeficientes entrenados y las variables de...
Una suposición básica del uso de modelos de regresión para la inferencia es que "todos los predictores relevantes" se han incluido en la ecuación de predicción. La razón es que no incluir un factor importante del mundo real conduce a coeficientes sesgados y, por lo tanto, a inferencias inexactas...
Estoy analizando un conjunto de datos utilizando un modelo de efectos mixtos con un efecto fijo (condición) y dos efectos aleatorios (participante debido al diseño del sujeto y al par). El modelo se ha generado con el lme4paquete:
Estoy tratando de entender la diferencia básica entre la regresión por pasos y hacia atrás en R usando la función de paso. Para la regresión gradual, utilicé el siguiente comando step(lm(mpg~wt+drat+disp+qsec,data=mtcars),direction="both") Obtuve el siguiente resultado para el código...
Estoy experimentando con el algoritmo de la máquina de aumento de gradiente a través del caretpaquete en R. Usando un pequeño conjunto de datos de admisión a la universidad, ejecuté el siguiente código: library(caret) ### Load admissions dataset. ### mydata <-
En la regresión lineal (pérdida al cuadrado), usando una matriz tenemos una notación muy concisa para el objetivo minimize ∥Ax−b∥2minimize ‖Ax−b‖2\text{minimize}~~ \|Ax-b\|^2 Donde es la matriz de datos, son los coeficientes y b es la respuesta.x bAAAxxxbbb ¿Existe una notación matricial...
Suponga que ajusta una regresión lineal / logística , con el objetivo de una estimación imparcial de . Está muy seguro de que tanto como son muy positivos en relación con el ruido en sus estimaciones.g(y)=a0+a1⋅x1+a2⋅x2g(y)=a0+a1⋅x1+a2⋅x2g(y) = a_0 + a_1\cdot x_1 + a_2\cdot...
Tengo un modelo de predicción probado con cuatro métodos, como puede ver en la figura del diagrama de caja a continuación. El atributo que predice el modelo está en el rango de 0-8. Puede notar que hay un valor atípico de límite superior y tres valores atípicos de límite inferior indicados por...
Pregunta: ¿Cuáles son las principales diferencias y similitudes entre el uso de los errores estándar de Newey-West (1987) y Hansen-Hodrick (1980)? ¿En qué situaciones se debe preferir uno de estos sobre el otro? Notas: Sí sé cómo funciona cada uno de estos procedimientos de ajuste; sin embargo,...
Supongamos que tenemos dos árboles de regresión (árbol A y árbol B) que asignan la entrada a la salida . Sea para el árbol A y para el árbol B. Cada árbol usa divisiones binarias, con hiperplanos como funciones de separación.x ∈ RreX∈Rrex \in \mathbb{R}^dy^∈ Ry^∈R\hat{y} \in \mathbb{R}y^= fUN( x...
No he encontrado una respuesta satisfactoria a esto de google . Por supuesto, si los datos que tengo son del orden de millones, entonces el aprendizaje profundo es el camino. Y he leído que cuando no tengo grandes datos, tal vez sea mejor usar otros métodos en el aprendizaje automático. La razón...