Me encontré con un gran cantidad de literatura que aboga por usar la métrica de información de Fisher como una métrica local natural en el espacio de distribuciones de probabilidad y luego integrarla para definir distancias y volúmenes. Pero, ¿son realmente útiles estas cantidades "integradas"...
Estoy ejecutando un modelo logístico. El conjunto de datos del modelo real tiene más de 100 variables, pero elijo un conjunto de datos de prueba en el que hay alrededor de 25 variables. Antes de eso también hice un conjunto de datos que tenía 8-9 variables. Me dicen que los valores AIC y SC se...
Por lo que entiendo, la selección de variables basada en valores p (al menos en el contexto de regresión) es altamente defectuosa. Parece que la selección variable basada en AIC (o similar) también se considera defectuosa por algunos, por razones similares, aunque esto parece un poco confuso (por...
Tenemos dos modelos que usan el mismo método para calcular la probabilidad de registro y el AIC para uno es más bajo que el otro. Sin embargo, el que tiene el AIC más bajo es mucho más difícil de interpretar. Tenemos problemas para decidir si vale la pena introducir la dificultad y juzgamos esto...
Creo que entiendo cómo funcionan los fundamentos del bootstrapping , pero no estoy seguro de entender cómo puedo usar el bootstrapping para la selección del modelo o para evitar el sobreajuste. Para la selección del modelo, por ejemplo, ¿elegiría el modelo que produce el error más bajo (¿tal vez...
La regresión gradual se había usado en exceso en muchos artículos biomédicos en el pasado, pero esto parece estar mejorando con una mejor educación de sus muchos problemas. Sin embargo, muchos críticos más antiguos todavía lo piden. ¿Cuáles son las circunstancias en las que la regresión gradual...
En respuesta a una pregunta sobre la selección de modelos en presencia de multicolinealidad , Frank Harrell sugirió : Ponga todas las variables en el modelo pero no pruebe el efecto de una variable ajustada por los efectos de las variables competidoras ... Las pruebas fragmentarias de las...
Si estuviera interesado en ajuste de dos vías interacciones entre una variable lineal explicativo y otra variable explicativa b que tiene una relación cuadrática con la variable dependiente y , tendría que incluir tanto la interacción con el componente cuadrática y la interacción con el lineal...
Estoy haciendo algunos pronósticos en R usando el paquete de pronósticos de Rob Hyndman . El papel que pertenece al paquete se puede encontrar aquí . En el documento, después de explicar los algoritmos de pronóstico automático, los autores implementan los algoritmos en el mismo conjunto de datos....
Tengo un conjunto de valores xxx e que están teóricamente relacionados exponencialmente:yyy y=axby=axsiy = ax^b Una forma de obtener los coeficientes es aplicando logaritmos naturales en ambos lados y ajustando un modelo lineal: > fit <- lm(log(y)~log(x)) > a <-
Actualmente estoy trabajando en un problema en el que tenemos un pequeño conjunto de datos y estamos interesados en el efecto de causalidad de un tratamiento en el resultado. Mi asesor me ha indicado que realice una regresión univariada en cada predictor con el resultado como respuesta, luego la...
Entiendo que el principio básico detrás del algoritmo para LLE consta de tres pasos. Encontrar la vecindad de cada punto de datos por alguna métrica como k-nn. Encuentre pesos para cada vecino que denotan el efecto que tiene el vecino en el punto de datos. Construya la incrustación de baja...
Digamos que es una función lineal de xy un dummy d . Mi hipótesis es que d en sí es como un índice hedonista de un vector de otras variables, Z . Tengo soporte para esto en un M A N O V A de Z (es decir, z 1 , z 2 , ..., z n ) en d . ¿Hay alguna forma de probar la equivalencia de estos dos...
Actualmente estoy usando el análisis de componentes principales para seleccionar variables para usar en el modelado. Por el momento, hago mediciones A, B y C en mis experimentos. Lo que realmente quiero saber es: ¿puedo hacer menos mediciones y dejar de registrar C y / o B para ahorrar tiempo y...
Nota: esta pregunta es una nueva publicación, ya que mi pregunta anterior tuvo que ser eliminada por razones legales. Al comparar PROC MIXED de SAS con la función lmedel nlmepaquete en R, me topé con algunas diferencias bastante confusas. Más específicamente, los grados de libertad en las...
Quiero usar el Criterio de información de Akaike (AIC) para elegir el número apropiado de factores para extraer en un PCA. El único problema es que no estoy seguro de cómo determinar el número de parámetros. Considere una matriz , donde representa el número de variables y el número de...
El AIC se define como , donde θ es el estimador de máxima verosimilitud y p es la dimensión del espacio de parámetros. Para la estimación de θUn yoC= - 2 log( L ( θ^) ) + 2 pUNyoC=-2Iniciar sesión(L(θ^))+2pagAIC=-2 \log(L(\hat\theta))+2pθ^θ^\hat\thetapagpagpθθ\theta, generalmente se descuida el...
Estoy considerando un espacio grande (pero finito) de modelos de complejidad variable que exploro usando RJMCMC . Lo anterior en el vector de parámetros para cada modelo es bastante informativo. ¿En qué casos (si corresponde) debería preocuparme la paradoja de Jeffreys-Lindley que favorece...
En el libro PRML de Bishop, dice que el sobreajuste es un problema con la Estimación de máxima verosimilitud (MLE), y Bayesian puede evitarlo. Pero creo que el sobreajuste es un problema más sobre la selección del modelo, no sobre el método utilizado para hacer la estimación de parámetros. Es...
Quería entender mejor la prueba exacta del pescador, así que ideé el siguiente ejemplo de juguete, donde f y m corresponde a machos y hembras, y n e y corresponden a "consumo de refrescos" de esta manera: > soda_gender f m n 0 5 y 5 0 Obviamente, esta es una simplificación drástica, pero...