Estoy buscando una explicación de cómo se calcula la importancia variable relativa en los árboles potenciados por gradientes que no es demasiado general / simplista como: Las medidas se basan en la cantidad de veces que se selecciona una variable para dividir, ponderada por la mejora al cuadrado...
¿Alguien ha visto alguna literatura sobre pre-entrenamiento en redes neuronales convolucionales profundas? Solo he visto pre-entrenamiento sin supervisión en autoencoder o máquinas boltzman
El estadístico de prueba para la prueba de Hosmer-Lemeshow (HLT) para la bondad de ajuste (GOF) de un modelo de regresión logística se define de la siguiente manera: La muestra se divide en d=10d=10d=10 deciles, D1,D2,…,DdD1,D2,…,DdD_1, D_2, \dots , D_{d} , por decil se calculan las siguientes...
Por lo que puedo decir, los SOM de estilo Kohonen tuvieron un pico alrededor de 2005 y no han visto tanto favor recientemente. No he encontrado ningún documento que diga que los SOM hayan sido subsumidos por otro método, o que hayan demostrado ser equivalentes a algo más (de todas formas, en...
¿Alguien puede recomendar una buena exposición de la teoría detrás de la regresión de mínimos cuadrados parciales (disponible en línea) para alguien que entiende SVD y PCA? He visto muchas fuentes en línea y no he encontrado nada que tuviera la combinación correcta de rigor y accesibilidad. He...
He estado siguiendo competiciones de Kaggle durante mucho tiempo y me doy cuenta de que muchas estrategias ganadoras implican utilizar al menos uno de los "tres grandes": embolsar, impulsar y apilar. Para las regresiones, en lugar de centrarse en la construcción de un mejor modelo de regresión...
He leído en algunas fuentes, incluida esta , que los bosques aleatorios no son sensibles a los valores atípicos (en la forma en que lo son la regresión logística y otros métodos de LD, por ejemplo). Sin embargo, dos piezas de intuición me dicen lo contrario: Cada vez que se construye un árbol de...
Estoy realizando una agrupación jerárquica en los datos que he recopilado y procesado desde el volcado de datos reddit en Google BigQuery. Mi proceso es el siguiente: Recibe las últimas 1000 publicaciones en / r / política Reúne todos los comentarios Procese los datos y calcule una n x mmatriz...
Soy un ingeniero de software que aprende el aprendizaje automático, particularmente a través de los cursos de aprendizaje automático de Andrew Ng . Mientras estudiaba la regresión lineal con la regularización , encontré términos que son confusos: Regresión con regularización L1 o regularización...
Busqué una manera de eliminar los valores atípicos de un conjunto de datos y encontré esta pregunta . Sin embargo, en algunos de los comentarios y respuestas a esta pregunta, las personas mencionaron que es una mala práctica eliminar los valores atípicos de los datos. En mi conjunto de datos...
La regularización de Tikhonov y la regresión de crestas son términos que a menudo se usan como si fueran idénticos. ¿Es posible especificar exactamente cuál es la
He visto que la gente ha puesto muchos esfuerzos en SVM y Kernels, y se ven bastante interesantes como iniciadores en Machine Learning. Pero si esperamos que casi siempre podamos encontrar una solución superior en términos de red neuronal (profunda), ¿cuál es el significado de probar otros métodos...
Existen varias implementaciones de la familia de modelos GBDT, tales como: GBM XGBoost LightGBM Catboost. ¿Cuáles son las diferencias matemáticas entre estas diferentes implementaciones? Catboost parece superar a las otras implementaciones incluso utilizando solo sus parámetros...
En el curso de Redes neuronales y aprendizaje profundo de Andrew Ng en Coursera , dice que usar es casi siempre preferible a usar .tanhtanhtanhsigmoidsigmoidsigmoid La razón que da es que las salidas que usan centran alrededor de 0 en lugar de 's 0.5, y esto "hace que el aprendizaje para la...
Soy un programador sin antecedentes estadísticos, y actualmente estoy buscando diferentes métodos de clasificación para una gran cantidad de documentos diferentes que quiero clasificar en categorías predefinidas. He estado leyendo sobre kNN, SVM y NN. Sin embargo, tengo algunos problemas para...
¿Cómo obtener una importancia variable (atributo) usando SVM?
He encontrado una extensa literatura que propone todo tipo de criterios (por ejemplo, Glenn et al. 1985 (pdf) y Jung et al. 2002 (pdf)). Sin embargo, la mayoría de estos no son tan fáciles de implementar (al menos desde mi perspectiva). Estoy usando scipy.cluster.hierarchy para obtener una...
Contexto : Imagine que tiene un estudio longitudinal que mide una variable dependiente (DV) una vez por semana durante 20 semanas en 200 participantes. Aunque estoy interesado en general, los DV típicos en los que estoy pensando incluyen el desempeño laboral después de la contratación o varias...
Me preguntaba si hay distribuciones además de la normal donde la media y la varianza son independientes entre sí (o en otras palabras, donde la varianza no es una función de la
Estoy analizando un conjunto de datos experimentales. Los datos consisten en un vector emparejado de tipo de tratamiento y un resultado binomial: Treatment Outcome A 1 B 0 C 0 D 1 A 0 ... En la columna de resultados, 1 denota un éxito y 0 denota un fracaso. Me gustaría saber si el tratamiento...