Estoy tratando de probar la capacidad del bosque aleatorio para clasificar muestras entre 2 grupos; Hay 54 muestras y un número variable de variables utilizadas para la clasificación. Me preguntaba por qué las estimaciones de fuera de bolsa (OOB) pueden variar hasta un 5% entre sí, incluso cuando...
Tengo un conjunto de datos con aproximadamente 70 variables que me gustaría reducir. Lo que estoy buscando hacer es usar CV para encontrar las variables más útiles de la siguiente manera. 1) Seleccione aleatoriamente digamos 20 variables. 2) Use stepwise/ LASSO/ lars/ etc para elegir las...
Este es solo un ejemplo que he encontrado varias veces, por lo que no tengo ningún dato de muestra. Ejecutar un modelo de regresión lineal en R: a.lm = lm(Y ~ x1 + x2) x1Es una variable continua. x2es categórico y tiene tres valores, por ejemplo, "Bajo", "Medio" y "Alto". Sin embargo, la salida...
No obtengo la diferencia entre rfobject$importancey importance(rfobject)en la columna MeanDecreaseAccuracy. Ejemplo: > data("iris") > fit <- randomForest(Species~., data=iris, importance=TRUE) > fit$importance setosa versicolor virginica MeanDecreaseAccuracy
Los métodos de conjunto basados en árboles como el Bosque aleatorio y las derivadas posteriores (por ejemplo, bosque condicional), todos pretenden ser útiles en los llamados problemas " n pequeña , p grande ", para identificar la importancia variable relativa. De hecho, este parece ser el caso,...
Me pregunto si es una buena idea eliminar esas variables con un valor de importancia variable negativo ("% IncMSE") en un contexto de regresión. ¿Y si me da una mejor predicción? ¿Qué
Estoy trabajando en un conjunto de datos. Después de usar algunas técnicas de identificación de modelos, obtuve un modelo ARIMA (0,2,1). Utilicé la detectIOfunción en el paquete TSAen R para detectar un valor atípico innovador (IO) en la observación número 48 de mi conjunto de datos...
Intento utilizar la regresión de RF para hacer predicciones sobre el rendimiento de una fábrica de papel. Tengo datos minuto a minuto para las entradas (velocidad y cantidad de pulpa de madera que ingresa, etc.), así como para el rendimiento de la máquina (papel producido, energía consumida por la...
Tengo problemas para entender cómo varImpfunciona la función para un modelo randomForest con el caretpaquete. En el ejemplo a continuación, la característica var3 tiene cero importancia usando la varImpfunción de caret , pero el modelo final randomForest subyacente tiene una importancia distinta de...
Toda la literatura de Modelado de Distribución de Especies sugiere que cuando se predice la presencia / ausencia de una especie utilizando un modelo que genera probabilidades (por ejemplo, RandomForests), la elección del umbral de probabilidad para clasificar una especie como presencia o ausencia...
He leído algo de literatura que los bosques aleatorios no pueden sobreajustar. Si bien esto suena genial, parece demasiado bueno para ser verdad. ¿Es posible que los rf se
Scikit learn parece utilizar la predicción probabilística en lugar del voto mayoritario para la técnica de agregación del modelo sin una explicación de por qué (1.9.2.1. Bosques aleatorios). ¿Hay una explicación clara de por qué? Además, ¿hay un buen artículo o artículo de revisión para las...
En la sección 7 del documento Random Forests (Breiman, 1999), el autor declara la siguiente conjetura: "Adaboost es un bosque aleatorio". ¿Alguien ha probado o refutado esto? ¿Qué se ha hecho para probar o refutar esta publicación de
Hasta donde he visto, las opiniones tienden a diferir sobre esto. La mejor práctica ciertamente dictaría el uso de validación cruzada (especialmente si se comparan RF con otros algoritmos en el mismo conjunto de datos). Por otro lado, la fuente original afirma que el hecho de que el error OOB se...
Support Vector Machines con núcleo de función de base radial es un clasificador supervisado de propósito general. Si bien conozco los fundamentos teóricos de estos SVM y sus puntos fuertes, no conozco los casos en los que son el método preferido. Entonces, ¿hay una clase de problemas para los...
Tengo una regresión forestal aleatoria construida usando skl y noto que produzco diferentes resultados basados en establecer la semilla aleatoria en diferentes valores. Si uso LOOCV para establecer qué semilla funciona mejor, ¿es este un método válido?
Todo está en el título, ¿tiene sentido usar la selección de características antes de usar un bosque
Una pregunta reciente sobre alternativas a la regresión logística en R arrojó una variedad de respuestas que incluyeron randomForest, gbm, rpart, bayesglm y modelos aditivos generalizados. ¿Cuáles son las diferencias prácticas y de interpretación entre estos métodos y la regresión logística? ¿Qué...
Estoy usando el paquete randomForest en R (R versión 2.13.1, randomForest versión 4.6-2) para la regresión y noté un sesgo significativo en mis resultados: el error de predicción depende del valor de la variable de respuesta. Los valores altos se predicen por debajo y los valores bajos se predicen...
1) ¿Cómo puedo cambiar el umbral de clasificación (creo que es 0.5 por defecto) en RandomForest en sklearn? 2) ¿cómo puedo submuestrear en sklearn? 3) Tengo el siguiente resultado del clasificador RandomForest: [[1635 1297] [520 3624]] precision recall f1-score support class 0 0.76 0.56 0.64...