Una familia de algoritmos que combina modelos débilmente predictivos en un modelo fuertemente predictivo. El enfoque más común se denomina aumento de gradiente y los modelos débiles más utilizados son los árboles de clasificación / regresión.
Estoy tratando de entender las diferencias entre GBM y Adaboost. Esto es lo que he entendido hasta ahora: Hay dos algoritmos de refuerzo, que aprenden de los errores del modelo anterior y finalmente hacen una suma ponderada de los modelos. GBM y Adaboost son bastante similares, excepto por sus...
¿Cuáles son las razones teóricas para no manejar valores perdidos? Máquinas de aumento de gradiente, árboles de regresión manejan valores perdidos. ¿Por qué Random Forest no hace
Tenía una pregunta sobre el parámetro de profundidad de interacción en gbm en R. Esta puede ser una pregunta novata, por lo que me disculpo, pero ¿cómo el parámetro, que creo que denota el número de nodos terminales en un árbol, básicamente indica X-way interacción entre los predictores? Solo trato...
Es poco probable que esta pregunta ayude a futuros visitantes; solo es relevante para un área geográfica pequeña, un momento específico en el tiempo o una situación extraordinariamente estrecha que generalmente no es aplicable a la audiencia mundial de Internet. Para obtener ayuda...
Estoy tratando de entender cómo funciona XGBoost. Ya entiendo cómo funcionan los árboles impulsados por gradiente en Python sklearn. Lo que no está claro para mí es si XGBoost funciona de la misma manera, pero más rápido, o si hay diferencias fundamentales entre él y la implementación de...
Estoy lidiando con un problema de clasificación binaria supervisada. Me gustaría usar el paquete GBM para clasificar a las personas como no infectadas / infectadas. Tengo 15 veces más personas no infectadas que infectadas. Me preguntaba si los modelos GBM sufren en el caso de los tamaños de clase...
Estoy experimentando con el algoritmo de la máquina de aumento de gradiente a través del caretpaquete en R. Usando un pequeño conjunto de datos de admisión a la universidad, ejecuté el siguiente código: library(caret) ### Load admissions dataset. ### mydata <-
Quiero saber si el proceso descrito a continuación es válido / aceptable y si hay alguna justificación disponible. La idea: los algoritmos de aprendizaje supervisados no asumen estructuras / distribuciones subyacentes sobre los datos. Al final del día, generan estimaciones puntuales. Espero...
He estado usando el ajuste del modelo caret, pero luego volví a ejecutar el modelo usando el gbmpaquete. Entiendo que el caretpaquete usa gbmy el resultado debe ser el mismo. Sin embargo, solo una ejecución de prueba rápida usando data(iris)muestra una discrepancia en el modelo de aproximadamente...
Estoy trabajando con modelos de GBM usando el paquete caret y buscando encontrar un método para resolver los intervalos de predicción de mis datos pronosticados. He buscado mucho, pero solo se me ocurren algunas ideas para encontrar intervalos de predicción para Random Forest. ¡Cualquier código de...
¿Existe una estrategia para elegir la cantidad de árboles en un GBM? Específicamente, el ntreesargumento en Rla gbmfunción de. No veo por qué no debe establecer ntreesel valor razonable más alto. Me di cuenta de que una mayor cantidad de árboles reduce claramente la variabilidad de los resultados...
La documentación establece que R gbm with distribution = "adaboost" se puede usar para problemas de clasificación 0-1. Considere el siguiente fragmento de código: gbm_algorithm <- gbm(y ~ ., data = train_dataset, distribution = "adaboost", n.trees = 5000) gbm_predicted <-...
¿Es posible trazar un diagrama de dependencia parcial para mostrar la probabilidad de clase y estimar los efectos de un predictor para un modelo GBM ? Algo similar al partialPlotdel randomForestpaquete. Según este artículo , una trama parcial es factible con gbm. Gracias de antemano por tu...
Me doy cuenta de que hay 3 parámetros de ajuste en el modelo de árboles de refuerzo, es decir El número de árboles (número de iteraciones) parámetro de contracción Número de divisiones (tamaño de cada árbol constituyente) Mi pregunta es: para cada uno de los parámetros de ajuste, ¿cómo debo...
Preguntas: ¿Cuál es la diferencia (s) entre los árboles de regresión potenciados (BRT) y los modelos potenciados generalizados (GBM)? ¿Se pueden usar indistintamente? ¿Es una una forma específica de la otra? ¿Por qué Ridgeway usó la frase "Modelos de regresión aumentada generalizada" (GBM) para...
¿Podemos generalizar todos los métodos de conjunto usando la votación? ¿Los métodos de impulso también usan la votación para llevar a los alumnos débiles al modelo final? Mi comprensión de la técnica: Impulso: agrega continuamente un alumno débil para aumentar los puntos de datos que no se...