'Árboles de clasificación y regresión'. CART es una técnica popular de aprendizaje automático y constituye la base de técnicas como bosques aleatorios e implementaciones comunes de máquinas de aumento de gradiente.
Los bosques aleatorios se consideran cajas negras, pero recientemente estaba pensando qué conocimiento se puede obtener de un bosque aleatorio. Lo más obvio es la importancia de las variables, en la variante más simple se puede hacer simplemente calculando el número de ocurrencias de una variable....
El impulso del árbol de gradiente propuesto por Friedman utiliza árboles de decisión como aprendices básicos. Me pregunto si deberíamos hacer que el árbol de decisión base sea lo más complejo posible (completamente desarrollado) o más simple. ¿Hay alguna explicación para la elección? Random Forest...
¿Alguien puede explicar las diferencias principales entre los árboles de inferencia condicional ( ctreedel partypaquete en R) en comparación con los algoritmos de árbol de decisión más tradicionales (como rparten R)? ¿Qué hace que los árboles de CI sean diferentes? ¿Fortalezas y...
Estoy empezando a incursionar con el uso de glmnetla LASSO regresión donde mi resultado de interés es dicotómica. He creado un pequeño marco de datos simulados a continuación: age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) bmi_p <- c(0.86, 0.45, 0.99, 0.84,...
Mis preguntas son sobre bosques al azar. El concepto de este hermoso clasificador es claro para mí, pero aún hay muchas preguntas prácticas de uso. Desafortunadamente, no pude encontrar ninguna guía práctica para RF (¡He estado buscando algo como "Una guía práctica para entrenar máquinas de...
Cualquiera recibió sugerencias de biblioteca o código sobre cómo trazar un par de árboles de muestra de: getTree(rfobj, k, labelVar=TRUE) (Sí, sé que se supone que no debes hacer esto operacionalmente, RF es una caja negra, etc., etc.) Quiero verificar visualmente el estado de un árbol para ver...
¿Qué es la "desviación", cómo se calcula y cuáles son sus usos en diferentes campos de las estadísticas? En particular, estoy personalmente interesado en sus usos en CART (y su implementación en rpart en R). Estoy preguntando esto ya que el artículo wiki parece algo deficiente y sus ideas serán...
Soy nuevo en la minería de datos y estoy tratando de entrenar un árbol de decisión contra un conjunto de datos que está altamente desequilibrado. Sin embargo, estoy teniendo problemas con poca precisión predictiva. Los datos consisten en estudiantes que estudian cursos, y la variable de clase es...
En Una introducción al aprendizaje estadístico con aplicaciones en R , los autores escriben que ajustar un árbol de decisión es muy rápido, pero esto no tiene sentido para mí. El algoritmo tiene que pasar por cada característica y particionarlo de todas las formas posibles para encontrar la...
Estoy obteniendo una precisión del 100% para mi árbol de decisiones. ¿Qué estoy haciendo mal? Este es mi código: import pandas as pd import json import numpy as np import sklearn import matplotlib.pyplot as plt data = np.loadtxt("/Users/Nadjla/Downloads/allInteractionsnum.csv",...
Los árboles de decisión parecen ser un método de aprendizaje automático muy comprensible. Una vez creado, puede ser fácilmente inspeccionado por un humano, lo cual es una gran ventaja en algunas aplicaciones. ¿Cuáles son los lados débiles prácticos de los árboles de
Estoy buscando una explicación de cómo se calcula la importancia variable relativa en los árboles potenciados por gradientes que no es demasiado general / simplista como: Las medidas se basan en la cantidad de veces que se selecciona una variable para dividir, ponderada por la mejora al cuadrado...
He leído en algunas fuentes, incluida esta , que los bosques aleatorios no son sensibles a los valores atípicos (en la forma en que lo son la regresión logística y otros métodos de LD, por ejemplo). Sin embargo, dos piezas de intuición me dicen lo contrario: Cada vez que se construye un árbol de...
¿Cuáles son algunas pautas útiles para probar parámetros (es decir, profundidad de interacción, minchild, frecuencia de muestreo, etc.) usando GBM? Digamos que tengo 70-100 características, una población de 200,000 y tengo la intención de probar la profundidad de interacción de 3 y 4. Claramente,...
Cuando se construye un modelo CART (específicamente un árbol de clasificación) usando rpart (en R), a menudo es interesante saber cuál es la importancia de las diversas variables introducidas en el modelo. Por lo tanto, mi pregunta es: ¿Qué medidas comunes existen para clasificar / medir la...
Estoy tratando de rastrear quién inventó la estructura de datos del árbol de decisión y el algoritmo. En la entrada de Wikipedia sobre el aprendizaje del árbol de decisión hay una afirmación de que "ID3 y CART se inventaron de forma independiente aproximadamente al mismo tiempo (entre 1970 y...
Estoy buscando una alternativa a los árboles de clasificación que pueda generar un mejor poder predictivo. Los datos que estoy tratando tienen factores para las variables explicativas y explicadas. Recuerdo haber encontrado bosques aleatorios y redes neuronales en este contexto, aunque nunca los...
Estoy ejecutando una clasificación de árbol de decisión usando SPSS en un conjunto de datos con alrededor de 20 predictores (categórico con pocas categorías). CHAID (detección de interacción automática de chi-cuadrado) y CRT / CART (árboles de clasificación y regresión) me están dando diferentes...
Casi todos los ejemplos de árboles de decisión que he encontrado resultan ser un árbol binario. ¿Es esto bastante universal? ¿La mayoría de los algoritmos estándar (C4.5, CART, etc.) solo admiten árboles binarios? Por lo que deduzco , CHAID no se limita a los árboles binarios, sino que parece ser...
Después de realizar el análisis de componentes principales (PCA), quiero proyectar un nuevo vector en el espacio PCA (es decir, encontrar sus coordenadas en el sistema de coordenadas PCA). He calculado PCA en lenguaje R usando prcomp. Ahora debería poder multiplicar mi vector por la matriz de...