Support Vector Machine se refiere a "un conjunto de métodos de aprendizaje supervisados relacionados que analizan datos y reconocen patrones, utilizados para el análisis de clasificación y regresión".
Actualmente estoy usando un SVM con un núcleo lineal para clasificar mis datos. No hay error en el conjunto de entrenamiento. Intenté varios valores para el parámetro ( 10 - 5 , … , 10 2 ). Esto no cambió el error en el conjunto de prueba.CCC10- 5, ... , 10210-5 5,...,10210^{-5}, \dots,...
Muchos clasificadores de aprendizaje automático (por ejemplo, máquinas de vectores de soporte) permiten especificar un núcleo. ¿Cuál sería una forma intuitiva de explicar qué es un núcleo? Un aspecto en el que he estado pensando es la distinción entre núcleos lineales y no lineales. En términos...
Al usar SVM, debemos seleccionar un núcleo. Me pregunto cómo seleccionar un núcleo. ¿Algún criterio para la selección del
Estoy empezando a incursionar con el uso de glmnetla LASSO regresión donde mi resultado de interés es dicotómica. He creado un pequeño marco de datos simulados a continuación: age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) bmi_p <- c(0.86, 0.45, 0.99, 0.84,...
Entiendo los conceptos básicos de cuál es el objetivo de Support Vector Machines en términos de clasificar un conjunto de entrada en varias clases diferentes, pero lo que no entiendo son algunos de los detalles esenciales. Para empezar, estoy un poco confundido por el uso de Slack Variables. ¿Cuál...
Estaba leyendo sobre kernel PCA ( 1 , 2 , 3 ) con núcleos gaussianos y polinomiales. ¿Cómo separa el núcleo gaussiano aparentemente cualquier tipo de datos no lineales excepcionalmente bien? Realice un análisis intuitivo, así como uno matemáticamente involucrado si es posible. ¿Cuál es una...
Muchos autores de artículos que leí afirman que las SVM son una técnica superior para enfrentar su problema de regresión / clasificación, conscientes de que no podrían obtener resultados similares a través de las NN. A menudo, la comparación establece que SVM, en lugar de NN, Tener una fuerte...
Dados los puntos de datos y las etiquetas , el problema primario del margen duro SVM esx1,…,xn∈Rdx1,…,xn∈Rdx_1, \ldots, x_n \in \mathbb{R}^dy1,…,yn∈{−1,1}y1,…,yn∈{−1,1}y_1, \ldots, y_n \in \left \{-1, 1 \right\} minimizew,w012wTwminimizew,w012wTw \text{minimize}_{w, w_0} \quad \frac{1}{2} w^T w...
En los últimos años, las redes neuronales convolucionales (CNN) se han convertido en el estado del arte para el reconocimiento de objetos en la visión por computadora. Por lo general, una CNN consta de varias capas convolucionales, seguidas de dos capas completamente conectadas. Una intuición...
Gradient Descent tiene el problema de quedarse atascado en los mínimos locales. Necesitamos correr tiempos exponenciales de descenso de gradiente para encontrar mínimos globales. ¿Alguien puede decirme acerca de las alternativas de descenso de gradiente que se aplican en el aprendizaje de redes...
Cuando se utiliza la máquina de vectores de soporte, ¿existen pautas para elegir un núcleo lineal frente a un núcleo no lineal, como RBF? Una vez escuché que el kernel no lineal tiende a no funcionar bien una vez que el número de características es grande. ¿Hay alguna referencia sobre este...
Estoy tratando de interpretar los pesos variables dados ajustando un SVM lineal. (Estoy usando scikit-learn ): from sklearn import svm svm = svm.SVC(kernel='linear') svm.fit(features, labels) svm.coef_ No puedo encontrar nada en la documentación que indique específicamente cómo se calculan o...
Mi conjunto de datos es pequeño (120 muestras), sin embargo, el número de características es grande varía de (1000-200,000). Aunque estoy haciendo una selección de características para elegir un subconjunto de características, aún podría sobreajustar. Mi primera pregunta es, ¿cómo maneja SVM el...
¿Alguien puede darme alguna intuición sobre cuándo elegir SVM o LR? Quiero entender la intuición detrás de cuál es la diferencia entre los criterios de optimización para aprender el hiperplano de los dos, donde los objetivos respectivos son los siguientes: SVM: intente maximizar el margen entre...
¿Cuál es la intuición detrás del hecho de que una SVM con un núcleo gaussiano tiene un espacio de características dimensionales
Cómo demostrar que la función de base radial k(x,y)=exp(−||x−y||2)2σ2)k(x,y)=exp(−||x−y||2)2σ2)k(x, y) = \exp(-\frac{||x-y||^2)}{2\sigma^2})es un núcleo? Por lo que yo entiendo, para probar esto tenemos que probar cualquiera de los siguientes: Para cualquier conjunto de vectores...
¿Alguien puede decirme qué significa la frase 'estudiante débil'? ¿Se supone que es una hipótesis débil? Estoy confundido acerca de la relación entre un alumno débil y un clasificador débil. ¿Ambos son iguales o hay alguna diferencia? En el algoritmo AdaBoost, T=10. ¿Qué se entiende por eso? ¿Por...
He visto que la gente ha puesto muchos esfuerzos en SVM y Kernels, y se ven bastante interesantes como iniciadores en Machine Learning. Pero si esperamos que casi siempre podamos encontrar una solución superior en términos de red neuronal (profunda), ¿cuál es el significado de probar otros métodos...
Tengo un conjunto de datos de transmisión, los ejemplos están disponibles uno a la vez. Tendría que hacer una clasificación de clases múltiples en ellos. Tan pronto como introduje un ejemplo de capacitación en el proceso de aprendizaje, tengo que descartar el ejemplo. Al mismo tiempo, también estoy...
¿Cómo obtener una importancia variable (atributo) usando SVM?