¿Cómo puedo entender lo que hace el Kernel RBF en SVM? Quiero decir que entiendo las matemáticas, pero ¿hay alguna manera de tener una idea de cuándo será útil este núcleo? ¿Los resultados de kNN estarían relacionados con SVM / RBF ya que el RBF contiene distancias vectoriales? ¿Hay alguna manera...
Si en el núcleo PCA elijo un núcleo lineal K(x,y)=x⊤yK(x,y)=x⊤yK(\mathbf{x},\mathbf{y}) = \mathbf x^\top \mathbf y , ¿el resultado será diferente del PCA lineal ordinario ? ¿Son las soluciones fundamentalmente diferentes o existe alguna relación bien
Más de una pregunta general. Estoy ejecutando un SVM rbf para el modelado predictivo. Creo que mi programa actual definitivamente necesita un poco más de velocidad. Yo uso scikit learn con una búsqueda de grilla gruesa a fina + validación cruzada. Cada ejecución de SVM toma alrededor de un minuto,...
Estoy tratando de entender la intuición detrás de los SVM del kernel. Ahora, entiendo cómo funciona el SVM lineal, mediante el cual se toma una línea de decisión que divide los datos lo mejor que puede. También entiendo el principio detrás de la transferencia de datos a un espacio de dimensiones...
A menudo se dice que la regresión del proceso gaussiano corresponde (GPR) a la regresión lineal bayesiana con una (posiblemente) cantidad infinita de funciones básicas. Actualmente estoy tratando de entender esto en detalle para tener una intuición de qué tipo de modelos puedo expresar usando...
Cómo demostrar que para la función de base radial no existe un espacio de características de dimensión finita tal que para algunos tenemos ?k(x,y)=exp(−||x−y||2)2σ2)k(x,y)=exp(−||x−y||2)2σ2)k(x, y) = \exp(-\frac{||x-y||^2)}{2\sigma^2})HHHΦ:Rn→HΦ:Rn→H\Phi: \text{R}^n \to...
¿Cómo puedo demostrar que el producto puntual de dos funciones del núcleo es una función del
Parece que hay muchos algoritmos de aprendizaje automático que dependen de las funciones del núcleo. SVMs y NNs para nombrar solo dos. Entonces, ¿cuál es la definición de una función del núcleo y cuáles son los requisitos para que sea
Recientemente aprendí sobre el uso del truco Kernel, que mapea datos en espacios dimensionales superiores en un intento de linealizar los datos en esas dimensiones. ¿Hay algún caso en el que deba evitar usar esta técnica? ¿Es solo una cuestión de encontrar la función correcta del núcleo? Por...
Soy nuevo en kernels y he encontrado un inconveniente al intentar kernelise kNN. Preliminares Estoy usando un polinomio núcleo: K( X , y ) = ( 1 + ⟨ x , y ⟩ )reK(x,y)=(1+⟨x,y⟩)dK(\mathbf{x},\mathbf{y}) = (1 + \langle \mathbf{x},\mathbf{y} \rangle)^d Su kNN euclidiano típico utiliza la...
He estado leyendo sobre el método de Nyström para la aproximación de kernel de bajo rango. Este método se implementa en scikit-learn [1] como un método para proyectar muestras de datos a una aproximación de bajo rango del mapeo de características del núcleo. A lo mejor de mi conocimiento, dado un...
¿Cuáles son las formas de elegir qué núcleo daría lugar a una buena separación de datos en la salida de datos final por el núcleo PCA (análisis de componentes principales), y cuáles son las formas de optimizar los parámetros del núcleo? Los términos simples, si es posible, serían muy apreciados, y...
Cerrado. Esta pregunta está fuera de tema . Actualmente no está aceptando respuestas. ¿Quieres mejorar esta pregunta? Actualice la pregunta para que esté en el tema de Cross Validated. Cerrado hace 3 años . Tengo una matriz numpy con m columnas yn filas,...
Ejecuté un SVM contra un conjunto de datos dado e hice la siguiente observación: Si cambio la cantidad de características para construir el clasificador, la cantidad de vectores de soporte resultantes también cambiará. Me gustaría saber cómo explicar este tipo de
Un colega tiene una función para nuestros propósitos es una caja negra. La función mide la similitud s ( a , b ) de dos objetos.ssss ( a , b )s(a,b)s(a,b) Sabemos con certeza que tiene estas propiedades:sss Los puntajes de similitud son números reales entre 0 y 1, inclusive. Sólo los objetos que...
Me gustaría entrenar un SVM para clasificar casos (VERDADERO / FALSO) basado en 20 atributos. Sé que algunos de esos atributos están altamente correlacionados. Por lo tanto, mi pregunta es: ¿SVM es sensible a la correlación o redundancia entre las características? Alguna
Recientemente he usado la escala de Platt de salidas SVM para estimar las probabilidades de eventos predeterminados. Las alternativas más directas parecen ser la "Regresión logística del núcleo" (KLR) y la "Máquina de vectores de importación" relacionada. ¿Alguien puede decir qué método de kernel...
Los métodos de kernel son muy efectivos en muchas tareas de clasificación supervisadas. Entonces, ¿cuáles son las limitaciones de los métodos del núcleo y cuándo usar los métodos del núcleo? Especialmente en la era de los datos a gran escala, ¿cuáles son los avances de los métodos del núcleo? ¿Cuál...
Durante un tiempo, parecía que Fisher Kernels podría volverse popular, ya que parecían ser una forma de construir núcleos a partir de modelos probabilísticos. Sin embargo, rara vez los he visto utilizados en la práctica, y tengo la buena autoridad de que tienden a no funcionar muy bien. Se basan en...
La Regresión de cresta se puede expresar como donde es la etiqueta predicha , la matriz de identificación , el objeto para el que estamos tratando de encontrar una etiqueta y la matriz de objetos tal que:y^=(X′X+aId)−1Xxy^=(X′X+aId)−1Xx\hat{y} = (\mathbf{X'X} +