Preguntas etiquetadas con kernel-trick

Los métodos de kernel se utilizan en el aprendizaje automático para generalizar técnicas lineales a situaciones no lineales, especialmente SVM, PCA y GP. No debe confundirse con [suavizado de kernel], para la estimación de densidad de kernel (KDE) y la regresión de kernel.

78
Un ejemplo: regresión LASSO usando glmnet para el resultado binario

Estoy empezando a incursionar con el uso de glmnetla LASSO regresión donde mi resultado de interés es dicotómica. He creado un pequeño marco de datos simulados a continuación: age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) bmi_p <- c(0.86, 0.45, 0.99, 0.84,...

33
¿Existe algún problema de aprendizaje supervisado que las redes neuronales (profundas) obviamente no puedan superar a otros métodos?

He visto que la gente ha puesto muchos esfuerzos en SVM y Kernels, y se ven bastante interesantes como iniciadores en Machine Learning. Pero si esperamos que casi siempre podamos encontrar una solución superior en términos de red neuronal (profunda), ¿cuál es el significado de probar otros métodos...

29
Diferencia entre un SVM y un perceptrón

Estoy un poco confundido con la diferencia entre un SVM y un perceptrón. Permítanme tratar de resumir mi comprensión aquí, y siéntanse libres de corregir dónde estoy equivocado y completar lo que me he perdido. El Perceptron no intenta optimizar la separación "distancia". Mientras encuentre un...

24
Mapa de características para el núcleo gaussiano

x,y∈RnϕK(x,y)=exp(−∥x−y∥222σ2)=ϕ(x)Tϕ(y)K(x,y)=exp⁡(−‖x−y‖222σ2)=ϕ(x)Tϕ(y)K(x,y)=\exp\left({-\frac{\|x-y\|_2^2}{2\sigma^2}}\right)=\phi(x)^T\phi(y)x,y∈Rnx,y∈Rnx, y\in \mathbb{R^n}ϕϕ\phi También quiero saber si ∑iciϕ(xi)=ϕ(∑icixi)∑iciϕ(xi)=ϕ(∑icixi)\sum_ic_i\phi(x_i)=\phi \left(\sum_ic_ix_i...

21
¿Cómo proyectar un nuevo vector en el espacio PCA?

Después de realizar el análisis de componentes principales (PCA), quiero proyectar un nuevo vector en el espacio PCA (es decir, encontrar sus coordenadas en el sistema de coordenadas PCA). He calculado PCA en lenguaje R usando prcomp. Ahora debería poder multiplicar mi vector por la matriz de...

21
¿Qué función podría ser un núcleo?

En el contexto del aprendizaje automático y el reconocimiento de patrones, hay un concepto llamado Kernel Trick . Enfrentando problemas en los que se me pide que determine si una función podría ser una función del núcleo o no, ¿qué se debe hacer exactamente? ¿Debería comprobar primero si tienen la...