Selección a priori de pesos de clase SVM

Recuerdo haber visto / leído en alguna parte que para SVM multiclase con datos no balanceados, había una manera de determinar los pesos de clase a partir de los datos de entrenamiento (en lugar de la validación X). ¿Alguien sabe cuál es el método o de qué papel proviene?

Gracias

machine-learning svm unbalanced-classes tomas
fuente

¿Encontró una buena solución para svm multiclase?

Vam

Respuestas:

Para SVM que minimiza la función objetivo

\frac{1}{2} | | w | |^{2} + C_{1} \sum_{ξ_{i} : y_{i} = - 1}^{l} ξ_{i} + C_{2} \sum_{ξ_{i} : y_{i} = 1}^{l} ξ_{i}

$\frac{1}{2}||w||^2 + C_1 \sum_{\xi_i: y_i=-1}^{l}\xi_i + C_2 \sum_{\xi_i: y_i=1}^{l}\xi_i$ puedes elegir constantes

C_{1}

$C_1$ y

C_{2}

$C_2$ inversamente proporcional a los tamaños de clase. Es decir, si tienes

l_{1}

$l_1$ muestras de entrenamiento en clase 1 y

l_{2}

$l_2$ - en la clase 2, tome

C_{1}

$C_1$ y

C_{2}

$C_2$ tal que

C_{1} / C_{2}

$C_1/C_2$ =

l_{2} / l_{1}

$l_2/l_1$ . Es posible que deba ajustarlos ligeramente más adelante en sus experimentos, pero esta es una buena regla general.

Si está utilizando el paquete LIBSVM, puede especificar $C_1$ y $C_2$ usando las banderas '' -w-1 '' y "-w1".

PD: Acabo de notar que preguntaste sobre un problema multiclase. Bueno, tal vez aún encuentres útil esta respuesta.

León
fuente