¿Qué tipo de normalización de datos debería usarse con KNN?

Sé que hay más de dos tipos de normalización.

Por ejemplo,

1- Transformar datos utilizando una puntuación z o una puntuación t. Esto generalmente se llama estandarización.

2- Reescalando datos para tener valores entre 0 y 1.

La pregunta ahora si necesito normalizar

¿Qué tipo de normalización de datos debería usarse con KNN? ¿y por qué?

Para k-NN, sugeriría normalizar los datos entre y .$0$$1$

k-NN usa la distancia euclidiana como medio para comparar ejemplos. Para calcular la distancia entre dos puntos y , donde es el valor de la característica -ésima de :$x_1 = (f_1^1, f_1^2, ..., f_1^M)$$x_2 = (f_2^1, f_2^2, ..., f_2^M)$$f_1^i$$i$$x_1$

Para que todas las características tengan la misma importancia al calcular la distancia, las características deben tener el mismo rango de valores. Esto solo se puede lograr mediante la normalización.

Si no se normalizaron y, por ejemplo, la característica tenía un rango de valores en ), mientras que tenía un rango de valores en . Al calcular la distancia, el segundo término sería veces más importante que el primero, lo que llevaría a k-NN a confiar más en la segunda característica que en la primera. La normalización asegura que todas las características se asignen al mismo rango de valores.$f^1$$[0, 1$$f^2$$[1, 10)$$10$

La estandarización, por otro lado, tiene muchas propiedades útiles, pero no puede garantizar que las características se asignen al mismo rango. Si bien la estandarización puede ser más adecuada para otros clasificadores, este no es el caso para k-NN o cualquier otro clasificador basado en la distancia.