Solo una pregunta general. Si tiene datos de series de tiempo, ¿cuándo es mejor usar técnicas de series de tiempo (aka, ARCH, GARCH, etc.) sobre técnicas de aprendizaje automático / estadístico (KNN, regresión)? Si hay una pregunta similar que existe en la validación cruzada, por favor apúnteme...
¿Cuál es la dimensión VC del algoritmo vecino k más cercano si k es igual al número de puntos de entrenamiento utilizados? Contexto: esta pregunta se formuló en un curso que tomé y la respuesta dada fue 0. Sin embargo, no entiendo por qué este es el caso. Mi intuición es que la Dimensión VC...
Entiendo que el entrenamiento previo se usa para evitar algunos de los problemas con la capacitación convencional. Si uso la retropropagación con, por ejemplo, un codificador automático, sé que voy a encontrar problemas de tiempo porque la retropropagación es lenta, y también que puedo quedar...
En la sección 7 del documento Random Forests (Breiman, 1999), el autor declara la siguiente conjetura: "Adaboost es un bosque aleatorio". ¿Alguien ha probado o refutado esto? ¿Qué se ha hecho para probar o refutar esta publicación de
A menudo veo personas hablando de validación cruzada 5x2 como un caso especial de validación cruzada anidada . Supongo que el primer número (aquí: 5) se refiere al número de pliegues en el bucle interno y el segundo número (aquí: 2) se refiere al número de pliegues en el bucle externo. Entonces,...
He estado dando vueltas para encontrar una explicación clara de "bucketization" en el aprendizaje automático sin suerte. Lo que entiendo hasta ahora es que la bucketización es similar a la cuantificación en el procesamiento de señales digitales donde un rango de valores continuos se reemplaza con...
Entiendo que las redes neuronales (NN) pueden considerarse aproximadores universales a ambas funciones y sus derivadas, bajo ciertos supuestos (tanto en la red como en la función para aproximar). De hecho, he realizado una serie de pruebas en funciones simples pero no triviales (p. Ej.,...
Me preguntaba si era posible entrenar un SVM (digamos uno lineal, para facilitar las cosas) usando la propagación hacia atrás. Actualmente, estoy en un obstáculo, porque solo puedo pensar en escribir la salida del clasificador
Estaba leyendo: https://en.wikipedia.org/wiki/Tf%E2%80%93idf#Definition Pero parece que no puedo entender exactamente por qué la fórmula se construyó de la manera en que está. Lo que sí entiendo: iDF debería medir en algún nivel la frecuencia con la que aparece un término S en cada uno de los...
Estoy tratando de abrirme camino a través del primer conjunto de problemas del material del curso en línea de la clase de Stanford cs224d y tengo algunos problemas con el problema 3A: cuando uso el modelo de omisión de word2vec con la función de predicción softmax y la función de pérdida de...
Actualmente estoy leyendo sobre la técnica de visualización t-SNE y se mencionó que uno de los inconvenientes de usar el análisis de componentes principales (PCA) para visualizar datos de alta dimensión es que solo conserva grandes distancias por pares entre los puntos. Los puntos de significado...
Para la tarea, me dieron datos para crear / entrenar un predictor que usa la regresión de lazo. Creo el predictor y lo entreno usando la biblioteca lasso python de scikit learn. Así que ahora tengo este predictor que cuando se da entrada puede predecir la salida. La segunda pregunta fue "Extienda...
Recientemente, me interesé en el apilamiento de modelos como una forma de aprendizaje conjunto. En particular, he experimentado un poco con algunos conjuntos de datos de juguetes para problemas de regresión. Básicamente, he implementado regresores individuales de "nivel 0", almacenado las...
En la literatura de aprendizaje automático, para representar una distribución de probabilidad, a menudo se usa la función softmax. ¿Hay alguna razón para esto? ¿Por qué no se usa otra
El algoritmo SVM es bastante antiguo: se desarrolló en la década de 1960, pero fue extremadamente popular en los años 1990 y 2000. Es una parte clásica (y bastante hermosa) de los cursos de aprendizaje automático. Hoy parece que en el procesamiento de medios (imágenes, sonido, etc.) las redes...
Support Vector Machines con núcleo de función de base radial es un clasificador supervisado de propósito general. Si bien conozco los fundamentos teóricos de estos SVM y sus puntos fuertes, no conozco los casos en los que son el método preferido. Entonces, ¿hay una clase de problemas para los...
Recientemente comencé a usar la validación cruzada de muestreo de importancia suavizada Pareto (PSIS-LOO), descrita en estos documentos: Vehtari, A. y Gelman, A. (2015). Pareto suavizó el muestreo de importancia. preimpresión arXiv ( enlace ). Vehtari, A., Gelman, A. y Gabry, J. (2016)....
Todo está en el título, ¿tiene sentido usar la selección de características antes de usar un bosque
En PCA, ¿hace alguna diferencia si elegimos componentes principales de la matriz de covarianza inversa O si eliminamos los vectores propios de la matriz de covarianza correspondientes a valores propios grandes? Esto está relacionado con la discusión en esta publicación
Estoy tratando de entrenar una red neuronal profunda para la clasificación, utilizando la propagación inversa. Específicamente, estoy usando una red neuronal convolucional para la clasificación de imágenes, usando la biblioteca Tensor Flow. Durante el entrenamiento, estoy experimentando un...