Estoy haciendo clasificación de imágenes usando el aprendizaje automático. Supongamos que tengo algunos datos de entrenamiento (imágenes) y los dividiré en conjuntos de entrenamiento y validación. Y también quiero aumentar los datos (producir nuevas imágenes de las originales) mediante rotaciones...
Tengo una pregunta sobre la optimización de parámetros cuando uso la validación cruzada 10 veces. Quiero preguntar si los parámetros deberían arreglarse o no durante el entrenamiento del modelo de cada pliegue, es decir (1) seleccionar un conjunto de parámetros optimizados para la precisión...
Estoy haciendo una validación cruzada usando el método de dejar uno afuera. Tengo una respuesta binaria y estoy usando el paquete de arranque para R y la función cv.glm . Mi problema es que no entiendo completamente la parte del "costo" en esta función. Por lo que puedo entender, esta es la función...
Mi pregunta principal es con respecto a tratar de entender cómo encaja la validación cruzada k-fold en el contexto de tener conjuntos de capacitación / validación / prueba (si cabe en ese contexto). Por lo general, las personas hablan de dividir los datos en un conjunto de entrenamiento,...
Bloqueado . Esta pregunta y sus respuestas están bloqueadas porque la pregunta está fuera de tema pero tiene un significado histórico. Actualmente no acepta nuevas respuestas o interacciones. Ahora que tengo un Rmarco de datos (capacitación), ¿alguien puede decirme cómo...
He escuchado la siguiente expresión antes: "La optimización es la raíz de todo mal en las estadísticas". Por ejemplo, la respuesta principal en este hilo hace esa declaración en referencia al peligro de optimizar demasiado agresivamente durante la selección del modelo. Mi primera pregunta es...
Estoy redactando una revisión de la literatura sobre un problema de salud pública actual en el que los datos se confunden: ¿Cuáles son los estudios de casos históricos comunes que se utilizan en la educación de salud pública / epidemiología donde las relaciones o inferencias inválidas o confusas...
Scikit tiene CalibratedClassifierCV , que nos permite calibrar nuestros modelos en un par X, y particular. También establece claramente quedata for fitting the classifier and for calibrating it must be disjoint. Si deben ser disjuntos, ¿es legítimo entrenar al clasificador con lo siguiente?...
He estado buscando varios hilos aquí, pero no creo que mi pregunta exacta sea respondida. Tengo un conjunto de datos de ~ 50,000 estudiantes y su tiempo de deserción. Voy a realizar una regresión de riesgos proporcionales con una gran cantidad de posibles covariables. También voy a hacer una...
Parece que hay consejos contradictorios sobre cómo manejar la comparación entre el error del tren y la prueba, particularmente cuando hay una brecha entre los dos. Parece que hay dos escuelas de pensamiento que para mí parecen estar en conflicto. Estoy buscando entender cómo conciliar los dos (o...
La página de Scikit Learn sobre Selección de modelos menciona el uso de validación cruzada anidada: >>> clf = GridSearchCV(estimator=svc, param_grid=dict(gamma=gammas), ... n_jobs=-1) >>> cross_validation.cross_val_score(clf, X_digits, y_digits) Se realizan dos bucles de...
Por lo general, en la regresión logística, ajustamos un modelo y obtenemos algunas predicciones sobre el conjunto de entrenamiento. Luego validamos de manera cruzada esas predicciones de entrenamiento (algo así como aquí ) y decidimos el valor umbral óptimo basado en algo como la curva ROC. ¿Por...
Creo que entiendo cómo funcionan los fundamentos del bootstrapping , pero no estoy seguro de entender cómo puedo usar el bootstrapping para la selección del modelo o para evitar el sobreajuste. Para la selección del modelo, por ejemplo, ¿elegiría el modelo que produce el error más bajo (¿tal vez...
¿Alguien puede explicarme mi modelo de Cox en inglés simple? Ajusté el siguiente modelo de regresión de Cox a todos mis datos usando la cphfunción. Mis datos se guardan en un objeto llamado Data. Las variables w, xy yson continuas; zEs un factor de dos niveles. El tiempo se mide en meses. A...
Estoy usando scikit-learn para realizar una regresión logística con validación cruzada en un conjunto de datos (aproximadamente 14 parámetros con> 7000 observaciones normalizadas). También tengo un clasificador de destino que tiene un valor de 1 o 0. El problema que tengo es que,...
Supongamos que tengo una división 80/20 entre las observaciones de modelado / validación. He ajustado un modelo al conjunto de datos de modelado y me siento cómodo con el error que veo en el conjunto de datos de validación. Antes de implementar mi modelo para puntuar futuras observaciones, ¿es...
Al realizar la validación cruzada k-fold, entiendo que obtienes las métricas de precisión apuntando todos los pliegues excepto uno en ese pliegue y haces predicciones, y luego repites este proceso veces. Luego puede ejecutar métricas de precisión en todas sus instancias (precisión, recuperación,%...
Cuando evaluamos la calidad de un bosque aleatorio, por ejemplo, utilizando AUC, ¿es más apropiado calcular estas cantidades sobre las Muestras fuera de bolsa o sobre el conjunto de validación cruzada? Escuché que calcularlo a través de las muestras OOB ofrece una evaluación más pesimista, pero no...
Acabo de terminar "Una introducción al aprendizaje estadístico" . Me preguntaba si el uso de la validación cruzada para encontrar los mejores parámetros de ajuste para diversas técnicas de aprendizaje automático es diferente de la indagación de datos. Estamos comprobando repetidamente qué valor...
Estoy tratando de escribir mi propia función para el análisis de componentes principales, PCA (por supuesto, ya hay mucho escrito pero solo estoy interesado en implementar cosas por mí mismo). El principal problema que encontré es el paso de validación cruzada y el cálculo de la suma de cuadrados...