Supongamos que quiero entrenar una red neuronal profunda para realizar una clasificación o regresión, pero quiero saber qué tan segura será la predicción. ¿Cómo podría lograr esto? Mi idea es calcular la entropía cruzada para cada dato de entrenamiento, en función de su rendimiento de predicción...
AIC se recomienda con frecuencia como criterio para comparar modelos para pronósticos de series de tiempo. Vea, por ejemplo, esto en el contexto de los modelos de regresión dinámica : El AIC se puede calcular para el modelo final, y este valor se puede usar para determinar los mejores...
La pregunta se basa en el artículo titulado: Reconstrucción de imágenes en tomografía óptica difusa utilizando el modelo acoplado de transporte radiativo-difusión Enlace de descarga Los autores aplican el algoritmo EM con regularización de dispersión de un vector desconocido para estimar los...
Estoy aprendiendo sobre el aprendizaje profundo (específicamente CNN) y cómo normalmente requiere una gran cantidad de datos para evitar el sobreajuste. Sin embargo, también me han dicho que cuanto mayor capacidad / más parámetros tiene un modelo, más datos se requieren para evitar el sobreajuste....
Está arraigado en la enseñanza de disciplinas aplicadas, como la medicina, que las mediciones de cantidades biomédicas en la población siguen una "curva de campana" normal. Una búsqueda en Google de la la cadena "que supone una distribución normal" retornos resultados! Parecen, "dado el pequeño...
Estoy buscando recursos (no tiene que ser un solo libro) que cubran algunos de los casos más desafiantes de diseño experimental y análisis estadístico. Algunos de los casos que me gustaría que cubrieran: 1. Casos donde las unidades de aleatorización son diferentes de las unidades de...
Considere la pérdida cuadrática , con la anterior donde . Sea la probabilidad. Encuentre el estimador de Bayes .L(θ,δ)=(θ−δ)2L(θ,δ)=(θ−δ)2L(\theta,\delta)=(\theta-\delta)^2π(θ)π(θ)\pi(\theta)π(θ)∼U(0,1/2)π(θ)∼U(0,1/2)\pi(\theta)\sim
Estoy usando la función randomForesten el randomForestpaquete de R para hacer una regresión. Sin embargo, cuando intento incluir un término de interacción en los siguientes códigos: library(MASS) library(randomForest) Boston_f <- within(Boston, factor(rad)) mdl <- randomForest(lstat ~ rad *...
Actualmente estoy viendo un documento del modelo de efectos aleatorios del proceso de Dirichlet y la especificación del modelo es la siguiente: dondeαes el parámetro de escala yG0es la medida base. Más adelante en el artículo, sugiere que integremos una función sobre la medida baseG0como ∫f(y j...
En su papel en autoencoders para la clasificación de texto Hinton y Salakhutdinov demostrado la trama producida por 2-dimensional LSA (que está estrechamente relacionado con PCA): . Aplicando PCA a datos dimensionales ligeramente altos, absolutamente diferentes, obtuve una gráfica similar:...
¿Existe una relación matemática entre: la similitud del coseno de dos vectores y , ysim(A,B)sim(A,B)\operatorname{sim}(A, B)AAABBB ¿La similitud del coseno de y , escalada de manera no uniforme a través de una matriz dada ? Aquí es una matriz diagonal dada con elementos desiguales en la...
Estoy haciendo una tarea sobre árboles de decisión, y una de las preguntas que tengo que responder es "¿Por qué los estimadores están construidos a partir de árboles sesgados, y cómo ayuda el embolsado a reducir su variación?". Ahora, sé que los modelos sobreajustados tienden a tener un sesgo...
Hay varias preguntas que hablan de los méritos relativos de varios métodos para evaluar la importancia de los predictores de regresión, por ejemplo, este . Noté que en este comentario @gung se refiere a la práctica como una "idea equivocada", vinculando a esta respuesta en apoyo de esta...
Cuando se aplica el abandono en redes neuronales artificiales, uno debe compensar el hecho de que en el momento del entrenamiento una parte de las neuronas se desactivaron. Para hacerlo, existen dos estrategias comunes: escalar la activación en el momento de la prueba invertir el abandono durante...
En su artículo seminal 'Regresión de ángulo mínimo' , Efron et al describen una modificación simple del algoritmo LARS que permite calcular las rutas completas de regularización de LASSO. He implementado esta variante con éxito y, por lo general, trazo la ruta de salida en comparación con el...
Casi todos los libros de texto que discuten la aproximación normal a la distribución binomial mencionan la regla general de que la aproximación se puede usar si np≥5np≥5np\geq5 y n(1−p)≥5n(1−p)≥5n(1-p)\geq 5. Algunos libros sugierennp(1−p)≥5np(1−p)≥5np(1-p)\geq 5en lugar. La misma constante555 a...
En varias competiciones de kaggle, la puntuación se basó en "logloss". Esto se relaciona con el error de clasificación. Aquí hay una respuesta técnica, pero estoy buscando una respuesta intuitiva. Realmente me gustaron las respuestas a esta pregunta sobre la distancia de Mahalanobis, pero PCA no...
En el famoso experimento de Fisher la observable es el número de corregido taza adivinado que tiene dos tipos de taza A y B . Por lo general, es interesante calcular la región crítica para rechazar la hipótesis nula (la mujer adivina al azar) dado el tamaño de la prueba α . Esto se hace fácilmente...
¿Alguien puede decirme cómo simular , donde , usando un lanzamiento de monedas (tantas veces como sea necesario) con ?Bernoulli(ab)Bernoulli(ab)\mathrm{Bernoulli}\left({a\over b}\right)a,b∈Na,b∈Na,b\in \mathbb{N}P(H)=pP(H)=pP(H)=p Estaba pensando en usar muestras de rechazo, pero no pude...
En resumen, mi pregunta: ¿existen métodos para mejorar el tiempo de ejecución de R MICE (imputación de datos)? Estoy trabajando con un conjunto de datos (30 variables, 1.3 millones de filas) que contiene (bastante al azar) datos faltantes. Alrededor del 8% de las observaciones en aproximadamente...