Preguntas etiquetadas con optimization

Entonces, tengo 16 ensayos en los que estoy tratando de autenticar a una persona de un rasgo biométrico usando Hamming Distance. Mi umbral está establecido en 3.5. Mis datos están a continuación y solo la prueba 1 es un verdadero positivo: Trial Hamming Distance 1 0.34 2 0.37 3 0.34 4 0.29 5...

Estoy buscando una referencia sólida (o referencias) sobre técnicas de optimización numérica destinadas a los estadísticos, es decir, aplicaría estos métodos a algunos problemas de inferencia estándar (por ejemplo, MAP / MLE en modelos comunes). Cosas como el descenso de gradiente (recto y...

Esta es una pregunta bastante general (es decir, no necesariamente específica para las estadísticas), pero he notado una tendencia en el aprendizaje automático y la literatura estadística donde los autores prefieren seguir el siguiente enfoque: Enfoque 1 : Obtenga una solución a un problema...

Estoy tratando de entender la optimización de descenso de gradiente en algoritmos ML (aprendizaje automático). Tengo entendido que hay una función donde el costo es el objetivo de minimizar el error y - y . En un escenario donde los pesos w 1 , w 2 se están optimizando para dar el error mínimo y se...

¿Cómo puedo estimar los intervalos de confianza del 95% usando la creación de perfiles para los parámetros estimados maximizando una función de log-verosimilitud usando optim en R? Sé que puedo estimar asintóticamente la matriz de covarianza invirtiendo el hessian , pero me preocupa que mis datos...

Considere una respuesta y y matriz de datos X . Supongamos que estoy creando un modelo del formulario: y ~ g (X, )θθ\theta (g () podría ser cualquier función de X y )θθ\theta Ahora, para estimar utilizando el método de máxima verosimilitud (ML), podría seguir adelante con ML condicional...

Así que estoy tratando de enseñarme a mí mismo las redes neuronales (para aplicaciones de regresión, no para clasificar imágenes de gatos). Mis primeros experimentos fueron entrenar una red para implementar un filtro FIR y una Transformada Discreta de Fourier (entrenamiento en señales "antes" y...

Por defecto, cuando usamos una glmfunción en R, usa el método de mínimos cuadrados reponderados iterativamente (IWLS) para encontrar la estimación de máxima verosimilitud de los parámetros. Ahora tengo dos preguntas. ¿Las estimaciones de IWLS garantizan el máximo global de la función de...

Estoy buscando un paquete que me ayude a resolver algunos problemas de optimización cuadrática y veo que hay al menos media docena de paquetes diferentes. De acuerdo con esta página: QP (programación cuadrática, 90C20): cplexAPI , kernlab , limSolve , LowRankQP , quadprog , Rcplex ,...

En mi libro de texto econométrico (Econometría introductoria) que cubre OLS, el autor escribe: "SSR debe caer cuando se agrega otra variable explicativa". Por que

Estaba pensando en resolver Lasso a través de métodos de subgrado de vainilla. Pero he leído personas que sugieren usar el descenso de gradiente proximal. ¿Alguien puede resaltar por qué se usa GD proximal en lugar de los métodos de subgradiente de vainilla para

Supongamos que queremos calcular algunas expectativas: EYEX|Y[f(X,Y)]EYEX|Y[f(X,Y)]E_YE_{X|Y}[f(X,Y)] Supongamos que queremos aproximar esto usando la simulación de Monte Carlo. EYEX|Y[f(X,Y)]≈1RS∑r=1R∑s=1Sf(xr,s,yr)miYmiXEl |Y[F(X,Y)]≈1RS∑r=1R∑s=1SF(Xr,s,yr)E_YE_{X|Y}[f(X,Y)] \approx...

Estoy entrenando una red neuronal convolucional simple para la regresión, donde la tarea es predecir la ubicación (x, y) de un cuadro en una imagen, por ejemplo: La salida de la red tiene dos nodos, uno para xy otro para y. El resto de la red es una red neuronal convolucional estándar....

Soy bastante nuevo en el aprendizaje automático y las estadísticas, pero me preguntaba por qué la optimización bayesiana no se refiere con mayor frecuencia en línea cuando se aprende el aprendizaje automático para optimizar los hiperparámetros de su algoritmo. Por ejemplo, utilizando un marco como...

Supongamos que estamos haciendo un ejemplo de juguete en gradiente decente, minimizando una función cuadrática , usando un tamaño de paso fijo . ( )α = 0.03 A = [ 10 , 2 ; 2 , 3 ]XTA xxTAxx^TAxα = 0.03α=0,03\alpha=0.03A = [ 10 , 2 ; 2 , 3 ]UNA=[10,2;2,3]A=[10, 2; 2, 3] Si trazamos el rastro de en...

Me gustaría hacer algo en R que SAS pueda hacer usando el proceso mixto de SAS (hay alguna manera de hacerlo en STATA es bien), es decir, ajustar el llamado modelo Bivariate de Reitsma et al (2005). Este modelo es un modelo mixto especial donde la varianza depende del estudio (ver más abajo)....

Estoy trabajando en un proyecto de aprendizaje automático en el que intento ajustar una curva en los datos. Desafortunadamente, la fecha tiene un vector de características algo alto. Por lo tanto, realmente no puedo trazarlos en un espacio 2D o 3D para adivinar cómo se ve la forma de los...

He estado jugando con la regresión logística con varios algoritmos de optimización por lotes (gradiente conjugado, newton-raphson y varios métodos de cuasinewton). Una cosa que he notado es que a veces, agregar más datos a un modelo puede hacer que la capacitación del modelo tome mucho menos...

Acabo de comenzar a usar el paquete autoencoder en R. Las entradas a la autoencode()función incluyen lambda, beta, rho y epsilon. ¿Cuáles son los límites de estos valores? ¿Varían para cada función de activación? ¿Se llaman estos parámetros "hiperparámetros"? Suponiendo un autoencoder disperso,...

Hay muchas reglas para seleccionar un ancho de contenedor óptimo en un histograma 1D (ver por ejemplo ) Estoy buscando una regla que aplique la selección de anchos óptimos de bin igual en histogramas bidimensionales . ¿Existe tal regla? Quizás una de las reglas bien conocidas para los histogramas...