No estoy seguro de si esto es apropiado para este sitio, pero estoy comenzando mi MSE en ciencias de la computación (BS en matemáticas aplicadas) y quiero obtener una sólida formación en aprendizaje automático (lo más probable es que busque un doctorado). Uno de mis intereses secundarios son las...
Estoy tratando de usar el neuralnetpaquete de R (documentación aquí ) para la predicción. Aquí lo que estoy tratando de hacer: library(neuralnet) x <- cbind(runif(50, min=1, max=500), runif(50, min=1, max=500)) y <- x[, 1] * x[, 2] train <- data.frame(x, y) n <- names(train) f <-...
Estoy tratando de trazar el límite de decisión de un algoritmo de perceptrón y estoy realmente confundido acerca de algunas cosas. Mis instancias de entrada tienen la forma , básicamente una instancia de entrada 2D ( y ) y un valor objetivo de clase binaria ( ) [1 o 0].x 1 x 2 y[ ( x1, x2) ,...
Actualmente estoy trabajando en un software de reconocimiento de rostros que utiliza redes neuronales de convolución para reconocer rostros. Basado en mis lecturas, he deducido que una red neuronal convolucional ha compartido pesos, para ahorrar tiempo durante el entrenamiento. Pero, ¿cómo se...
He estado utilizando el método de extracción de red troncal descrito en este documento: http://www.pnas.org/content/106/16/6483.abstract Básicamente, los autores proponen un método basado en estadísticas que produce una probabilidad, para cada borde en el gráfico, de que el borde podría haber...
La modularidad de un gráfico se define en su página de Wikipedia . En una publicación diferente , alguien explicó que la modularidad se puede calcular fácilmente (y maximizar) para redes ponderadas porque la matriz de adyacencia puede contener lazos valorados. Sin embargo, me gustaría saber si esto...
Basado en lo que he aprendido, utilizamos múltiples filtros en una capa de convección de una CNN para aprender diferentes detectores de características. Pero dado que estos filtros se aplican de manera similar (es decir, deslizados y multiplicados a las regiones de la entrada), ¿no aprenderían los...
Según tengo entendido, las CNN consisten en dos partes. La primera parte (capas conv / pool) que realiza la extracción de características y la segunda parte (capas fc) que realiza la clasificación de las características. Dado que las redes neuronales completamente conectadas no son los mejores...
Al implementar un codificador automático con red neuronal, la mayoría de las personas usará sigmoide como la función de activación. ¿Podemos usar ReLU en su lugar? (Dado que ReLU no tiene límite en el límite superior, básicamente significa que la imagen de entrada puede tener píxeles mayores que...
Supongamos que quiero aprender un clasificador que toma un vector de números como entrada y le da una etiqueta de clase como salida. Mis datos de entrenamiento consisten en una gran cantidad de pares de entrada-salida. Sin embargo, cuando vengo a probar algunos datos nuevos, estos datos...
¿Cómo puedo calcular el número de parámetros en una red neuronal artificial para calcular su
Aquí hay algo que leí en el libro de Ian Goodfellow Deep Learning . En el contexto de las redes neuronales, "la penalización de la norma del parámetro L2 se conoce comúnmente como pérdida de peso. Esta estrategia de regularización lleva los pesos más cerca del origen. [...] Más en general,...
Tengo problemas para comprender el modelo de omisión de gramo del algoritmo Word2Vec. En una bolsa de palabras continua es fácil ver cómo las palabras de contexto pueden "encajar" en la Red Neural, ya que básicamente las promedia después de multiplicar cada una de las representaciones de...
Estoy tratando de usar una red neuronal para aproximar el valor Q en Q-learning como en Preguntas sobre Q-Learning usando redes neuronales . Como se sugiere en la primera respuesta, estoy usando una función de activación lineal para la capa de salida, mientras sigo usando la función de activación...
La idea detrás de Recurrent Neural Network (RNN) es clara para mí. Lo entiendo de la siguiente manera: tenemos una secuencia de observaciones ( ) (o, en otras palabras, series de tiempo multivariadas). Cada observación individual es un vector numérico dimensional. Dentro del modelo RNN suponemos...
Estaba implementando un documento bastante popular " EXPLICANDO Y APROVECHANDO EJEMPLOS ADVERSARIALES " y en el documento, entrena una función objetiva adversaria J '' (θ) = αJ (θ) + (1 - α) J '(θ). Trata a α como un hiperparámetro. α puede ser 0.1, 0.2, 0.3, etc. Independientemente de este...
Estoy usando feed-forward NN. Entiendo el concepto, pero mi pregunta es sobre los pesos. ¿Cómo puedes interpretarlos, es decir, qué representan o cómo pueden ser no desechables (dados solo coeficientes de función)? He encontrado algo llamado "espacio de pesas", pero no estoy muy seguro de lo que...
Recientemente, vimos la aparición de la Red Neural Residual, en la que cada capa consta de un módulo computacional y una conexión de acceso directo que preserva la entrada a la capa, como la salida de la capa i-ésima muestra: y i + 1 = c i + y i La red permite extraer características residuales y...
Estaba leyendo el documento de normalización por lotes [1] y tenía una sección donde se muestra un ejemplo, tratando de mostrar por qué la normalización debe hacerse con cuidado. Honestamente, no puedo entender cómo funciona el ejemplo y estoy realmente muy curioso por entender que se escriben...
¿El análisis de componentes principales (PCA) elimina el ruido en el conjunto de datos? Si PCA no elimina el ruido en el conjunto de datos, ¿qué hace realmente PCA al conjunto de datos? ¿Alguien puede ayudarme con respecto a este