Todos los ejemplos que encontré usando creencias profundas o redes neuronales convolucionales las usan para la clasificación de imágenes, detección de caracteres o reconocimiento de voz. ¿Las redes neuronales profundas también son útiles para las tareas de regresión clásicas, donde las...
Después de una pregunta ya respondida ( Extrayendo la importancia del peso de la red de alimentación de una capa ) Estoy buscando inferencia sobre la relevancia de las entradas en las redes neuronales. Teniendo en cuenta una red profunda, donde reconstruir la importancia de la entrada yendo hacia...
En algunos tutoriales descubrí que se decía que la inicialización del peso "Xavier" (documento: Comprender la dificultad de entrenar redes neuronales de alimentación profunda ) es una forma eficiente de inicializar los pesos de las redes neuronales. Para las capas completamente conectadas, había...
Esta pregunta ya tiene respuestas aquí : Algoritmo de retropropagación (2 respuestas) Cerrado hace 3 meses . ¿Qué es el algoritmo de retropropagación y cómo
Cuando las personas hablan de redes neuronales, ¿qué quieren decir cuando dicen "tamaño de núcleo"? Los núcleos son funciones de similitud, pero ¿qué dice eso sobre el tamaño del
¿Cuál debería ser la razón entre el número de observaciones y el número de variables? ¿Cómo detectar el sobreajuste en el modelo de red neuronal y cuáles son las formas de evitar el sobreajuste? Si quiero realizar una clasificación con Neural Network, ¿deberían las clases tener la misma frecuencia?...
Las redes neuronales pulsadas o con picos incorporan más de la dinámica de la membrana de las neuronas biológicas, donde los pulsos llevan información a la siguiente capa. Las neuronas no necesariamente tienen que "dispararse" todas al mismo tiempo, como lo harían en un backprop, por ejemplo. Sin...
Tengo una lista de proteínas con sus valores característicos. Una tabla de muestra se ve así: ...............Feature1...Feature2...Feature3...Feature4 Protein1 Protein2 Protein3 Protein4 Las filas son proteínas y las columnas son características. También tengo una lista de proteínas que...
Estoy siguiendo la pregunta que había hecho anteriormente sobre RBM . Veo mucha literatura que los describe, pero ninguno que en realidad habla de regresión (ni siquiera clasificación con datos etiquetados). Tengo la sensación de que se usa solo para datos no etiquetados. ¿Hay algún recurso para...
He leído algunos documentos sobre la creación manual de imágenes para "engañar" a una red neuronal (ver más abajo). ¿Es esto porque las redes solo modelan la probabilidad condicional ? Si una red puede modelar la probabilidad conjunta , ¿seguirán ocurriendo estos casos?p ( yEl | x)pag(yEl...
Al inicializar los pesos de conexión en una red neuronal de avance, es importante inicializarlos aleatoriamente para evitar cualquier simetría que el algoritmo de aprendizaje no pueda romper. La recomendación que he visto en varios lugares (por ejemplo, en el tutorial MNIST de TensorFlow ) es usar...
Tengo un conocimiento básico de cómo funcionan los RNN (y, en particular, con las unidades LSTM). Tengo una idea pictórica de la arquitectura de una unidad LSTM, que es una celda y algunas puertas, que regulan el flujo de valores. Sin embargo, al parecer, no he entendido completamente cómo LSTM...
En el documento de 2015 de DeepMind sobre el aprendizaje de refuerzo profundo, afirma que "Los intentos anteriores de combinar RL con redes neuronales habían fracasado en gran medida debido al aprendizaje inestable". Luego, el documento enumera algunas causas de esto, en función de las...
Tengo datos sin procesar que tienen alrededor de 20 columnas (20 características). Diez de ellos son datos continuos y 10 de ellos son categóricos. Algunos de los datos categóricos pueden tener como 50 valores diferentes (Estados de EE. UU.). Después de preprocesar los datos, las 10 columnas...
Estoy usando una red lstm y feed-forward para clasificar el texto. Convierto el texto en vectores únicos y los introduzco en el lstm para poder resumirlo como una representación única. Luego lo alimento a la otra red. ¿Pero cómo entreno el lstm? Solo quiero clasificar en secuencia el texto,...
Estaba leyendo el libro de Yoshua Bengio sobre aprendizaje profundo y dice en la página 224: Las redes convolucionales son simplemente redes neuronales que usan la convolución en lugar de la multiplicación matricial general en al menos una de sus capas. sin embargo, no estaba 100% seguro de...
Acabo de cubrir Redes Neuronales Artificiales en el curso de Aprendizaje Automático de Coursera y me gustaría saber más teoría detrás de ellos. La motivación de que imitan la biología me parece un tanto insatisfactoria. En la superficie, parece que en cada nivel reemplazamos las covariables con...
Estoy tratando de entrenar una red neuronal para la clasificación, pero las etiquetas que tengo son bastante ruidosas (alrededor del 30% de las etiquetas están equivocadas). La pérdida de entropía cruzada realmente funciona, pero me preguntaba si hay alguna alternativa más efectiva en este caso. o...
¿Es posible tener pesos negativos (después de suficientes épocas) para redes neuronales convolucionales profundas cuando usamos ReLU para todas las capas de
Voy a seguir el curso DeepAI de Cousera (video 1 de la Semana 3 "Visión general de las redes neuronales") y Andrew Ng explica cómo cada capa en una red neuronal es solo otra regresión logística, pero no explica cómo hace que las cosas sean más precisas. Entonces, en una red de 2 capas, ¿cómo el...