Ahora leo un libro titulado "Aprendizaje automático práctico con Scikit-Learn y TensorFlow" y en el capítulo 11, tiene la siguiente descripción sobre la explicación de ELU (Exponencial ReLU). Tercero, la función es suave en todas partes, incluso alrededor de z = 0, lo que ayuda a acelerar el...
Estoy leyendo el artículo fundamental Aprendizaje de secuencia a secuencia con redes neuronales de Ilya Sutskever y Quoc Le. En la primera página, menciona brevemente que: A surprising example of the power of DNNs is their ability to sort N N-bit numbers using only 2 hidden layers of quadratic...
Por alguna razón, AlphaGo Zero no recibe tanta publicidad como el AlphaGo original, a pesar de sus increíbles resultados. Comenzando desde cero, ya ha superado a AlphaGo Master y ha superado muchos otros puntos de referencia. Aún más increíble, se hace esto en 40 días. Google lo nombra como...
Estoy aprendiendo a usar Keras y he tenido un éxito razonable con mi conjunto de datos etiquetado utilizando los ejemplos de Deep Learning for Python de Chollet . El conjunto de datos es ~ 1000 Series temporales con longitud 3125 con 3 clases potenciales. Me gustaría ir más allá de las capas...
Actualmente estoy haciendo un curso en Tensorflow en el que utilizaron tf.one_hot (índices, profundidad). Ahora no entiendo cómo estos índices cambian en esa secuencia binaria. ¿Alguien puede explicarme el proceso
Estoy tratando de implementar un algoritmo donde, dada una imagen con varios objetos en una tabla plana, se desea la salida de máscaras de segmentación para cada objeto. A diferencia de las CNN, el objetivo aquí es detectar objetos en un entorno desconocido. ¿Cuáles son los mejores enfoques para...
Estoy tratando de construir un sistema de reconocimiento de gestos para clasificar los gestos ASL (lenguaje de señas americano) , por lo que se supone que mi entrada es una secuencia de fotogramas, ya sea desde una cámara o un archivo de video, luego detecta la secuencia y la asigna a su...
Actualmente estoy entrenando una red neuronal y no puedo decidir qué usar para implementar mis criterios de detención temprana: pérdida de validación o una métrica como precisión / f1score / auc / lo que se calcule en el conjunto de validación. En mi investigación, encontré artículos que defienden...
Recientemente Google publicó interesante sueño profundo. Además de la generación de arte como http://deepdreamgenerator.com/ , ¿ves alguna aplicación potencial de sueño profundo en visión por computadora o aprendizaje
Estoy viendo cómo implementar el abandono en la red neuronal profunda, y encontré algo contradictorio. En la fase de avance, las activaciones de máscara de abandono con un tensor aleatorio de 1s y 0s obligan a net a aprender el promedio de los pesos. Esto ayuda a la red a generalizar mejor. Pero...
Suponga que tiene una capa de entrada con n neuronas y la primera capa oculta tiene neuronas, con típicamente . Luego calcula la activación de la -ésima neurona en la capa oculta pormetrometromm < nmetro<nortem < nunajunaja_jjjj unaj= f(∑i = 1 .. nwi , jXyo+sij)unaj=F(∑yo=1...
Soy un doctorado en matemáticas. estudiante que está interesado en ir a la industria como Data Scientist después de graduarse. Daré brevemente algunos antecedentes sobre mi educación antes de plantear mi pregunta, para que se entienda mejor: Cursos de matemáticas: Esto ha sido principalmente en...
Numer.ai ha existido por un tiempo y parece que solo hay pocas publicaciones u otras discusiones al respecto en la web. El sistema ha cambiado de vez en cuando y la configuración actual es la siguiente: datos de tren (N = 96K) y prueba (N = 33K) con 21 características con valores continuos en...
Estoy tratando de hacer un análisis de sentimientos. Para convertir las palabras en vectores de palabras, estoy usando el modelo word2vec. Supongamos que tengo todas las oraciones en una lista llamada 'oraciones' y estoy pasando estas oraciones a word2vec de la siguiente manera: model =...
En este artículo altamente citado , los autores dan la siguiente discusión sobre el número de parámetros de peso. No tengo muy claro por qué tiene parámetros C 2 . Creo que debería ser 49 C ya que cada uno de los canales de entrada C comparte el mismo filtro, que tiene 49 parámetros.49...
Trabajo analizando datos de EEG, que eventualmente necesitarán ser clasificados. Sin embargo, obtener etiquetas para las grabaciones es algo costoso, lo que me ha llevado a considerar enfoques no supervisados para utilizar mejor nuestras cantidades bastante grandes de datos sin etiquetar. Esto...
En el artículo Super-resolución de imagen única fotorrealista utilizando una red generativa adversaria de Christian Ledig et al., La distancia entre imágenes (utilizada en la función de pérdida) se calcula a partir de mapas de características extraídos de la red VGG19. Los dos utilizados en el...
Estoy tratando de generar un modelo inteligente que pueda escanear un conjunto de palabras o cadenas y clasificarlas como nombres, números móviles, direcciones, ciudades, estados, países y otras entidades utilizando el aprendizaje automático o el aprendizaje profundo. Había buscado enfoques, pero...
Estoy tratando de entrenar esta implementación Keras de Deeplabv3 + en Pascal VOC2012, usando el modelo pre-entrenado (que también fue entrenado en ese conjunto de datos). Obtuve resultados extraños con la precisión rápidamente convergente a 1.0: 5/5 [==============================] - 182s...
La normalización por lotes y ReLU son soluciones al problema del gradiente de fuga. Si estamos usando la normalización por lotes, ¿deberíamos usar sigmoides? ¿O hay características de ReLU que hacen que valga la pena incluso cuando se usa batchnorm? Supongo que la normalización realizada en...