¿Qué necesito estudiar para el aprendizaje automático?

9

A partir del año pasado, he estado estudiando varias materias para comprender algunas de las tesis más importantes del aprendizaje automático como

S. Hochreiter y J. Schmidhuber. (1997) Memoria a largo plazo a largo plazo . Computación neuronal, 9 (8), 1735-1780.

Sin embargo, debido al hecho de que no tengo antecedentes matemáticos, comencé a aprender materias como

  • Cálculo
  • Cálculo multivariante
  • ANÁLISIS MATEMÁTICA
  • Álgebra lineal
  • Ecuaciones diferenciales
  • Anailsis Real (Teoría de la Medida)
  • Probabilidad elemental y estadística
  • Estadística matemática

En este momento, no puedo decir que he terminado de estudiar esas materias rigurosamente, pero sé de qué quieren tratar las materias anteriores. Lo que pasa es que no sé qué tengo que hacer en este momento. Hay muchas materias que el aprendizaje automático utiliza para resolver muchos problemas y no sé cómo utilizarlos correctamente.

Por ejemplo, el aprendizaje por refuerzo es ahora uno de los temas más populares en los que cientos de miles de investigadores están haciendo su investigación para hacer un avance en la maldición de la dimensionalidad. Pero, como futuro empleado que trabajará en empresas de TI, la tarea en el escritorio no sería algo que esperaba hacer.

¿Es importante tener mi propia experiencia para trabajar en los campos? Si es así, ¿qué tipo de asignaturas tengo que estudiar ahora?

Para su conveniencia, quiero saber más sobre el proceso de Markov y el proceso de decisión de Markov.

machine-learning getting-started Fuerzas de viento
fuente
1
Diría que si entendió todo en ese documento de LSTM, más o menos ya tiene todos los "requisitos previos" para seguir su carrera en ML. Por supuesto, encontrará nuevos conceptos (todo el mundo lo hace) en su camino, pero podrá lidiar con ellos (haciendo una investigación por su cuenta). Los procesos de Markov y los MDP no son realmente un gran problema, si entendiste el documento LSTM.
nbro
Una pregunta relacionada ¿ Cómo puedo comenzar a aprender matemáticas para el aprendizaje automático? .
nbro

Respuestas:

4

Como estudiante de maestría en Inteligencia Artificial, le recomiendo que estudie algunos conceptos básicos en Machine Learning.

Para hacerlo, puede obtener un buen libro ( Machine Learning , Tom Mitchell, McGraw Hill, 1997) para la teoría y la práctica usted mismo probando algunas competencias de Kaggle .

Sugerí el libro de Mitchell porque es un experto en el campo, y muchos de los cursos de Machine Learning usan su libro. También puedes seguir sus videolecturas en línea

En Kaggle, puede encontrar muchos tutoriales útiles (llamados Cuadernos) para comenzar a trabajar con los conjuntos de datos disponibles. Algunos tutoriales sobre Titanic Challenge aquí

Catalin Copil
fuente
5

En realidad, no necesita un estudio riguroso de estos temas para implementar algoritmos de aprendizaje automático. Solo la teoría de la probabilidad debe tratarse rigurosamente en el aprendizaje automático. Puede encontrar una muy buena serie de conferencias de Teoría de la probabilidad aquí:

Introducción a la probabilidad: la ciencia de la incertidumbre

Además, un curso básico de cálculo sería suficiente, para implementaciones básicas, en realidad no es necesario comprender el cálculo de alto nivel a menos que desee hacer esquemas de actualización de peso a medida o redes neuronales con algo nuevo. Pero para tener una intuición sobre el cálculo, echa un vistazo a Khan Academy: Calculus

Una idea básica de Álgebra Lineal es suficiente, solo para visualizar cosas y obtener una intuición. La academia Khan tiene un gran curso sobre esto, le sugiero que lo revise: Álgebra lineal

Como, para los lenguajes de programación, Machine Learning o NEural Nets es mejor implementar en Python o R ya que la visualización de datos y la programación en ellos es bastante fácil.

Lo principal sobre la implementación de redes neuronales y el aprendizaje automático es la práctica, cuanto más practiques, mejor serás. También obtendrá una intuición de lo que está haciendo con la práctica. Solo leer teoría y comprender conceptos no te ayudará. Tienes que implementarlo en la vida real. En lo que respecta al libro, puede ver mi respuesta aquí:

¿Fuentes verificadas de AI Teoría / Herramientas / Aplicaciones para un programador experimentado nuevo en el campo?

DuttaA
fuente
3

Encontré modelos estadísticos muy útiles. Sin embargo, las estadísticas por sí solas no son suficientes, también necesita una base muy sólida en teoría de la probabilidad.

erupción solar
fuente
1

Aprenda los conceptos básicos de Python primero. Comience con el teorema de baye y luego vaya a 1) funciones de densidad de probabilidad 2) funciones de densidad acumulativa 3) funciones continuas 4) teorema del límite central.

syam
fuente
Además de eso, ¿crees que es importante aprender la teoría de probabilidad de nivel de posgrado para ver algunas tesis de nivel avanzado de aprendizaje automático? Y también, suponga que sé todas las cosas anteriores (no quiero ser grosero, pero, para ser honesto, sé cuál es la diferencia entre continuidad y continuidad uniforme, pdf, cdf, mgf y etc.) ¿Crees que es importante aprender el proceso de Markov para hacer un programa de nivel de producción?
Fuerzas del viento
1

Primero, un resumen rápido sobre mí. Yo era un estudiante de medicina que se graduó de pregrado con un título de biofísica. Después de un arduo trabajo y una toma de decisiones inteligente, ahora soy ingeniero de software de IA / ML con una maestría en informática (especialidad en aprendizaje automático).

¿Es importante tener mi propia experiencia para trabajar en los campos?

Sí, absolutamente, pero no necesariamente en un contexto profesional. No es necesario que haya sido empleado como ingeniero de software de aprendizaje automático, pero sí debe demostrar competencia en el campo. Lo cual es un gran paso hacia la segunda parte de su pregunta ...

Si es así, ¿qué tipo de asignaturas tengo que estudiar ahora?

No hay un tema único en el que debas enfocarte. El aprendizaje automático es una combinación de muchos campos diferentes, y no sería muy eficiente concentrarse en uno solo antes de sumergirse en una práctica más exhaustiva. En cambio, los tutoriales y la práctica son el nombre del juego.

  • 3Blue1Brown en Youtube ofrece excelentes tutoriales, especialmente en redes neuronales
  • Khan Academy es un regalo del cielo cuando se trata de tutoriales de matemáticas. Álgebra lineal y Probabilidad / Estadística son los mejores para empezar, diría. Pero el cálculo multivariable y las ecuaciones diferenciales también se usan en última instancia.
  • Udacity es un gran sitio de tutoriales que incluso ofrece programas de "nanogrado" para brindarle más experiencia práctica en inteligencia artificial y aprendizaje automático. Es gratis si solo quieres ver los videos.
  • OpenAIGym es un gran lugar para practicar el aprendizaje por refuerzo
  • Kaggle tiene excelentes tutoriales sobre aprendizaje automático y sus concursos proporcionan una gran práctica con aprendizaje supervisado / no supervisado.

Complemente su desarrollo en la teoría y los antecedentes matemáticos con desarrollo práctico y práctica para lograr los mejores resultados. Usted menciona un enfoque específico en los MDP, con los cuales los tutoriales de Udacity y OpenAIGym le darían una gran práctica.

Si está interesado en una Maestría, no puedo recomendar lo suficiente de la Maestría en línea en informática de Georgia Tech ( OMSCS ). Es una gran educación, y (cuando me inscribí en 2015) no requería ningún GRE y solo costaba alrededor de $ 8000.00

SeeDerekEngineer
fuente
-1

Aprenda Machine Learning en 3 meses

Este es el plan de estudios para "Aprender el aprendizaje automático en 3 meses", este video de Siraj Raval en Youtube

Mes 1

Semana 1 Álgebra Lineal

https://www.youtube.com/watch?v=kjBOesZCoqc&index=1&list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab https://ocw.mit.edu/courses/mathematics/18-06-linear-algebra-spring-2010/

Semana 2 Cálculo

https://www.youtube.com/playlist?list=PLZHQObOWTQDMsr9K-rj53DwVRMYO3t5Yr

Semana 3 Probabilidad

https://www.edx.org/course/introduction-probability-science-mitx-6-041x-2

Semana 4 Algoritmos

https://www.edx.org/course/algorithm-design-analysis-pennx-sd3x

Mes 2

Semana 1

Aprende python para la ciencia de datos

https://www.youtube.com/watch?v=T5pRlIbr6gg&list=PL2-dafEMk2A6QKz1mrk1uIGfHkC1zZ6UU

Math of Intelligence

https://www.youtube.com/watch?v=xRJCOz3AfYY&list=PL2-dafEMk2A7mu0bSksCGMJEmeddU_H4D

Introducción a Tensorflow

https://www.youtube.com/watch?v=2FmcHiLCwTU&list=PL2-dafEMk2A7EEME489DsI468AB0wQsMV

Semana 2

Introducción a ML (Udacity) https://eu.udacity.com/course/intro-to-machine-learning--ud120

Semana 3-4

Ideas de proyectos de ML https://github.com/NirantK/awesome-project-ideas

Mes 3 (aprendizaje profundo)

Semana 1

Introducción al aprendizaje profundo https://www.youtube.com/watch?v=vOppzHpvTiQ&list=PL2-dafEMk2A7YdKv4XfKpfbTH5z6rEEj3

Semana 2

Aprendizaje profundo por Fast.AI http://course.fast.ai/

Semana 3-4

Vuelva a implementar proyectos de DL desde mi github https://github.com/llSourcell?tab=repositories

Recursos adicionales:
- Gente en ML para seguir en Twitter

Ligade Maheshwar
fuente
1
Sí, puedo decirte por qué rechacé esta respuesta. 1) No creo que pueda aprender bien el aprendizaje automático en 3 meses, al estudiar también los requisitos previos. 2) Todos tienen su propio ritmo cuando aprenden, por lo que restringir el aprendizaje a 3 meses no es una buena idea. 3) Estás vinculando a las personas con otras fuentes sin explicar por qué.
nbro
No podemos ser un PRO pero al menos Nuance para hacer algo y liderar una competencia de ML. Si pongo un enlace, mencioné allí lo que obtendrás de ese enlace. Además, cada uno tiene su propio ritmo de aprendizaje. También estoy de acuerdo con ese punto, pero puede ensuciarse las manos en estos tres meses. Esta es una respuesta muy genérica dado que nadie sabe nada, pero solo quieren comenzar y ganar confianza después de eso pueden comenzar a profundizar.
Maheshwar Ligade
@nbro Si estoy de acuerdo con tu punto, todos tienen su propio ritmo de aprendizaje, entonces al menos pocas personas pueden aprovechar esta respuesta
Maheshwar Ligade
Esta respuesta es más aplicable a los ingenieros, no a los investigadores y científicos
Maheshwar Ligade