Preguntas teóricas sobre el aprendizaje automático, especialmente la teoría del aprendizaje computacional, incluida la teoría del aprendizaje algorítmico, el aprendizaje PAC y la inferencia bayesiana
Mi doctorado es pura matemática, y admito que no sé mucho (es decir, nada) sobre CS teórica. Sin embargo, he comenzado a explorar opciones no académicas para mi carrera y al presentarme al aprendizaje automático, me topé con declaraciones como "Nadie entiende por qué las redes neuronales funcionan...
Enseño un curso de algoritmos avanzados y me gustaría incluir algunos temas relacionados con el aprendizaje automático que serán de interés para mis alumnos. Como resultado, me gustaría escuchar las opiniones de las personas sobre los resultados algorítmicos más interesantes / mejores actualmente...
Sabemos que (véanse, por ejemplo, los Teoremas 1 y 3 de [1]), en términos generales, en condiciones adecuadas, las funciones que pueden calcularse eficientemente por la máquina de Turing en tiempo polinómico ("eficientemente computable") pueden expresarse mediante redes neuronales polinómicas con...
Veamos el futuro dentro de 30 años. Seamos optimistas y asumamos que las áreas relacionadas con el aprendizaje automático continúan desarrollándose tan rápido como lo que hemos visto en los últimos 10 años. Eso sería genial, pero ¿cuál sería el papel de los algoritmos tradicionales en un futuro...
En las pruebas de propiedades de gráficos, un algoritmo consulta un gráfico de destino para detectar la presencia o ausencia de aristas y necesita determinar si el objetivo tiene una determinada propiedad o está ϵϵ\epsilon lejos de tener la propiedad. (Se puede pedir que un algoritmo tenga éxito...
Aquí hay una abstracción de un problema de aprendizaje / bandido en línea en el que he estado trabajando en el verano. No he visto un problema como este antes, y parece bastante interesante. Si conoce algún trabajo relacionado, agradecería referencias. El problema La configuración es la de los...
Actualmente estoy estudiando matemáticas. Sin embargo, no creo que quiera convertirme en un matemático profesional en el futuro. Estoy pensando en aplicar mi conocimiento de las matemáticas para hacer investigación en inteligencia artificial. Sin embargo, no estoy seguro de cuántos cursos de...
¿Es posible probar algorítmicamente si un número computable es racional o entero? En otras palabras, ¿sería posible que una biblioteca que implementa números computables proporcione las funciones isIntegero isRational? Supongo que no es posible, y que esto está relacionado de alguna manera con el...
Nosotros sabemos (por ahora unos 40 años, gracias a Adleman, Bennet y Gill) que la inclusión BPP ⊆⊆\subseteq P / poli, y un aún más fuerte BPP / poli ⊆⊆\subseteq P / retención poli. El "/ poly" significa que trabajamos de manera no uniforme (un circuito separado para cada longitud de entrada nnn ),...
Editar: como no he recibido ninguna respuesta / comentario en una semana, me gustaría agregar que estoy feliz de escuchar algo sobre el problema. No trabajo en el área, así que aunque sea una simple observación, puede que no lo sepa. ¡Incluso un comentario como "Trabajo en el área, pero no he visto...
Se sabe a través del teorema de aproximación universal que una red neuronal con incluso una sola capa oculta y una función de activación arbitraria puede aproximarse a cualquier función continua. ¿Qué otros modelos hay que también son aproximadores de función
Antecedentes Las funciones en son PAC que se pueden aprender en tiempo cuasipolinomial con un algoritmo clásico que requiere consultas elegidas al azar para aprender un circuito de profundidad d [1]. Si no hay un algoritmo de factorización , entonces esto es óptimo [2]. Por supuesto, en una...
Se ha demostrado que la propagación de creencias es un método muy poderoso a través de la investigación en modelos gráficos probabilísticos. Sin embargo, no sé nada sobre BP que sea comparable a los métodos MCMC donde podemos tener esquemas de aproximación aleatoria totalmente polinomiales (FPRAS)...
Los algoritmos genéticos evolucionan en menos generaciones con una población más grande, pero también tardan más en calcular una generación. ¿Existen algunas pautas para equilibrar esos dos factores, a fin de llegar a una solución viable lo antes posible? Además, ¿es este el mejor lugar para la...
Hice esta pregunta en preguntas y respuestas validadas cruzadas, pero parece que está relacionada con CS mucho más que las estadísticas. ¿Me puede dar ejemplos de algoritmos de aprendizaje automático que aprendan de las propiedades estadísticas del conjunto de datos, no de las observaciones...
Digamos que tenemos una red neuronal de alimentación de una sola capa con k entradas y una salida. Calcula una función a partir de , es bastante fácil ver que tiene al menos la misma potencia de cálculo que A C 0 . Solo por diversión, llamaremos al conjunto de funciones computables por una red...
Me parece que los expertos en aprendizaje automático / minería de datos están familiarizados con P y NP, pero rara vez hablan de algunas de las clases de complejidad más sutiles (por ejemplo, NC, BPP o IP) y sus implicaciones para analizar los datos de manera efectiva. ¿Hay alguna encuesta de...
Antecedentes: en el aprendizaje automático, a menudo trabajamos con modelos gráficos para representar funciones de densidad de probabilidad de alta dimensión. Si descartamos la restricción de que una densidad se integra (sumas) a 1, obtenemos una función de energía estructurada en gráficos no...
Asigné a mis alumnos el problema de encontrar un triángulo consistente con una colección de puntos en , etiquetado con . (Un triángulo es consistente con la muestra etiquetada si contiene todos los puntos positivos y ninguno de los negativos; por supuesto, la muestra admite al menos 1 triángulo...
¿Cuáles son algunos problemas del mundo real que se han resuelto utilizando un algoritmo genético? ¿Cuál es el problema? ¿Cuál es la prueba de aptitud utilizada para resolver este