Aprendizaje automático y teoría del aprendizaje: aprendizaje PAC, teoría del aprendizaje algorítmico y aspectos computacionales de la inferencia bayesiana y los modelos gráficos.
Estoy pensando en el siguiente problema: quiero encontrar una expresión regular que coincida con un conjunto particular de cadenas (por ejemplo, direcciones de correo electrónico válidas) y que no coincida con otras (direcciones de correo electrónico no válidas). Supongamos que por expresión...
Sabemos que (véanse, por ejemplo, los Teoremas 1 y 3 de [1]), en términos generales, en condiciones adecuadas, las funciones que pueden calcularse eficientemente por la máquina de Turing en tiempo polinómico ("eficientemente computable") pueden expresarse mediante redes neuronales polinómicas con...
Una máquina PHPHPH tiene acceso oracle a una función booleana aleatoria f:{0,1}n→{−1,1}f:{0,1}n→{−1,1}f:\{0,1\}^n \to \{ -1,1 \} y dos espectros de Fourier ggg y hhh . El espectro de Fourier de una función fff se define como F:{0,1}n→RF:{0,1}n→RF:\{0,1\}^n \to R
El rango de signos de una matriz A con entradas + 1, -1 es el rango mínimo (sobre los reales) de una matriz B que tiene el mismo patrón de signos que A (es decir, para todo i , j ) Esta noción es importante en la complejidad de la comunicación y la teoría del aprendizaje.UNAyo jsiyo j>...
Existe una gran literatura sobre "pruebas de propiedad": el problema de realizar una pequeña cantidad de consultas de recuadro negro a una función para distinguir entre dos casos:F: { 0 , 1 }norte→ RF:{0 0,1}norte→Rf\colon\{0,1\}^n \to R es miembro de alguna clase de funciones CFFfCC\mathcal{C}...
La "optimización convexa en línea" de Zinkevich ( http://www.cs.cmu.edu/~maz/publications/ICML03.pdf ) generaliza los algoritmos de aprendizaje de "minimización de arrepentimiento" de una configuración lineal a una configuración convexa y ofrece un buen "arrepentimiento externo" . ¿Existe una...
Aquí hay una abstracción de un problema de aprendizaje / bandido en línea en el que he estado trabajando en el verano. No he visto un problema como este antes, y parece bastante interesante. Si conoce algún trabajo relacionado, agradecería referencias. El problema La configuración es la de los...
Estoy tratando de entender la complejidad de las funciones que se expresan a través de las puertas de umbral y esto me llevó a . En particular, estoy interesado en lo que se sabe actualmente sobre el aprendizaje dentro de T C 0 , ya que no soy un experto en el
Antecedentes Las funciones en son PAC que se pueden aprender en tiempo cuasipolinomial con un algoritmo clásico que requiere consultas elegidas al azar para aprender un circuito de profundidad d [1]. Si no hay un algoritmo de factorización , entonces esto es óptimo [2]. Por supuesto, en una...
Editar: como no he recibido ninguna respuesta / comentario en una semana, me gustaría agregar que estoy feliz de escuchar algo sobre el problema. No trabajo en el área, así que aunque sea una simple observación, puede que no lo sepa. ¡Incluso un comentario como "Trabajo en el área, pero no he visto...
Considere un poset finito sobre elementos, y un predicado monotónico desconocido sobre (es decir, para cualquier , , si y luego ) . Puedo evaluar proporcionando un nodo y descubriendo si P (x) se mantiene o no. Mi objetivo es determinar exactamente el conjunto de nodos x \ en X de forma tal que P...
¿Cuál es la complejidad de consulta más conocida del algoritmo de aprendizaje Goldreich-Levin? Las notas de la conferencia del blog de Luca Trevisan , Lemma 3, lo declaran como . ¿Es este el más conocido en términos de dependencia de ? ¡Estaré particularmente agradecido por una referencia a una...
Antecedentes: en el aprendizaje automático, a menudo trabajamos con modelos gráficos para representar funciones de densidad de probabilidad de alta dimensión. Si descartamos la restricción de que una densidad se integra (sumas) a 1, obtenemos una función de energía estructurada en gráficos no...
Hice esta pregunta en preguntas y respuestas validadas cruzadas, pero parece que está relacionada con CS mucho más que las estadísticas. ¿Me puede dar ejemplos de algoritmos de aprendizaje automático que aprendan de las propiedades estadísticas del conjunto de datos, no de las observaciones...
Asigné a mis alumnos el problema de encontrar un triángulo consistente con una colección de puntos en , etiquetado con . (Un triángulo es consistente con la muestra etiquetada si contiene todos los puntos positivos y ninguno de los negativos; por supuesto, la muestra admite al menos 1 triángulo...
Tengo un conjunto de datos de miles de puntos y un medio para medir la distancia entre dos puntos, pero los puntos de datos no tienen dimensionalidad. Quiero un algoritmo para encontrar centros de clúster en este conjunto de datos. Me imagino que debido a que los datos no tienen dimensiones, un...
Se sabe que para el aprendizaje PAC, existen clases de conceptos naturales (p. Ej., Subconjuntos de listas de decisiones) para las cuales hay brechas polinómicas entre la complejidad de la muestra necesaria para el aprendizaje teórico de la información por parte de un alumno computacionalmente...
Los autómatas de estado finito residual (RFSA, definidos en [DLT02]) son NFA que tienen algunas características agradables en común con los DFA. En particular, siempre hay un RFSA canónico de tamaño mínimo para cada idioma regular, y el idioma reconocido por cada estado en el RFSA es residual, al...
¿Qué se sabe sobre el siguiente problema? Dada una colección de funciones , encuentre una subcolección más grande sujeta a la restricción que VC-Dimension para algún entero .f : { 0 , 1 } n → { 0 , 1 } S ⊆ C ( S ) ≤ k kCCCF: { 0 , 1 }norte→ { 0 , 1 }f:{0,1}n→{0,1}f:\{0,1\}^n\rightarrow\{0,1\}S⊆...
Inspirado por esta pregunta , tengo curiosidad por lo siguiente: ¿Cuál es la complejidad del peor caso de verificar si un DFA determinado acepta el mismo lenguaje que una expresión regular dada? ¿Se sabe esto? La esperanza sería que este problema esté en P, que exista un algoritmo polinomial...