Hice esta pregunta en preguntas y respuestas validadas cruzadas, pero parece que está relacionada con CS mucho más que las estadísticas. ¿Me puede dar ejemplos de algoritmos de aprendizaje automático que aprendan de las propiedades estadísticas del conjunto de datos, no de las observaciones...
Digamos que tenemos una red neuronal de alimentación de una sola capa con k entradas y una salida. Calcula una función a partir de , es bastante fácil ver que tiene al menos la misma potencia de cálculo que A C 0 . Solo por diversión, llamaremos al conjunto de funciones computables por una red...
El lema de Johnson-Lindenstrauss permite representar puntos en un espacio de alta dimensión en puntos en una dimensión inferior. Al encontrar espacios dimensionales más bajos de mejor ajuste, una técnica estándar es encontrar la descomposición del valor singular y luego tomar el subespacio generado...
Se sabe que para el aprendizaje PAC, existen clases de conceptos naturales (p. Ej., Subconjuntos de listas de decisiones) para las cuales hay brechas polinómicas entre la complejidad de la muestra necesaria para el aprendizaje teórico de la información por parte de un alumno computacionalmente...
Tengo un conjunto de datos de miles de puntos y un medio para medir la distancia entre dos puntos, pero los puntos de datos no tienen dimensionalidad. Quiero un algoritmo para encontrar centros de clúster en este conjunto de datos. Me imagino que debido a que los datos no tienen dimensiones, un...
Es bien sabido que para una clase de concepto con VC dimensión , es suficiente obtener ejemplos etiquetados para PAC learn . ¿No me queda claro si el algoritmo de aprendizaje PAC (que utiliza estas muestras) es correcto o incorrecto? En los libros de texto de Kearns y Vazirani, así como de Anthony...
Aquí hay un problema con un sabor similar al de las juntas de aprendizaje: Entrada: Una función f:{0,1}n→{−1,1}f:{0,1}n→{−1,1}f: \{0,1\}^n \rightarrow \{-1,1\} , representada por un oráculo de membresía, es decir, un oráculo que dado xxx , devuelve f(x)f(x)f(x) . Objetivo: encontrar un subcubo...
Dana Angluin ( 1987 ; pdf ) define un modelo de aprendizaje con consultas de membresía y consultas teóricas (contraejemplos de una función propuesta). Ella muestra que un lenguaje regular que está representado por un DFA mínimo de estados se puede aprender en tiempo polinómico (donde las funciones...
Estoy familiarizado con el algoritmo de descenso de gradiente que puede encontrar el mínimo local (máximo) de una función determinada. ¿Hay alguna modificación del descenso de gradiente que permita encontrar el mínimo absoluto (máximo), donde la función tiene varios extremos locales? ¿Existen...
DDD{0,1}d×{0,1}{0,1}d×{0,1}\{0,1\}^d\times \{0,1\}CCCf:{0,1}d→{0,1}f:{0,1}d→{0,1}f:\{0,1\}^d\rightarrow\{0,1\}f∈Cf∈Cf \in Cerr(f,D)=Pr(x,y)∼D[f(x)≠y]err(f,D)=Pr(x,y)∼D[f(x)≠y]err(f,D) = \Pr_{(x,y) \sim D}[f(x) \neq y]OPT(C,D)=minf∈C err(f,D)OPT(C,D)=minf∈C err(f,D)OPT(C,D) = \min_{f \in C}\...
Algunos antecedentes: Estoy interesado en encontrar límites inferiores "menos conocidos" (o resultados de dureza) para el problema de Aprendizaje con errores (LWE) y generalizaciones de los mismos como Aprender con errores sobre anillos. Para definiciones específicas, etc., aquí hay una buena...
En cs.stackexchange , pregunté sobre la biblioteca algebird scala en github, especulando sobre por qué podrían necesitar un paquete de álgebra abstracta. La página de github tiene algunas pistas: Implementaciones de monoides para algoritmos de aproximación interesantes, como el filtro Bloom,...
Específicamente, solicito recursos para aprender sobre los sistemas de aprendizaje automático que pueden actualizar sus respectivas redes de creencias (o equivalentes) durante la operación. Incluso me he encontrado con algunos, aunque no pude marcarlos. Como puede imaginar, es un tema bastante...
¿Qué clasificadores de aprendizaje automático son los más paralelizables? Si tuviera un problema de clasificación difícil, tiempo limitado, pero una LAN decente de computadoras para trabajar, ¿qué clasificadores probaría? Por supuesto, me parece que algunos clasificadores estándar que conozco se...
Es bien sabido que para el aprendizaje PAC clásico, los ejemplos de son necesarios para lograr un límite de error de ε whp, donde d es la dimensión VC de la clase de concepto.Ω(d/ε)Ω(d/ε)\Omega(d/\varepsilon)εε\varepsilonddd ¿Se sabe que se necesitan ejemplos de en el caso...
Estoy bastante familiarizado con la teoría detrás de VC-Dimension, pero ahora estoy mirando los avances recientes (últimos 10 años) en la teoría del aprendizaje estadístico: promedios (locales) Rademacher, Lema de clase finita de Massart, Números de cobertura, Encadenamiento, Dudley Teorema,...
Recientemente he estado leyendo una buena cantidad de documentos CoLT. Aunque no lucho con los documentos individuales (al menos no más de lo que normalmente lucho con otros documentos de teoría), no creo que tenga una buena comprensión del campo en general. ¿Existe un texto estándar, encuestas o...
Estoy buscando la dimensión VC del siguiente sistema establecido. Universo tal que U ⊆ R 3 . En el sistema de conjuntos R, cada conjunto S ∈ R corresponde a una esfera en R 3 de modo que el conjunto S contiene un elemento en U si y solo si la esfera correspondiente lo contiene en R 3 .U= { p1, p2,...
Me refiero específicamente a las familias de idiomas que admiten cadenas arbitrariamente largas, no conjunciones sobre n bits o listas de decisiones o cualquier otro lenguaje "simple" contenido en {0,1} ^ n. Estoy preguntando acerca de los lenguajes regulares "autómatas-teóricos" en lugar de los...
Background––––––––––––––Background_\underline{\bf Background} En 2005, Regev [1] introdujo el problema de Aprendizaje con errores (LWE), una generalización del problema de Paridad de aprendizaje con error. La suposición de la dureza de este problema para ciertas opciones de parámetros ahora...