¿Podría la información mutua sobre la entropía conjunta: 0 ≤ I( X, Y)H( X, Y)≤ 10≤I(X,Y)H(X,Y)≤1 0 \leq \frac{I(X,Y)}{H(X,Y)} \leq 1 se define como: "¿La probabilidad de transmitir una información de X a Y"? Lamento ser tan ingenuo, pero nunca he estudiado teoría de la información, y estoy...
Estoy interesado en el aprendizaje de refuerzo (profundo) (RL) . Antes de sumergirme en este campo, ¿debería tomar un curso de Teoría de juegos (GT) ? ¿Cómo se relacionan GT y RL
¿O qué condiciones lo garantizan? En general (y no solo modelos normales y binomiales) supongo que la razón principal que rompió esta afirmación es que hay inconsistencia entre el modelo de muestreo y el anterior, pero ¿qué más? Estoy empezando con este tema, así que realmente aprecio ejemplos...
En mi investigación me he encontrado con el siguiente problema general: tengo dos distribuciones PPP y QQQ sobre el mismo dominio, y una gran cantidad (pero finita) de muestras de esas distribuciones. Las muestras se distribuyen de forma independiente e idéntica a partir de una de estas dos...
Estoy tratando de aplicar la idea de información mutua a la selección de funciones, como se describe en estas notas de clase (en la página 5). Mi plataforma es Matlab. Un problema que encuentro al calcular información mutua a partir de datos empíricos es que el número siempre está sesgado hacia...
Estoy un poco confundido. ¿Alguien puede explicarme cómo calcular la información mutua entre dos términos en base a una matriz de documentos de términos con ocurrencia de términos binarios como ponderaciones? D o c u m e n t 1D o c u m e n t 2D o c u m e n t 3′Wh y′111′Ho w′10 01′Wh e n′111′Wh e r...
Considere un gráfico geométrico aleatorio infinito en el que las ubicaciones de los nodos siguen un proceso de punto de Poisson con densidad y los bordes se colocan entre los nodos que están más cerca que d . Por lo tanto, la longitud de los bordes sigue el siguiente PDF:ρρ\rhoredd F( l ) = { 2...
Como dice el título, ¿la reducción de dimensiones siempre pierde algo de información? Considere, por ejemplo, PCA. Si los datos que tengo son muy escasos, supongo que se podría encontrar una "mejor codificación" (¿está relacionado de alguna manera con el rango de los datos?), Y no se perdería...
Me he encontrado con estas diapositivas (diapositiva 16 y 17) en uno de los cursos en línea. El instructor intentaba explicar cómo la Estimación posterior máxima (MAP) es en realidad la solución , donde es el parámetro verdaderoL(θ)=I[θ≠θ∗]L(θ)=I[θ≠θ∗]L(\theta) = \mathcal{I}[\theta \ne...
¿Cuál es una buena métrica para evaluar la calidad del análisis de componentes principales (PCA)? Realicé este algoritmo en un conjunto de datos. Mi objetivo era reducir la cantidad de funciones (la información era muy redundante). Sé que el porcentaje de variación mantenido es un buen indicador...
El estadístico de prueba de Durbin-Watson puede encontrarse en una región no concluyente, donde no es posible rechazar o no rechazar la hipótesis nula (en este caso, de autocorrelación cero). ¿Qué otras pruebas estadísticas pueden producir resultados "no concluyentes"? ¿Existe una explicación...
Tengo algunos datos que existen en un gráfico . Los vértices pertenecen a una de las dos clases , y estoy interesado en entrenar un SVM para distinguir entre las dos clases. Un núcleo apropiado para esto es el núcleo de difusión , donde es el laplaciano de y es un parámetro de ajuste.G = ( V,...
Una red de mundo pequeño es un tipo de gráfico matemático en el que la mayoría de los nodos no son vecinos entre sí, pero se puede llegar a la mayoría de los nodos entre sí mediante un pequeño número de saltos o pasos. Específicamente, una red de mundo pequeño se define como una red donde la...
Enfrenté una pregunta de entrevista para un trabajo donde el entrevistador me preguntó si su es muy bajo (entre 5 y 10%) para un modelo de elasticidad de precios. ¿Cómo resolverías esta pregunta?R2R2R^2 No puedo pensar en otra cosa que no sea el hecho de que haré diagnósticos de regresión para ver...
Quiero cuantificar la relación entre dos variables, A y B, utilizando información mutua. La forma de calcularlo es agrupando las observaciones (ver ejemplo de código Python a continuación). Sin embargo, ¿qué factores determinan qué número de contenedores es razonable? Necesito que el cálculo sea...
Programo y hago desarrollo basado en pruebas. Después de hacer un cambio en mi código, ejecuto mis pruebas. Algunas veces tienen éxito y otras fallan. Antes de ejecutar una prueba, escribo un número de 0.01 a 0.99 para creer que la prueba tendrá éxito. Quiero saber si estoy mejorando para predecir...
Considere un gráfico aleatorio de Erdos-Renyi . El conjunto de vértices está etiquetado por . El conjunto de aristas se construye mediante un proceso aleatorio.G = (V( n ) , E( p ) )sol=(V(norte),mi(pag))G=(V(n),E(p))nortenortenVVVV={1,2,…,n}V={1,2,…,n}V = \{1,2,\ldots,n\}EEE Sea una probabilidad...
De acuerdo, mi mensaje original no pudo obtener una respuesta; entonces, déjenme plantear la pregunta de otra manera. Comenzaré explicando mi comprensión de la estimación desde una perspectiva teórica de decisión. No tengo entrenamiento formal y no me sorprendería si mi pensamiento es defectuoso de...
Acabo de leer que ahora puedes comprar una computadora cuántica (¡aunque hasta ahora solo se ha vendido una!). ¿La computación cuántica tendrá alguna aplicación en estadística? {editar - para los fines de la pregunta, supongamos que eventualmente las computadoras cuánticas (de alguna forma)...
Tengo problemas para desarrollar cierta intuición sobre la entropía conjunta. = incertidumbre en la distribución conjunta p ( x , y ) ; H ( X ) = incertidumbre en p x ( x ) ; H ( Y ) = incertidumbre en p y ( y ) .H( X, Y)H(X,Y)H(X,Y)p ( x , y)p(x,y)p(x,y)H( X)H(X)H(X)pagX( x )pagX(X)p_x(x)H(...