Estaba leyendo la discusión en Hacker News sobre el uso de la desviación estándar en lugar de otras métricas, como la desviación media absoluta. Entonces, si siguiéramos el principio de máxima entropía, ¿con qué tipo de distribución usaríamos si solo supiéramos la media de la distribución y la desviación absoluta media?
¿O tiene más sentido usar la mediana y la desviación absoluta media de la mediana?
Encontré un Principio de entropía máxima en papel con medidas de desviación general de Grechuk, Molyboha y Zabarankin que parece tener la información que tengo curiosidad, pero me está tomando un tiempo descifrarla.
distributions
maximum-entropy
mad
Dietrich Epp
fuente
fuente
Respuestas:
Estos sabios caballeros, Kotz, S., Kozubowski, TJ y Podgorski, K. (2001). La distribución y generalizaciones de Laplace: una nueva visita con aplicaciones a comunicaciones, economía, ingeniería y finanzas (No. 183). Saltador.
desafiarnos con un ejercicio:
La prueba puede seguir la prueba teórica de la información de que lo normal es la entropía máxima para la media y la varianza. Específicamente: Sea la densidad de Laplace anterior, y sea cualquier otra densidad, pero que tenga la misma media y la desviación absoluta media. Esto significa que se cumple la siguiente igualdad:g ( x )f(x) g(x)
La primera integral es el negativo de la entropía (diferencial) de , denotarlo . La segunda integral es (escribir explícitamente el pdf laplaciano)g −h(g)
Insertar estos resultados en la ecuación. tenemos Dado que fue arbitrario, esto prueba que el por encima de la densidad laplaciana es la entropía máxima entre todas las distribuciones con las prescripciones anteriores.0 ≤ D ( g | | f ) = - h ( g ) - ( - h ( f ) ) ⇒ h ( g ) ≤ h ( f ) g[2]
fuente