Digamos que tenemos una función , de modo que (por lo que podemos pensar en como una distribución). Es natural definir la entropía de dicha función de la siguiente manera:
Ahora, considere la convolución de consigo mismo: (Tenga en cuenta que dado que estamos tratando con , entonces )
¿Es posible límite superior la entropía de (normalizado en su -norma, con el fin de que sea una distribución) por la entropía de ? Formalmente, ¿hay alguna constante tal que
Respuestas:
No hay tal . Defina porC g:Zn2→R
Entonces satisfaceg∗g
Deje . Entonces es (de hecho es exponencialmente pequeño en ), mientras que es aproximadamente .f=g/∥g∥2 H(f)=H(g/∥g∥2) o(1) n H(g∗g/∥g∗g∥2) n
fuente