Preguntas sobre la teoría de la información, la entropía y el contenido de la información de diversas fuentes.
¿Son todas las cadenas de código Morse exclusivamente descifrables? Sin los espacios, ......-...-..---.-----.-..-..-.. podría ser, Hello Worldpero tal vez la primera letra es una 5, de hecho, parece muy poco probable que una secuencia arbitraria de puntos y guiones deba tener una traducción...
Esta idea se me ocurrió cuando era un niño aprendiendo a programar y en el primer encuentro con PRNG. Todavía no sé cuán realista es, pero ahora hay intercambio de pila. Aquí hay un esquema de 14 años para un sorprendente algoritmo de compresión: Tome un PRNG y siembre con semilla spara obtener...
De acuerdo con Wikipedia : La entropía de Shannon mide la información contenida en un mensaje en oposición a la parte del mensaje que se determina (o es predecible). Ejemplos de esto último incluyen redundancia en la estructura del lenguaje o propiedades estadísticas relacionadas con las...
Digamos que necesito simular la siguiente distribución discreta: P(X=k)={12N,1−12N,if k=1if k=0P(X=k)={12N,if k=11−12N,if k=0 P(X = k) = \begin{cases} \frac{1}{2^N}, & \text{if $k = 1$} \\ 1 - \frac{1}{2^N}, & \text{if $k = 0$} \end{cases} La forma más obvia es dibujar bits aleatorios y...
Tengo un archivo que contiene números binarios ordenados de a 2 n - 1 :0 0002norte- 12n−12^n - 1 0000000000 0000000001 0000000010 0000000011 0000000100 ... 1111111111 7z no comprimió este archivo de manera muy eficiente (para n = 20, 22 MB se comprimieron a 300 kB). ¿Existen algoritmos que...
Estoy leyendo el libro: " Código: el lenguaje oculto del hardware y software de la computadora " y en el Capítulo 2 el autor dice: Se dice que el código Morse es un código binario (que significa literalmente dos por dos) porque los componentes del código consisten en solo dos cosas: un punto y...
Recientemente me topé con el siguiente artículo interesante que afirma comprimir eficientemente conjuntos de datos aleatorios en siempre más del 50%, independientemente del tipo y formato de los datos. Básicamente, usa números primos para construir de manera única una representación de fragmentos...
Comparando un par ordenado (x, y) con un par desordenado {x, y} (conjunto), entonces la información teóricamente, la diferencia es solo un bit, ya que si x viene primero o y requiere exactamente un solo bit para representar. Entonces, si se nos da un conjunto {x, y} donde x, y son dos enteros...
Para cifrar un mensaje con una tecla de teclado de una sola vez , debe hacer . k E n c ( m 1 , k ) = m 1 ⊕ kmetro1m1m_1kkkmin c ( m1, k ) = m1⊕ kEnc(m1,k)=m1⊕kEnc(m_1,k) = m_1 \oplus k Si usa la misma para cifrar un mensaje diferente , obtiene , y si realiza Xor de los dos textos cifrados,...
Tiene una matriz de elementos distintos. Tiene acceso a un comparador (una función de la caja negro teniendo dos elementos un y b y devolver verdadero si y sólo si un < b ) y una fuente verdaderamente aleatoria de bits (una función de la caja negro sin argumentos y devolver un poco...
Estaba leyendo sobre algoritmos de compresión de datos y el límite teórico para la compresión de datos. Recientemente encontré un método de compresión llamado "Codificación de entropía combinatoria", la idea principal de este método es codificar el archivo como los caracteres presentados en el...
Especificar cualquier cuadrícula arbitraria de 9x9 requiere dar la posición y el valor de cada cuadrado. Una codificación ingenua para esto podría dar 81 tripletes (x, y, valor), que requieren 4 bits para cada x, y, y valor (1-9 = 9 valores = 4 bits) para un total de 81x4x3 = 972 bits. Al numerar...
De acuerdo con Wikipedia : Informalmente, desde el punto de vista de la teoría de la información algorítmica, el contenido de información de una cadena es equivalente a la longitud de la representación autónoma más corta posible de esa cadena. ¿Cuál es la definición rigurosa informal análoga...
Dada una cadena de valores A A A A A A A A B CUNUNUNUNUNUNUNUNsiCAAAAAAAABC , la entropía de Shannon en la base de registro 222 llega a 0.9220.9220.922 . Por lo que entiendo, en la base 222 la entropía de Shannon redondeada es el número mínimo de bits en binario para representar uno solo de los...
Actualmente estoy escribiendo un código para generar datos binarios. Necesito específicamente generar números de 64 bits con un número determinado de bits establecidos; más precisamente, el procedimiento debería tomar algunos y devolver un número pseudoaleatorio de 64 bits con exactamente bits...
En el trabajo, se me ha encomendado la tarea de inferir cierta información sobre un lenguaje dinámico. Reescribo secuencias de declaraciones en letexpresiones anidadas , así: return x; Z => x var x; Z => let x = undefined in Z x = y; Z => let x = y in Z if x then T else F; Z => if x...
Al tratar de comprender las relaciones entre la codificación Huffman, la codificación aritmética y la codificación por rango, comencé a pensar en las deficiencias de la codificación Huffman en relación con el problema del empaquetado de bits fraccional . Es decir, suponga que tiene 240 valores...
En la teoría de la codificación, "qué tan bueno es un código" significa cuántos errores de canal pueden corregirse, o mejor dicho, el nivel de ruido máximo con el que puede lidiar el código. Para obtener mejores códigos, los códigos están diseñados con un alfabeto grande (en lugar de uno binario)....
El requisito de que la codificación esté libre de prefijos da como resultado árboles grandes debido a que el árbol debe estar completo. ¿Existe un umbral en el que el almacenamiento no codificado de datos de longitud fija sería más eficiente que codificar los
El problema es probar o refutar la existencia de , st, ; ; d (c_i, c_j) \ geq2,1 \ leq i <j \ leq32 . ( d significa distancia de hamming)CCC|c|=6,∀c∈C|c|=6,∀c∈C|c| = 6,\forall c\in C|C|=32|C|=32|C| = 32d(ci,cj)≥2,1≤i<j≤32d(ci,cj)≥2,1≤i<j≤32d(c_i,c_j)\geq2,1\leq...