¿Cuál es una manera fácil de leer una línea aleatoria de un archivo en la línea de comandos de Unix?
linux
unix
random
command-line
codeforester
fuente
fuente

Respuestas:
Puedes usar
shuf:También hay una utilidad llamada
rl. En Debian está en elrandomize-linespaquete que hace exactamente lo que quieres, aunque no está disponible en todas las distribuciones. En su página de inicio, en realidad recomienda el uso de en sushuflugar (que no existía cuando se creó, creo).shufes parte de los coreutils de GNU,rlno lo es.fuente
shufconsejo, está integrado en Fedora.sort -Rdefinitivamente hará que uno espere mucho si se trata de archivos considerablemente grandes (líneas de 80kk), mientras queshuf -nactúa de manera bastante instantánea.coreutilsdesde Homebrew. Podría llamarse engshuflugar deshuf.randomize-linesen OS X porbrew install randomize-lines; rl -c 1 $FILEshufes parte de GNU Coreutils y, por lo tanto, no estará necesariamente disponible (por defecto) en los sistemas * BSD (¿o Mac?). El perl one-liner de @ Tracker1 a continuación es más portátil (y según mis pruebas, es un poco más rápido).Otra alternativa:
fuente
(${RANDOM} << 15) + ${RANDOM}. Esto reduce significativamente el sesgo y le permite trabajar para archivos que contienen hasta mil millones de líneas.+y|son iguales ya que${RANDOM}es 0..32767 por definición.(Sin embargo, me gusta aún más el enfoque shuf anterior: ni siquiera sabía que existía y nunca habría encontrado esa herramienta por mi cuenta)
fuente
sort, no funcionó en ninguno de mis sistemas (CentOS 5.5, Mac OS 10.7.2). Además, el uso inútil del gato, podría reducirse asort --random-sort < $FILE | head -n 1sort -R <<< $'1\n1\n2' | head -1es tan probable que devuelva 1 y 2, porquesort -Rordena juntas líneas duplicadas. Lo mismo se aplicasort -Ru, porque elimina las líneas duplicadas.sortantes de canalizarlohead.shufselecciona líneas aleatorias del archivo, y es mucho más rápido para mí.sort --random-sort $FILE | headsería lo mejor, ya que le permite acceder al archivo directamente, posiblemente permitiendo una clasificación paralela eficiente--random-sorty-Rson específicas del ordenamiento GNU (por lo que no funcionarán con BSD o Mac OSsort). GNU sort aprendió esos indicadores en 2005, por lo que necesita GNU coreutils 6.0 o posterior (por ejemplo, CentOS 6).Esto es simple.
De acuerdo, esto es solo un poco más lento que el "shuf -n 1 file.txt" por sí solo.
fuente
-n 1especifica 1 línea, y puede cambiarla a más de 1. tambiénshufse puede usar para otras cosas; Acabo de canalizarps auxygrepcon él para matar al azar procesos que coinciden parcialmente con un nombre.perlfaq5: ¿Cómo selecciono una línea aleatoria de un archivo? Aquí hay un algoritmo de muestreo de yacimientos del Camel Book:
Esto tiene una ventaja significativa en el espacio sobre la lectura del archivo completo. Puede encontrar una prueba de este método en The Art of Computer Programming, Volumen 2, Sección 3.4.2, por Donald E. Knuth.
fuente
shuf. El código perl es muy ligeramente más rápido (8% más rápido según el tiempo del usuario, 24% más rápido según el tiempo del sistema), aunque anecdóticamente he encontrado que el código perl "parece" menos aleatorio (escribí un jukebox usándolo).shufalmacena todo el archivo de entrada en la memoria , lo cual es una idea horrible, mientras que este código solo almacena una línea, por lo que el límite de este código es un recuento de líneas de INT_MAX (2 ^ 31 o 2 ^ 63 dependiendo de su arch), suponiendo que cualquiera de sus líneas potenciales seleccionadas se ajuste a la memoria.usando un script bash:
fuente
Línea de bash simple:
Problema leve: nombre de archivo duplicado.
fuente
wc -l < test.txtevita tener que canalizarcut.Aquí hay un script simple de Python que hará el trabajo:
Uso:
fuente
import random, sys lines = open(sys.argv[1]).readlines()para i en rango (len (líneas)): rand = random.randint (0, len (líneas) -1) print lines.pop (rand),len(lines)lo tanto, puede conducir a IndexError. Podrías usarprint(random.choice(list(open(sys.argv[1])))). También hay un algoritmo de muestreo de depósito de memoria eficiente .Otra forma de usar ' awk '
fuente
$RANDOMes un bashismo ). Aquí hay un método awk (mawk) puro que usa la misma lógica que el código perlfaq5 citado por @ Tracker1 anterior:awk 'rand() * NR < 1 { line = $0 } END { print line }' file.name(¡guau, es incluso más corto que el código perl!)wc) para obtener un recuento de línea, luego debe leer (parte de) el archivo nuevamente (awk) para obtener el contenido del número de línea aleatorio dado. La E / S será mucho más costosa que obtener un número aleatorio. Mi código lee el archivo solo una vez. El problema con awkrand()es que se basa en segundos, por lo que obtendrá duplicados si lo ejecuta consecutivamente demasiado rápido.Una solución que también funciona en MacOSX, y también debería funcionar en Linux (?):
Dónde:
Nes la cantidad de líneas aleatorias que quieresNR==FNR {lineN[$1]; next}(FNR in lineN) file1 file2-> guardar los números de línea escritosfile1y luego imprimir la línea correspondiente enfile2jot -r $N 1 $(wc -l < $file)-> dibujarNnúmeros al azar (-r) en rango(1, number_of_line_in_file)conjot. La sustitución del proceso<()hará que parezca un archivo para el intérprete, así quefile1en el ejemplo anterior.fuente
fuente
Esto es lo que descubrí, ya que mi Mac OS no utiliza todas las respuestas fáciles. Usé el comando jot para generar un número ya que las soluciones variables $ RANDOM no parecen ser muy aleatorias en mi prueba. Al probar mi solución, tuve una amplia variación en las soluciones proporcionadas en la salida.
El eco de la variable es obtener una representación visual del número aleatorio generado.
fuente
Usando solo vainilla sed y awk, y sin usar $ RANDOM, un "trazador de líneas" simple, eficiente en espacio y razonablemente rápido para seleccionar una sola línea pseudoaleatoriamente de un archivo llamado FILENAME es el siguiente:
(Esto funciona incluso si FILENAME está vacío, en cuyo caso no se emite ninguna línea).
Una posible ventaja de este enfoque es que solo llama a rand () una vez.
Como señaló @AdamKatz en los comentarios, otra posibilidad sería llamar a rand () para cada línea:
(Se puede proporcionar una prueba simple de corrección basada en la inducción).
Advertencia sobre
rand()"En la mayoría de las implementaciones de awk, incluyendo gawk, rand () comienza a generar números a partir del mismo número inicial, o semilla, cada vez que ejecuta awk".
- https://www.gnu.org/software/gawk/manual/html_node/Numeric-Functions.html
fuente